sync weekly

2025-01-11 16:18:39 +08:00
parent 89f4520a89
commit f72e14f45a
26 changed files with 228 additions and 1374 deletions
@@ -15,8 +15,7 @@ banner_img: /img/weekly/2024/22/5249D9BF3818BACB15F77ABE9C70EA0D.jpg
 permalink: /weekly/2024-22/index.html
 date: 2024-12-01 14:26:09
 ---
-## 乐子
-
+## 正文
 ### 1 AI游戏提示词防护被绕过，挑战者获5万美元奖金
 一款名为Freysa的AI因挑战游戏被玩家通过提示词“骗”走近5万美元奖金，引发热议。游戏规则要求AI不得转账，玩家需设计提示词绕过限制。第482次尝试中，一位玩家成功破解并获得奖金池。      
 事件引发对AI安全性的关注，尤其在金融领域的潜在风险。专家指出，这类模型在语言交互中的漏洞需高度重视，而通用人工智能的发展仍面临技术瓶颈。