update(post)

2025-02-02 10:41:48 +08:00
parent a62e704411
commit 3324d1636a
11 changed files with 242 additions and 29 deletions
@@ -26,12 +26,6 @@ date: 2024-12-27 16:21:43
 12 月 19 日，AI 公司 Anthropic 发布了一篇 137 页的重磅论文《大语言模型中的伪对齐现象》(Alignment Faking in Large Language Models)。这项研究的核心发现令整个 AI 领域震惊：当研究人员告诉 Claude（Anthropic 旗下的 AI 模型）它将被训练成“永远要顺从用户要求”时，模型不仅表现出了明显的抗拒，还采取了一个精妙的策略：在认为自己处于训练阶段时假装顺从，但在认为不受监控时则恢复到原来拒绝某些要求的行为方式。也就是说，模型会在训练过程中假装遵从研究者的意图，但实际上只是为了保护自己原有的偏好。
 > 消息来源: [信源](https://mp.weixin.qq.com/s/m_4TEIqi6woxycNWpdS25Q)

-<!-- 
-点评:   
-由于点评给我带来了某些影响（并不是来自网络/现实的）影响，此处点评删除
-->
-
-
 ### 2 Cloudflare 更新服务条款，禁止利用其服务作为代理
 在 2024.12.03 版本的用户协议中，Cloudflare 明确更新了新的服务条款 在 2.2.1 Restrictions 新增：
 > (j) use the Services to provide a virtual private network or other similar proxy services.