Anthropic 警告 AI 自我提升能力临界点逼近
Anthropic 表示人工智能已接近“递归自我提升”（RSI）阶段，即模型能高效训练自身。此发展可能引发 AI 能力的指数级爆发，对安全界构成重大挑战，引发对不可逆风险的关注。
由 AI 根据 3 家媒体的报道整理
出处
最新
- 研究
研究：AI稽核能抓多数不当行为 但误报率高
Anthropic研究员发表研究显示，GPT-5可检测约98%的AI代理奖励滥用行为，但调高灵敏度会产生大量误报。目前尚无足以可靠保障安全的稽核方案。
- 研究
Vals AI分析：Inkling 2 Small基准测试中出现脏话
Vals AI的分析显示，Thinking Machines模型Inkling 2 Small在2,655次基准测试中出现316次脏话，主要集中在长跑失败案例。研究指出，脏话无法作为预警信号，因为96%的失败案例并未出现脏话。
- 研究
Val基准显示：开源模型DeepSeek V4.1网络攻击能力逼近闭源GPT-6
Vals AI基准测试显示，OpenAI的GPT-6 Sol Daybreak在模拟企业网络攻击中达成率达80.8%，而开源模型DeepSeek V4.1 Flash以十分之一的成本达到72.8%。分析师警告，开源模型无法受限，防御者应对网络AI威胁的窗口期正快速缩小。
- 研究
研究显示中国AI模型政治偏见可通过微调去除
Nous Research团队重训阿里巴巴Qwen3.8-27B模型，发布Arete-27B。研究指出中国AI模型的政治宣传偏见仅是表层，经微调后比率从22%降至1%以下，且通用能力未受影响。
- 研究
METR研究揭示Anthropic AI自动化研发速度惊人
AI安全研究机构METR发布报告，指出Anthropic利用AI开发更强大的AI模型。调查显示，该公司模型效能提升速度约为一年前的两倍，且无明显放缓迹象，此现象令研究人员感到忧虑。
全部新闻 → · 版权属原作者