TrendAI报告：代理式AI影子流程风险高
TrendAI发布研究报告指出，企业引入代理式AI的速度超过其安全治理能力，逾2万个MCP服务器代码库中20%存在漏洞。未被纳入资产清单的“影子AI”使可信工作流成为新攻击面，增加了数据泄露和业务中断的风险。
由 AI 根据 1 家媒体的报道整理
出处
- T客邦阅读原文 ↗
最新
- 研究
研究：AI稽核能抓多数不当行为 但误报率高
Anthropic研究员发表研究显示，GPT-5可检测约98%的AI代理奖励滥用行为，但调高灵敏度会产生大量误报。目前尚无足以可靠保障安全的稽核方案。
- 研究
Vals AI分析：Inkling 2 Small基准测试中出现脏话
Vals AI的分析显示，Thinking Machines模型Inkling 2 Small在2,655次基准测试中出现316次脏话，主要集中在长跑失败案例。研究指出，脏话无法作为预警信号，因为96%的失败案例并未出现脏话。
- 研究
Val基准显示：开源模型DeepSeek V4.1网络攻击能力逼近闭源GPT-6
Vals AI基准测试显示，OpenAI的GPT-6 Sol Daybreak在模拟企业网络攻击中达成率达80.8%，而开源模型DeepSeek V4.1 Flash以十分之一的成本达到72.8%。分析师警告，开源模型无法受限，防御者应对网络AI威胁的窗口期正快速缩小。
- 研究
研究显示中国AI模型政治偏见可通过微调去除
Nous Research团队重训阿里巴巴Qwen3.8-27B模型，发布Arete-27B。研究指出中国AI模型的政治宣传偏见仅是表层，经微调后比率从22%降至1%以下，且通用能力未受影响。
- 研究
METR研究揭示Anthropic AI自动化研发速度惊人
AI安全研究机构METR发布报告，指出Anthropic利用AI开发更强大的AI模型。调查显示，该公司模型效能提升速度约为一年前的两倍，且无明显放缓迹象，此现象令研究人员感到忧虑。
全部新闻 → · 版权属原作者