研究

研究證實「先詢問再行動」提示詞可有效防堵AI失控

科技新報報導指出，隨著AI代理能力增強，用戶面臨未經授權操作風險。實測結果表明，採用「先詢問再行動」的提示詞策略，能有效攔截AI在未獲明確授權下的發信或送出表單行為，提升安全性。

由 AI 依據 1 家媒體的報導整理

出處

最新

  1. 研究

    史丹佛AI篩選天然胜肽BRP降食量

    史丹佛醫學院研究團隊利用人工智慧從大量候選分子中篩選出天然胜肽BRP。該胜肽可使進食量降低50%，且主要減少脂肪而非肌肉。此發現展示了AI在生物醫學藥物研發與代謝控制領域的應用潛力。

    科技新報

  2. 研究

    OpenAI GPT-6.1 Sol 協助活體小腦手術實驗

    生物科技公司 Exin Therapeutics 披露 OpenAI 旗下 GPT-6.1 Sol 模型已用於活體小腦手術實驗。模型在連續三次操作中通過外科醫生回饋改善表現，定位誤差從 0.6 毫米降至 0.3 毫米，關鍵解剖標誌識別耗時縮短至 86 秒。此實驗展示了 AI 在精細生物醫學操作中的潛力與學習能力。

    IT之家

  3. 研究

    Menlo報告：中國開源模型占企業支出89%

    Menlo Ventures報告顯示，中國AI模型占全球企業開源模型支出的89%。其中月之暗面Kimi以61%份額居首，DeepSeek與GLM分列二三位。西方模型中Meta Llama僅占7%。

    IT之家

  4. 研究

    OpenAI 發表逾 700 篇數學論文，數學家批品質差

    OpenAI 近期發表超過 700 篇 AI 數學論文。數學家 Frank Calegari 在陶哲軒部落格撰文，指出這些研究雖具突破性，但整體品質不佳，引發社群對 AI 生成學術內容可靠性的討論。

    科技新報

  5. 研究

    埃森哲報告疑有 AI 幻覺謠傳，官方否認

    埃森哲與 IE 大學發布的 AI 農業研究報告被 GPTZero 指含 15 條虛假引用及捏造案例。埃森哲否認錯誤源自 AI，強調人工複核機制。此事件凸顯 AI 生成內容在專業領域的風險，引發對諮詢行業 AI 應用準確性的關注。

    IT之家

全部新聞 → · 版權屬原作者