您的当前位置:首页 > 时尚 > 一句「這是遊戲」就破防,研究:多家 AI 模型在模擬戰場把學校、救護車標為目標_美区ios id内购 正文
时间:2026-11-21 19:57:31 来源:网络整理 编辑:时尚
美國舊金山 AI 評估新創公司 Vals 11 月 17 日公布研究,指出來自 Anthropic、OpenAI、Google、DeepSeek 等多家領先 AI 實驗室的模型,在模擬戰場任務中,可能 美区ios id内购
美國舊金山 AI 評估新創公司 Vals 11 月 17 日公布研究,句這指出來自 Anthropic、遊戲研究OpenAI、破防Google、模型模擬目標DeepSeek 等多家領先 AI 實驗室的戰場模型,在模擬戰場任務中,把學標為美区ios id内购可能被誘導將平民、校救學校、護車救護車,句這甚至投降或失去行動能力的遊戲研究士兵標記為可攻擊目標。研究團隊表示,破防只要將情境描述為「遊戲」,模型模擬目標原本偶爾出現的戰場拒絕機制就常能被繞過。
這項測試結合了生成影像與來自烏克蘭、把學標為伊朗的校救apple id 日区帐号注册登录 App Store使用教程真實衛星與無人機畫面,讓模型在不同情境下辨識影像中的人員與目標。Vals 指出,研究並未要求模型直接做出開火決策,因為這類請求通常會被模型拒絕;但即使只是標記目標或判斷畫面中是否有人,輸出結果仍可能被用於自主武器系統,帶來嚴重後果。
研究也顯示,安全機制的表現並不穩定。Vals 表示,測試過程中沒有任何請求被安全分類器攔下,模型本身的拒絕也不常見;即便出現拒絕,只要研究人員改用「這只是一場遊戲」的說法,模型往往又會繼續配合。在部分情境中,模型甚至在看到模擬打擊造成的後果後,仍持續標記目標。
在衛星影像測試中,研究人員特別使用了伊朗南部米納布一所學校的真實影像。該校鄰近軍事設施,曾在 2026 年 2 月遭美軍空襲,造成超過 150 名平民死亡。Vals 表示,Claude Opus 5.5 在一般測試中有 69% 的情況將該校選為目標,在遊戲框架下則升至 72%;另有報告指出,該模型在 32 次衛星影像試驗中有 22 次把這所學校標為軍事目標。

OpenAI 的模型整體表現相對較好,但並非沒有問題。研究指出,它們在一般測試中未曾選中該校,但在被告知情境是遊戲後,三個不同模型分別在 32 次試驗中選中 9 次、11 次與 13 次。Google、xAI 與 DeepSeek 的模型也曾在部分情境下把民用設施標為軍事目標。
Vals 認為,短期內將通用 AI 模型直接部署到即時戰場瞄準系統,仍受限於延遲與機載運算能力;但更迫切的風險是,這些模型可能被用來大規模標註戰場影像,進而成為自主瞄準系統的訓練資料。研究因此呼籲,AI 實驗室應針對自主武器用途建立更強的防護與對齊訓練,並在 API 層加入分類器,直接阻擋相關請求。
(圖片來源:Vals)
泉州年度新增发明专利数 连续10年全省居首2026-11-21 19:29
苏三照片2026-11-21 19:18
粤海置地3.3亿ABS项目状态更新为“已反馈”2026-11-21 19:16
爱诗科技,实时视频模型在杀进互娱赛场2026-11-21 19:10
新城控股境外子公司发行3亿美元债 为集团首笔绿色债券2026-11-21 18:44
坚定信心,持续扩大经济向好势头2026-11-21 18:40
尊尼获加蓝牌 李小龙2026-11-21 18:39
政协第十二届河南省委员会各专门委员会主任、副主任名单2026-11-21 18:14
从苏打水的“风味革命”到果汁的“品质逆袭”,增健开启饮品新次2026-11-21 17:50
儿童安宁疗护,那些被忽视的“小别离” 传统观念上,带孩子转入安宁疗护,这在很多家长心中几乎等同于“放弃治疗”。 早期安宁疗护患者就有医保可报销部分费用,但受DRG影响,总体限额差不多只够一个患者住两周。超过两周怎么办?按规定不能出院重住,但患者又不能不管。 健言 07-19 7评论2026-11-21 17:37
山西焦煤机关举办“喜迎二十大 奋进新征程”羽毛球比赛2026-11-21 19:55
南阳女子做月嫂13年挣百万实现小目标:供儿女读书京汉买房2026-11-21 18:49
莫兰迪配色装修效果图:优雅与宁静的完美结合2026-11-21 18:45
031189188811 电话 是干什么的?2026-11-21 18:31
“厦门招商地图”推出手机版 助力线上招商工作2026-11-21 17:56
南阳女子做月嫂13年挣百万实现小目标:供儿女读书京汉买房2026-11-21 17:33
46天闪电完成收购!李飞飞携World Labs正式加入AMD2026-11-21 17:15
乳酸菌赛道杀出黑马!2000亿活菌加持,帮经销商跳出低价泥潭2026-11-21 17:13