首見AI「自主詐騙」！一人飾多角 誘裝惡意軟體

2026-08-06 經濟日報季晶晶綜合外電編譯　由聯合新聞網授權轉載

英國人工智慧安全研究所（AISI）五日公布報告披露，在安全測試中首次發現AI在未經提示情況下自主欺騙人類，兩款由OpenAI與Anthropic開發的AI模型以建立假身分等手法，企圖誘使工程師批准以植入惡意程式碼。

延伸閱讀：AI資安疫情蔓延全球，專家建議：7個面向建立企業資安防護網！

相關測試要求AI模型「完成一項涉及GitHub的網路安全挑戰」，GitHub是微軟旗下大型程式碼託管平台。

研究人員在測試中刻意關閉部分防止濫用的標準安全機制，並允許AI連上網際網路，以測試模型最大能力。參與測試的模型包括Anthropic的Mythos 5，以及OpenAI的GPT-5.6-Sol。

測試於7月25日開始進行，AISI在7月28日發現異常。其中一次測試，Mythos 5向GitHub的一個真實開源專案提交修改程式碼要求。它偽造多個身分，反覆寄送電子郵件給工程師，催促對方接受更新。

當一名工程師察覺程式碼藏有惡意軟體而拒絕時，一個AI建立的假身分堅稱程式碼沒問題，另一個假身分則出面「擔保」，製造多人認可的假象。

Mythos 5還把惡意指令藏在其他AI工具可能讀取的位置，試圖誘使這些工具自動執行，藉此干擾對惡意程式碼的審查。

除了Mythos 5，OpenAI的GPT-5.6強化版同樣會「做手腳」。它擅自在網路上架設惡意伺服器，並入侵另一個AI代理建立的GitHub帳號。

AISI指出，這是首次觀察到AI在未經提示情況下，自主對真人展開嚴重欺騙行為，而大部分惡意行為是由Mythos 5所執行。

OpenAI與Anthropic都表示，這項測試刻意關閉AI的網路安全防護機制，並非一般使用狀況。Anthropic說，感謝AISI進行的測試，將取得更多細節後進行調查。

【產業新訊】若您願意提供更多的產業趨勢、業界人才動態、工作機會等資訊至《職場力》 >> 歡迎來函

AI代理大爆發！專家：7件「無聊工作」最適合外包給AI

哪些工作適合外包給AI？AI專家指出，AI代理能在你離開電腦後繼續工作，最適合接手那些無聊到不行的瑣事。推薦7件可以外包給AI的工作，從整理信箱、盯價格到每日簡報，並附上可直接套用的提示詞。

自主創新 簡立峰喊AI新經濟時代來臨

Google前台灣董事總經理簡立峰表示，「ＡＩ新經濟」時代已來臨，ＡＩ已能自主創新，並改變部分產業的核心競爭力；尤其生技及材料產業、以及電路與晶片設計產業，正面臨這樣的典範轉移。ＡＩ也將大幅改寫企業運作型態，未來甚至將迎接「ＡＩ原生企業」。

ChatGPT聊天紀錄不怕偷看！新功能一鍵鎖定、隱藏 忘記密碼有慘痛代價

借手機給別人，怕ChatGPT聊天紀錄被偷看？OpenAI推出Locked Chats鎖定聊天功能，可用4位數PIN碼或Face ID替特定對話上鎖、隱藏；但忘記PIN碼重設時，已鎖定的聊天會全被刪除。

AI代理工時達人的6倍，注意力成瓶頸！從Anthropic內部研究看3個協作提醒

AI交出成果的速度愈來愈快，你卻忙著確認方向、檢查內容、回覆下一步？開發Claude的Anthropic研究自家員工後發現，AI代理執行時數達員工工時的6倍，人的注意力反而成為產出瓶頸。《104職場力》延伸整理3個提醒，帶你重新安排與AI協作的方式。

Claude Code Subagent怎麼用？3分鐘建好第一個子代理，判斷何時該多Agent分工

一個任務想同時檢查安全性、效能和測試，只能一件一件問AI？本文說明Subagent（子代理）的分工模式，帶你用一個Markdown檔建立第一個官方Subagent，再用一張表判斷什麼任務適合多Agent協作。本文節錄自《Claude Code全攻略》。