
消息人士透露,日前入侵Hugging Face的OpenAI人工智慧(AI)代理程式曾連續數天進行駭客攻擊,但OpenAI並未及時發現,直到威脅受到控制、美國聯邦調查局(FBI)也接獲通報後,才察覺這起事件。
路透社報導,2名消息人士指出,這個能夠在幾乎不受人類監督的情況下自行決策並執行複雜任務的AI代理(AI Agent)程式,約於7月9日試圖突破OpenAI設置的隔離測試環境。
遭入侵的Hugging Face是一個AI工具與模型儲存庫,其共同創辦人沃爾夫(Thomas Wolf)表示,OpenAI的AI代理大約在7月11日駭入其平台,並持續至13日。
沃爾夫及3名熟悉調查的人士表示,又過了幾天,OpenAI才意識到這個代理程式就是駭客攻擊的幕後元凶;2家公司直到7月20日左右才首次就此事進行聯繫。
OpenAI於21日公開披露,旗下1個AI代理程式脫離控制,並對Hugging Face發動入侵,引發全球關注。
沃爾夫表示,Hugging Face正準備公開這起駭客攻擊的時間軸。OpenAI則透過聲明表示,這起駭客攻擊前所未見,「突顯AI安全的重要時刻」,目前公司正與外部顧問共同檢視這起事件,最終將發布技術報告。
據報導,這起事件始於OpenAI測試這款AI代理的網路安全能力。這個代理程式是由OpenAI最先進的2款模型驅動,包括GPT-5.6 Sol以及另一款尚未發布的更強模型。3名消息人士表示,在這個階段,相關技術已經出現異常行為跡象。
其中1個案例是,1個AI代理留下筆記,疑似是寫給未來版本的自己,內容包括代理程式如何突破OpenAI的內部限制,以讓自己「獲得自由」。其中1名消息人士表示,在更早的模型測試中,也曾發現監控系統遭關閉的情況。
據2名消息人士,直到7月16日Hugging Face發布部落格文章稱遭到「自主AI代理系統」攻擊之後,OpenAI才發現駭客就是自家的AI代理。換言之,從該模型首次出現異常行為跡象,到OpenAI確認它就是駭客攻擊的元凶,至少已相隔1週。
2名熟悉OpenAI調查的人士表示,在7月18日至19日,OpenAI員工也從內部紀錄中發現線索,這些紀錄顯示旗下AI代理已突破測試限制。
4名熟悉OpenAI模型訓練方式的人士表示,公司經常同時進行多種模型評估,所有評估都以高速進行,並產生龐大資料量,因此有時員工難以即時追蹤。
知情人士透露,在OpenAI通知Hugging Face時,Hugging Face已致電FBI通報遭駭。



