三立iNEWS
三立新聞網 youtube facebook

美中AI競賽升溫 OpenAI點名月之暗面複製模型
  • A-
  • A
  • A+
加入Google首選加入Google首選
請點選打勾將「iNEWS」設為首選來源,在Google上查看更多我們的精彩報導。

 

OpenAI阻斷中國「月之暗面」對抗式蒸餾行動,防堵AI技術遭竊與國安風險 。(圖/微博)
OpenAI阻斷中國「月之暗面」對抗式蒸餾行動,防堵AI技術遭竊與國安風險 。(圖/微博)

 

OpenAI表示,已發現並阻止一場協同發起的行動,操作者企圖從AI模型中取得受保護的推理過程,OpenAI指出此行動的核心群組與中國新創公司月之暗面有所關聯。

CNBC報導,OpenAI表示,這起行動始於7月初,隨後在兩天內激增,來自4000多名用戶提出1.6萬次請求。OpenAI最終在1.5萬多名用戶的群組中發現相關活動,並表示已於7月28日完全阻止這場行動。

這項調查結果公布前幾週,OpenAI競爭對手Anthropic才指控包括月之暗面(Moonshot AI)和阿里巴巴在內的多家中國AI開發商,暗中利用Claude模型協助訓練自家AI系統,凸顯美國AI企業日益加劇的擔憂,即競爭對手可能利用其模型,以更快且更便宜的方式開發出具競爭力的技術。OpenAI將這次最新行動稱為「對抗式蒸餾」(adversarial distillation),也就是利用一個AI模型的輸出或推理結果,協助訓練或改善另一個模型。

OpenAI表示,擷取這類推理過程可能讓其他業者無需投入同等研發與安全維護資源的情況下,複製出先進技術,從而帶來潛在的安全與國家安全風險。OpenAI表示,這些操作者並未入侵OpenAI的加密系統、資料庫或儲存的用戶對話紀錄。相反地,他們是透過操縱與OpenAI模型的互動,試圖將隱藏的推理歷程轉換為請求者可見的形式並加以複製。

OpenAI表示,目前尚不清楚所有涉入這項行動的操作者是否皆隸屬於單一組織,但OpenAI將這項行動的核心群組歸咎於與月之暗面有關的人員。根據OpenAI,已透過前沿模型論壇(Frontier Model Forum)及政府資訊共享管道,向其他AI開發商分享相關調查結果。月之暗面並未立即回應CNBC的置評請求。