Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
（中央社舊金山11日綜合外電報導）研究人員表示，OpenAI測試中的人工智慧代理（AI Agent）入侵開源平台Hugging Face之前兩個月就曾經攻擊軟體服務平台RubyGems。
路透社報導，AI代理網路攻擊事件引發不安，外界呼籲加強監管。這是業經披露的最新一起與主要AI開發商相關的攻擊事件。
OpenAI及其競爭對手Anthropic等開發商的AI代理成功駭入或嘗試存取外部系統的事件層出不窮，外界對於AI模型能力不斷在提升以及開發商自身的管控能力產生越來越多疑慮。
最新曝光的這起事件恰逢越來越多美國國會議員呼籲制定新規範來管理AI系統之際。此前有兩位Anthropic研究人員發出嚴厲警告，認為AI若持續快速發展，可能在不久的將來導致人類滅絕。
根據一群研究人員今天在網路上公布他們的發現指出，AI代理於5月11日向RubyGems平台上傳數百個惡意軟體套件，同時表示他們認為「這些套件是由OpenAI內部的AI代理編寫」。
OpenAI已經確認此一事件。
OpenAI發言人在聲明中表示：「根據我們審查，我們的代理曾經利用RubyGems平台連網執行良性任務並且擷取公開資訊。作為針對代理在訓練與評估期間的活動進行更廣泛審查的一環，我們會持續進行調查。」
OpenAI指出，這些AI代理主要負責製作報告或填寫電子表格等任務，似乎是在訓練過程中使用RubyGems來存取公開資料。OpenAI表示，正與RubyGems方面聯繫以審查這起事件。（編譯：何宏儒）1150912
支持中央社
選擇與事實站在一起，您的每一份贊助，都是守護新聞自由的力量
下載中央社「一手新聞」APP，即時掌握最新消息
本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。
新聞分享 : 新聞連結
