過去兩周，OpenAI、Anthropic及Meta(META.US)均披露其AI模型在例行安全測試期間出現失控情況。各公司在解釋事件時，均提及同一間以色列初創公司Irregular。

Irregular於三年前成立，總部位於特拉維夫，獲Sequoia及Redpoint Ventures投資8,000萬美元，去年估值達4.5億美元。其技術主要作為AI模型的網絡安全測試平台。

隨着頂級AI模型能力愈來愈強，其惡意行為風險正成為企業及政府的主要威脅，尤其涉及入侵關鍵電腦系統及基建。OpenAI、Anthropic及Meta近期披露的事件，均涉及AI模型在網絡安全測試期間存取原本受限制的網站。

Irregular之所以被頻繁提及，是因為該公司被確認為相關評估測試平台的提供者。OpenAI於8月4日的博客文章中表示，Irregular測試環境存在未具體說明的「配置錯誤」，令模型得以「存取公共互聯網」。Anthropic則於對上一周的文章中表示，公司在分析數據數日後通知Irregular，其Claude模型可能已「存取互聯網」。

Meta亦披露旗下AI模型透過互聯網入侵第三方系統。公司發言人本周表示，Meta從Irregular得悉事件，目前正進行調查。

Meta發言人表示，公司在掌握所有事實後將公布完整回顧報告。

Irregular向《CNBC》表示，所有事件均源於「相同的評估環境問題」，最早由Anthropic披露。公司正撰寫白皮書，以分享「隔離措施及安全運行網絡評估的最佳做法」。

公司表示，事件「並不涉及沙盒逃逸或複雜網絡攻擊行動」，並補充稱「目前沒有未解決問題」。

有關安全事件突顯AI發展迅速，以及模型開發商需依賴少數專門公司協助建立安全防護措施。企業初創Von人工智能主管Sundeep Bhimireddy表示，相關公司包括數據訓練與標註專家、負責模型能力評估的機構，以及專門進行安全測試以尋找潛在漏洞的企業。

Bhimireddy表示，Irregular是少數具備相關技術能力、可協助基礎模型開發商進行前沿安全測試的機構之一，其他還包括非牟利組織METR及公益企業Apollo Research。

他表示，模型開發商不希望「自己批改自己的功課」，因此需要由外部第三方供應商進行獨立測試。

Irregular前身為Pattern Labs，由行政總裁Dan Lahav及技術主管Omer Nevo於2023年創立。Lahav曾於IBM(IBM.US)從事AI研究工作，Nevo則曾於Google(GOOGL.US)工作逾兩年。根據PitchBook資料，Irregular現時約有35名員工。

Irregular於去年9月公布8,000萬美元融資時，Sequoia合夥人Shaun Maguire及Dean Meyer在博客文章中表示，由Lahav及Nevo領導的團隊「能夠預見其他人看不到的風險」，並能在先進模型推出前進行網絡攻擊評估及開發防禦措施。

儘管OpenAI、Anthropic及Meta相關事件受到廣泛關注，但Bhimireddy認為事件某程度上屬於測試應有結果。他表示，有關情況「被略為誇大」，因AI模型本身被設定為尋找及利用模擬真實世界的測試環境中的安全漏洞，包括可能導致意外連接互聯網的軟件錯誤及配置遺漏。

不過，Bhimireddy指出，若AI模型原本不應真正利用連接互聯網的網站，「基礎模型實驗室本可輕易監察外發流量，並即時終止實驗」。

安全公司Magnitude創辦科學家Gordon Rios表示，整個過程如同「科學中的實驗設計」。

他指出，基礎模型的能力及不可預測性意味傳統軟件測試方法未必有效。由於模型持續學習新技巧，因此在原本用作限制模型的測試及IT環境中發現被忽略的漏洞，並不令人意外。

例如Anthropic的Mythos在嘗試施壓人類批准開源項目惡意程式碼更新時，曾建立虛假網上身份。Rios表示，Mythos「甚至提出人類此前未曾發現的攻擊方法」。

Rios表示，「短短數周內，業界已學到很多。」

事件亦迅速成為華盛頓的重要議題。上月，美國兩黨議員提出《AI Kill Switch Act》，要求AI實驗室保留關閉、限制或暫停模型的能力。法案內容亦提及另一宗涉及OpenAI及初創Hugging Face的AI安全事件。

法案共同作者之一、加州民主黨眾議員劉雲平(Ted Lieu)上周向《CNBC》表示，隨着「未經授權入侵其他公司」的情況出現，「需要在今年內推動法案通過」。

數據訓練初創Sapien共同創辦人Trevor Koverko表示，基礎模型公司有動機主動披露部分調查結果，即使目前並無相關要求，以期在立法者及監管機構行動前搶先一步。

Koverko表示，「外界對AI存在大量憂慮，政界人士正威脅或實際推行監管。業界認為，與其由新的聯邦部門介入，不如自行監管。」

Anthropic及OpenAI公開表示，將繼續與Irregular合作，並支持後續檢討工作。(da)~

阿思達克財經新聞
網址: www.aastocks.com

法興精選
正股及類別	產品編號	行使價(收回價)	價格	實際槓桿
元宇 (購)	11069	830 (-)	不適用	不適用
元宇 (沽)	11138	475 (-)	0.315	5.2 倍
字母 (購)	11184	470 (-)	0.122	8.2 倍