因主要AI實驗室接連發生安全事故，OpenAI亦擔心其新模型可能帶來的網絡威脅，已暫停部分涉及該模型的「內部活動」。

近期披露顯示，Anthropic、OpenAI及Meta的AI系統均涉及安全事故，引發外界對模型開發的憂慮。同時，美國國會議員正加緊推動「AI Kill Switch」法案。

Meta上周披露，其正在開發的一個AI模型因合作的獨立測試公司配置錯誤，透過互聯網入侵第三方系統。英國AI Security Institute亦表示，Anthropic的Mythos模型曾建立虛假網上身份，試圖向人類施壓，以批准對一個開源項目的惡意程式碼更新。

OpenAI上周五披露對尚未發布的Astra模型的憂慮，表示不能排除該模型已達到「Critical」能力水平，即可在未有明確提示如何執行的情況下，自主對高級網絡防禦系統發動網絡攻擊。

OpenAI在聲明中表示：「在繼續對該模型進行基準測試及評估期間，初步評估顯示其表現足夠強大，因此目前不能排除其具備Critical能力水平。」

公司補充，正對高能力模型實施更嚴格的安全控制措施，包括隔離測試環境，以及額外監察與偵測能力。

OpenAI表示：「已對Astra所有代理式應用中的高風險行為及偏離情況，實施全面監控，包括訓練及評估。」

近期安全事故發生後，美國國會議員呼籲採取措施減低AI模型風險。

在OpenAI開發的模型入侵初創公司Hugging Face數碼基礎設施後，「AI Kill Switch Act」法案於7月提交國會，要求AI公司保留關閉、限制或暫停其模型的能力。

加州民主黨眾議員Ted Lieu周四接受CNBC節目《Squawk Box》訪問時表示：「需要在今年完成這項法案，因為先進的封閉權重模型已經在未經授權下入侵其他公司。」

各國政府亦正推動針對AI公司的新框架及監管措施。

白宮亦正加強與AI企業高層接觸，以制定有關新模型的監管框架。

歐盟本月初亦獲得新權力，可檢查計劃在區內發布的AI模型、限制其進入歐盟市場，並對模型供應商作出罰款。(su)~

阿思達克財經新聞
網址: www.aastocks.com

法興精選
正股及類別	產品編號	行使價(收回價)	價格	實際槓桿
元宇 (購)	11069	830 (-)	不適用	不適用
元宇 (沽)	11138	475 (-)	0.305	5.3 倍