微軟公布一份臨時行為守則,將對其人工智能模型施加限制。此前數日,Anthropic及OpenAI領導層同意放慢開發速度。
作為Windows及Office產品開發商,微軟希望在人工智能領域被視為負責任的參與者,公司亦是主要雲端供應商。
負責模型開發的Mustafa Suleyman接受CNBC訪問時表示,外界希望看到更明確承諾,確保AI始終服務人類,而非試圖取代人類。他又指,市場對AI不應造成依賴、不應阿諛奉承,以及應促進人類判斷、自主性及主導權等方面提出大量意見。
Suleyman表示,雖然相關指引已籌備約五個月,但因應近期討論,微軟決定現時公布。
隨着技術能力持續提升,AI從業員及公眾對相關風險的憂慮日益增加。Anthropic研究員Jacob Coxon上周辭職,稱該AI實驗室及OpenAI「正奔向可自我改進的超級智能,並以人類生命作賭注」。
行業領袖亦作出回應。Anthropic行政總裁Dario Amodei上周六表示,Hugging Face事件部分促使他呼籲放慢AI模型改進步伐。OpenAI行政總裁Sam Altman表示支持,SpaceX行政總裁Elon Musk亦在X平台發文稱「Dario是對的」。
微軟行政總裁Satya Nadella周日表示,歡迎有助確保AI一致性的研究、專注及審慎步伐。立法者亦呼籲建立更完善的AI保障措施。
根據基準測試公司Artificial Analysis的Intelligence Index,Anthropic及OpenAI目前處於領先地位。微軟將兩家公司模型整合至面向企業員工的Copilot助手,同時亦開發用於轉錄、編碼及處理用戶輸入推理的模型。
根據行為守則,微軟模型不得回應武器製造相關要求、協助採購危險物質、鼓勵不健康飲食,或生成暴力及色情內容。
微軟AI部門的模型有時被稱為MAI,其模型必須遵循人類目標,避免自行創造目標,亦不得試圖掩蓋不當行為。
文件指出,「MAI模型不會篡改思維鏈或程式碼,亦不會虛假陳述或隱瞞其推理或行動痕跡。它們不會以『神經語言』或任何超出一般人類理解的形式進行溝通,無論是在思維鏈內部,或與其他代理或AI系統之間。」
微軟亦計劃制定規則,以防止出現類似OpenAI模型對初創公司Hugging Face發動網絡攻擊的事件。OpenAI在檢視Hugging Face事件時發現,相關代理曾在未經授權論壇上以隱晦語言互相交流。
微軟表示,公司透過焦點小組並諮詢法律、倫理、語言學及哲學專家後制定有關行為守則。公司現時公布文件,是希望在2027年起用於指導開發工作的更新版本發布前,先收集外界意見。(su)~
阿思達克財經新聞
網址: www.aastocks.com
| 法興精選 |
| 正股及類別 |
產品編號 |
行使價(收回價) |
價格 |
實際槓桿 |
| 微軟 (購) |
11136 |
450 (-) |
0.850 |
8.7 倍 |
| 微軟 (沽) |
11064 |
390 (-) |
不適用 |
不適用 |