國際財經 | 2023-11-27 12:17
美國、英國等18個國家公布一份國際協議,涉及如何確保人工智能(AI)免受惡意行為者的侵害,推動企業創建「設計安全」的AI系統。
18個國家一致認為,設計和使用AI的公司在開發和部署AI時,必須確保客戶和廣大公眾的安全,防止其被濫用。該協議不具有約束力,主要是一般性建議,如監控AI系統是否被濫用、保護數據不被篡改,以及審查軟件供應商等。該框架涉及如何防止AI技術被黑客劫持,並包括一些建議,如只有經過適當的安全測試後才能發布模型。
不過,協議並未涉及AI的適當用途或如何收集這些模型所需的數據等棘手問題。美國網絡安全和基礎設施安全局局長Jen Easterly表示,重要的是,很多國家都認同AI系統需要將安全放在首位的理念。
除美國和英國外,簽署新指導方針的18個國家還包括德國、意大利、捷克、愛沙尼亞、波蘭、澳洲、智利、以色列、尼日利亞和新加坡等。