美國、英國等18個國家公布一份國際協議，涉及如何確保人工智能(AI)免受惡意行為者的侵害，推動企業創建「設計安全」的AI系統。
18個國家一致認為，設計和使用AI的公司在開發和部署AI時，必須確保客戶和廣大公眾的安全，防止其被濫用。該協議不具有約束力，主要是一般性建議，如監控AI系統是否被濫用、保護數據不被篡改，以及審查軟件供應商等。該框架涉及如何防止AI技術被黑客劫持，並包括一些建議，如只有經過適當的安全測試後才能發布模型。
不過，協議並未涉及AI的適當用途或如何收集這些模型所需的數據等棘手問題。美國網絡安全和基礎設施安全局局長Jen Easterly表示，重要的是，很多國家都認同AI系統需要將安全放在首位的理念。
除美國和英國外，簽署新指導方針的18個國家還包括德國、意大利、捷克、愛沙尼亞、波蘭、澳洲、智利、以色列、尼日利亞和新加坡等。
