預防「天網」毀滅世界，18國簽署AI設計安全協議

 

AI 的高速發展讓世界各國政府開始警覺其潛在的危險性，包含美國、英國等共計 18 國簽署共同協議，要確保 AI 發展能夠符合「設計安全」（Security by Design），避免人工智慧真如電影劇情一般失控危及生活。

 

根據外媒 Reuters 的報導，美國、英國、德國、義大利、捷克共和國、愛沙尼亞、波蘭、澳洲、智利、以色列、奈及利亞、新加坡等 18 個國家簽署關於 AI 安全設計的協議。

 

在這份 20 頁的內容中，要求從事 AI 開發與應用的企業，必須確保客戶和民眾不能被浮濫的方式進行資料收集與功能的部署。

 

此外，協議也提及如何防止遭到駭客綁架，同時在 AI 功能正式對外上線之前，也要先通過基本的安全測試後才能推出

 

不過這分協議本身不具任何約束力，所以不難看出內容相當攏統，主要都是偏向原則性的建議，像是監視 AI 是否被濫用、資料如何避免被竄改、審查開發商等，至於有關 AI 使用的正當性、AI 訓練素材如何蒐集等爭議內容，則沒有被納進協議中。

 

但即便如此，美國網路安全與基礎設施安全局（Cybersecurity and Infrastructure Security Agency，CISA）認為這是一個好的開始，至少確定了各國願意在 AI 開發上，將人民的安全視為第一位。