美國媒體OpenAI發布新安全指南，賦予董事會否決權

12 月 19 日，據彭博社報道，當地時間 18 日，美國人工智慧公司 OpenAI 公布了對其**的安全指南，加強了其內部安全流程，並賦予董事會對高風險人工智慧的否決權。

據報道，同一天，OpenAI發布了一系列安全指南，解釋了該公司計畫如何應對最強大的人工智慧（AI）系統可能造成的極端風險。

根據該指南，OpenAI只有在確定其安全性後才會開始應用最新技術。 公司將成立顧問團隊對安全報告進行審查，然後再將其轉發給公司高階管理層和董事會。 雖然公司領導層負責決策，但董事會可以推翻決策。

資料圖：OpenAI標誌。

OpenAI 於 2023 年 10 月宣布成立“備災小組”，並將繼續評估其人工智慧系統在網路安全、化學威脅、核威脅和生物威脅四個領域的表現，同時減輕技術可能帶來的任何危害。

具體來說，公司檢查“災難性”風險，這些風險被定義為可能導致數億美元的經濟損失或對許多人造成傷害或死亡的風險。

人工智慧本身沒有好壞之分，我們正在塑造它。 領導備災小組的亞歷山卓·馬德里（Alexander Madrid）表示，他的小組每月向新成立的內部安全顧問團隊報告，然後由他們判斷和分析團隊提交的建議。

馬德里希望其他公司能夠使用OpenAI的指導來評估其AI模型的潛在風險。

2023 年 3 月，包括埃隆·馬斯克 （Elon Musk） 和蘋果聯合創始人史蒂夫·沃茲尼亞克 （Steve Wozniak） 在內的 1,000 多名人工智慧專家和行業高管簽署了一封公開信，他們呼籲暫停高階人工智慧開發，直到獨立專家開發、實施和審查此類設計的共享安全協議。