OpenAI加強內部監督，董事有權否決管理層的決定

人工智慧公司OpenAI已賦予其董事否決公司領導人做出的決定的權力，以進一步加強開發尖端技術的安全性。

ChatGPT 開發商 OpenAI 周一（12 月 18 日）發布了一系列指南，內容涉及該公司計畫如何應對其最強大的人工智慧 （AI） 系統可能帶來的極端風險。

在指導下，OpenAI只有在確定其安全性後才會開始使用最新技術。 公司還將成立乙個顧問團隊，在將安全報告轉發給公司高階管理層和董事會之前對其進行審查。 雖然公司領導層負責做出決策，但董事會可以推翻它們。

在公司總裁阿爾特曼（Altman）短暫免職期間，焦點是世界頂級科技公司董事會和管理層之間的權力平衡。

OpenAI於今年10月宣布成立“備災小組”，並將繼續評估其人工智慧系統在網路安全、化學、核和生物威脅四個領域的表現，同時減輕技術可能帶來的任何危害。

具體來說，公司研究可能導致數億美元的經濟損失或對許多人造成傷害或死亡的“災難性”風險。

領導公司備災團隊的亞歷山卓·馬德里（Aleksander Madry）告訴彭博社，他的團隊每月向新的內部安全顧問團隊提交報告，然後阿爾特曼和公司董事會的分析團隊提交建議。

“人工智慧本身沒有好壞之分，我們正在塑造它，”梅德里說。 ”

他還希望其他公司能夠使用OpenAI的指導來評估其AI模型的潛在風險。

今年 4 月，一群人工智慧領域的領導人和專家簽署了一封公開信，要求以對社會的潛在風險為由，停止開發比 OpenAI 的 GPT-4 更強大的人工智慧系統。