人工智慧研究機構OpenAI近日宣布,為了更好地履行創造和推廣友好AI的使命,將重組治理結構,成立由五名董事組成的董事會,負責監督和指導OpenAI的戰略和運營。 根據新的治理架構,OpenAI的CEO發布了新的AI模型,該模型需要得到董事會的一致批准,以確保新模型符合OpenAI的價值觀和道德標準,並且不會對人類和社會造成傷害。
OpenAI 是一家非營利性 AI 研究機構,成立於 2015 年,旨在確保 AI 的發展造福全人類,不被少數人或組織控制或濫用。 OpenAI的創始人包括馬斯克、皮特·蒂爾、李開復等知名科技人物,其CEO是Y Combinator前總裁Sam Altman。 OpenAI以其研發的一系列高階AI模型而聞名,如GPT-3、DALL-E、CLIP等,在自然語言處理、影象生成、計算機視覺等領域展現出驚人的能力,引起了廣泛的關注和討論。
然而,隨著人工智慧技術的不斷進步,也帶來了一些潛在的風險和挑戰,如人工智慧的安全性、可靠性、可解釋性、公平性、私隱性等。 為了解決這些問題,OpenAI認為有必要調整其治理結構,增加其CEO的監督和制衡,以發布新模型,並防止新模型被用於不良目的或對人類和社會產生不良影響。 OpenAI在其官方部落格上表示,此次調整是為了確保OpenAI能夠忠於其使命,為人類的福祉和自由做出貢獻。
在新的治理結構下,OpenAI將成立乙個由五名董事組成的董事會,其中三名是獨立董事,兩名是內部董事。 獨立董事由OpenAI的創始人和發起人共同選舉產生,內部董事由OpenAI的員工選舉產生。 董事會由一名獨立董事擔任主席,目前由前Microsoft首席執行官史蒂夫·鮑爾默(Steve Ballmer)擔任。 董事會的職責包括:
審核批准OpenAI年度預算、戰略規劃、重大專案、合作協議等;
監督和評估OpenAI首席執行官和其他高階管理人員的績效和薪酬等
審查並批准OpenAI首席執行官發布新的AI模型,以確保新模型符合OpenAI的價值觀和道德標準,並且不會對人類和社會造成傷害
審查和批准OpenAI在風險管理、內部控制、合規、審計等方面的政策和程式;代表 OpenAI 與**、公眾、合作夥伴等外部利益相關者進行溝通和協調。
OpenAI 首席執行官 Sam Altman 對新的治理結構表示歡迎,稱這是 OpenAI 成長和成熟的重要一步,也是 OpenAI 使命和責任的重要體現。 他表示,將與董事會密切合作,共同推動OpenAI的發展,為人類創造和促進友好的人工智慧。 他還表示,他將繼續致力於開發更先進、更有用的人工智慧模型,同時也將遵循董事會的指導和監督,確保新模型的安全性和可靠性,避免其誤用和誤用。