拜登捲入了一場關於最強大的人工智慧系統應該是“開源”還是封閉的辯論。
白宮週三表示,它正在就公開人工智慧系統的關鍵元件供任何人使用和修改的風險和好處徵求公眾意見。 這項調查是喬·拜登(Joe Biden)**於10月簽署的一項更廣泛的行政命令的一部分,該行政命令旨在管理快速發展的技術。
科技公司對人工智慧模型的開放程度存在分歧,一些人強調了廣泛使用的人工智慧模型元件的危險,而另一些公司則強調了開放科學對研究人員和初創公司的重要性。 Facebook的母公司Meta Platforms和IBM是開放方法的最強大推動者。
拜登的命令描述了開放模型,其技術名稱為“具有廣泛權重的兩用基本模型”,並表示它們需要進一步研究。 權重是影響 AI 模型效能的數值。
拜登的命令說,當這些權重在網際網絡上公開發布時,“可能會給創新帶來巨大的好處,但也會帶來巨大的安全風險,例如取消模型中的保障措施。 他要求商務部長吉娜·雷蒙多(Gina Raimondo)在7月之前與專家交談,並就如何管理潛在利益和風險提供建議。
現在,美國商務部國家電信和資訊管理局(National Telecommunications and Information Administration)表示,它還將開放乙個為期30天的評論期,以收集將包含在提交給**的報告中的想法。
令人鼓舞的訊息是,專家們很清楚,這不是乙個二元問題。 開放程度是有梯度的。 商務部助理部長兼NTIA行政長官Alan D**Idson說。 戴維森周二告訴記者,有可能找到促進創新和安全的解決方案。
根據尼克·克萊格(Nick Clegg)的乙份書面宣告,Meta計畫與拜登分享“我們在過去十年中以開放的方式構建人工智慧技術所學到的東西,以便每個人都能繼續分享人工智慧的好處”。 公司全球事務總裁。
谷歌在很大程度上傾向於一種更封閉的方法,但週三發布了一套名為Gemma的新開放模型,這些模型源自用於建立其最近發布的Gemini聊天機械人應用程式和付費服務的相同技術。 谷歌將開放模型描述為更大、更強大的雙子座的更“輕量級”版本,雙子座仍然是封閉的。
谷歌在週三的乙份技術宣告中表示,由於發布 GEMMA 等開放模型的“不可逆轉性”,它優先考慮安全性,並敦促“更廣泛的人工智慧社群超越簡單的'開放與封閉'辯論,避免誇大其詞。 或將潛在危害降至最低,因為我們認為對風險和收益採取細緻入微的協作方法至關重要。 ”
康奈爾大學(Cornell University)研究員D**ID表示,簡單地向世界發布人工智慧系統的元件並不一定能使其易於被外界訪問或審查,因為使用開放模型仍然需要“資源集中在少數幾家大公司手中”Gray Wader。
維德說,公司採取更開放或更封閉的方法的動機也很複雜。 Widder說,那些支援開源遊說者的人可能希望從外部貢獻中獲利,而那些認為安全問題迫使他們嚴格保護人工智慧系統的人可能也希望鞏固他們作為先行者的地位。