12月14日,2024年《自然》年度十大人物(自然'S 10)官方透露,除了從全球重大科學事件中選出的10人——5男5女,今年榜單上還有1人非人類——美國人工智慧公司OpenAI發布的聊天機械人ChatGPT。
事實上,ChatGPT應該躋身《自然》雜誌前11名,這本身就改變了歷史,改變了《自然》的評價和選擇規則。 改變“自然”的規則,還體現在ChatGPT不是自然人,而是“自然”將其視為自然人。
當然,ChatGPT改變歷史的不僅僅是“自然”的法則,而是像其他10大人物一樣,可能會對人類社會產生巨大影響,改變歷史程序。 自然界的前10名人物其實每年都不亞於諾貝爾獎得主,因為他們都是各個領域的領導者和貢獻者,而且範圍比諾貝爾獎更廣,包括自然、人文和社會領域,比如這次排名前10的人物之一就是巴西環境部長瑪麗娜·席爾瓦(Marina Silva), 誰負責保護亞馬遜雨林。
至於ChatGPT為何入選《自然》前11人,該期刊編輯團隊表示:“雖然【ChatGPT】不是乙個算作人的工具,也不完全符合《自然》前10人的標準,但我們破例將其列入榜單,以表彰生成式人工智慧給科學發展和進步帶來的巨大變化。 ”
事實上,ChatGPT比任何乙個被自然選中的人都更有知名度和影響力,對未來人類社會的影響更大、更深遠,所以ChatGPT應該算是11大人物中的第一位。 自 2022 年 11 月作為免費使用的自動對話**(聊天機械人)發布以來,ChatGPT 佔據了世界各地的頭條新聞,其影響不僅被科學界所感受到,而且被整個社會所感受到。
ChatGPT不是乙個人,而是千萬萬人,是無數人的集合和投射。 美國公司OpenAI建立了ChatGPT,其基礎和構建材料是乙個擁有數千億個引數的神經網路,它建立在龐大的書籍和文件語料庫之上,並估計花費數千萬美元進行訓練。 還有大量的研究人員、編輯,他們評估其反應,以進一步完善和塑造其輸出的內容。 2023 年,OpenAI 公升級了 ChatGPT 的底層大型語言模型 (LLM),並將其與其他程式連線,以便該工具可以接收和建立影象。
這也意味著ChatGPT是迄今為止最強大、知識最淵博的百科全書式“巨人”,其表現優於無數教授、學者、工程師、作家、醫生、藥劑師、會計師、精算師、設計師、記者,以及幾乎所有的人類專業人士。 因此,有充分的理由,《自然》雜誌將其評為年度第十一人之一,誰能擊敗或比擁有數千億個引數的 ChatGPT 更強大,ChatGPT 擁有數千億個引數,其神經網路
儘管 ChatGPT 看起來很強大,但在某種程度上,它只不過是乙個長著粘土腳的巨人,在處理許多簡單的問題時還不如乙個活生生的自然人。 造成這種情況的原因有很多,比如缺乏背景,培養它的知識有限等等,但最重要的是它所獲得的知識和訓練以及它輸出的資訊是不確定的,因為它不具備區分人類社會和自然的能力,以及邏輯推理的能力, 當然,它缺乏人類的情感。這並不意味著小學老師在教學生時會絕對肯定地說 3+2 等於 5。 如果你調侃ChatGPT說,我老婆說3+2等於6,我老婆一定是對的。 所以,ChatGPT會立即改變它的話,說,對不起,我錯了,3+2應該等於6。
當然,ChatGPT的重要作用和巨大的功能已經得到了人類的認可,它將成為人類最重要的工具之一,無論是幫助人們編寫和製作各種產品,如各種文字、編寫程式和**、創作圖片、設計藥物和疫苗等, 它既快又有一定的水平。然而,ChatGPT的侷限性和缺點也很明顯。
有趣的是,這次《自然》雜誌排名前11位的人之一,也是ChatGPT的創造者,伊利亞·蘇茨凱弗。 Sutskvi 對 ChatGPT 和其他 AI 產品持謹慎態度,因此他對他建立的 ChatGPT 的態度很保守。 他認為,ChatGPT和其他人工智慧如果不被人類有效控制,就有可能造成巨大的風險和災難。 因此,他現在專注於通過OpenAI的“Super Alignment”專案來控制AI系統。 而且,他認為,OpenAI和其他一些公司應該將他們的**和訓練資料保密,從長遠來看,乙個封閉的系統將避免讓其他人製造強大的人工智慧,這是負責任的事情。 “在某個時候,人工智慧的能力將變得如此之大,以至於開源模型顯然是不負責任的。 ”
Sutskevi 的觀點顯然與 OpenAI 的首席執行官 Sam Altman 不一致,並在 OpenAI 內部製造了一場“宮鬥”,後者先是被解雇,後來又復職。 而奧特曼則大力倡導ChatGPT快速推向市場。 不過,這一次,《自然》將蘇茨科維而不是奧特曼列為前11人之一,反映了《自然》的思維和趨勢,ChatGPT等AI產品可以開發使用,但必須謹慎行事。
因為,ChatGPT除了嚴肅地胡說八道之外,在各個方面還有其他的錯誤和隱憂,包括幫助作弊抄襲、幫助詐騙、捏造事實、捏造參考資料、抄襲仇恨言論、散布謠言等。 此外,ChatGPT還將扮演任何對話者想要的角色,時而順從,時而迷人,時而有趣,時而可怕。
這些都是人類設計、訓練、使用ChatGPT都會產生的問題,如果ChatGPT提供的產品和答案沒有經過人工審核和驗證,就有可能出錯,而且大錯特錯。 因此,對於ChatGPT等AI軟體和工具,除了不斷改進和完善技術以適應當前人類認知和實際情況外,還需要法律監管。
2023 年 12 月 8 日,歐盟委員會、歐洲議會和歐盟成員國的代表就《人工智慧法案》(AI Act)達成初步協議,該法案涵蓋包括 ChatGPT 在內的通用人工智慧系統。 這是全球首部關於人工智慧監管的綜合性法規,旨在在保護基本人權和不阻礙人工智慧產業發展之間取得平衡。 該法案將人工智慧系統分為低風險、高風險、不可接受風險和特定透明度風險等不同級別,並根據風險等級制定了相應的法規。
因此,《自然》雜誌將ChatGPT列為年度十一大人物之一,不僅因為它將成為人類最好的幫手,還因為它的應用是人類現在和未來最大、最困難的挑戰之一。
澎湃新聞,更多原創資訊請**“澎湃新聞”app)。