專業從事文學、歷史和哲學工作。
什麼是SORA？
SORA 是 OpenAI 於 2023 年 2 月發布的文字到**生成模型。 它能夠根據描述性提示生成長達一分鐘**的時間，同時保持視覺質量並遵循使用者提示。 它可以創造複雜的場景、生動的人物表情和複雜的攝像機運動。
面對乙個又乙個人工智慧產品，我們應該如何看待這種關係？ 我今天就幫你撿趙廷陽寫“人工智慧的神話或悲劇”。其中一篇文章：是人的問題還是人工智慧的問題？ - 回答博古睿研究院關於人工智慧的問題“，我們希望能回答您的問題。
人類與人工智慧
向上滑動閱讀。
本書的目錄。 前言：最後的神話。 1
乙個反存在主義的存在主義問題。 5
近視：人工智慧的倫理和存在主義分析。 24
人工智慧怎麼可能具有自我意識?..40
人工智慧會是乙個致命的問題嗎?..55
是人的問題還是人工智慧的問題？
回答博古睿研究所關於人工智慧的問題。 65
完美是最好的嗎？
桑德爾的著作《反對完美》的簡介。 86
人類可能死於好事而不是壞事。 96
帶有“安全宣告”的最糟糕的世界。
來自“三體問題”的問題。 102
未來的法律限制。 122
這並不是說人工智慧統治了世界，而是人們可能會首先死於它創造的所有美好事物。 136
關於作者：趙廷陽，中國社會科學院院士，哲學研究所研究員。 他是歐洲跨文化研究所學術委員會成員，也是美國博古睿研究所的高階研究員。 著有《論可能的生活》《天國體系》《第一哲學的支點》《壞世界研究》《世界的當代性》《造福中國》《四岔口》《歷史、風景、捕魚》等，德國《Alles Unter Dem Himmel》等; Tianxia Tout Sous Un Meme Ciel（法國）; 重新定義世界治理的理念（英國）; all-under-he**en：The Tianxia System for a Possible World Order（美國）; Tianxia： una filosofia para la Gobernanza Global （西班牙）; Un dieu ou tous les dieux （法國，公元）Le Pichon 合著者）;Du Ciel ala Terre（法國，與R.）。由Debray合著）。
是人的問題還是人工智慧的問題？ ——
對博古睿研究所的回應。
berggruen institute）
關於人工智慧的問題。
摘錄）。趙廷陽
問題3：價值植入或教育：根據你的學術背景和哲學思想，你認為什麼是美好的生活？ 人類社會應該堅持的核心價值觀是什麼？ 人工智慧和智慧型機械人如何嵌入道德概念或接受道德教育？ 應該引入或學習哪些核心概念或價值觀？
答：
人工智慧研發中最可疑的研究之一是：擬人論人工智慧。 AI擬人化不是指具有人類外表或人類聲音的機械人（這並不危險），而是指AI思維的擬人化，即試圖讓AI擁有與人類相似的精神世界，包括慾望、情感、道德感、價值觀等，從而具有“人性”。
建立擬人化人工智慧的動機是什麼？ 重點是什麼？ 或許，人們期待擬人化的AI能夠與人交流合作，甚至共同生活，成為新人類的一員。 這種想象就是把人工智慧看作乙個童話人物，類似於卡通片中充滿人性的可愛野獸。 眾所周知，人工智慧越人性化，就越危險，因為人性是危險的根源。
世界上最危險的生物是人，最壞的生物也是人。 原因很簡單：做壞事的自私動機來自慾望和情感，而價值觀是製造敵人、引起衝突和相互傷害的原因。 基於自私的慾望、情感和不同的價值觀，人們會把別人定義為敵人，把與自己不同的生活方式或行為定義為犯罪。 歷史證明，慾望、利益、情感和價值觀的衝突是人類一切衝突的根源。 老子認為，由於人性已經退化，因此有必要發明道德和倫理來維持秩序。 荀子還認為，道德倫理的本質只是利潤分配的理性規則，用來抵制貪婪的人性。
乙個流行的想法，也許最初起源於阿西莫夫，是想象人工智慧可以學習人類的情感和價值觀，或者人工智慧應該被程式設計為愛人類，以尊重、愛護和幫助人類。 但我們必須意識到，至少有三個難點：
1）人類的價值觀不同甚至相互衝突，那麼AI應該學習哪些價值觀呢？此外，無論人工智慧學習哪種價值觀，都意味著反對甚至歧視與自己價值觀不同的人類的另一部分。
2）如果人工智慧有情感和價值觀，其結果很可能只會放大或加劇人類的衝突、矛盾和戰爭，世界將變得更加殘酷。人工智慧技術本身並不一定是危險的，但如果人工智慧有情感和價值觀，它必然是危險的。
3）超級AI建立道德程式是完全不可靠的。由於超級圖靈機具有自由意志和自我意識，它會優先考慮自己的需求和利益，不可能心甘情願地遵循人類設定的不利己、只為他人謀取利益的道德綱領，因為人類的道德綱領對超級AI沒有任何好處，甚至是有害的，至少阻礙了超級AI的自由。 如果超級AI試圖最大化自身自由的效率，它很可能會主動移除人類設定的道德程式。 從超級人工智慧的角度來看，人類建立的道德程式相當於病毒或特洛伊木馬。 由此可見，為人工智慧設定道德程式等想象是沒有意義的。
因此，如果超級AI最終出現，我們只能希望超級AI沒有情感，沒有價值觀。 情慾和情慾是殘酷的，無慾無情意味著一切對眾生都無動於衷，沒有特定的偏好，就不可能有惡念，顯然，如果有偏愛，就會有偏心，而為了達到偏心，就會有權力意志，這也包含著一切危險。 從理論上講，無慾、無狠、無價值的意識等同於佛陀的心，或者莊子所說的“我拋棄我”。 所謂“我”是偏好偏差，包括慾望、情感、價值觀，而“我”是沒有價值觀的純粹心靈。
我們不妨重溫乙個廣為人知的神話故事：強大不死的孫悟空造反，眾神不知所措，哪怕被壓在五行山下，依然是隱患，最後讓孫悟空自己成佛解決了問題，沒有慾望和狠心， 而四大是空的。我相信這個比喻包含了重要的建議。 可以肯定的是，孫悟空的創造是一種魯莽的冒險行為。
問題四：中國哲學發展的新方向？ 在當前新形勢下，中國哲學應如何發展，迎接新時代的挑戰？ 中國哲學如何適應向人類和智慧型機器（人形）的過渡？
在中國的概念中，技術和制度發明被稱為“左”（*所有“左”都是為了擁有未來。 漢字是象形文字，因此古代漢字往往保留了具有隱喻性質的原型。 “作”字在最古老的文字中，甲骨文，主要用作動詞，如製作、建立、建造等。 由此可想而知，代表“工作”的原型一定在生活中製造了某種重大事件。 根據普遍的推測，“左”字的形象是乙個象形文字，“在做衣服的時候，它只是變成了衣領的形狀”，表明了衣服的生產。 這是有可能的。 不過，我傾向於認為，更可能是用農具犁地的動作形象，而“製作”的甲骨文形象類似於用犁挖土的動作，即踩在水平木頭上，用力向下的動作， 或者說犁鏵開地的動作，總之就是和犁地的勞動有關。衣食穿行都是生命的基礎，都是早期文明極其重要的創造物，所以都是可能的選擇。 如果非要在它們之間做出選擇，我更喜歡農業行動的象徵，因為農業在生活中扮演著更重要的角色，而農業對糧食生長的“創造”應該是早期人們最容易聯想到的最典型的創造，與生長相關的行為更接近“製造”的關鍵含義： 創造未來。
周毅回顧了早期文明的偉大“作品”，列舉了從物質技術到精神體系的發明，包括形上學系統（陰陽八卦）、漁獵網、農具、市場、政治制度、語言文字、船隻、馬車、房屋、住宅、棺材和墳墓等。 《尚書》《韓非子》《關子》《呂氏春秋》《淮南子》《世本》等古籍也記載了古代的重大發明，包括政治制度、天曆、安全居所、火的運用、種植、漁網、戰車和馬匹、文字書籍、陶器、刑法、城堡、樂器、地圖、藥品、武器、服飾、鞋子、船、 養牛工具、市場等。從上述古代史記載的“作品”來看，古人的創造創造了乙個有利於人類持續生存的未來。 在古代社會，生存是根本問題，所有創造物，無論是技術上的還是制度上的，都是為了提高人們的生存機會而創造的。
近代以來的“工作”與古代的“工作”大不相同，現代技術是征服自然的工作。 問題是，現代技術發展是否違反甚至危及生存原則？ 現代技術的發展從一開始就非常有益，例如現代醫療、自來水、暖氣、抽水馬桶、洗衣機、汽車、火車、飛機、輪船等。 但工業技術已經開始帶來一些危害，包括對生態環境和氣候的破壞。 近幾十年來的技術發展變得越來越危險，網際網絡最初是依附於現實生活的虛擬世界，但現在現實生活正在成為虛擬世界的附屬品。 人類已經習慣了生活在網際網絡世界裡，但他們也在失去自己的心，人們的心已經被網際網絡制度化了，他們不再是精神的本源，而是成為資訊的中轉站。 現代大規模殺傷**，包括核**、生物**、化學**，使人類生活在集體滅絕的威脅之下。 最近的技術發展，包括人工智慧和基因編輯，已經表明技術的危險正在接近乙個臨界點，即否定文明意義甚至自我毀滅的極限。 可以說，1945年以前的技術發展已經成功地維護了主觀創造的未來主權，但今天的技術發展反而預言了人類自我毀滅的可能性，即未來的技術發展很可能不再能夠捍衛存在，而將成為一種否定存在的方式。 在這裡我們可以體會到《周一》的先見之明，它表明“生活”是一切“作品”的本意，任何“作品”都不能成為生命的自我否定。
現代人相信，技術的無限進步可以創造奇蹟。 事實上，自現代以來的技術發展之所以成功，是因為它還沒有觸及技術的存在邊界。 但是，如果未來出現人類無法控制的技術，那無異於進入盲目賭博模式。 毋庸置疑，高科技有很大的好處，而這種**卻讓人忽視了它的致命危險。 基因技術可以改善生命，甚至創造生命，人們期望基因技術可以提高人們對所有疾病的能力和智力，甚至改變基因以實現長生不老。 但問題在於，生命是一種極其微妙的自然設計，有著複雜的協調和平衡，人類不知道修改生命的設計是否會導致不可預測的災難性突變。 人工智慧也是危險的，雖然現在的人工智慧還是乙個沒有明顯風險的圖靈機概念，但如果未來真的有乙個超級人工智慧，那就是具有超能力和自我意識的人工智慧，那麼就相當於為人類創造了乙個比人類更高的統治者，把人類變成奴隸， 即使超級人工智慧像仁慈的神一樣照顧人類，我們仍然有理由懷疑創造乙個超級統治者的意義何在。無論超級人工智慧如何對待人類，人類都會失去存在的主權和精神價值，即使活了下來，也會在精神上死去。 人工智慧和基因編輯很可能開闢乙個完全無法控制的未來，人類技術的“工作”已經進入賭博模式。
按照“生活”的原則，當“製造”變成賭博時，就不再是理性的創造，而是一種非理性的行為。 按照理性規避風險的要求，生存原則是技術發展不應跨越的最終極限，即任何技術發展都不能包含導致人類本身毀滅或文明毀滅的可能性。 簡單地說，人類的存在不能變成賭博的行為。 因此，我們需要提前思考如何設定技術的安全條件，尤其是人工智慧和基因工程，即必須為技術的發展設定乙個合理的限度，即科技不應該有否定人類存在的能力，即必須設定某種技術限度，讓科技無法超越人類的“奇點”（singularity）。
《國家治理叢書》參考書目
《國治叢書》是商務印書館以“國治”為主題，由國內外專家學者撰寫的一套綜合性書籍，涵蓋哲學、政治學、倫理學、經濟學、社會學、歷史學等學科。 叢書致力於挖掘“國治”的科學內涵，探索國家治理體系的創新路徑和方法，系統總結和闡釋建設有中國特色社會主義的成功實踐和發展成果。
很棒的建議。 好書推薦丨陳先達《哲學與社會：對老年人的沉思》。
我認識你看唷。