2024年12月16日,由中國科協支援的“2023科技倫理高峰論壇——數字技術時代中國科技倫理理論與實踐”在復旦大學光華樓西主樓30樓思源報告廳舉行, 由復旦大學主辦,中國科協創新戰略研究院、中國科協-復旦大學復旦大學科技倫理與人類未來研究院、復旦大學哲學學院協辦。
復旦大學哲學學院院長張雙禮主持論壇開幕式。 復旦大學常務副校長徐錚,中國科協黨組成員、秘書長王金金在開幕式上致辭。
翟曉梅教授.
中國醫學科學院、北京協和醫學院生物倫理研究中心.
醫學前沿技術研究與臨床轉化:倫理治理視角
以中國中山大學黃軍為例,對教授首次利用RISPR Cas9技術成功修飾人類胚胎基因進行了討論和論證。 考慮到不同人群對人體實體概念的價值觀不同,科學家在進行研究之前,應與倫理學、法學、社會學和公眾的學者進行充分討論,只有在充分了解這項技術的風險後才能採取行動。
李振珍是一名研究員。
中國科學院大學,中國科學院科技戰略諮詢研究院。
AI價值對齊?!》
由於人工智慧的力量越來越大,人與機器之間的倫理關係已成為現階段不可避免的問題。 在技術層面上,價值一致性問題的解決方案可以依賴於強大的化學反應習、可擴充套件的監督、可解釋性和基於人類反饋的治理在道德層面上,“價值一致性”旨在確保人類創造與人類具有相同價值觀的人工智慧;從社會層面來看,人工智慧的智慧型表現只是模仿人類的理性思維模式,並不具備人類的情感和意志。 人機關係倫理問題的關鍵是確定人類應該是人機關係的領導者,並明確人類對人工智慧的需求和目標。
曾毅教授.
中國科學院自動化研究所人工智慧倫理與治理研究中心.
人工智慧的關鍵風險和倫理挑戰
人工智慧的問題已經從乙個潛在的問題變成了乙個真正的風險問題。 目前的道德規範還不足,法律是底線,資料、演算法、平台和應用四點是重要方面,關鍵是開發者、教育者、使用者要在其中承擔自己的責任。 如何在社會和技術兩個層面上落實中國的科技倫理工作,需要考慮上述問題。 人工智慧正面臨著人類放棄決策權、認知公升級、誤導公眾等諸多倫理挑戰,在成為負責任和道德的主體之前,還有非常嚴格的科技突破需要做出。 我們必須預料到我們人類將如何應對超級智慧型的到來,而電子價值的對齊對於未來的超級智慧型來說是完全站不住腳的,弱小的人類很難讓超級智慧型服從。 AI與人類的和諧共生,是通過人類與AI價值觀的雙向協同,而不是單向的校準來實現的。 人類和人工智慧的價值需要共同進化,以促進和實現人類與人工智慧的和諧共生。
李正峰教授.
清華大學社會科學學院院長、中國科學院-清華大學科學與社會協調發展研究中心主任。
新技術革命及其倫理問題:特徵、挑戰與對策
新技術的出現將挑戰傳統社會倫理原則的“基礎”和機制,改變傳統社會中人類的“自然基礎”和“身份”。 由於技術“後果”風險的不確定性,當“後果”已經顯現時,控制變得昂貴且緩慢,因此“後驗選擇”並不總是可行的選擇。 “科技倫理”治理不僅要促進科技健康發展,更是人類文明健康發展的根本要求。
曹剛教授.
中國人民大學,現任中國人民大學倫理與道德理論研究中心主任,教育部人文社會科學重點研究基地。
科技倫理必須回答的三個道德難題
科技倫理學是當代倫理學的一種形式,它提出了許多道德問題,需要從元倫理學、規範倫理學和實踐倫理學三個層面加以解決。 有必要問什麼是人類價值觀,人類價值觀本身是否一致。 共生、共贏、價值共享的紐帶將人們聯絡在一起,這種紐帶本身就是好的,凡是能維持這種紐帶的,都是好的。 技術給人類的生存帶來好處,也帶來威脅。 根據目前的現實情況,負面影響更有可能成為現實。 我們需要恐懼的倫理,只有在這種憂慮中,我們才能主動預防,所以責任是倫理學的核心概念。
偉文團教授。
現任中國社會科學院科技與社會研究中心主任,復旦大學科技倫理與人類未來研究院兼職教授。
尖端技術的潛在道德風險以及如何應對這些風險
當前,新興技術帶動的技術和社會制度發生了革命性的變化,前沿技術的研發將帶來許多深層次的倫理風險。 對於科技深層次倫理風險的預控和應對,需要從建立科學認知倫理邊界意識入手,加強科技倫理意識建設結合倫理規範、法律規制和技術方案三個維度,設定合理的倫理法律門檻形成一套技術-管理-體系協同的治理機制;推進科技倫理研究,推進科技倫理傳播教育;注意相稱性原則。 科技倫理治理戰略可以採取協同共治,構建硬監管、治理協調、軟治理的協調機制。
程周教授.
北京大學哲學系科學技術哲學系主任,中國科學技術協會-北京大學科學文化研究院副會長。
醫學人工智慧的可解釋性、可理解性和可信度
人工智慧倫理領域的研究正在迅速興起,其中“透明度”成為關鍵問題,提高人工智慧的可理解性和可信度成為新的要求。 關鍵問題是可信度需要嵌入到人工智慧研發中,這高於可解釋性,這是乙個科學技術問題,可信度是乙個倫理問題,可理解性主要涉及情境主義的因果關係觀,可信度涉及因果關係的多元觀。 可解釋性不足以解決黑匣子問題,國際社會提出的可理解性和可信度需要在更高層次上加以考慮。
*:科學技術協會之聲。