中國科學技術大學完成的“數字人錢學森”在中央電視台亮相

大灣新聞記者從中國科學技術大學獲悉，日前，該校網路空間安全學院常務院長余能海教授受邀做客廣電台科教頻道“創新在進行中”直播欄目， 並與主持人和觀眾一起探討了生成式人工智慧的應用前景和潛在風險。

本期節目從生成式AI對影視創作的影響入手，以中國科學技術大學資訊處理中心、北京靈晶網路科技、合肥高維資料科技、北京航天視界聯合出品的《數字人錢學森》拉開序幕， 並得到錢老後輩錢永剛教授的支援，他用合成現實技術“復活”了錢老的形象，再現了錢老的勵志話語。引起了廣大網友的共鳴和熱議，觀眾人數達到600萬，觀眾對“數字人錢學森”給予了高度評價。

值得一提的是，生成式人工智慧的安全性在節目中被提及，這也是中國科學技術大學網路空間安全學院在國家網際網絡資訊辦公室和教育部共同建設的“一流網路安全學院建設示範工程”中重點研究的方向。

作為人工智慧與安全領域的跨學科專家，中國圖象圖形學會副理事長、CSIG數字取證與安全委員會主任於能海教授談到了兩種典型的生成式AI惡意使用場景的潛在風險。

第一種情況是惡意使用AI for Science大型模型的風險，這可能導致惡意使用者使用大型科學模型合成危險化學品或有毒物質。

第二種場景是人臉深度偽造的潛在危害，可能會對公共安全、個人私隱、財產安全等產生重大影響，為此，他的研究團隊也提出了多種深度偽造防禦對策，並在全球最具影響力的深度偽造檢測挑戰賽中擊敗了英偉達、麻省理工學院等知名學校和企業， 取得全球第二項國內第一成績，入選2014年以來中國人工智慧安全領域8項代表性成果。

大灣新聞記者 陳牧 實習生 楊春草.

徐大鵬編輯。