【科技網】3月6日訊息,看過電影《流浪地球2》的觀眾或許還記得這樣一段片段:科學家屠恆宇想把車禍中死去的女兒的記憶上傳到“數字生活世界”,讓女兒在數字世界裡度過完整的一生。
今天,電影正在栩栩如生。 **仁寶小白用AI再現了病逝的女兒,其數字形象不僅可以即時回答問題,還可以在媽媽生日那天和家人一起唱生日歌。 有網友表示,“包小白是現實版的屠恆宇”。
事實上,AI數字人並不新鮮,可以用於直播、廣告等很多場景。 從2022年開始,一些人工智慧從業者開始為普通人定製“AI數字人”,從2023年開始,每個人都可以實現數字永生。
TechWeb發現,在一些電商平台上,有很多商家做相關業務,聲稱只有親人的高畫質個人照片和音訊才能“復活”已故的親人。 *從幾元到幾百元,很多使用者都下了單。
從生產到銷售,AI“復活”親戚成為產業鏈。
人工智慧是如何“復活”親人的?
自生成式人工智慧興起以來,一些人一直在嘗試使用人工智慧技術來“復活”他們所愛的人來表達他們的想法。
2020 年,加拿大人約書亞在乙個名為 Project Deember 的 AI 聊天機械人中復活了他的女友。 這個聊天機械人是基於 GPT-3 語言模型開發的,只要在特定的語料庫上訓練,它幾乎可以模仿任何對話風格。
隨著技術的不斷迭代,利用AI模擬真人的“數字人”爆發式增長,已故親人的形象也變得更加具體。
實施過程也不複雜。 首先,需要收集已故親人的資料,如**、錄音等,然後利用深度學習演算法對資料進行分析,了解已故親人的特徵,包括他們的面部表情、聲音特徵、行為習慣等。 這些資料可用於訓練 AI 模型,該模型可用於建立乙個虛擬的已故親人,在螢幕上“復活”他們並與他們進行對話。
目前,國內已有多家網際網絡公司參與相關技術研究,並已在具體場景下落地。
近日,商湯科技利用AI技術復活了因病去世的創始人唐曉鷗,從**的**來看,唐曉鷗以數字人的形式出現在商湯科技2024年年會上,並發表了演講,表情、語氣、小動作都生動。
今年2月,阿里發布了一款新的生成式AI模型emo,只需要提供乙個**和乙個任意的音訊檔案,就能生成會說話會唱歌的AI,有博主利用這項技術生成了張國榮演唱的粵語歌曲《無條件》**。
在B站等平台上,不乏講述用AI“復活”親人、彌補遺憾的**,比如“用AI工具生成奶奶的虛擬數字人”、“AI復活奶奶,用時空對話彌補我的遺憾”等,還有大量的保姆級教程教你如何用AI復活親人。
在最近的一次發布中,他採訪了第一批為普通人定製AI數字人的實踐者張澤偉,他說他製作的AI數字人大致有兩種型別。 一種是智慧型驅動,即收集人類影象和語音等資料,並製作乙個可以與之對話的虛擬數字人類影象。 另一種是人為驅動,即用真人代替死者的形象和聲音,實時互動。
在實際效果上,第二個比較現實。 張澤偉表示,目前大部分人選擇這種真人劇形式。 由於需求火熱,張澤偉在一年內完成了600多個定製AI數字人訂單,平均訂單從幾千元到一萬元不等。
9.9元,就可以用AI來“復活”你所愛的人
在一些電商平台上搜尋“AI復活親人”,還能看到很多做相關業務的店鋪,聲稱“只要提供親人的高畫質個人照片和音訊,就能幫你實現心願”,低至99元,幾十元或幾百元。 其中大多數是市場上的開源模型。
也有商家自稱是自研資料模型,服務內容更細緻,收費標準多層次。 比如你定製親人的**talk**,30秒內就要花199元,每30秒分機要收費50元; 提供至少60秒的家庭錄音、微信語音、**語音、一對一恢復親人聲音,收費499元。
據張澤偉介紹,定製AI數字人的使用者範圍很廣,有想要擁有偶像數字轉殖的年輕人,也有想要“復活”死於癌症的孩子的母親,也有因特殊原因無法見到孩子,想用數字轉殖陪伴孩子的父親。
在他看來,AI數字人的核心是解決“陪伴問題”。 然而,目前乙個實際問題是AI詐騙頻發,而且很多都是鉅額騙取的,再加上中國人的傳統觀念,AI親戚“復活”的背後還存在著不少潛在風險。
其背後的法律和道德風險尚未解決
3月1日,劉德華影視公司@英藝娛樂發表嚴正宣告,提醒大家警惕AI語音合成**,引起廣泛關注。
宣告稱,微信使用者“安迪分享群”及其關聯**賬號“安迪大會號”通過資訊科技手段偽造劉德華的聲音,在未經授權的情況下不斷發布片段和拼湊**,導致公眾誤認,從而達到利用劉先生的人氣引流量、賣貨、牟利的目的。 該行為嚴重侵犯了劉德華的肖像權、姓名權和話語權,涉嫌構成詐騙。
隨著科學技術的進步,也出現了許多管理問題。 我們從人工智慧技術的發展和進步中受益,也注定要面對這項技術在重塑社會方面帶來的潛在風險,畢竟這已經不是劉德華的經歷第一次上演了。
去年,Up大師艾貝拉用AI技術“復活”了自己的偶像姚蓓娜,並為她製作了5首翻唱歌曲,包括《相思》《獨立的漢江曲無異》《海底》,引爆了網路。 艾貝拉說,剪輯的初衷是讓更多的人記住和記住姚貝娜,讓姚貝娜的聲音能多陪她。
然而,在**走紅之後,關於這種做法是否侵權的討論並沒有停止。 艾貝拉也意識到自己可能面臨的法律風險,他聯絡了姚貝娜的家人,在徵得了姚貝娜父親的同意後,他獲得了姚貝娜的語音授權,才繼續創作以下**。
除了法律風險,AI“復活”親人還面臨道德審判。 UP高手吳武柳此前用AI工具生成了奶奶的虛擬數字人,感動了很多人,但很多網友在彈幕和評論區表示,“太可怕了,我對人工智慧很抗拒”“反正我不會用我喜歡的人來做這件事。 他是唯一乙個,不是人工智慧可以模仿的。 ”
在中國人的傳統觀念中,這樣的**似乎是對死者的消費。 有網友在評論區留言,“這真的是一場倫理道德危機,首先,對死者的不尊重,肉體的死亡就是死亡,即使意識可以上傳,那麼你作為肉體的個人意識也會死亡,其他任何'你'都不是你。 再說了,這不就是對死者的消耗嗎,只要仔細想想,幾百年後,你可能還是別人的電子寵物,就算你親了,也有道德問題。 在這類領域,有必要跟進立法和哲學討論。 ”
事實上,2023年1月實施的《網際網絡資訊服務深度合成管理規定》就已經規定,“深度合成服務提供者和技術支持者提供人臉、語音等生物特徵資訊編輯功能的,應當提示深度合成服務使用者依法告知被編輯個人,並徵得其單獨同意。 ”
然而,如果合成死者**的聲音是合成的,誰應該同意的問題仍然沒有答案。 也許數字生活可以在不久的將來成為現實,但必須考慮的問題之一是如何減輕它面臨的法律和道德風險,以及如何對其進行監管以防止濫用。