作者：蕭燕
編輯：彩雲
12月19日，抖音官宣重要公告，宣布將打擊包括AIGC在內的六種新型違法行為。 所謂AIGC，是指生成式人工智慧，目前勢頭強勁。 我們之所以要打壓AIGC，其實就是為了重點打擊新型集資
抖音旨在打擊黑灰產業，AIGC詐騙成為不可避免的“路障”。
事實上，抖音這次重拳出擊的主要目的，就是為了打擊黑灰行業“養粉養賬號”的違法行為。 因為抖音是在日常檢查中被發現的，不少黑灰行業組織利用AIGC偽造、盜取、編輯他人直播內容，以官方名義發布培訓課程等，批量發布低質量違法內容，試圖達到快速增加粉絲、提公升賬號的目的。
其中，AIGC技術用於建立頭像並冒充真人進行直播它是最典型和最常見的之一。 如果你有刷短**的習慣，你一定刷過虛擬人直播或說話的內容。 他們要麼模仿真主播虛擬帶貨，要麼在那裡聊情感雞湯、知識普及、理財等方面。
相較於實際進行直播或發布內容的真實主播，使用虛擬人來完成這些任務要容易得多。 試想一下，乙個真正的主播，要進行一場時長8-10個小時的直播，難度是難以想象的高強度，但虛擬人無法適應高強度的工作，也就沒有問題。 就算不做流量投放，也足以延長直播時間提高數量，增加粉絲數量，對粉絲進行人群畫像，從而獲得更精準的新客戶。即使虛擬人的直播表現對於真人來說並不理想，但即使虛擬人的直播間只有幾十人或幾十人，評論區仍然不乏支付訂單和評論。
抖音曾出手堵住AIGC的漏洞：標明，後果自負。
事實上，這並不是抖音第一次對AIGC提出規範和要求。
早在今年5月9日，抖音官方發布訊息，首次提出AIGC的平台規範和行業舉措。 敲擊關鍵點，有兩個方面非常重要，引起了特別的關注。 一是AIGC內容的標註，二是虛擬人的註冊和認證。
首先，我們來談談AIGC的註解，就是簡單地“加水印”。
抖音在相關規範中明確說明深度合成服務，包括AI寫作、AI文字編輯、AI語音合成等，可能會引起混淆，必須有明確的水印和標註。無論是用今年火的ChatGPT、Midjourney，還是國內的文心一格、文心一顏等文字和**生成產品，還是墨音工坊這樣的語音生成產品，都屬於“標記”的範疇。 對於識別方法，簡單來說，就是要在各種**、**檔案的“左上角”標註“AI生成”字樣，以及使用的生成工具名稱和公司名稱水印。
大多數服務商都看好抖音要求的“水印”，普遍認為新增水印不會影響內容的傳播，但可以達到保證真實性的目的。 許多人認為“這是正確的決定”，並且將來會“成為常態”。
相較於AIGC內容的識別，虛擬人的情況要複雜得多。
當時，抖音在公告中明確表示，支援虛擬人的發展，但虛擬人需要經過認證，禁止完全無人化的AI直播。 根據用途，抖音上的虛擬人有兩種型別，一種是“娛樂”虛擬主播;一種是功能性的虛擬人，最直觀的是那些需要完成直播目標的人。
但是，使用者對虛擬人直播的行為並沒有太多的了解。 **與直播主播相比，虛擬人的直播內容質量差，語言木訥，沒有什麼新鮮可言的。 對於廣大商家來說，使用虛擬人帶貨並不是乙個選項，虛擬人不僅難以完成KPI和實現創收，還容易被平台判違規。
事情就是這樣。 時隔半年後，抖音正式提高了門檻和要求，直接提出了“禁止AIGC欺詐”的要求，向AIGC展示了一張清牌。 這可以認為是進一步明確了抖音的官方立場和屬性。
抖音率先雷霆萬鈞，或將成為行業的風向標。
ChatGPT為人工智慧開啟了一扇新的大門，讓我們看到了人工智慧的力量，同時，相應的潘多拉魔盒也被開啟了。
隨著技術的不斷成熟，AIGC逐漸從概念階段走向實際實施階段，爭議和風險層出不窮。一段時間以來，人工智慧生成的內容是假的、資料洩露和侵權的案例頻發，這進一步放大了人工智慧對社會構成的危險。
如今的AIGC在短道速滑中應用廣泛，創作者、主播、使用者、商家、廣告主等平台生態參與者都將無一例外地參與到AIGC的參與中。 這也是抖音率先出台相應行業規範的重要原因。
監管與創新技術和創新模式之間始終存在著關係。 首先是技術，然後是風險，然後是標準化的需求。 隨著監管的進行，行業的發展將朝著更有利的方向發展。
當然，規範的引入並不意味著它將一勞永逸地完成。 在執行監管的過程中，我們還存在一些實際問題。 例如，如何定義具體職責？如何收集證據？但無論如何，人工智慧的監管已經提上日程，這是非常令人欣慰的。