故意毒害他人在道德上從來都不是正確的。 但是，如果辦公室裡有人一直偷你的午餐，你不會做一些小小的報復嗎？
對於藝術家來說，這是一場艱苦的戰鬥，以保護他們的作品不被用於未經同意的 AI 模型訓練。 選擇退出請求和無抓取**依賴於人工智慧公司的良心，但那些有利潤意識的人很容易忽視這些措施。 對於大多數依靠社交***獲得佣金和其他工作機會的藝術家來說，將自己封閉線上下環境中並不是乙個好的選擇。
芝加哥大學的 Nightshade 專案為藝術家提供了一些反擊手段，通過“毒害”影象資料來使 AI 模型的訓練變得無用或具有破壞性。 領導該項目的電腦科學教授本·趙（Ben Zhao）將Nightshade比作“在午餐中加入辣椒醬，這樣它就不會從辦公室的冰箱裡被偷走”。
“我們正在證明這樣乙個事實，即一般來說，生成模型只是模型，”他說。 Nightshade 本身並不意味著要結束一切，它非常強大**來殺死這些公司。 Nightshade 只是用來表明這些模型是脆弱的，並且有很多方法可以攻擊它們。 這意味著內容所有者有辦法提供比寫信給國會或通過電子郵件、社交媒體**投訴更強硬的回應。 ”
趙和他的團隊並沒有試圖摧毀大型人工智慧公司，他們只是試圖迫使科技巨頭為授權作品付費，而不是用免費抓取的影象來訓練人工智慧模型。
有一種正確的方法可以做到這一點，“他繼續說道。 “這裡真正的問題是關於同意，這是關於補償。 我們只是為內容創作者提供了一種打擊未經授權的培訓的方法。 ”
左圖：原版《蒙娜麗莎》未作修改。 中：茄屬植物護理後的蒙娜麗莎。 右圖：AI在茄屬植物處理後“看到”的蒙娜麗莎。
Nightshade 以文字提示和影象之間的關聯為目標，巧妙地改變影象中的畫素，以欺騙 AI 模型解釋與人類觀眾看到的影象完全不同的影象。 這些 AI 模型會錯誤地對“陰影”影象中的特徵進行分類，如果它們使用足夠數量的“中毒”資料進行訓練，它們將開始生成與相應提示完全無關的影象。 在目前正在進行同行評審的一項技術中，研究人員寫道，需要不到100個“中毒”樣本來破壞傳播線索的穩定性。
例如，一幅牛懶洋洋地躺在草地上的畫。
“通過操縱和有效地扭曲這種關聯，你可以讓模型認為奶牛有四個圓形輪子，乙個保險槓和乙個後軀幹，”趙在接受採訪時說。 當系統提示他們生成一頭牛時，他們會畫一輛大型福特卡車而不是一頭牛。 ”
Nightshade 團隊也提供了其他示例。 未經改動的蒙娜麗莎肖像和蒙娜麗莎的夜影版本與人類幾乎相同，但人工智慧會將“中毒”樣本解釋為穿著長袍的貓，而不是女性的肖像。
在用夜影影象訓練模型使其看到貓後，提示 AI 生成狗的影象會產生一種可怕的混合體，與任何動物都沒有相似之處。
只需不到 100 張中毒影象即可開始破壞提示。
技術**指出，這些影響滲透到相關概念中。 破壞了“奇幻藝術”提示的茄屬樣本也影響了“龍”和專門從事奇幻和科幻封面藝術的插畫家“麥可·惠蘭”的提示。
Zhao 還領導了建立 Glaze 的團隊，這是一種遮罩工具，可以扭曲 AI 模型“看到”和判斷藝術風格的方式，阻止它模仿藝術家的獨特作品。 就像 Nightshade 一樣，人們可能會看到一幅逼真的木炭“釉面”肖像，但 AI 模型會將其視為一幅抽象畫，然後當提示生成精美的木炭肖像時，它會生成一幅凌亂的抽象畫。
在去年該工具推出後的一次採訪中，趙將 Glaze 描述為一種技術攻擊，作為一種防禦手段。 趙最近告訴**，雖然Nightshade不是“公然攻擊”，但它仍在對無視退出選擇的掠奪性AI公司發起攻勢。 OpenAI是因涉嫌違反版權法而面臨集體訴訟的公司之一，但它現在允許藝術家選擇退出，這樣他們的作品就不會被用於訓練未來的模型。
這種“選擇退出”的問題在於，它是最弱、最模稜兩可的請求型別。 沒有強制力，也沒有辦法強迫任何公司信守承諾，“趙說。 “有許多公司仍然在雷達下低調飛行，它們比 OpenAI 小得多，而且沒有邊界。 他們絕對沒有理由堅持這些選擇退出列表，他們仍然可以獲取您的內容並隨心所欲地使用它。 ”
藝術家凱利·麥克南（Kelly Mckernan）參與了針對Stability AI、Midjourney和Deviantart的集體訴訟，他在X上發布了他們的夜影和釉面畫的例子。 這幅畫描繪了乙個被霓虹燈纏繞的女人，而畫素化的相似物體則吸吮著她的本質。 這代表了生成式人工智慧“吞噬了人類創造者的真實聲音，”Mckernan寫道。
i'm terribly excited to share that “artifact” has been glazed and nightshaded by@theglazeprojectand what a perfect piece for it as well. this is a painting about generative ai cannibalizing the authentic voice of human creatives. when this image is scraped for training, well…pic.twitter.com/0vnfiyabc2
2022 年，隨著 AI** 生成器向大眾推出，Mckernan 開始看到與他們自己的畫作非常相似的影象。 當他們發現有50多件作品被抓取並用於訓練AI模型時，他們告訴**，他們已經失去了創作更多藝術的興趣。 他們甚至在人工智慧生成的內容中找到了自己的簽名。 他們說，在出現適當的管理之前，使用茄屬植物是一種保護措施。
“這就像外面有一場暴風雨，我仍然要去上班，所以我要保護自己，用一把透明的雨傘看向前方，”麥克南說。 這很不方便，我不會阻止風暴，但它會幫助我穿越到另一邊。 它還向那些只是試圖獲得並且沒有後果的公司發出了乙個資訊，那就是我們將進行反擊。 ”
Nightshade 所做的大多數更改應該是人眼看不見的，但該團隊確實注意到，“Nightshade”在色彩平淡、背景平滑的影象上更為明顯。 這個免費的**工具還提供低強度設定以保持視覺質量。 麥克南說，雖然他們可以看到在使用釉料和夜影后他們的形象發生了變化，但這是因為他們自己畫了這幅畫，並且自己可以看到它，但“幾乎不可能被發現”。
插畫家克里斯多福·布雷茨（Christopher Bretz）在他的一件作品中展示了Nightshade對他作品的影響，並將結果發表在X上。 在最低限度和預設設定下執行影象對插圖影響不大，但在較高設定下變化很明顯。
我整個星期都在嘗試 Nightshade，我將把 Nightshade 用於我所有的新作品和我的許多舊線上作品集，“Bretz 說，”我知道一些數字藝術家已經有一段時間沒有上傳新作品了，我希望這個工具能讓他們有信心再次開始分享。 ”
here is my first test image using nightshade!
i had it set to the defaults and it took -12 minutes - about 1/3 of the 30min estimate. i will try higher render qualities next.pic.twitter.com/1vscwxgmrx
and this is at the lowest settings, taking -11 min.pic.twitter.com/nbefx2zoza
理想情況下，藝術家應該在網上分享他們的作品之前使用釉料和茄屬植物，該團隊在一篇部落格文章中寫道。 該團隊仍在測試 Glaze 和 Nightshade 如何在同一張影象上互動，並計畫發布乙個整合了兩者的工具。 同時，他們建議先使用Nightshade，然後再使用Glaze，以儘量減少可見的影響。 該團隊強烈反對發布僅經過陰影且未上釉的藝術品，因為 Nightshade 並不能保護藝術家免受模仿。
即使是新增到影象元資料中的簽名和水印也是“脆弱的”，如果影象被更改，可以將其刪除。 即使通過裁剪、壓縮、截圖或編輯，Nightshade 所做的更改也保持不變，因為它們會修改構成 ** 的畫素。 趙說，即使是顯示 Nightshade 影象的螢幕的**也會干擾模型訓練。
隨著生成模型變得越來越複雜，藝術家面臨著越來越大的壓力，需要保護他們的作品和打擊剽竊。 steg.AI 和 IMAtag 通過應用人眼無法察覺的水印來幫助創作者建立影象所有權，儘管兩者都承諾保護使用者免受肆無忌憚的抓取。 去年推出的“No AI”水印生成器，將水印應用到AI生成的人造作品中，希望用於訓練未來模型的資料集能夠過濾掉AI生成的**。 也來自產卵一種用於 AI 的 Kudurru 工具，可識別並密切關注爬蟲的 IP 位址。 **所有者可以阻止標記的 IP 位址，或選擇傳送不同的影象，例如中指。
本週推出的另乙個工具，親屬ART採取了不同的方法。 與 Nightshade 和其他對影象進行加密修改的程式不同，Kin 會遮蔽影象的某些部分並交換其元標記，使其更難用於模型訓練。
Nightshade 的批評者聲稱該程式是一種“病毒”，或者抱怨使用它會“傷害開源社交**” 在 Nightshade 發布前幾個月的 Reddit 截圖中，Discord 使用它指責 Nightshade 是“網路戰恐怖主義”。 另乙個出人意料地在X上傳播開來的Reddit質疑Nightshade的合法性，將其比作“入侵易受攻擊的計算機系統以干擾其執行”。
不要宣布您的作品已經過茄屬植物處理，並讓它有點驚喜