這圖有毒!芝加哥大學研發Nightshade,讓藝術家反擊盜用版權的AI模型

在生成AI技術迅速崛起的時代,藝術家們面臨了前所未有的挑戰。他們的作品在未經同意的情況下被用於訓練AI模型,這不僅侵犯了他們的版權,更威脅到了他們創作的生計。2022年,藝術界在ArtStation上發起了「NO TO AI GENERATED IMAGES」的行動,反對AI生成的圖像,隨後,這類的反抗行動也持續發生

此外,一些藝術家也尋求訴訟來捍衛自己的權利,像在今年初,更爆出Midjourney在未經授權的情況下,使用許多作品來訓練AI模型,而涉及的藝術家名單也隨之公開,據稱這份名單目前已成呈堂供證。然而,這種小蝦米對抗大鯨魚的行動,依然讓藝術家們覺得自己在這場鬥爭中處於劣勢。


Nightshade與Glaze所帶來的新局面

正當藝術家們在這場不平等的戰鬥中尋找出路時,來自芝加哥大學的研究團隊為藝術家們帶來了一線曙光。由電腦科學教授Ben Zhao領導的研究團隊,他們致力於在快速發展的人工智慧領域中利用技術力來保護藝術家的權利。

繼2023年開發了能夠保護作品不被模仿的工具「Glaze」後,他們再度開發了一項能夠主動出擊的工具「Nightshade」。「Nightshade」企圖用AI的方法來對抗AI,就像是在圖片中下了魔咒一樣,能讓吃下這些圖片的AI模型最終產出錯誤的成果。這兩項創新工具可提供藝術家在數位時代捍衛版權的新方法,並且強調了藝術家在面對技術挑戰時的自主權。


Nightshade與Glaze的運作方式

「Glaze」透過改變藝術作品中的像素,讓AI模型難以解讀原始風格,像是為每件藝術作品加上一層個性化的保護罩。然而,這種改變非常精細,以至於人眼幾乎察覺不到,卻能有效阻止AI學習並複製作品風格。

「Nightshade」的工作原理類似於「Glaze」,但它不是用來防範風格上的模仿,而是作為一種攻擊工具,目的是扭曲AI模型對於特徵的識別。對人眼來說,經過「Nightshade」處理的圖像與原圖大致相同,但AI模型卻會識別出截然不同的內容。舉例來說,在人類眼中看到的是一片草地上躺著一頭乳牛,而AI模型看到的其實是草地上躺著一個大皮包。在經過多次的毒化訓練後,AI模型會開始做出錯誤的歸納,認為所謂的「乳牛」是「具有棕色的皮革把手、光滑的側面口袋以及拉鍊,甚至上面有著一個品牌的Logo」。仔細想想,這不只是技術上的進攻,更是個哲學式的進攻方式。

「Nightshade」的毒性非常強,即使只用極少數的樣本(約100個)也能達成高度成功的毒化攻擊。而且,毒化效果能有效的影響到相關的概念,這意味著無法僅透過更換提示詞來避免毒化。例如,針對「魔法世界」提示詞的毒化,也會影響到「哈利波特」和「J.K.羅琳」。

而當「Nightshade」對多個不同的概念(如物體、風格等)進行毒化時,即使這些概念在一條提示詞中同時出現,攻擊的效果還可以累積,意味著多次攻擊能讓毒化效果變得更強。最終,在AI模型吃了太多髒東西之後,不只是會產出失敗的圖片而已,更會造成整個AI模型不可逆的崩潰。

此外,「Nightshade」不僅對單一模型有效,它還能跨模型轉移,即使攻擊者和模型訓練者使用不同的AI架構或訓練數據,Nightshade的毒化攻擊仍能有效轉移至目標模型,並抵抗專門設計來防止這種毒化攻擊的防禦措施,在在顯示出它強大的滲透力和持久性。


Nightshade的迴響與影響

「Nightshade」自2024年1月18日發布以來,在首五天內就獲得了25萬次的下載次數,熱烈的響應超出了研究團隊的預期。與此同時,他們更早發布的工具Glaze,自2023年4月發布以來已獲得220萬次下載。未來,研究團隊打算研發一個結合「Glaze」(防禦性)和「Nightshade」(進攻性)的工具。這將使藝術家們能夠一面保護他們的創作,同時干擾AI模型的訓練。

然而,也有一些反對的聲音,認為這些工具是對AI發展的「破壞性」干預,在道德上似乎有些站不住腳。為此Ben Zhao和團隊也給出了一個再貼切不過的比喻:當冰箱裡的食物都已經貼上名條了,卻還是有人不斷偷吃你的午餐,試著在裡面加上一些辣醬,應該也不為過吧?他們也強調,「Nightshade」的目標絕非破壞AI模型,而是要增加對未經許可的數據進行訓練的成本,進而促使公司必須透過授權來拿到原始圖像,確保藝術家得到應有的尊重與報酬。

想想Midjourney和Stable Diffusion耗時費日調教的AI模型,如果在一夕之間崩潰,那成本想必是非常可觀,相較之下,付點錢給藝術家就能拿到優質的訓練樣本,或許還有機會創造雙贏的局面。不只是大公司需要注意,由於「Nightshade」的跨模型特性,對於拿開源數據/模型來訓練的人來說,也要小心毒化的殘留。


在AI技術迅速發展的當下,藝術家們被迫尋找新的方法來保護自己的創作和版權。「Nightshade」和「Glaze」的出現,代表著藝術家與AI之間的新一輪對抗。這不僅是一場技術上的戰鬥,更是關於權利和道德的辯論。透過這些工具,藝術家們希望能夠在AI時代中保持他們作品的獨特性和價值,不被無端剝削。對於創意產業來說,這是重要的一步,更為未來的藝術與技術之間的互動奠定新的基礎。

訂閱電子報

關於作者

返回頂端