A Chicago-i Egyetem Glaze és Nightshade Programjai Védelmet Kínálnak a Művészeknek az AI-vel Szemben

A művészek fellépnek a kizsákmányoló AI modellek ellen a Glaze és a Nightshade eszközökkel, amelyeket Ben Zhao és csapata fejlesztett ki a Chicago-i Egyetem SAND Laboratóriumában, ahogy azt a MIT Technology Review ma jelentette.

Ezek az eszközök azt a célt szolgálják, hogy megvédjék a művészek munkáját attól, hogy azokat az AI modellek kiképzésére használják fel engedély nélkül, amit sok alkotó lopásnak tekint. A Glaze, amelyet 2023 márciusi megjelenése óta több mint 4 milliószor töltöttek le, azzal védi a képeket, hogy finom változtatásokat ad hozzájuk, amelyek megakadályozzák, hogy az AI megtanulja a művész stílusát, állítja az MIT.

Az „offenzív” Nightshade tovább bonyolítja az AI modelleket, mivel láthatatlan módosításokat vezet be, amelyek torzíthatják az AI tanulást, ha azt képzésre használják, ahogy az MIT megjegyezte.

Az eszközöket a művészek aggodalmai inspirálták a generatív AI gyors elterjedése miatt, amely gyakran az online képekre támaszkodik új művek létrehozásához. Az MIT jelentése szerint a fantasy illusztrátor, Karla Ortiz és más alkotók is hangot adtak félelmeiknek, miszerint elveszíthetik megélhetésüket, mivel az AI modellek engedély vagy fizetés nélkül reprodukálják egyedi stílusukat.

A művészek számára az online posztolás elengedhetetlen a láthatóság és a bevétel szempontjából, azonban sokan megfontolták munkájuk eltávolítását, hogy elkerüljék az AI képzéshez történő lehúzását, egy olyan cselekedetet, ami hátráltatná karrierjüket, ahogy azt az MIT is megjegyezte.

A Nightshade, amely egy évvel a Glaze után indult, agresszívebb védelmet nyújt, jelentette az MIT. A képekhez „megmérgezett” pixeleket adva, megzavarja az AI képzést, ami arra kényszeríti a modelleket, hogy torz eredményeket hozzanak létre, ha ezeket a képeket lekaparják.
Az éjszakafű szimbolikus hatása visszhangot talált a művészek között, akik költői igazságnak tekintik: ha a munkájukat mesterséges intelligencia képzésre lopják el, az károsíthatja az azt kihasználó rendszereket.

Az MIT szerint a szerszámokban voltak kezdetben szkeptikusak a művészek, mivel aggódtak az adatvédelem miatt. Ezt kezelendő, a SAND Labor kiadott egy olyan Glaze verziót, amely offline működik, biztosítva, hogy ne történjen adatátvitel, és így építve a bizalmat azon művészekkel, akik félnek a kihasználástól.

A laboratórium nemrégiben kibővítette hozzáférését a Cara nevű, új közösségi platformmal való partnerség révén, amely betiltja az AI által generált tartalmakat, mint azt az MIT is megjegyezte.

Zhao és csapata azt a célt tűzte ki, hogy megváltoztassák az egyéni alkotók és az AI cégek közötti hatalmi dinamikát.

Zhao azzal a céllal kínál eszközöket, amelyek megvédik a kreativitást a nagyvállalatoktól, hogy hatalmat adjon a művészeknek munkájuk feletti ellenőrzés megtartásához, és újraértelmezze az AI és a szellemi tulajdonjog körüli etikai normákat, mondja az MIT.

Az erőfeszítés dinamikát nyer, de néhány szakértő óvatosságra int, mivel az eszközök nem biztosítanak tökéletes védelmet, mivel a hackerek és az AI fejlesztők módszereket keresnek ezeknek a védelmi rendszereknek a megkerülésére, ahogy az MIT megjegyezte.

Most már a Glaze és a Nightshade is ingyenesen elérhető, Zhao SAND laboratóriuma továbbra is az élen jár a művészi integritás védelmében az AI által vezérelt tartalomkészítés terjedő befolyása ellen.