A Google DeepMind elindítja az Open-Source Vízjel Eszközt, hogy segítsen az AI-által generált szöveg észlelésében

A Google DeepMind ezen a szerdán indított egy SynthID-Text nevű nyílt forráskódú vízjel eszközt, hogy segítsen az AI-által generált szövegek felismerésében. Az eszköz ingyenesen elérhető üzletek és fejlesztők számára, és úgy működik, hogy láthatatlan vízjeleket – amelyek az emberi szem számára észrevehetetlenek – helyez be a szövegbe generálás során, a szavak valószínűségeinek megváltoztatásával.

“Itt ismertetjük a SynthID-Text-et, egy termelésre kész szövegvízjel-sémát, amely megőrzi a szöveg minőségét, és magas észlelési pontosságot tesz lehetővé, minimális késleltetési többlettel,” áll a Nature oldalon publikált kutatás kivonatában. “A vízjelezés megvalósítása érdekében nagy skálán, kifejlesztettünk egy algoritmust, amely integrálja a vízjelezést a spekulatív mintavétellel, egy gyakran használt hatékonysági technikával a termelési rendszerekben.”

A MIT Technology Review szerint a technológiai óriás mesterséges intelligencia kutatólaboratóriuma kifejlesztette a SynthID technológiát, amely több mesterséges intelligenciával vízjelezett eszközt hozott létre, amelyek immár felismerik az AI által generált szövegeket, zenét, videót és képeket. A Google DeepMind egy videót osztott meg, amelyben elmagyarázzák, hogyan működik a technológia különböző médiumokon.

Így működik a SynthID vízjel az AI-által generált tartalmakon keresztül. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 2024. október 23.

SynthID a Google Felelős Generatív AI Toolkitjén keresztül érhető el, és a kutatók a Hugging Face-szel – egy fejlesztők számára létrehozott közösségi platformmal, amely más nyílt forráskódú projekteket is megoszt, mint például a LeRobot otthoni, AI által vezérelt robotok építésére szolgáló oktatóanyaga – dolgoznak együtt, hogy azt saját oldalukon is megosszák.

„Mostantól más [generatív] AI fejlesztők is képesek lesznek használni ezt a technológiát, hogy felismerjék, ha a szövegkimenetek saját [nagy nyelvi modellek]ből származnak, így könnyebbé válik több fejlesztő számára felelősségteljesen AI-t építeni” – mondta el Pushmeet Kohli, a Google DeepMind kutatásért felelős alelnöke az MIT Technology Review-nak.

A SynthID-t tesztelték a Google Gemini termékeiben, és milliók nem tudták megkülönböztetni a vízjelzett és a nem vízjelzett tartalmakat. A kutatók azonban elismerik, hogy korlátai vannak, ha a szöveget szerkesztették vagy lefordították, de továbbra is optimisták, és hiszik, hogy az eszköz segíthet a téves információk elleni küzdelemben és az AI biztonságának javításában.

Több technológiai cég is bejelentette az AI-címkézési stratégiáit az elmúlt hónapokban. A Meta februárban bejelentett egy rendszert az AI-tartalom azonosítására az Instagramon, a Facebookon és a Threads-en, a Google felhasználóitól elvárta, hogy címkézzenek AI-tartalmat márciusban, és a Tiktok címkéket adott hozzá az AI által generált tartalomhoz májusban.