2025-ben Eltűnhet A Valódi És Az AI-Által Generált Videók Közötti Egyértelmű Határvonal

Az AI-által generált tartalom itt maradt, hogy velünk legyen. Egyre jobb és jobb, és 2024-ben jelentős fejlődést láttunk az AI technológiákban. Képesek leszünk különbséget tenni a valós és a nem valós között 2025-ben?

Nemrégiben azt kérdeztem magamtól, „Ez egy igazi nő?” – kissé hunyorogva – miután megláttam egy bejegyzést az Instagramon. „Nem, ez biztosan AI-által generált”, következtettem egy pillanat elteltével. Majd azon tűnődtem: még mindig képesek leszünk-e pillanatok alatt megkülönböztetni a kettőt jövőre? Minden jel arra mutat, hogy nem, különösen a közösségi médiában, ahogyan azt az AI technológiában a legutóbbi jelentős fejlemények is sugallják.

Néhány nappal ezelőtt az Instagram feje, Adam Mosseri, üzenetben foglalkozott ezzel a kérdéssel a Threads-en. „A generatív AI nyilvánvalóan olyan tartalmat hoz létre, ami nehezen különböztethető meg a valóságról készült felvételektől, és gyorsan fejlődik,” írta. Mosseri nyilvánosan elismerte, hogy a Meta-nél nehézséget okoz az AI által létrehozott tartalom címkézése és az ellenőrzése, valamint a közösségi média platformjaikon másodpercenként megosztott hatalmas mennyiségű média monitorozása.

Mosseri lemosta a Meta kezéről a felelősséget, és figyelmeztette a felhasználókat, hogy rajtuk áll megkülönböztetni, hogy egy bejegyzés valódi-e vagy sem. „Egyre fontosabb lesz, hogy a néző, vagy az olvasó, kritikus szemmel közelítsen, amikor olyan tartalmat fogyaszt, amely állítólag valóságot bemutató beszámoló vagy felvétel,” tette hozzá.

Néhány nappal később az OpenAI kiadta a Sora Turbo-t, a saját erőteljes AI video-generátorát, amellyel a Pro és Plus felhasználók szöveges utasításokból generálhatnak valósághű videókat. A felhasználók néhány perc alatt elkezdtek lenyűgözően valósághű videókat létrehozni és megosztani őket a közösségi médiában.

Éppen akkor, amikor úgy tűnt, hogy egy új szintre lép a videókészítés, a Google bejelentette legújabb AI video eszközét, a Veo 2-t, amely magasabb felbontású és hosszabb klippeket kínál, mint a Sora. Természetesen azok által megosztott eredmények, akik hozzáfértek a fejlett technológiához, még lenyűgözőbbek voltak.

“Ezt már senki sem mondhatja ki, hogy ez AI” – írta az egyik felhasználó.

It’s over.

A Google Veo 2 egyszerűen lemosta a versenytársakat és az AI média világának új királyává vált.

Senki sem mondhatná, hogy ez most AI.

10 vad példa: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 2024. december 17.

Már zajlik

2024-ben tanúi voltunk annak, hogyan hatott az AI által generált tartalom a népességre, a választásokra és a közösségi média felhasználóira.

Januárban a New Hampshire-i lakosok egy telefonhívást kaptak „Joe Bidentől”, aki arra kérte őket, hogy ne vegyenek részt az előválasztásokon. A csalás mögött a politikai tanácsadó, Steve Kramer állt, akit 6 millió dollár bírsággal sújtottak az AI által generált deepfake robocalls miatt. A kormányok kezdik megérteni, milyen hatással lehet az AI, és olyan nemzetek, mint például Szingapúr, jogszabályokat dolgoznak ki és stratégiákat alkotnak, hogy segítsék a lakosságot a deepfake tartalmak felismerésében.

Venezuelában az AI által generált videók téves információkat terjesztenek—de segítenek a újságíróknak is az információközlésben, AI avatárokon keresztül, hogy kikerüljék a cenzúrát.

Az embereknek egyre nehezebb megkülönböztetni, mi a valóság és mi nem, és ez nem az ő hibájuk: az AI által generált tartalom egyre jobb és jobb.

A magas minőségű, mesterséges intelligencia által létrehozott tartalom növekvő üzleti ágazat minden formájában; szöveg, hang és videó. Sok OnlyFans alkotó jelenleg csevegőrobotokra támaszkodik a rajongóikkal való beszélgetésekhez, ami korábban alacsonyabb jövedelmű országokban dolgozó alkalmi munkások feladata volt. Az új AI modellek, melyek flörtölési technikákra specializálódtak, már több mint 1000 dollár borravalót is kicsikartak követőiktől.

Áprilisban a Nvidia által támogatott startup, a Synthesia AI avatárokat indított útjára, amelyek képesek emberi érzelmek kifejezésére és 130 nyelven beszélnek. A TikTok lehetővé teszi a cégek számára, hogy AI által generált hirdetéseket hozzanak létre a Getty Images tartalmának felhasználásával, és most a YouTube alkotók az új AI automatikus szinkronizálási funkciót használhatják tartalmuk 9 nyelvre történő lefordításához, és a jövőbeli frissítések reprodukálják az eredeti hangot.

A Zoom azon dolgozik, hogy AI avatárokat hozzon létre, amelyek pontosan úgy néznek ki, mint a felhasználók, hogy segítsenek nekik üzeneteket rögzíteni és még a találkozókon is részt venni. Ez az eszköz jövőre kerül kiadásra, de az emberek már több eszközt teszteltek, és a cégek már képesek fotorealisztikus AI klónokat létrehozni.

Biztos abban, hogy a legutóbbi Zoom hívásán valódi személlyel beszélt?

Hogyan deríthetjük ki, hogy mesterséges intelligencia által lett-e létrehozva? Egyenlőre

Zavaros időket élünk ebben a digitális korban. A szűrők bárkit modellként, hibátlan bőrűvé tudnak varázsolni, és a Photoshop-szintű korrekciók csak egy kattintásnyira vannak az Instagramon vagy a Snapchaten – hányan szeretnék “természetes” képüket, hibáikkal együtt megosztani, amikor azokat másodpercek alatt ki lehet javítani? Egyre több hirdetést látunk, amelyekben mesterséges intelligencia által generált fotorealisztikus képek szerepelnek, fokozatosan meggyőzve szemeinket azok ismerős voltáról és “normalitásáról”. És minden nap meglepő események történnek a világban, amelyek arra késztetnek minket, hogy megkérdezzük: mi a valóság, és mi már nem az?

A nagy mesterséges intelligencia vállalatok vizjel technológián dolgoznak, hogy könnyen felismerhessék az általuk generált tartalmat. A Google DeepMind októberben indította el nyílt forráskódú vizjel rendszerét, amely mesterséges intelligencia által generált videókra, szövegre és hanganyagokra vonatkozik, és a Meta is beépített egyet az AI videós eszközébe.

Viszont a hatékonyságuk kérdéses, kezdve azzal, hogy a Meta elismeri, nem tudják minden mesterséges intelligencia által generált tartalmat megjelölni. A rosszindulatú személyek még mindig találnak módokat a vizjelek eltávolítására, és további törvények, partnerségek és megállapodások szükségesek a közösségi médiavállalatok és a kormányok között, hogy hatékonyabb rendszert valósíthassanak meg.

Egyelőre, a saját megérzéseinken kívül, feltehetünk magunknak néhány kérdést, mielőtt megosztanánk valamit a közösségi médiában, vagy elhinnénk, amit látunk:

• Ahogy Mosseri is javasolta, fontoljuk meg a következőt: Ki osztja meg ezt az információt? Ez egy megbízható forrás?
• Robotikusnak tűnik a személy kifejezése vagy mozgása? Bár az AI avatárok elég valósághűek lehetnek, még mindig felismerhető egy furcsa merevség vagy érzelemhiány – bár vegyük figyelembe, hogy már vannak olyan cégek, mint a Synthesia, amelyek ezen javítanak.
• A tartalom arra van-e tervezve, hogy erős érzelmi reakciót váltson ki? A rosszindulatú szereplők tudják, milyen könnyen megosztjuk a negatív híreket és interaktálunk az érzelmileg feltöltött anyagokkal a közösségi médiában, és a kutatások is ezt igazolják. Mielőtt megosztanád azt a tartalmat, ami a vérét forralja fel, hogy mások is olyan felháborodottak legyenek, mint te, gondold végig, hogy ez arra van-e tervezve, hogy vitát generáljon, vagy valóban igazi hír vagy valós esemény.
• Ellenőrizheted a tartalmat más forrásokkal? Soha nem árt duplán ellenőrizni megbízható forrásokkal.

És végül, feltetted már magadnak – vagy a kedvenc chatbotodnak – a kérdést, hogy hogyan fejlesztheted a kritikai gondolkodásodat? A kritikai gondolkodás fejlesztése mindenképpen szerepeljen mindenki újévi fogadalmai között.