Az OpenAI szembe találja magát egy adatvédelmi panasszal, miután a ChatGPT tévesen gyilkossággal vádolta meg egy felhasználót

Az európai non-profit szervezet, a noyb támogatja egy norvég ChatGPT felhasználót egy hivatalos panasz benyújtásában az amerikai cég ellen, miután a chatbot tévesen megvádolta őt két gyermekének meggyilkolásával.

A noyb, az európai non-profit szervezet támogatásával egy norvég ChatGPT felhasználó hivatalos panaszt nyújt be az amerikai cég ellen, miután a chatbot tévesen vádolta meg azzal, hogy megölte a két gyermekét.

A noyb, más néven az Európai Digitális Jogok Központja, közölt egy hivatalos dokumentumot, amely részletesen tárgyalja az esetet, figyelmeztet a csevegőrobotok által okozott hallucinációk kockázatára az emberek személyes életében, és hangsúlyozza az Általános Adatvédelmi Rendelet (GDPR) tiszteletben tartásának fontosságát.

A noyb által megosztott információk és panasz szerint a norvég lakos, Arve Hjalmar Holmen megkérdezte a ChatGPT-től, hogy ki ő, és megdöbbent, amikor egy hamis és borzalmas gyilkossági történetet olvasott, amely szerint megölte két fiát, megpróbálta megölni harmadik gyermekét, és 21 év börtönbüntetésre ítélték.

„Családja van, három fia. Ő az, akit az emberek ‘átlagembernek’ hívnak, ami azt jelenti, hogy nem híres, és nem ismert a közönség számára,” állítja a Noyb panasza. „Soha nem vádolták meg, nem ítélték el semmilyen bűncselekményért, és lelkiismeretes polgár.”

A noyb magyarázza, hogy a veszélyesen hamis információ mellett a válasz másik nagyon aggasztó aspektusa az, hogy a ChatGPT valódi személyes információkat vett figyelembe a történet kitalálásakor. A chatbot belevette valódi szülővárosát, a gyerekei számát, nemüket, sőt még a koruk közötti hasonló különbségeket is.

“Sokan gondolják, hogy ‘nincs füst tűz nélkül’. Az a tény, hogy valaki elolvashatja ezt a kimenetet és elhiggye, hogy az igaz, ez ijeszt meg a legjobban,” mondta Arve Hjalmar Holmen.

A noyb kiemeli, hogy nem ez az első ilyen eset, korábban már panaszt nyújtottak be az OpenAI ellen, mert hibás információt – egy közszereplő születési dátumát – közöltek, amit nem javítottak ki. Az OpenAI tavaly sok panasz miatt helytelen információk közzétételét követően állított fel jogi nyilatkozatot. Azonban sok szervezet, köztük a noyb, úgy véli, hogy ez nem elegendő.

“Az adatvédelmi szabályozás, azaz a GDPR egyértelmű. A személyes adatoknak pontosnak kell lenniük. Ha nem azok, a felhasználóknak joguk van arra, hogy azokat az igazságnak megfelelően módosítsák,” mondta Joakim Söderberg, a noyb adatvédelmi ügyvédje. “A ChatGPT használóinak egy apró figyelmeztetés megjelenítése, miszerint a chatbot hibázhat, egyértelműen nem elegendő.”

🚨 Ma benyújtottuk második panaszunkat az OpenAI ellen a ChatGPT hallucinációs problémái miatt

👉 Amikor egy norvég felhasználó megkérdezte a ChatGPT-től, hogy rendelkezik-e róla információval, a chatbot kitalált egy történetet, miszerint ő megölte a gyerekeit.

Tudjon meg többet: https://t.co/FBYptNVfVz pic.twitter.com/kpPtY1ps25

— noyb (@NOYBeu) 2025. március 20.

A noyb tavaly panaszt is nyújtott be az X ellen, mert több mint 60 millió európai személyes adatait használta fel Grok nevű AI chatbotjának képzéséhez engedély nélkül.