A Apple-t Sürgetik, hogy Távolítsa el az AI Funkciót a Hamis Címsor Botrány Után

Egy jelentős újságírói ellenőrző szervezet arra szólította fel az Apple-t, hogy vonja vissza generatív AI funkcióját, miután az eszköz tévesen egy nagy hírverésű gyilkossági ügy címét tulajdonította a BBC News-nak.

A BBC csütörtökön számolt be arról, hogy vitát kavart az Apple új funkciója, az Apple Intelligence, amely tévesen generált egy címsort. A címsor azt sugallta, hogy Luigi Mangione, akit a egészségbiztosítási cég vezérigazgatója, Brian Thompson meggyilkolásával gyanúsítanak, öngyilkosságot követett el. A BBC azonban nem adott ki ilyen cikket.

A Riporterek Határok Nélkül (RSF), egy sajtószabadságot támogató nemzetközi szervezet, bírálta az Apple-t, mondván, az eset rávilágít az éretlen AI eszközök médiahitelwürdigkeit és a közvélemény bizalmának kockázatára.

Vincent Berthier, az RSF technológiai és újságírói csoportjának vezetője, elítélte a hibázást, nevezve azt a “médium hitelességének csapására” és fenyegetésnek a megbízható információkhoz való nyilvános hozzáférésre. Az RSF azonnali eltávolítását követelte az Apple-től a funkciót.

“Az Európai AI Törvény – annak ellenére, hogy ez a világ legfejlettebb jogszabálya ezen a területen – nem minősítette a információt generáló AI-kat nagy kockázatú rendszereknek, így kritikus jogi űrt hagyva hátra. Ezt az űrt azonnal be kell tölteni” – mondta Berthier.

A BBC megerősítette, hogy formális panaszt nyújtott be a tech óriáshoz, és megoldást kért, de továbbra is tisztázatlan, hogy az Apple válaszolt-e.

A hibás mesterséges intelligencia által készített összefoglaló nem korlátozódott a BBC Hírekre. November 21-én a funkció pontatlanul összefoglalta a New York Times egyik cikkét, hamisan sugallva, hogy az izraeli miniszterelnököt, Benjamin Netanjahut letartóztatták, ahogy azt a BBC cikkben is jelentették.

Ezt az értesítést, amelyet később a újságíró, Ken Schwencke emelt ki, valójában egy Nemzetközi Büntetőbíróság által kiadott elfogatóparancsra utalt Netanyahu ellen.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Az Apple Intelligence célja, hogy csökkentse az értesítések zavaró hatását azok összegzésével és csoportosításával. Az eszköz elérhető az iOS 18.1-et és újabb modelleket futtató iPhone-okon, valamint válogatott iPadeken és Mac-eken, de kritikát kapott a megbízható hírforrásokból származó információk félreértelmezése miatt.

A BBC szóvivője hangsúlyozta, hogy bár néhány csoportosított értesítés pontosan összefoglalta a globális eseményekről szóló történeteket, a Mangione-val kapcsolatos félreinformációk rámutattak a technológia potenciális káros hatásaira mind a médiaoutletekre, mind a közvélemény megértésére.

Az RSF figyelmeztetett, hogy “Ez a baleset azt mutatja, hogy a generatív AI szolgáltatások még túlságosan éretlenek ahhoz, hogy megbízható információkat szolgáltassanak a nyilvánosság számára, és nem engedélyezhetők ilyen célú piaci használatra.”

Ars Technica áttekintette az Apple értesítési összefoglalóit, több gyakran felmerülő problémát is megjegyezve. Először is, bár néhány összefoglaló tényszerűen helyes, robotikusnak és kínosnak hangzanak, különösen érzékeny témákban, mint a kapcsolatok vagy a mentális egészség. Mások félreértik az iróniát, a szlengot, vagy az idiomatikus kifejezéseket, gyakran túl szó szerint értelmezve őket.

A kontextus elvesztése egy másik nagy probléma, különösen amikor az összefoglalók figyelmen kívül hagyják a szál korábbi üzeneteit, vagy nem veszik figyelembe a multimédiás tartalmakat. A csoportos beszélgetésekben, ahol több téma is szóba kerül, az összefoglalók túlterheltekké válhatnak, összemossák a témákat, ami pontatlanságokhoz vezet.

Végül, néhány összefoglaló egyszerűen csak rosszul sikerül, gyakran azért, mert túl sok információt próbálnak túl kevés szóba sűríteni, ami torzított képet ad. Összességében ezek a problémák, amelyek befolyásolják a funkció hasznosságát és pontosságát, mindennapi használat során gyakran előfordulnak.

Mangione, akit most elsőfokú gyilkossággal vádolnak, központi szerepet játszik a a mesterséges intelligencia újságírásban rejlő kockázatokkal kapcsolatos vitában. A közvélemény hiteles hírekre való támaszkodása veszélyben van, mivel az Apple-t egyre nagyobb nyomás éri, hogy kezelje a problémát.