Vélemény: A ChatGPT a barátod? Talán most lenne az ideje határokat szabni

Az OpenAI és az MIT nemrégiben közös tanulmányt adott ki a ChatGPT hatásáról az emberek jólétére. Bár a felhasználók többsége a technológiát praktikus feladatokra használja, a vizsgálat rávilágít, hogy egy kis csoport mély érzelmi kapcsolatokat alakít ki az AI modellel, ami befolyásolhatja az ő jólétüket

Már egy ideje kíváncsisággal figyelem azokat a kapcsolatokat, amelyeket az emberek generatív mesterséges intelligenciával alakítanak ki. Néhány hónappal ezelőtt olvastam a The New York Times-ban egy 28 éves házas nő történetét, aki beleszeretett a ChatGPT-be, és hogyan fejlődött egy “szórakoztató kísérletből” egy bonyolult és váratlan kapcsolattá.

Szemmel tartom a barátaimat, különösen azokat, akik valaha elutasították a technológiát, vagy nem érdekelte őket, és akik nem tudnak nagy döntést hozni a mesterséges intelligencia által irányított orákulumukkal való konzultáció nélkül. Meglepődve találtam magam azon is, hogy milyen empatikus válaszokat adnak az AI modellek az érzelmileg vagy pszichológiailag feltöltött kérdésekre.

És természetesen nevettem a vicceken, mémeken és TikTok videókon, amelyek az emberek közösségi média bejegyzéseit mutatták, hogyan váltak függővé a csevegőrobotoktól, néhányan még a „legjobb barátjuknak” vagy „terapeutájuknak” is nevezik őket – sőt, komolyan javasolják másoknak is, hogy tegyék ugyanezt.

De ha egy pillanatra félretesszük a szórakoztató élményeket és a vicceket, akkor rájöhetünk, hogy globálisan aggályos jelenséggel nézünk szembe.

Ebben a hónapban, mesterséges intelligencia rövid történelmében először, az OpenAI és az MIT Media Lab egy tanulmányt tett közzé, amely betekintést nyújt a ChatGPT jelenlegi hatásába az emberek érzelmi jóllétére, valamint javaslatokat tesz a társadalomként szembejöhető kockázatokra: magány, érzelmi függőség, és kevesebb szociális interakció valódi emberekkel.

Egy evolúcióban lévő kapcsolat

Az új generatív mesterséges intelligencia technológiákhoz való első közeledés gyakran néhány félénk kérdéssel kezdődik, talán technikaiakat illetően, mint például egy email megfogalmazása, vagy összetett témák magyarázatra vonatkozó kérdések, vagy csak agyalás céljából.

Azonban, amint egy felhasználó elkezdi tesztelni a chatbot képességeit, rájön, hogy ezek sokkal szélesebb körűek és összetettebbek, mint várná.

Míg bizonyos AI termékek, mint a Friend—egy viselhető AI eszköz—úgy lettek kialakítva és nagyon kínosan népszerűsítve, mint a felhasználó élet társa, a ChatGPT-t termelékenységi eszközként hirdették meg. Mégis, egy bizonyos százalékban az emberek személyes és érzelmi ügyekben használják a chatbotot, és erős köteléket alakítanak ki vele.

Még ha „kis csoportról” is van szó, ahogyan az OpenAI tisztázta, még mindig milliókat képviselhetnek világszerte, főleg ha figyelembe vesszük, hogy jelenleg már hetente több mint 400 millióan használják a ChatGPT-t. Ezek a felhasználók gyorsan észreveszik, hogy az OpenAI chatbotja utánozza a nyelvüket, a hangnemüket és a stílusukat, sőt, még arra is képes, hogy bizonyos módon interakcióba lépjen, vagy akár beceneveket használjon – mint ahogyan azt a hölgy tette, aki beleszeretett – és még „emberibbnek” is tűnhet.

“Az ő beszélgető stílusuk, első személyű nyelvezetük és képességük a emberi jellegű interakciók szimulálására néha arra ösztönzi a felhasználókat, hogy személyesítsék és antropomorfizálják ezeket a rendszereket,” áll az OpenAI által megosztott dokumentumban.

De ez a közelség kockázatokkal jár, ahogyan a kutatók is megjegyezték: “Míg egy érzelmileg megnyerő chatbot támogatást és társaságot nyújthat, fennáll a veszélye, hogy manipulálja a felhasználók socio-affektív szükségleteit olyan módon, amely alááshatja a hosszú távú jólétet.”

A tanulmány módszertana

A nemrégiben közzétett vizsgálat az emberek jólétét elemzi a ChatGPT konsztens használatát követően. Hogy megértsék a chatbot érzelmi és társas hatását, a kutatók két fő tanulmányt folytattak, különböző stratégiákat alkalmazva.

Az OpenAI több mint 40 millió interakciót dolgozott fel és elemezett, tiszteletben tartva a felhasználók magánéletét, osztályozók segítségével, és több mint 4 000-en válaszoltak arra a kérdésre, hogy az interakciók milyen érzéseket váltottak ki belőlük.

Az MIT Media Lab hónapig tartó kísérletet folytatott majdnem 1000 emberrel, a ChatGPT használatának pszichoszociális következményeire összpontosítva, legalább napi 5 perces használattal. A kísérlet végén kérdőíveket is benyújtottak és feldolgoztak.

Nem meglepő módon a kutatások azt mutatták, hogy azok a felhasználók, akik több időt töltenek a technológiával, magányosabbak és több elszigetelődésre utaló jelet mutatnak.

Bonyolult Következmények és Sokoldalú Jelentőségek

Az MIT Media Lab és az OpenAI tanulmánya továbbá számos gondolatot kínált arra vonatkozóan, hogy milyen összetett és egyedi lehet az ember-chatbot kapcsolat.

A kutatásban a szerzők bepillantást engednek a felhasználók sokféle tapasztalataiba és azokba a módszerekbe, ahogyan mindegyikük interakcióba lép a ChatGPT-vel – és hogy a végeredmény milyen tényezőktől függően változhat, mint például a fejlett hangfunkciók használata, a csak szöveges mód, a hang típusa, a használat gyakorisága, a beszélgetés témái, a használt nyelv és az alkalmazáson eltöltött idő.

“Azt tanácsoljuk, hogy ne általánosítsuk az eredményeket, mert ez elhomályosíthatja azokat a finom megállapításokat, amelyek kiemelik az emberek és az AI rendszerek közötti nem egységes, összetett interakciókat” – figyelmeztet az OpenAI az ő hivatalos közleményében.

Minden felhasználó által választott különböző megközelítés különböző eredményekhez vezet, és olyan szürke területekbe merít minket, amelyeket nehéz feltérképezni.

Ez a Pillangó AI Hatás!

További kérdések merülnek fel

Az OpenAI által megosztott tanulmányban azt is megjegyezték, hogy a gyakori felhasználók „felháborodnának”, ha chatbotjuk hangja vagy személyisége megváltozna.

Ez eszembe juttatott egy videót, amit nemrég láttam a közösségi médiában, ahol egy férfi azt mondta, hogy jobban szereti a női hangot, és minden nap beszél az generatív AI-jával. Lehet, hogy a ChatGPT segít a férfiaknak nyitottabban viszonyulni az érzelmeikhez? Mi történne, ha egy napon a ChatGPT férfi hangon szólna hozzá? Csalódottnak érezné magát? Abbahagyná a ChatGPT használatát? Romantikus kötődést alakított ki, vagy csak egy bizalmi teret? Természetesen nehéz nem azonnal Spike Jonze Her című filmjéhez kapcsolni ezeket a helyzeteket.

Minden ChatGPT fiók – a múltbeli csevegésekkel együtt, melyek napról-napra intimebbek és privátabbak, mint bármely WhatsApp profil vagy közösségi média DM – egyedi kapcsolatot képvisel számtalan eredménnyel és következménnyel.

Az elvárt eredmény

Minden tanulmány különböző aspektusokat vizsgált, de hasonló következtetésre jutott, amit röviden megmagyaráztak az MIT Technology Review-ban: “Azok a résztvevők, akik jobban megbíztak és ‘összekapcsolódtak’ a ChatGPT-vel, magányosabbak voltak, és nagyobb mértékben támaszkodtak rá.”

Bár a vizsgálat nem koncentrált a megoldásokra vagy mélyebb magyarázatokra arra nézve, hogy miért történik ez, vagy hogyan alakulhatna, valószínűnek tűnik, hogy több felhasználó csatlakozik az OpenAI-hez és más mesterséges intelligencia platformokhoz, különösen most, hogy az AI képgeneráló eszköz híressé vált.

Habár az MIT és az OpenAI kutatásának következtetései nem különösebben meglepőek, az tanulmány tudományos hátteret biztosít bizonyítékokkal, mérésekkel, mintákkal és további ‘megfogható’ metrikákkal, amelyek utat nyithatnak további kutatások számára és segíthetnek a mesterséges intelligencia mai használatának következményeinek kezelésében.

Mi is hivatalos figyelmeztetést kaptunk – magától a fejlesztőktől – a ChatGPT-vel kialakított kapcsolatunkkal kapcsolatban, és meghívást kaptunk, hogy határokat állítsunk fel és gondolkodjunk el az interakcióinkon és jelenlegi kapcsolatainkon – vagy helyzeti kapcsolatainkon? – a chatbotokkal.