Vélemény: A chatbotok válnak az emberek elsődleges háziorvosaivá – lenyűgöző, de kockázatos

Egyre gyorsabban váltunk a Dr. Google-ról a Dr. Chatbotra. Augusztusban az OpenAI több mint 200 millió heti aktív felhasználóról számolt be, és bár a felhasználók legnépszerűbb kérdései az írásról és a programozásról szólnak, néhányan személyesebb ügyekben fordulnak hozzájuk, a randi tanácsoktól kezdve a bőrápolási rutinokon át a betegségek diagnosztizálásáig.

Egy nemrégiben megjelent tanulmány szerint az AI chatbotok felülmúlták az orvosokat a diagnosztikai pontosságban. De vajon valóban megbízhatunk-e az AI-ban, mint orvosainkban?

Ahogyan az emberek által érdeklődött témák köre kibővült, úgy nőtt a mesterséges intelligenciára való támaszkodás kockázataira és veszélyeire vonatkozó aggodalmak is az egészségügyi területen – beleértve az élet-halál kérdéseket is.

Dr. Chatbot hírneve “csodákat” művelve terjed

Néhány nappal ezelőtt, egy nő hírnevet szerzett a Reddit oldalon, mivel megosztotta, hogy a ChatGPT hogyan segített neki jobban javítani a bőrén, mint egy bőrgyógyász, lenyűgöző előtte-utána képekkel.

Egy 37 éves kaukázusi nő a ChatGPT segítségével alakított ki személyre szabott bőrápolási rutint, hogy kezelje zárt komedóit, és tényleg segített neki! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 2024. november 11.

„Majd azt a feladatot adtam a ChatGPT-nek, hogy viselkedjen, mint egy hivatásos bőrgyógyász, és segítsen nekem egy olyan bőrápolási rutint kialakítani, amely segít megszabadulni a zárt komedóimtól, az aknémtól, minimalizálni a pórusaimat és feszesíteni a bőröm, valamint csökkenteni a finom ráncokat. Azt is megadtam neki, hogy milyen volt a bőröm akkoriban,” – írta, majd megmagyarázta, hogy arra utasította a chatbotot, hogy vegye figyelembe az összes terméket, amit már birtokol, és javasoljon újakat egy bőrápolási rutin részeként.

Két hónap után a Redditor csodálkozva tapasztalta bőre állapotának javulását.

Nem egy elszigetelt esetről van szó. Sok felhasználó számolt be arról, hogy a chatbotok képesek voltak jobban megérteni és magyarázni a röntgen- és vérvizsgálati eredményeiket, mint saját orvosaik. Még a orvosok is meglepődtek a mesterséges intelligencia által értelmezett kép- és adatelemzéseken.

Miért használják az emberek a chatbotokat orvosként?

Az AI átalakulhat azzá a szakemberé, amire szüksége van – általános gyakorlati orvos, terapeuta, bőrgyógyász, táplálkozási szakértő, radiológus – amikor csak szüksége van rá, és számos oka van annak, hogy az emberek miért választják az AI-t az emberek helyett.

A szakértők költségesek lehetnek

A bőrproblémával küzdő hölgy elárulta, hogy körülbelül 400 dollárt költött a chatbot által javasolt termékekre.

“Ez egy jelentős befektetés volt, de ha arra gondolok, mennyibe került volna egy bőrgyógyászati konzultáció, ez még nem is olyan rossz,” írta.

A BetterCare szerint 2024-ben az Egyesült Államokban egy egészségbiztosítás nélküli páciensnek körülbelül 150 dollárt kell fizetnie egy bőrgyógyászati vizitre, és akár 1000 dollárt is a kezelésért. Egy pszichoterápiás ülés átlagos költsége – egy másik népszerű felhasználási terület az AI eszközök számára – 100 és 200 dollár között mozog ülésenként a Forbes Health szerint.

Az AI chatbotok olcsóbb alternatívák, és a legjobb választásnak tekinthetők, különösen az alacsonyabb jövedelmű emberek számára.

Természetesen felmerül egy másik kérdés is: Valóban költségcsökkentő intézkedés, ha valami rosszul sül el?

Gyorsabb és Kényelmesebb

Nemrég kiütés jelent meg a karomon. Annak ellenére, hogy láttam azt a nő bőrcsodájáról szóló bejegyzést, én inkább úgy döntöttem, hogy bőrgyógyászhoz fordulok Spanyolországban. A legkorábbi időpont, amit kaptam, három hónap múlva volt, még privát egészségbiztosítás ellenére is. Szerencsés vagyok, hogy úgy tűnik, ez csak szárazság, nem zavar, és remélhetőleg elmúlik, mire a doktor meg tud nézni.

Az orvosi ellátás időbeosztása a várostól és a beteg biztosítási tervétől függ. Azonban a specialistákhoz és még az alapellátást biztosító orvosokhoz is történő bejutás sok részén a világnak türelempróbára vált.

A chatbotok nem csak szó szerint kéznél vannak, de képesek elemzésre és válaszadásra pillanatok alatt a kérdéseinkre.

Kevesebb kínos pillanat

Van egy orvos barátnőm, akinek bármikor fordulhatok, ha orvosi tanácsra van szükségem, de a tény, hogy ő a barátnőm, néha kínossá teszi a helyzetet. Mielőtt írnék neki, mindig megkérdezem magamtól: Vajon érdeklődtem-e utána mostanában? Ő egy nagyszerű ember és csodálatos szakember, és biztos vagyok benne, hogy soha nem fogja abbahagyni a válaszadást az egészségügyi kérdéseimre. De, ember lévén, nem tudom megállni, hogy ne törődjek az érzéseivel is.

Az mesterséges intelligencia előnyei közé tartozik a saját mesterséges állapota. Nincsenek érzései vagy rossz napja, nem fog megítélni, vagy azt mondani neked, hogy “Ne légy már ilyen hipohonder” (nem mintha a barátom valaha is ezt mondaná nekem), mert arra vannak kiképezve, hogy udvariasak legyenek és válaszoljanak minden kérdésünkre a kívánt információval. Ez részét képeziannak, ami a technológiát addiktívvá teszi, és valószínűleg ezért sokan inkább a “privát” okostelefonjaikban tesznek fel kényelmetlen kérdéseket.

A chatbotokra való támaszkodás kockázatai és veszélyei

Mindez szuperül és izgalmasan hangzik, amíg nem vesszük a fáradtságot, hogy átgondoljuk a mesterséges intelligencia és az emberiség által jelenleg meghívott kockázatokat és kihívásokat.

Rossz utasítás, rossz helyesírás

Abban a tanulmányban, ahol az AI felülmúlta az orvosokat, fontos következtetést vontak le: azok a doktorok, akik használhatták az AI-t diagnosztikai segítőtársként, nem teljesítettek számottevően jobban, mint azok, akik nem használhatták azt. Miért? Nos, a probléma részben az volt, hogy nem tudták, hogyan írják meg a megfelelő kérdéseket ahhoz, hogy a legtöbbet hozzák ki az AI-ból.

„Úgy kezelték, mint egy keresőmotort irányított kérdésekhez: ‘A cirrózis kockázati tényezője-e a ráknak? Mik lehetnek a szemfájdalom lehetséges diagnózisai?’” – mondta Dr. Jonathan H. Chen, a tanulmány egyik szerzője a New York Times-nak.

Ez az egyik probléma, amellyel sok felhasználó és az AI technológiák is szembesülnek. A chatbotok ügyesek a diagnosztizálásban, de sok tünetet egyénre szabottan kell elemezni. Mi van, ha valaki nem adja meg a chatbotnak a megfelelő kontextust? Vagy elfelejt fontos részleteket vagy állapotokat megemlíteni, amelyeket egy valódi orvos a beteg előtt nem hagyna figyelmen kívül?

Pontatlanság és hallucinációk

A chatbotok profi mindentudók, és néha nagy magabiztossággal mondanak hibás dolgokat. És mi elhiszük nekik. És a felhasználók, akik a technológiára mindennap támaszkodnak, egyre inkább megbíznak benne.

Nehéz elfelejteni azt az időszakot—májusban—amikor a Google Gemini javasolta a felhasználóknak, hogy „adjanak hozzá kb. ⅛ csésze nem mérgező ragasztót a szószhoz, hogy tapadósabb legyen” egy pizzához.

Vicces volt, mert rögtön észrevehető volt a hallucináció—ez a kifinomult kifejezés arra, amikor az AI abszurd válaszokat ad. De mi van, ha ez egy bonyolultabb témára vonatkozik, mi van, ha az AI válaszát olvasó személy fél, magányos és aggódik az egészsége miatt?

Ahogy az AI hónapról hónapra egyre jobbá válik, még mindig fennáll a hibázás lehetősége.

Ki a hibás, ha valami rosszul sül el?

Az etikai vita jelenleg nagyon aktuális téma. Ha a chatbot hibás diagnózist ad vagy borzalmas tanácsot, ki a hibás? A fejlesztők, a modell, az AI cég, vagy azok a források, amelyek a modellt képezték?

Néhány héttel ezelőtt egy tragikus eset okozott aggodalmat, miután egy amerikai anya az AI-t hibáztatta 14 éves fia haláláért, és beperelte a Character.ai nevű startupot – egy platformot, ahol AI karaktereket lehet létrehozni. A tinédzser depresszióban szenvedett, és megszállottja lett a technológiának. Az avatárja, Daenerys Targaryen, megvitatta vele az öngyilkosság tervét, és még arra is bátorította, hogy hajtsa végre.

Miközben a Világgazdasági Fórum szerint az AI hatékony eszköz a világszerte tapasztalható mentális egészségügyi válság enyhítésére, és csökkentheti a szorongásos és depressziós esetek növekvő százalékos arányát, az is veszélyes lehet, különösen gyerekek számára.

“Saját Felelősségedre” Cselekedj

Bár még szükség van a fejlesztésére, szeretem azt gondolni, hogy az AI-nak nagy potenciálja van az egészségügyi várakozási idők csökkentésére – mind a szakorvosi vizsgálatokra, mind a sürgősségi osztályon történő ellátásra -, a tudományos előrelépések felgyorsítására, valamint arra, hogy támogassa az orvosokat, különösen azokat, akiket túlterhelt munkamennyiség és alacsony fizetés sújt, mint ahogy ez gyakran előfordul a latin-amerikai országokban, segítve a betegeket alapvető kérdésekben otthonról.

Szintén hozzájárulhat az egészségügyi ellátáshoz való hozzáférésben mutatkozó társadalmi osztályok közötti szakadékok áthidalásához, előkészítve az utat az orvoslás demokratizálódása felé, mint soha korábban. Mindez most elérhető közelségben van, mindössze egy kérdésre bárkitől, akinek hozzáférése van egy okostelefonhoz.

Azonban létfontosságú megérteni, hogy még mindig a kezdeti szakaszban vagyunk, és meg kell védenünk a legsebezhetőbb népességet. Mindenki, aki úgy dönt, hogy a Dr. Chatbot-ot választja egészségének javítása érdekében, annak ezt az apróbetűs részek megértésével, kritikus gondolkodással, és azzal a tudatossággal kell megtennie, hogy – egyelőre – ő vállalja a kockázatok felelősségét.