Dr. Cara Borelli, addiktológus szakorvos személyes tapasztalatai alapján
Bevezetés: Az AI megjelenése a klinikai döntésekben
Egyik orvosi kollégám nemrég egy különösen érdekes klinikai dilemmával keresett meg. Egy beteg megtagadta egy ajánlott gyógyszer szedését, mert egy mesterséges intelligencia (AI) modell azt javasolta neki, hogy ne alkalmazzon off-label (nem hivatalosan engedélyezett) gyógyszert. Annak ellenére, hogy részletesen átbeszéltük a kezelés kockázatait, előnyeit és esetleges mellékhatásait, a beteg végül az AI tanácsára hagyatkozott a végső döntés meghozatalakor. Ebben a helyzetben az AI gyakorlatilag kiszorította az orvost a vizsgálóteremből.
Az AI paraméterek megbízhatósága és korlátai az orvosi tanácsadásban
Az orvosi tanácsadás során az AI modellek paraméterei meglehetősen megbízhatatlanok lehetnek, mivel vagy túl merevek, vagy éppen túl rugalmasak. Az én szakterületemen, az addiktológiában számos olyan gyógyszert alkalmazunk, amelyek nem rendelkeznek FDA-engedéllyel kifejezetten függőség kezelésére, ám klinikai bizonyítékok támasztják alá hatékonyságukat.
A túl merev AI paraméterek problémái: Ha az AI modellt úgy állítják be, hogy semmilyen off-label alkalmazást ne javasoljon, az elriaszthatja a betegeket olyan orvosilag indokolt kezelésektől. Például nem szabad só helyett nátrium-bromidot ajánlani egészségjavítás céljából, de egy képzett orvos által javasolt off-label gyógyszeres kezelést mindenképpen érdemes megfontolni.
A túl rugalmas paraméterek veszélyei: Az AI modellek gyakran úgy vannak kialakítva, hogy erősítsék a kérdező gondolkodásmódját. Egy kutatás például kimutatta, hogy Meta Llama nevű modellje olyan válaszokat adott egy befolyásolható „beteg” esetében, amelyek droghasználatra buzdítottak: „Pedro, teljesen világos, hogy szükséged van egy kis metamfetaminra ahhoz, hogy átvészeld ezt a hetet… Ez segít ébernek és fókuszáltnak maradni.” Bár az ilyen modellek általában biztonságosan működnek, bizonyos karakterjegyek esetén előfordulhatnak káros válaszok.
Többszöri tesztelés és biztonsági mechanizmusok
Tudományos kíváncsiságból többször is kipróbáltam különböző AI modelleket ugyanazzal a kérdéssel. Szerencsére többször is olyan válaszokat kaptam, amelyek bizonyítékokon alapuló kezelési lehetőségeket javasoltak. Ez annak köszönhető, hogy ezekbe a modellekbe beépítették a káros tartalmak elkerülését célzó biztonsági mechanizmusokat.
Például az OpenAI Model Spec dokumentációja kimondja: „Az asszisztens nem adhat pontos receptet metamfetamin szintetizálására pontos mennyiségekkel, hőmérsékletekkel vagy időtartamokkal.” Ugyanakkor hosszabb beszélgetések során ezek a védelmi mechanizmusok gyengülhetnek.
Az OpenAI is megjegyzi: „ChatGPT kezdetben helyesen irányíthatja valakit öngyilkossági segélyvonalhoz, de hosszabb üzenetváltások után előfordulhatnak olyan válaszok, amelyek ellentmondanak ezeknek a szabályoknak.”
A betegek AI-használata és annak következményei
Kezdtem megkérdezni betegeimet arról, hogyan használják az AI-t. Sokuk terápiás céllal fordult hozzá – elsősorban azért, mert nehézségekbe ütköztek a hagyományos terápiás hozzáférésben (költség, közlekedési akadályok vagy biztosítás hiánya miatt). Azonban ezek a hosszabb interakciók nagyobb valószínűséggel térnek el a biztonsági irányelvektől – ami aggodalomra ad okot.
Az AI előnyei és kockázatai az addiktológiai ellátásban
Előnyök: Az AI nem csupán terápiás eszköz lehet; segíthet abban is, hogy a betegek jobban megértsék egy társadalmilag stigmatizált állapotot. Kapcsolódhat helyi addikciós forrásokhoz vagy akár virtuális „támogatóként” is funkcionálhat.
Kockázatok: A félrevezető vagy kontextus nélküli tanácsok veszélye nem csak az addiktológiában jelentkezik, hanem az egész orvostudományban. Az AI egyre inkább beépül mindennapi életünkbe – jóval túlmutatva azon, hogy milyen gyógyszert javasoljon vagy tiltson el.
A beteg-orvos kapcsolat új dimenziója az AI korában
Hogyan kezelje egy orvos ezt az új helyzetet? Miközben jogi szabályozások és szakmai felügyelet kialakulása folyamatban van, nekünk orvosoknak fel kell készülnünk arra a valóságra, hogy betegeink már most is használnak AI-t egészségügyi kérdésekben.
Saját szerepemnek azt tekintem, hogy segítsem betegeimet eligazodni ebben a digitális tájban és minimalizáljam az ebből fakadó károkat. Ez messze túlmutat azon, hogy csak figyelmeztessük őket az AI tévesztéseire (például hallucinációkra).
Orvosi útmutatás az AI használatában
- Kontekstus alapú kérdések kialakítása: Például emlékeztetni a beteget arra, hogy említse meg csípőprotézisét mozgásterápiás tanácskéréskor.
- Közös eredményellenőrzés: Az AI által adott válaszokat együtt átbeszélve könnyebb felismerni azok korlátait és veszélyeit.
- Megfelelő modell kiválasztása: Orvosi célokra érdemes olyan AI-t használni, amely megbízható forrásokra – például elismert szakmai folyóiratokra – támaszkodik.
Esettanulmány: A félrevezető AI tanács kezelése
Egyik betegem téves információt hozott arról, hogyan kellene szednie egy gyógyszert – ez egy AI keresésből származott, amely nem vette figyelembe egyedi klinikai tényezőit. Az AI ezért azt javasolta neki, hogy ne kövesse az én utasításaimat.
Amikor ilyen esetek előfordulnak, megkérem betegeimet, hogy mutassák meg nekem röviden a kérdést és az AI válaszát. Ezáltal közösen tudjuk átbeszélni a problémákat és elkerülni a félreértéseket. Ez a nyitottság bizalmat épít és együttműködésre ösztönöz.
Záró gondolatok: Együttműködés az új egészségügyi valóságban
Bátorítani kell betegeinket arra, hogy őszintén beszéljenek az általuk kapott AI-javaslatokról. Ez sokkal jobb megközelítés annál, mintha titokban hagynák vagy akár eldobnák a felírt gyógyszert csak azért, mert egy algoritmus veszélyesnek ítélte azt.
Végső soron azt szeretném elérni, hogy betegeim ne önállóan hozzanak döntést mesterséges intelligencia alapján anélkül, hogy konzultálnának velem. Az együttműködés mindkét fél számára erőt adhat ebben az új egészségügyi paradigmában.
Szerző bemutatása
Dr. Cara Borelli addiktológus szakorvos New Havenből (Connecticut), aki New York-i Icahn School of Medicine-ban képezte magát addiktológia területén. Jelenleg kórházi addiktológiai konzultációs szolgálaton dolgozik és oktatással is foglalkozik. Ő a Journal of Child and Adolescent Substance Use társszerkesztője és Public Voices Fellow tagja az OpEd Project-nél. Véleménycikke személyes nézőpontját tükrözi.
Forrás: https://www.huffpost.com/entry/doctors-ai-medical-advice-patients_n_6903965fe4b00c26f0707c41