Ha azt hitted, hogy a TikTok csak táncokról meg vicces mémekről szól, akkor kapaszkodj meg: mostanában egy egészen sötét jelenség ütötte fel a fejét a platformon és más közösségi oldalakon. AI-generált deepfake videókban orvosokat hamisítanak meg, akik állítólag menopauzával kapcsolatos étrend-kiegészítőket ajánlanak. És nem csak ajánlanak – egyenesen manipulálják a nézőket, hogy vásároljanak bizonytalan hatású termékeket egy Wellness Nest nevű amerikai cég weboldalán.
Hogyan működnek ezek a deepfake videók?
A Full Fact tényellenőrző szervezet nemrég leleplezett több száz ilyen videót, amelyekben valódi egészségügyi szakértők arcát és hangját használták fel az interneten elérhető anyagokból. Csakhogy az eredeti felvételeket mesterséges intelligenciával átírták: az orvosok szájába olyan mondatokat adtak, amelyekkel valójában nem értettek egyet, és amelyek célja kizárólag az volt, hogy menopauzán áteső nőknek probiotikumokat vagy Himalája shilajit nevű étrend-kiegészítőt ajánljanak.
Ez engem személy szerint nagyon meglepett és aggasztott. Az egészségügyi információk pontossága életbevágó, és ha ilyen hamisított tartalmak terjednek, az komoly károkat okozhat.
A manipulált orvosok és az álhírek
Az egyik legérdekesebb eset Prof. David Taylor-Robinson, aki a Liverpooli Egyetem egészségügyi egyenlőtlenségekkel foglalkozó szakértője. Ő maga is döbbenten tapasztalta, hogy TikTokon 14 olyan videó jelent meg róla, amelyben hamisan állítják, hogy menopauzával kapcsolatos termékeket ajánl. Pedig Taylor-Robinson elsősorban gyermekegészségülettel foglalkozik – mégis a klónozott verziója egy teljesen kitalált „thermometer leg” nevű menopauzás tünetről beszélt.
A deepfake videóban a hamisított Taylor-Robinson azt mondta, hogy a nőknek érdemes ellátogatniuk a Wellness Nest oldalára, ahol egy „természetes probiotikumot” árulnak, amely tíz tudományosan alátámasztott növényi kivonatot tartalmaz – például kurkumát, fekete cohosht vagy moringát –, amik állítólag enyhítik a menopauza tüneteit. A videóban még azt is hozzátették, hogy „a női kollégák gyakran számolnak be mélyebb alvásról és kevesebb hőhullámról néhány héten belül”.
Az igazi Taylor-Robinson csak akkor jött rá erre az egészre, amikor egy kollégája szólt neki. „Először nagyon zavaros volt az egész – szinte szürreális,” mesélte. „A gyerekeim viszont nagyon viccesnek találták.” Bár nem érezte magát durván megsértve, egyre inkább bosszantotta, hogy valaki az ő nevével próbál meg termékeket eladni és közben egészségügyi tévhiteket terjeszteni.
Milyen forrásból készültek ezek a hamis videók?
A deepfake videókhoz használt eredeti felvételek Taylor-Robinson korábbi nyilvános szerepléseiből származnak: például egy 2017-es Public Health England konferencián tartott előadásából vagy egy parlamenti meghallgatásból idén májusban. Egyik videóban még olyan durva dolgokat is mondott a hamisított verziója – például káromkodott vagy nőgyűlölő megjegyzéseket tett –, ami teljesen eltér attól, amit valójában képvisel.
TikTok végül hat hét után távolította el ezeket a videókat Taylor-Robinson panaszára. „Eleinte azt mondták, hogy néhány videó sérti az irányelveiket, de mások nem – ami abszurd volt, hiszen mindegyik deepfake volt,” mesélte. „Elég macerás volt elérni a törlést.”
További érintettek és platformok
A Full Fact további nyolc deepfake-et talált Duncan Selbie-ről is, aki korábban a Public Health England vezetője volt. Őt is hamisan mutatták be menopauzával kapcsolatos témákban ugyanarról az eseményről származó felvételekből. Selbie szerint az egyik ilyen videó „hihetetlenül jól sikerült utánzat”, de teljesen hamis és nem vicces – mert sokan komolyan veszik ezeket a tartalmakat.
Nem csak TikTokon bukkantak fel ilyen manipulált anyagok: X-en (korábban Twitter), Facebookon és YouTube-on is találtak hasonlókat. Ezek mind összekapcsolhatók voltak a Wellness Nest nevű céggel vagy annak brit leányvállalatával. A deepfake-ek között olyan ismert szakértők is szerepeltek mint Prof. Tim Spector vagy az elhunyt Dr. Michael Mosley dietetikus.
Mit mondanak az érintettek és hatóságok?
A Wellness Nest tagadta bármiféle kapcsolatot ezekkel a deepfake videókkal: állításuk szerint soha nem használtak AI-generált tartalmat és nem tudják ellenőrizni partnereiket világszerte.
Helen Morgan, a Liberális Demokraták egészségügyi szóvivője keményen fogalmazott: szerinte az AI-t ma már arra használják, hogy ártatlan embereket becsapjanak és kihasználják az egészségügyi rendszer hiányosságait. Szerinte az ilyen hamis orvosokat meg kellene büntetni ugyanúgy mint bármely csalót – de digitális térben ez még mindig elfogadott gyakorlat.
Morgan azt javasolja, hogy minden AI-alapú egészségügyi tanácsadást automatikusan irányítsanak át valódi NHS támogatásra, így biztosítva a helyes diagnózist és kezelést. Aki pedig pénzt keres álhírekkel vagy hamis orvosi tanácsokkal, annak büntetőjogi felelősséget kellene vállalnia.
TikTok válasza és további lépések
A TikTok szóvivője megerősítette: eltávolították Taylor-Robinsonhoz és Selbie-hez köthető tartalmakat szabályzatuk megsértése miatt – különösen ami a megtévesztést és személyes megszemélyesítést illeti. Elismerik azonban, hogy az AI-alapú félrevezető tartalmak kezelése iparági kihívás marad, ezért folyamatosan fejlesztik eszközeiket ezek kiszűrésére.
A brit Egészségügyi Minisztérium (Department of Health and Social Care) megkeresésünkre nem adott részletes választ.
Miért fontos ez neked?
Te is találkozhatsz ilyen manipulált videókkal anélkül, hogy gyanakodnál rájuk. Az internet tele van hitelesnek tűnő tartalmakkal – de ha nem figyelünk oda kritikus szemmel, könnyen bedőlhetünk álhíreknek vagy veszélyes termékek reklámjának.
Érdemes mindig ellenőrizni forrásokat és szakértők valódi véleményét keresni megbízható oldalakon. Ha pedig gyanús tartalommal találkozol közösségi médiában – például orvosokat hamisan idéző videóval –, ne habozz jelenteni azt!
Az AI fejlődése fantasztikus lehetőségeket rejt magában – de ha rossz kezekbe kerül, akár életveszélyes következményekkel járhat. Vigyázzunk egymásra online is!
