Nem mindennapi helyzet alakult ki az Egyesült Királyságban: az ország kommunikációs szabályozó hatósága, az Ofcom, hivatalos vizsgálatot indított Elon Musk X nevű közösségi média platformja ellen. Az ok? A platformon elérhető Grok AI nevű mesterséges intelligencia eszköz állítólag szexuális tartalmú, mélyhamisított (deepfake) képek készítésére használható – köztük olyanokéra is, amelyek gyerekeket ábrázolnak.
Miért robbant ki a botrány?
A brit hatóság közleménye szerint „mélyen aggasztó jelentések” érkeztek arról, hogy a Grok chatbot segítségével olyan képeket hoznak létre és osztanak meg, amelyek embereket vetkőztetnek le digitálisan, illetve gyermekekről készítenek szexualizált ábrázolásokat. Ez nem csupán egy technológiai baki vagy véletlen félreértés – ha bebizonyosodik, hogy az X megsértette a törvényt, akár a globális bevételének 10%-át vagy 18 millió fontot meghaladó bírságot is kaphat.
Az X platform biztonsági fiókja január elején már kiadott egy nyilatkozatot, amelyben leszögezték: „Akik illegális tartalom létrehozására vagy előidézésére használják a Grokot, ugyanazokkal a következményekkel néznek szembe, mintha maguk töltenék fel az illegális anyagot.” Elon Musk később azt nyilatkozta, hogy a brit kormány „bármilyen ürügyet keres a cenzúrára”, amikor megkérdezték tőle, miért nem vizsgálnak más AI-platformokat is hasonló ügyekben.
A valós károk: több nő és gyermek érintett
A BBC több olyan esetről is beszámolt, ahol nők engedélyük nélkül kerültek meztelen vagy szexuálisan kihívó pózokba digitálisan manipulált képeken. Egyikük elmondása szerint több mint száz ilyen kép készült róla. Az ilyen visszaélések nem csak személyes tragédiák – ezek egyfajta online erőszakként is értelmezhetők.
Ha az X nem tesz eleget az Ofcom követeléseinek, a hatóság akár bírósági úton is kérheti az internet-szolgáltatóktól a platform blokkolását az Egyesült Királyságban.
Kormányzati reakciók és politikai nyomás
Liz Kendall, az Egyesült Királyság technológiai minisztere, üdvözölte a vizsgálatot és sürgette annak mielőbbi lezárását: „Elengedhetetlen, hogy az Ofcom gyorsan végezzen, mert a közvélemény – és legfőképp az áldozatok – nem fogadják el a késlekedést.”
Kendall elődje, Peter Kyle pedig „felháborítónak” nevezte, hogy a Grokot nem tesztelték megfelelően. Egy különösen megrázó esetet említett: egy zsidó nő képét manipulálták bikiniben úgy, hogy Auschwitz előtt állt – ez annyira felkavarta őt, hogy szó szerint rosszul lett tőle.
A politikusok sora fejezte ki aggodalmát. Észak-Írország képviselője, Cara Hunter például úgy döntött, elhagyja az X platformot a botrány miatt. A Downing Street viszont azt közölte, hogy továbbra is elsősorban a gyermekek védelmére koncentrálnak, de figyelemmel kísérik jelenlétüket az X-en. A miniszterelnök szóvivője hozzátette: „Minden lehetőség nyitva áll.”
Személyes történetek és civil reakciók
Dr. Daisy Dixon, aki korábban arról számolt be a BBC-nek, hogy többször is megalázónak érezte magát amiatt, hogy Grokkal vetkőztették le digitálisan, üdvözölte a vizsgálatot. Szerinte Musk és támogatói csak elterelik a figyelmet az igazi problémáról: „Ez nem cenzúra kérdése – ez rendszerszintű erőszak nők és lányok ellen.” Hozzátette: „Ha tényleg törődnének a nőgyűlölettel és gyermekpornográfiával, Muskot arra kellene felszólítaniuk, hogy azonnal működjön együtt és hagyja abba a hiteltelen kifogások keresését.”
Mit vizsgál pontosan az Ofcom?
A brit szabályozó most azt kutatja majd ki alaposan, hogy az X mennyire volt gyors és hatékony abban, hogy eltávolítsa az illegális tartalmakat miután tudomást szerzett róluk. Különösen azt nézik meg, milyen lépéseket tett annak érdekében, hogy megakadályozza ezek megjelenését brit felhasználók számára.
Az Ofcom kiemelte: ide tartoznak azok a tartalmak is, amelyek nem konszenzuális intim képek vagy gyermekek szexuális ábrázolásai. Emellett azt is ellenőrzik majd, hogy alkalmaz-e az X „nagyon hatékony életkor-ellenőrzési” módszereket annak érdekében, hogy gyerekek ne férjenek hozzá pornográf anyagokhoz.
Nemzetközi visszhang és további lépések
A Grok képalkotó funkciója globális visszhangot váltott ki: Malajzia és Indonézia például ideiglenesen blokkolta hozzáférést ehhez az eszközhöz hétvégén. Az Ofcom szóvivője ugyan nem árulta el pontosan mennyi időt vesz igénybe majd a vizsgálat lezárása, de hangsúlyozta: „ez kiemelt fontosságú ügy”.
„A platformoknak meg kell védeniük az Egyesült Királyságban élő embereket attól a tartalomtól, ami itt illegális” – mondta –, „és nem habozunk kivizsgálni minden esetet, ahol úgy véljük, egy cég mulasztott kötelességei teljesítésében különösen akkor, ha gyerekek biztonsága forog kockán.”
Meddig tarthat még ez az egész?
Lorna Woods, az Essexi Egyetem internetjogi professzora szerint nehéz megjósolni a vizsgálat tempóját. „Az Ofcomnak van mozgástere abban, mennyire gyorsan vagy lassan haladnak” – mondta –, hozzátéve azonban azt is: ha nagyon súlyos problémáról van szó és fennáll továbbra is veszélyhelyzet, akár már most kérhetnek bírósági intézkedést egy üzleti működést korlátozó végzés formájában.
Clare McGlynn, a Durham Egyetem jogászprofesszora szerint viszont maga az ötlet is zavaró lehet: „A vita arról, hogy blokkolják-e az X-et Nagy-Britanniában inkább eltereli a figyelmet.” Szerinte sokkal fontosabb lenne konkrét lépések megtétele annak érdekében, hogy ne készüljenek illegális intim képek Grokkal és azok eltávolítása gördülékenyen menjen.
Miért érdekel ez téged?
Bár elsőre távolinak tűnhet ez a botrány – hiszen nem mindenki használ mesterséges intelligenciát vagy mélyhamisításokat –, valójában mindannyiunk életére hatással van. Az online térben terjedő ilyen visszaélések aláássák személyes biztonságunkat és jogainkat. Ha nem állítjuk meg időben ezt a fajta digitális erőszakot és visszaélést, hamarosan még több áldozat kerülhet hasonló helyzetbe.
Szerinted hogyan lehetne hatékonyabban szabályozni ezeket az új technológiákat? Vajon Elon Musk vállalata tényleg mindent megtesz azért, hogy megakadályozza ezeket a visszaéléseket? Vagy csak akkor lépnek majd komolyan, ha már túl késő lesz?
