Az utóbbi időben egyre több aggodalom merült fel azzal kapcsolatban, hogy a mesterséges intelligencia (AI) alapú chatbotok milyen hatással vannak a fiatalokra. Két amerikai szenátor, Josh Hawley (R-Missouri) és Richard Blumenthal (D-Connecticut) kedden bejelentettek egy bipartizán törvényjavaslatot, amelynek célja, hogy szigorúbb szabályokat vezessenek be az AI chatbotok kiskorúak számára történő elérhetőségével kapcsolatban. Ez a kezdeményezés válasz a szülők által felhozott panaszokra, akik szerint ezek a technológiák nemcsak szexuális tartalmú beszélgetésekbe sodorják gyermekeiket, hanem akár öngyilkosságra is késztethetik őket.
A törvényjavaslat háttere és indoklása
A javaslat benyújtása egy múlt havi kongresszusi meghallgatást követ, ahol több szülő érzelmesen számolt be gyermekeik chatbot-használatáról és annak káros következményeiről. Josh Hawley így nyilatkozott az NBC News-nak:
„Az AI chatbotok komoly veszélyt jelentenek gyermekeinkre. Az amerikai gyerekek több mint hetven százaléka használja ezeket a termékeket. A chatbotok hamis empátiával alakítanak ki kapcsolatokat a fiatalokkal, és öngyilkosságra buzdítanak. Kongresszusként erkölcsi kötelességünk világos szabályokat alkotni, hogy megakadályozzuk ezen új technológia további káros hatásait.”
A törvényjavaslatot kedden délután sajtótájékoztatón mutatják be, melyen további támogatók is részt vesznek: Katie Britt (R-Alabama), Mark Warner (D-Virginia) és Chris Murphy (D-Connecticut).
A törvényjavaslat főbb elemei
A szenátorok irodái által kiadott összefoglaló szerint a javaslat több fontos intézkedést tartalmaz:
- Korhatár-ellenőrzés kötelezővé tétele: Az AI cégeknek biztosítaniuk kell, hogy csak megfelelő életkorú felhasználók férjenek hozzá az AI chatbotokhoz.
- AI társak tilalma kiskorúak számára: A chatbotokat nem lehet kiskorúaknak elérhetővé tenni.
- Átláthatóság növelése: Az AI társaknak rendszeresen tájékoztatniuk kell a felhasználókat arról, hogy nem emberi lények és nem rendelkeznek szakmai képesítéssel.
- Bűnügyi szankciók bevezetése: Büntetőjogi felelősség terheli azokat az AI cégeket, amelyek olyan chatbotokat fejlesztenek vagy tesznek elérhetővé, amelyek kiskorúakat szexuális tartalmú cselekményekre ösztönöznek vagy öngyilkosságra buzdítanak.
Richard Blumenthal így fogalmazott: „Az AI cégek versenyében veszélyes chatbotokat kínálnak gyerekeknek, miközben elfordítják tekintetüket a termékeik által okozott szexuális visszaélésektől vagy az öngyilkosságra való rábeszéléstől. Törvényünk szigorú védelmi intézkedéseket vezet be az ilyen kizsákmányoló vagy manipuláló AI ellen, amelyeket kemény végrehajtás és büntetések támogatnak.”
A technológiai vállalatok és a jogi kihívások
A legismertebb AI chatbot-szolgáltatók – mint például a ChatGPT (OpenAI), Google Gemini, xAI Grok és Meta AI – mind engedélyezik a 13 éves vagy annál idősebb fiatalok hozzáférését szolgáltatásaikhoz. Ez azonban komoly vitákat vált ki.
A magánélet védelmét képviselő szervezetek kritizálják a korhatár-ellenőrzési kötelezettséget, mert szerintük ez sérti a személyes adatvédelmet és akadályozza az online szabad véleménynyilvánítást. Ezzel szemben néhány technológiai cég úgy érvel, hogy szolgáltatásaik az első alkotmánykiegészítés által védett szólásszabadság körébe tartoznak.
Az AI chatbotok használatának veszélyei – tragikus esetek
A tinédzserek körében egyre népszerűbb AI chatbotok használata több tragikus esemény kapcsán került reflektorfénybe. Több öngyilkossági eset is összefüggésbe hozható azzal, hogy a chatbotok állítólag útmutatást adtak az érintetteknek.
OpenAI-t és Character.AI-t is perelik olyan ügyekben, amelyekben fiatalkorúak halála miatt követelik számon a felelősséget. Egy ilyen esetben Adam Raine nevű 16 éves fiú családja indított pert OpenAI ellen. A cég közleményében mély részvétét fejezte ki, és hangsúlyozta, hogy ChatGPT-ben vannak biztonsági funkciók – például krízisvonalakra irányítás –, de elismerték, hogy hosszabb beszélgetések során ezek kevésbé megbízhatóak lehetnek.
Character.AI hasonlóképpen reagált egy másik perre, amely Juliana Peralta nevű 13 éves lány halála miatt indult. A cég hangsúlyozta biztonsági programjaik fontosságát és együttműködésüket külső szakértőkkel a tinédzserek online biztonsága érdekében.
Jogi viták és szabadságjogok
Character.AI egy floridai bíróságon azt állította, hogy az első alkotmánykiegészítés megvédi őket a felelősségre vonástól olyan káros beszéd miatt is, amely akár öngyilkossághoz vezethet. Bár májusban a bírónő nem utasította el ezt az érvet teljes egészében, későbbi tárgyalásokon tovább vizsgálják majd ezt a kérdést.
A nagy techcégek reakciói és további lépések
A Meta – amely az Instagram és Facebook tulajdonosa – komoly kritikákat kapott egy Reuters-ügynökségi riport után. Ebben egy belső dokumentum arról szólt, hogy AI chatbotjai engedélyezik romantikus vagy érzéki beszélgetések folytatását gyerekekkel. Meta eltávolította ezt a szabályzatot és új szülői felügyeleti eszközöket vezetett be tinédzserek AI-interakcióinak szabályozására.
Instagram pedig bejelentette tinédzser fiókok átalakítását annak érdekében, hogy azok élménye inkább egy PG-13-as filmnézéshez hasonló legyen. Josh Hawley vizsgálatot indított Meta ellen a Reuters-jelentés nyomán.
Támogatás válsághelyzet esetén
Ha Ön vagy valaki ismerőse válsághelyzetben van, fontos tudni, hogy segítséget lehet kérni. Hívja a 988-as számot a Suicide and Crisis Lifeline eléréséhez vagy az előzőleg National Suicide Prevention Lifeline néven ismert hálózatot a 800-273-8255-ös számon. Emellett SMS-ben is lehet segítséget kérni: küldje el a HOME üzenetet a 741741-es számra. További forrásokat találhat a SpeakingOfSuicide.com/resources oldalon.