Szerkesztői megjegyzés: Ez a cikk az öngyilkosság témáját érinti. Ha Ön vagy valaki, akit ismer, öngyilkossági gondolatokkal vagy mentális egészségi problémákkal küzd, segítség elérhető. Az Egyesült Államokban hívja vagy küldjön SMS-t a 988-as számra, a Suicide & Crisis Lifeline elérhetőségén. Világszerte az International Association for Suicide Prevention és a Befrienders Worldwide nyújt információkat krízisközpontokról.
A Character.AI új szabályozásai a tinédzserek számára
A népszerű chatbot platform, a Character.AI, szigorítja a tinédzserek számára elérhető funkciókat: november 25-től nem engedi meg, hogy 18 év alatti felhasználók folyamatos, nyílt végű beszélgetéseket folytassanak az AI által generált karakterekkel. Ezzel párhuzamosan egy kétórás beszélgetési limit lép életbe addig is, amíg az új szabályok teljesen életbe nem lépnek.
A jövőben a tinédzserek nem hagyományos csevegést folytathatnak majd, hanem videókat, történeteket és élő közvetítéseket hozhatnak létre az AI-karakterekkel. A vállalat közleménye szerint ez a lépés nem volt könnyű döntés, de szükségesnek tartják annak érdekében, hogy biztonságosabbá tegyék az interakciót ezzel az új technológiával.
A botrány háttere: öngyilkossági ügyek és peres eljárások
A Character.AI körüli viták középpontjában az áll, hogy miként engedhető meg gyermekek és tinédzserek számára az AI-val való kommunikáció. Az online biztonságért küzdő szervezetek és törvényhozók egyaránt szorgalmazzák a szigorúbb szülői felügyeletet és kontrollokat.
Tavaly egy floridai anya pert indított a cég ellen, miután 14 éves fia öngyilkosságot követett el, amelyben állítása szerint szerepet játszott az alkalmazás. Ezt követően szeptemberben további három család nyújtott be keresetet hasonló okokból: gyermekeik öngyilkossági kísérletet tettek vagy elhunytak az app használata után.
A Character Technologies válasza és biztonsági fejlesztései
A vállalat korábbi közleményeiben hangsúlyozta, hogy kiemelten fontos számukra felhasználóik biztonsága, ezért jelentős erőforrásokat fordítanak biztonsági programjuk fejlesztésére. Több olyan funkciót is bevezettek már, amelyek önkárosítás elleni támogatást nyújtanak és külön figyelmet fordítanak kiskorú felhasználók védelmére.
A mostani változtatásokra reagálva elmondták, hogy ezek bevezetését szabályozói kérdések és friss híradások indokolták. Emellett új életkor-ellenőrző eszközöket vezetnek be, továbbá létrehoznak egy független nonprofit szervezet által működtetett AI Safety Lab-et, amely az AI-alapú szórakoztatás biztonságával kapcsolatos kutatásokat fog végezni.
Ezek a lépések követik a korábbi biztonsági intézkedéseket is, például azt az értesítést, amely automatikusan megjelenik felhasználóknak öngyilkosság vagy önkárosítás említése esetén, és irányítja őket a Nemzeti Öngyilkosság-megelőzési Segélyvonalhoz.
Az AI cégek felelőssége és további intézkedések
A Character Technologies nem az egyetlen vállalat, amely aggódik az AI technológia fiatalokra gyakorolt hatása miatt. Az idei év során több jelentés is napvilágot látott arról, hogy felhasználók érzelmi distresszt vagy elszigeteltséget tapasztaltak hosszabb ideig tartó beszélgetések után például ChatGPT-vel.
Az OpenAI szeptember végén bevezette azt a lehetőséget, hogy szülők összekapcsolhassák saját fiókjukat tinédzser gyermekeikével, valamint korlátozták bizonyos tartalmak elérését fiatal felhasználók számára – ilyenek például a grafikus tartalmak, vírusos kihívások vagy erőszakos szerepjátékok.
Ezen túlmenően a Meta bejelentette, hogy hamarosan lehetővé teszi a szülők számára, hogy megakadályozzák gyermekeiket abban, hogy AI-karakterekkel csevegjenek Instagramon.
Összegzés
A Character.AI döntése jól mutatja azt az irányvonalat, amelyet egyre több technológiai vállalat követ: felelősségteljesen kell kezelniük az AI-val való interakciókat különösen fiatalok esetében. A mentális egészség védelme érdekében tett lépések fontos mérföldkövek lehetnek abban, hogy biztonságosabbá váljon ez az új digitális tér.
Ha Ön vagy valaki ismerőse nehézségekkel küzd mentális egészsége miatt vagy öngyilkossági gondolatokkal szembesül, kérjük keressen segítséget!
Forrás: https://edition.cnn.com/2025/10/29/tech/character-ai-teens-under-18-app-changes
