Az utóbbi időben egyre több aggasztó jelenség bukkant fel a közösségi média platformjain, különösen a TikTokon és az X-en (korábban Twitter). Ezeken az oldalakon olyan mesterséges intelligencia (AI) által generált videók jelentek meg, amelyek nők és lányok fulladását, megfojtását ábrázolják. Ezek a tartalmak nem csupán morálisan elfogadhatatlanok, de egyértelműen sértik a platformok saját szabályzatait is, amelyek tiltják az erőszakos tartalmak közzétételét.
Az AI-generált erőszakos videók jellemzői
Egy X-en működő fiók például október közepétől kezdve több tucatnyi ilyen videót tett közzé. Ezek a rövid, általában 10 másodperces klipek főként tinédzser lányokat mutatnak, akik sírnak, küzdenek a fulladás ellen, majd végül elveszítik az eszméletüket és összeesnek. A videók címei is rendkívül nyugtalanítóak, például:
- “A tinédzser lány pompomlányt megfojtották, miközben kétségbeesett”
- “Előkészítő iskolás lányokat fojtogatott meg a gyilkos!”
- “Egy férfi megfojtotta az egyik középiskolai pompomlányt egy táskafüggel, ami őrület”
Ezek a címek és tartalmak nemcsak hogy rendkívül zavaróak, de komoly etikai kérdéseket is felvetnek azzal kapcsolatban, hogy milyen hatással lehetnek a nézőkre, különösen fiatalokra.
A generatív AI cégek felelőssége és kihívásai
A mesterséges intelligencia fejlődése lehetőséget ad arra, hogy valósághű képeket és videókat hozzunk létre szinte bármilyen témában. Ugyanakkor ez a technológia veszélyeket is rejt magában: rosszindulatú felhasználók könnyedén készíthetnek olyan tartalmakat, amelyek erőszakot vagy más káros viselkedést ábrázolnak.
A TikTok és az X platformjai egyaránt rendelkeznek szigorú szabályzatokkal, amelyek tiltják az erőszakos vagy gyűlöletkeltő tartalmak megosztását. Ennek ellenére ezek az AI-generált videók rendszeresen megjelennek, ami azt jelzi, hogy a moderációs rendszerek nem képesek hatékonyan kiszűrni ezeket a tartalmakat.
Ez komoly problémát jelent mind a platformok számára, mind pedig a felhasználók biztonsága szempontjából. A generatív AI fejlesztőinek és szolgáltatóinak is nagyobb felelősséget kell vállalniuk annak érdekében, hogy megakadályozzák ilyen káros tartalmak létrejöttét és terjedését.
Következmények és jövőbeli lépések
A jelenlegi helyzet rávilágít arra, hogy bár az AI technológia hatalmas lehetőségeket kínál kreatív és hasznos alkalmazásokra, ugyanakkor új kihívásokat is támaszt az online közösségek biztonságának fenntartásában.
- Szabályozási keretek fejlesztése: Szükség van olyan jogi és etikai szabályozásokra, amelyek kifejezetten kezelik az AI által generált tartalmak kérdését.
- Hatékonyabb moderációs eszközök: A platformoknak fejleszteniük kell moderációs algoritmusaikat és emberi ellenőrzési folyamataikat annak érdekében, hogy gyorsan eltávolítsák az ilyen káros anyagokat.
- Felhasználói tudatosság növelése: Fontos edukálni a közösségi média használóit arról, hogyan ismerhetik fel és jelölhetik meg az erőszakos vagy manipulált tartalmakat.
- AI fejlesztők felelősségvállalása: Az AI technológiát fejlesztő cégeknek be kell építeniük olyan mechanizmusokat, amelyek megakadályozzák az erőszakos vagy etikátlan tartalmak létrehozását.
Összegzés
A TikTokon és az X-en megjelenő AI-generált fulladásos videók egy súlyos figyelmeztetést jelentenek arra nézve, hogy milyen veszélyeket hordozhat magában a mesterséges intelligencia kontroll nélküli használata. A generatív AI cégek eddig nem tudták megfelelően megakadályozni ezeknek a káros tartalmaknak a terjedését, ami komoly etikai és biztonsági aggályokat vet fel.
Minden érintett fél – legyen szó platformokról, fejlesztőkről vagy felhasználókról – felelősséggel tartozik azért, hogy egy biztonságosabb online környezetet teremtsen mindenki számára.
Forrás: https://www.404media.co/openais-sora-2-floods-social-media-with-videos-of-women-being-strangled/
