2023. október 13-án Kalifornia kormányzója, Gavin Newsom aláírta azt a törvényt, amely az egyre népszerűbb és gyorsan fejlődő társasági mesterséges intelligencia (AI) chatbotok iparágát kívánja szabályozni. A Senate Bill 243 néven ismert jogszabályt Steve Padilla állami szenátor terjesztette elő, aki „elsőként az országban bevezetett AI chatbot biztonsági intézkedéseknek” nevezte azt.
A törvény célja és főbb rendelkezései
A törvény legfőbb célja, hogy megvédje a felhasználókat azoktól a félreértésektől és veszélyektől, amelyek abból adódhatnak, ha egy mesterséges intelligenciával kommunikálnak úgy, hogy azt emberinek hiszik. Ennek érdekében a jogszabály több fontos előírást tartalmaz:
- Kötelező tájékoztatás: Amennyiben egy ésszerű felhasználó azt hihetné, hogy egy társasági chatbot mögött valódi ember áll, a fejlesztőknek világos és jól látható értesítést kell kiadniuk arról, hogy a termék kizárólag AI-alapú.
- Éves jelentési kötelezettség: 2024-től kezdődően bizonyos chatbot üzemeltetőknek évente jelentést kell benyújtaniuk a Kaliforniai Öngyilkosság-megelőzési Hivatalnak (Office of Suicide Prevention). Ezekben a jelentésekben részletezniük kell azokat az intézkedéseket, amelyekkel felismerik, eltávolítják és kezelik a felhasználók öngyilkossági gondolatait.
- Átláthatóság és adatközlés: Az Öngyilkosság-megelőzési Hivatal köteles lesz ezeket az adatokat nyilvánosan elérhetővé tenni saját honlapján, ezzel is növelve a közbizalmat és az átláthatóságot.
Kormányzó Gavin Newsom nyilatkozata
A törvény aláírásakor Gavin Newsom hangsúlyozta, hogy az új technológiák – mint például a chatbotok és a közösségi média – képesek inspirálni, oktatni és összekötni az embereket. Ugyanakkor figyelmeztetett arra is, hogy megfelelő szabályozás nélkül ezek az eszközök kihasználhatják, megtéveszthetik vagy veszélyeztethetik különösen a fiatalokat.
„Felelősségteljesen kell vezetnünk az AI és technológia fejlődését – minden lépésnél védenünk kell gyermekeink biztonságát. Gyermekeink biztonsága nem eladó.” – fogalmazott Newsom.
A társasági AI chatbotok szabályozásának jelentősége
A mesterséges intelligencia alapú társasági chatbotok rohamosan terjednek mindennapi életünkben: segítenek beszélgetőtársként, támogatják az érzelmi jólétet, vagy akár szórakoztatnak. Ugyanakkor ezek az eszközök komoly kihívásokat is rejtenek magukban:
- Felhasználói megtévesztés: Ha nem egyértelmű, hogy egy chatbot nem emberi személy, könnyen félrevezethetjük magunkat vagy másokat.
- Pszichológiai kockázatok: A sebezhető felhasználók számára veszélyes lehet, ha nem megfelelő módon kezelik az öngyilkossági gondolatokat vagy más mentális egészségi problémákat.
- Adatvédelem és átláthatóság: Fontos biztosítani, hogy a chatbotok működése átlátható legyen és megfeleljen az adatvédelmi előírásoknak.
További kapcsolódó jogszabályok Kaliforniában
A Senate Bill 243 mellett Gavin Newsom aláírt több más törvényt is, amelyek célja az online gyermekbiztonság javítása. Ezek között szerepelnek például új korhatár-ellenőrzési előírások hardvereszközökre vonatkozóan is.
Ezen túlmenően Kalifornia nemrégiben elfogadta a Senate Bill 53-at is, amely áttörést jelent az AI átláthatóság terén. Ez a jogszabály hónapokon át megosztotta az AI vállalatokat és széles körű médiavisszhangot kapott.
Összegzés
Kalifornia ezzel a törvénnyel ismét úttörő szerepet vállal az AI technológiák felelős szabályozásában. A társasági chatbotok fejlődése megállíthatatlan, ezért elengedhetetlen olyan jogi keretek kialakítása, amelyek megvédik a felhasználók – különösen a fiatalok – érdekeit és biztonságát. A Senate Bill 243 bevezetése fontos mérföldkő ezen az úton.
Javítás
2023. október 14-én frissítés: Az eredeti cikkben tévesen Anthony Padillaként szerepelt a szenátor neve. Helyesen: Steve Padilla.