Az iskolai biztonságot szolgáló mesterséges intelligencia alapú megfigyelőrendszerek egyre nagyobb vitát váltanak ki, különösen, amikor téves riasztások súlyos következményekkel járnak. Egy friss eset Baltimore-ban, a Kenwood Középiskolánál rámutat arra, milyen veszélyeket rejthet az AI-alapú fegyverészlelés a mindennapi iskolai életben.
A téves riasztás és a rendőri beavatkozás részletei
2023. október 20-án Taki Allen, egy 16 éves diák, a futballedzés után barátaival töltötte az időt a Kenwood Középiskola közelében, amikor hirtelen nyolc rendőrautó érkezett a helyszínre. A rendőrök fegyverrel a kézben közeledtek hozzá, és parancsot adtak neki, hogy feküdjön le a földre.
Allen így emlékezett vissza az eseményekre a WBAL-TV 11 News-nak: „Olyan volt, mintha nyolc rendőrautó egyszerre érkezett volna értünk. Azt mondták, feküdjek le, én pedig csak azt kérdeztem: ‘Mi történik?’.” A diákot térdre kényszerítették, megbilincselték és átvizsgálták, de semmilyen fegyvert nem találtak nála.
Később a rendőrség megmutatta neki azt az AI által rögzített képet, amely kiváltotta a riasztást: egy összegyűrt Doritos chipses zacskó volt a zsebében, amit a rendszer fegyvernek vélt.
Taki Allen félelmei és az iskola reakciója
„Az első gondolatom az volt: meg fogok halni? Meg fognak ölni?” – mondta Allen. Az eset után úgy érzi, nem biztonságos számára visszatérni az iskolába. „Ha legközelebb eszem egy zacskó chipset vagy iszom valamit, attól félek, hogy újra jönnek értem.”
A Baltimore Megyei Közoktatási Hivatal és az iskolaigazgató levélben reagáltak az esetre, megerősítve, hogy támogatást és tanácsadást kínálnak azoknak a diákoknak, akiket érintett az incidens. Az iskolaigazgató így fogalmazott: „Megértjük, milyen megterhelő volt ez az érintett diáknak és azoknak is, akik szemtanúi voltak az eseményeknek. Tanácsadóink közvetlen támogatást nyújtanak.”
Ugyanakkor Allen elmondása szerint senki sem kereste meg személyesen vagy kért tőle bocsánatot: „Csak annyit mondtak, hogy ez protokoll része volt. Legalább azt vártam volna, hogy valaki beszéljen velem erről.”
Az Omnilert AI rendszer működése és hibái
A riasztást kiváltó technológia az Omnilert nevű cég által fejlesztett fegyverészlelő rendszer része, amelyet tavaly vezettek be a Baltimore Megyei Közoktatási Intézményekben. A rendszer valós időben elemzi a meglévő kamerafelvételeket és riasztja a rendőrséget, ha fegyvert vél felfedezni.
Az Omnilert később elismerte, hogy ez az eset „téves pozitív” volt – vagyis hibás riasztás –, ugyanakkor hangsúlyozták, hogy a rendszer „a tervek szerint működött”, mivel célja a biztonság prioritása és gyors emberi ellenőrzés biztosítása.
A cég állítása szerint technológiájuk „azonnali fegyverészlelést” kínál „szinte nulla téves pozitív aránnyal”. Ennek ellenére az eset rámutat arra, hogy még a legfejlettebb rendszerek sem tökéletesek.
A mesterséges intelligencia megfigyelőrendszerek társadalmi hatásai és vitái
Ez az incidens újra felélesztette a vitát arról, mennyire megbízhatóak és etikusak az AI-alapú megfigyelőrendszerek különösen olyan érzékeny környezetben, mint az iskolák. A technológia hibái nem csupán kellemetlenséget okozhatnak, hanem komoly pszichológiai traumát is eredményezhetnek fiatalok számára.
A mesterséges intelligencia alkalmazása egyre szélesebb körűvé válik: nemrégiben William „Hank” Taylor tábornok is elismerte, hogy ChatGPT-t használ katonai döntések meghozatalához. Eközben az Egyesült Királyságban szigorú életkori ellenőrzési rendszereket vezettek be felnőtt tartalmakhoz való hozzáféréshez – ezeknél például arcfelismerést alkalmaznak annak igazolására, hogy a felhasználó elmúlt 18 éves.
Ezek a rendszerek azonban nem mindig működnek zökkenőmentesen: például egy brit férfi – aki országa legtetováltabb embere – arról számolt be, hogy az arcfelismerő rendszer „eltávolításra kérte arcát”, mert tetoválásait maszként értelmezte. Ez jól mutatja az AI-technológiák korlátait és azt is, milyen fontos lenne ezek fejlesztése során figyelembe venni az emberi tényezőt.
Következtetések és jövőbeli kilátások
A baltimore-i eset tanulsága világos: bár az AI-alapú biztonsági rendszerek ígéretes eszközök lehetnek a veszélyek megelőzésében, használatuk során elengedhetetlen a körültekintés és az emberi felülvizsgálat. A téves riasztások súlyos következményekkel járhatnak mind pszichológiai mind jogi szempontból.
Fontos tehát megtalálni azt az egyensúlyt, amely biztosítja a diákok biztonságát anélkül, hogy indokolatlan félelmet vagy igazságtalan bánásmódot idézne elő.