Az mesterséges intelligencia (AI) nem mindig olyan okos, mint azt gondolnánk. Egy friss eset Baltimore-ban ismét rávilágít arra, hogy az AI-alapú biztonsági rendszerek hibázhatnak, és súlyos következményekkel járhatnak. Egy helyi tinédzsert majdnem letartóztattak, mert az automatikus fegyverfelismerő rendszer egy zacskó Doritos chipset fegyverként azonosított.
A történet háttere: egy félreértés a Kenwood Középiskolában
Az NBC helyi partnere, a WBAL-TV 11 beszámolója szerint Taki Allen, egy baltimore-i középiskolás fiú, a futballedzés után tartózkodott az iskola udvarán barátaival, amikor hirtelen nyolc rendőrautó érkezett a helyszínre. Az iskola automata biztonsági rendszere egy gyanús tárgyat jelzett az iskolai területen tartózkodó személynél.
Taki Allen elmesélte a WBAL-TV 11-nek: „Először nem értettem, mi történik, amíg a rendőrök fegyverrel nem közeledtek felém és azt mondták, hogy feküdjek le a földre.” A tinédzsernek térdre kellett ereszkednie, megkötötték a kezét, majd átvizsgálták. Nem találtak nála semmilyen fegyvert, viszont később a földön egy zacskó chipset fedeztek fel.
A félreértés részletei és a tinédzser reakciója
Amikor arról kérdezték, milyen érzések kavarogtak benne az incidens alatt, Allen így válaszolt: „Főleg az járt a fejemben, hogy vajon meg fogok-e halni? Meg fognak-e ölni?” A rendőrök megmutatták neki azt a képet, amelyen a rendszer szerint fegyver látszott. Ő azonban elmagyarázta: „Nem, ez csak chipset jelent.”
Az iskola hivatalos állásfoglalása
A Kenwood Középiskola igazgatója nyilatkozatot adott ki az esettel kapcsolatban:
„Körülbelül este 7 órakor az iskola vezetősége riasztást kapott arról, hogy valaki fegyvert tarthat az iskola területén. Az Iskolai Biztonsági és Védelmi Osztály gyorsan átvizsgálta az esetet és visszavonta a riasztást miután megerősítették, hogy nincs fegyver. Értesítettem az iskolai rendőrtisztet (SRO), aki további támogatásért felvette a kapcsolatot a helyi rendőrkapitánysággal. A rendőrök megérkeztek az iskolába, átvizsgálták az érintettet és gyorsan megerősítették, hogy nem volt náluk fegyver.”
A technológia és a gyártó cég szerepe
Bár sem az iskola, sem a rendőrség nem erősítette meg hivatalosan, hogy valóban a Doritos zacskó váltotta ki a riasztást, ezt sem cáfolták meg. A WBAL-TV 11 információi szerint az Omnilert nevű vállalat fejleszti azt az AI-alapú biztonsági rendszert, amelyet Baltimore megye középiskolái használnak. Az Omnilert magát „az AI-alapú aktív lövöldöző elleni védelem úttörőjeként” definiálja.
Az Omnilert szoftverét tavaly vezették be többek között Taki Allen iskolájában is annak érdekében, hogy időben felismerjék és megelőzzék az esetleges veszélyeket. A cég honlapja szerint kifejezetten iskolák számára kínálnak AI-alapú fegyverfelismerő megoldásokat.
A Gizmodo megkereste mind Kenwood Középiskolát, mind pedig Baltimore megyei rendőrséget további kommentárért. Ugyanakkor az Omnilert céget is megkeresték válaszadás céljából.
Következtetések: Az AI korlátai és emberi tényezők fontossága
Ez az eset jól példázza, hogy bár az AI technológiák fejlődnek és egyre több területen segítenek minket – például biztonsági rendszerekben –, még mindig előfordulhatnak tévedések. Egy automatizált rendszer nem képes minden helyzetet tökéletesen értelmezni vagy kontextusba helyezni egy egyszerű chipspack esetében sem.
Fontos tehát, hogy ezeknél a rendszereknél mindig legyen emberi felügyelet és gyors reagálásra képes szakember jelenléte. Csak így lehet elkerülni olyan kellemetlen vagy akár veszélyes félreértéseket, mint amilyen Taki Allen esetében történt.
Összegzés
- Egy baltimore-i tinédzsert majdnem letartóztattak egy AI-alapú biztonsági rendszer téves riasztása miatt.
- A rendszer egy chipspackot fegyverként jelzett.
- Az iskola és rendőrség gyorsan tisztázta az esetet és visszavonta a riasztást.
- Az Omnilert cég fejleszti ezt az AI technológiát, amelyet több iskolában is használnak Baltimore megyében.
- A történet rámutat arra, hogy az AI még nem tévedhetetlen és emberi kontrollra mindig szükség van.