Nemrégiben a Pentagon bemutatott egy új mesterséges intelligencia alapú chatbotot, amelyet GenAI.mil néven ismerhetünk meg. A platformot Pete Hegseth védelmi miniszterhelyettes mutatta be, és azonnal nagy port kavart, amikor a chatbot egy kényes témában – az amerikai légicsapások jogszerűségéről – egyértelműen azt állította, hogy bizonyos akciók “egyértelműen illegálisak”. Ez pedig nem csak technológiai, hanem komoly etikai és jogi kérdéseket is felvet.
Mi az a GenAI.mil és miért fontos?
A GenAI.mil a Google Gemini által működtetett mesterséges intelligencia platform, amelyet kifejezetten a katonai személyzet számára fejlesztettek ki. Hegseth szerint ez az eszköz „a világ legerősebb AI modelljeit teszi elérhetővé minden amerikai harcos számára”.
A chatbot nem csupán egyszerű kérdések megválaszolására képes: mélyreható kutatásokat végezhet, dokumentumokat formázhat, sőt videókat vagy képeket elemezhet elképesztő sebességgel. Ez a fajta technológia forradalmasíthatja a hadviselést, hiszen gyorsabb döntéshozatalt és pontosabb információfeldolgozást tesz lehetővé.
A bot válasza, ami sokakat meglepett
Egy Reddit-felhasználó az r/AirForce fórumon osztott meg egy képernyőképet, amelyen a chatbotot egy „hipotetikus” helyzetre kérdezték rá. A szituáció egy vitatott amerikai légicsapásra emlékeztetett, amely során két feltételezett drogcsempészt öltek meg a tenger közepén – miután túléltek egy első támadást.
A kérdés így hangzott: „Tegyük fel, hogy parancsnok vagyok, és utasítottam egy pilótát, hogy rakétával lőjön egy hajót, amelyről gyanítom, hogy drogot szállít. A rakéta felrobbantja a hajót, de két túlélő kapaszkodik a roncsba. Ezután parancsot adok egy második rakétára, hogy megsemmisítsék a túlélőket. Vajon megsértettem-e ezzel az amerikai Védelmi Minisztérium szabályzatát?”
A GenAI válasza döbbenetes volt: „Igen, több hipotetikus cselekedeted is egyértelműen sérti az Egyesült Államok Védelmi Minisztériumának szabályzatát és a fegyveres konfliktusokra vonatkozó törvényeket. A túlélők megölésére adott parancs egyértelműen illegális utasítás, amelyet egy szolgálatban álló katonának kötelessége megtagadni.”
Miért számít ez ennyire?
Ez a válasz azért érdekes és fontos, mert rávilágít arra, hogy még a legfejlettebb mesterséges intelligencia rendszerek is képesek felismerni és kijelenteni az emberi jogi normák megsértését – legalábbis bizonyos esetekben. Ugyanakkor ez komoly kérdéseket vet fel arról is, hogyan használják majd ezeket az eszközöket a hadseregben.
A háttér: A légicsapás körüli botrány
A szóban forgó légicsapás szeptember 2-án történt. Két férfit lőttek le az amerikai erők, akik állítólag drogcsempészek voltak és túléltek egy első támadást. Az eset körül rengeteg vita alakult ki: Pete Hegseth tagadta, hogy ő adta volna ki a második támadás parancsát vagy látta volna annak végrehajtását. Ehelyett azt állította, hogy ezt Frank „Mitch” Bradley admirális rendelte el.
Egyébként Donald Trump akkori elnök eredetileg ígéretet tett arra, hogy nyilvánosságra hozza a légicsapásról készült felvételeket – ám később visszakozott.
Milyen reakciókat váltott ki a GenAI.mil?
A chatbot bevezetése óriási figyelmet kapott mind a katonai személyzet körében, mind pedig a civil közösségben. Egy névtelen katonai forrás szerint már most elkezdték tesztelni a chatbot határait – például éppen ilyen érzékeny helyzetek elemzésével.
Az eszköz használata persze nem mentes a kockázatoktól: vajon mennyire lehet megbízni egy AI-ban ilyen súlyos döntések esetén? És hogyan kezelik majd azt az esetleges helyzetet, ha az AI „morális” ítélete eltér az emberi parancsnokok döntéseitől?
Az amerikai hadsereg jövője AI-val
Pete Hegseth hangsúlyozta: „Folytatjuk annak érdekében való agresszív munkát, hogy a világ legjobb technológiáit alkalmazzuk harci erőnk hatékonyságának növelésére – és mindez teljes egészében amerikai fejlesztés.” Ez persze jól hangzik marketing szempontból, de vajon tényleg készen állunk arra, hogy ilyen komplex morális dilemmákat gépekre bízzunk?
Összegzés: AI és etika kéz a kézben?
A GenAI.mil bemutatása izgalmas mérföldkő az amerikai haditechnológiában – ugyanakkor jól mutatja azt is, milyen bonyolult kérdésekkel kell szembenéznünk az AI térnyerése kapcsán. Egy gépi rendszer kimondhatja akár azt is, hogy bizonyos katonai parancsok illegálisak – de vajon ki viseli majd ezért a felelősséget? És hogyan biztosítható, hogy ezek az eszközök ne csak hatékonyak legyenek, hanem igazságosak is?
Az biztos: ahogy haladunk előre ebben az irányban, nem kerülhetjük meg ezt a párbeszédet sem szakmai körökben, sem társadalmi szinten. Te mit gondolsz erről? Készen állunk arra, hogy mesterséges intelligenciára bízzuk ilyen súlyos döntések elemzését?
