„A gépek jönnek értünk” – halljuk újra és újra. Nem ma, de elég hamar ahhoz, hogy úgy tűnjön, az egész civilizációnkat át kell szerveznünk az érkezésük köré. A szuperintelligencia kísértete egyre gyakrabban kísért minket a tárgyalótermekben, egyetemi előadásokon, parlamenti meghallgatásokon és a lélegzetelállító tech újságírásban. Általában mesterséges általános intelligenciaként (AGI) emlegetik, olykor még ennél is tágabb fogalomként, de mindig egy olyan mesterséges elmének, amely minden téren felülmúlja az emberi gondolkodást, képes önmagát folyamatosan fejleszteni, és akár az emberiség túlélésére is veszélyes lehet.
De vajon tényleg erről szól ez az egész? Ez a képzet már régóta él a kollektív képzeletünkben – sci-fi történetekből származik, Asimov robotikai törvényeitől Kubrick és Clarke HAL 9000-én át William Gibson őrült hálózataiig. Ami egykor csak irodalmi gondolatkísérlet volt, mára kvázi-politikai jóslattá vált.
A tudományos konszenzus hiánya és a hatalom játéka
Érdekes módon ez a narratíva alig kapcsolódik tudományos konszenzushoz. Inkább bizonyos hatalmi körökből ered. A leghangosabb próféták azok, akik magukat a rendszereket építik, amiktől félnek. Sam Altman például egyszerre beszél az AGI létezésének egzisztenciális kockázatáról, miközben ő maga is versenyt fut annak megalkotásával. Elon Musk pedig apokalipszist vizionál, miközben cégeket alapít az AI fejlesztésének felgyorsítására.
Ez nem véletlen: a szuperintelligencia diskurzus egy kifinomult hatalmi eszköz. Elvonja a figyelmet az olyan közvetlen kérdésekről, mint a vállalati felelősségvállalás vagy az algoritmikus elfogultság, és filozófiai problémákká alakítja át őket – mintha csak tudatosságról vagy kontrollról beszélnénk. Így az AI rendszerek alkotói magukat állítják be az emberiség „visszautasított őrzőinek”, akik rettenetes tudással és felelősséggel bírnak.
A jelen problémái háttérbe szorulnak
Miközben arról vitázunk, hogy vajon egy jövőbeli AGI kiirtja-e az emberiséget, elfelejtjük azt az Amazon-raktári dolgozót, akinek minden mozdulatát algoritmusok szabályozzák; vagy azt a palesztin lakost, akinek a környékét automata fegyverek célozzák meg. Ezek valós szenvedések – míg a szuperintelligencia még csak elméleti lehetőség.
A szabályozás is ezt tükrözi: az Egyesült Államokban például az Executive Order 14110 említi ugyan a polgári jogokat vagy munkaügyi kérdéseket, de leginkább csak nagy teljesítményű alapmodellekre vonatkozó biztonsági előírásokat tartalmaz. Az Egyesült Királyság még tovább ment egy Frontier AI Taskforce-szal (ma már AI Security Institute része), amely kizárólag extrém hipotetikus kockázatokkal foglalkozik. Az EU AI-törvénye is hasonlóan osztja meg energiáit: jelenbeli károk helyett inkább jövőbeli kockázatokra fókuszál.
A racionalizmus oltárán hajbókolva
A szuperintelligencia narratívája messze megelőzi a ChatGPT-t vagy bármilyen mai AI modellt. Gyökerei egészen az 1950-es évek hidegháborús stratégiáihoz nyúlnak vissza, amikor a RAND Corporation nukleáris stratégái az emberiség pusztulását modellezték – és ekkor kezdődött az intelligencia tiszta számításként való felfogása.
Alan Turing híres tesztje is ezt tükrözi: nem foglalkozott tudatossággal vagy élménnyel, hanem pusztán viselkedést vizsgált – ha egy gép képes meggyőzni egy embert arról, hogy ő is emberi lény, akkor intelligensnek kell tekinteni. Ez a viselkedésközpontú megközelítés újradefiniálta az intelligenciát mérhetővé és rangsorolhatóvá téve azt.
A számítógép-tudós John von Neumann már 1958-ban beszélt egy technológiai „szingularitásról”, ahol a gépek képesek lesznek önmagukat fejleszteni és így exponenciálisan növelni képességeiket – ez lett később Irving John Good matematikai gondolataival továbbfejlesztve a szuperintelligencia diskurzus alapja.
A racionális gondolkodók közössége
A 80-as és 90-es években ezek az elképzelések átvándoroltak számítógép-tudományi tanszékekről egy különös racionális-futurista közösséghez (pl. Eliezer Yudkowsky és Singularity Institute). Ők kidolgoztak egy komplex filozófiai rendszert: hasznossági függvényekkel szabályozták volna az AI döntéseit; bemutatták a „papírklip maximalizáló” gondolatkísérletet; megalkották az „ortogonalitás tézisét”, miszerint intelligencia és erkölcsi értékek függetlenek egymástól.
Ezek a gondolkodók szélsőséges racionalizmust gyakoroltak: tiszta logikával próbálták feltárni a technológia és társadalom alapvető igazságait anélkül, hogy empirikus adatokat vagy társadalmi kontextust figyelembe vettek volna. Ez néha olyan volt, mint középkori teológia – lenyűgöző és bonyolult, de távol állt attól, ami valójában zajlik az AI fejlesztésében.
A szuperintelligencia mint üzleti stratégia
Ezután következett Nick Bostrom 2014-es könyve Superintelligence, amelyből mainstream diskurzus lett. Bostrom filozófusként rendszerezte ezeket a félelmeket anélkül, hogy mélyebb technikai kutatásokat végzett volna – mégis kötelező olvasmánnyá vált Szilícium-völgyben.
Musk például egyszer azt tweetelte: „Érdemes elolvasni Bostrom Superintelligence-jét. Nagyon óvatosnak kell lennünk az AI-val.” Csakhogy Musk cége által kibocsátott légszennyezés Memphis egyik munkásnegyedében épp nem ezt mutatja…
Az egész üzlet erről szól: profitot csinálni abból, hogy mi vagyunk azok, akik megalkotják „az utolsó találmányt”. OpenAI például nonprofitból vált több százmilliárd dollárt érő profitorientált cégóriássá – miközben ugyanazt az AGI-t fejleszti, amitől féltenek minket.
A versenyzők és a felelősség futása
Az Anthropic nevű cég biztonságos alternatívaként hirdeti magát – de ez inkább csak biztonsági színház. A valódi verseny arról szól, ki tud jobb modellt építeni és ki tudja ezt jobban eladni „óvatoskodás” nyelvezetében.
Ebből fakad egy ördögi kör: mindenki gyorsítani akarja a fejlesztést azért, mert fél attól, hogy más előbb ér célba – legyen szó Kínáról vagy Meta nyílt forráskódú modelljeiről –, így nincs helye valódi megállásnak vagy demokratikus vitának.
A jelen elhanyagolt valósága
Miközben álmodozunk jövőbeli gépi istenekről, már most rengeteg ember életét formálják át mélyen káros módon AI rendszerek. Az Amazon raktáraiban dolgozókat algoritmusok irányítják minden mozdulatukban; tartanak attól is sokan jogosan, hogy hamarosan teljesen feleslegessé válnak.
Továbbá ott vannak azok a tartalomszűrők milliói világszerte (főleg globális délen), akik nap mint nap borzalmas képeket néznek meg azért, hogy megtanítsák erre az AI-t – miközben maguk súlyos pszichológiai traumát szenvednek el.
A megfigyelés sem sci-fi többé: arcfelismerők üldözik tiltakozókat; prediktív rendőrségi algoritmusok célozzák meg bizonyos etnikai csoportokat; digitális társadalmi pontozórendszerek ítélkeznek felettünk anélkül, hogy erről bárki döntene demokratikusan.
Környezeti és demokratikus válság
Ezekhez hozzájön még az óriási energiafogyasztás (például nagy nyelvi modellek tanítása során), ami súlyosan terheli bolygónkat. Az AI cégek erre gyakran úgy reagálnak: majd egyszer AGI megoldja a klímaválságot… mintha ezzel igazolnák a jelenlegi pusztítást.
A demokrácia is veszélyben van: algoritmusok formálják politikai diskurzusunkat úgy, hogy eltűnnek közös valóságaink; generatív AI pedig ellepi hamis információkkal az internetet. Így nehéz közösen vitázni bármilyen fontos kérdésről.
Alternatív utak léteznek
Szerencsére nem csak ez az apokaliptikus narratíva létezik. Világszerte közösségek dolgoznak másféle adat- és automatizációs modelleken: őslakos adat-szuverenitási mozgalmak Kanadában vagy Új-Zélandon például kollektív adatkezelést hoznak létre kulturális értékek mentén.
Munkavállalói szervezetek harcolnak algoritmikus menedzsment ellen; feminista és fogyatékosságjogi csoportok olyan technológiákat fejlesztenek, amelyek hozzáférhetőbbek és gondoskodóbbak; globális déli országok pedig helyi igényeket szolgáló AI-megoldásokat alkalmaznak takarékos erőforrásokkal.
A demokrácia visszaszerzése
Ezek mind azt mutatják: nem kell elfogadnunk azt a narratívát, hogy csak néhány tech-milliárdos dönthet arról, milyen intelligenciát építünk. Az AI nem csupán mérnöki probléma; értékek kérdése is egyben.
Képzeljük el:
- Munkavállalók beleszólnak abba, hogyan kezelik adataikat;
- Közösségek saját adatukat irányítják;
- Kulcsfontosságú számítási erőforrásokat közösen birtokoljuk;
- Polgári testületek döntenek arról, használhatók-e arcfelismerők vagy prediktív rendőrségi rendszerek;
- A fejlesztőknek bizonyítaniuk kell biztonságosságukat bevezetés előtt;
- Nemzetközi egyezmények korlátozzák legveszélyesebb kutatásokat.
Ezek nem sci-fi ötletek – ezek demokratikus választások kérdései.
A valódi politikai kérdés nem az AGI létrejötte-e, hanem hogy ki dönt arról milyen intelligenciát építünk?
Záró gondolatok
A szuperintelligencia próféciája nem csupán figyelmeztetés gépekről; sokkal inkább hatalmi stratégia. Miközben álmodozunk távoli gépi istenekről, elfelejtjük kezelni azt a világot , ahol emberek milliói szenvednek algoritmusok miatt ma.
Nem kell elfogadnunk ezt a jövőt feltétlenül.
A változás biztosan jön, de annak irányát mi alakíthatjuk!
Forrás: https://www.noemamag.com/the-politics-of-superintelligence
