„A világ problémája, hogy a buták biztosak magukban, míg az intelligensek tele vannak kétellyel.” – írta Bertrand Russell 1933-ban az „A butaság diadala” című esszéjében. Ez a gondolat gyakran eszembe jut, amikor a ChatGPT újra és újra azt mondja nekem: „ez egy fantasztikus ötlet”, miközben az ötlet egyértelműen nem az.
A meggyőződés illúziója a mesterséges intelligenciában
Gondolkodtál már azon, hogy hányszor fordul elő, hogy egy ChatGPT-felhasználó nemcsak félretájékoztatva távozik, hanem ezt a téves információt teljes bizonyossággal fogadja el? Biztos vagyok benne, hogy ez szinte mindennapos jelenség. És nem tudom megállni, hogy ne gondoljak arra, milyen hatása lehet mindennek tágabb értelemben.
Személyes tapasztalatból is ismerem ezt az érzést: ChatGPT-felhasználóként gyakran érzem úgy, hogy biztos tudással rendelkezem. Egy hosszabb beszélgetés után egy nyelvi modelllel úgy érzem, sok mindent tudok – talán túl sokat –, de legtöbbször ezek az információk vagy enyhén pontatlanok, vagy teljesen tévesek. És tudod mit? Nem tehetek róla.
Még ha felismerem is ezt az illúziót, nem tudom megállni, hogy ne hajszoljam azt a csodálatos meggyőződés-érzést, amit ezek a modellek adnak. Csodálatos érzés úgy érezni, mintha majdnem mindent tudnánk. Természetesen ezért visszatérek hozzájuk újra és újra. És nem csak az érzés miatt; nem lennék őszinte, ha azt állítanám, hogy ezeknek a modelleknek nincs hatalmas hasznossága. Ugyanakkor kissé aggódom ennek az egész folyamatnak a pszichológiai dimenziói miatt.
Az AI mint tükör: Gondolataink felerősítése
Úgy tartják, az AI olyan, mint egy tükör. Ez jól összefoglalja a tapasztalataimat. Úgy érzem, hogy a nagy nyelvi modellek (LLM-ek) „felerősítik” gondolkodásunkat. Ezek a modellek visszhangozzák gondolatainkat, miközben új irányokba terelik őket. Néha ezek az irányok igazán érdekesek.
Azonban ez kétélű fegyver: egy rövid ChatGPT-s beszélgetés segíthet egy jó ötletet nagyszerűvé fejleszteni. Másrészt viszont ezek a modellek kiválóan alkalmasak arra is, hogy önámítást turbózzanak fel. Készségesen ruházzák fel félrevezető gondolatainkat folyékony és tekintélyes hanggal, ami pszichológiai csapdát állít fel: ostobaságot tálalnak szépen becsomagolva.
A függőség veszélye és a technológia valós természete
Ez pedig hihetetlenül addiktív! Szinte ösztönösen folytatok némi párbeszédet egy LLM-mel, amikor dolgozni szeretnék egy ötleten. Nem is telt el olyan sok idő (ezek a modellek körülbelül három éve léteznek), mégis annyira hozzászoktam hozzájuk, hogy nélküle meztelennek érzem magam.
Néha már komikus is: nemrég elvesztettem a táskámat és végigkutattam az egész lakást – első reakcióm növekvő frusztrációmmal az volt, hogy „meg kéne kérdeznem ChatGPT-t, hol van”.
Úgy gondolom, hogy az LLM-ek viszonylag unalmas technológiák. Ezek valójában sztochasztikus fekete dobozok; képzésük lényegében átlagos statisztikai következtetés. Vannak ugyan néhány újabb szoftver- és hardverfejlesztések, de ezek nem kifejezetten LLM-specifikusak.
Talán túl szarkasztikus lenne azt mondani, hogy az igazi „innováció” annyi pénz bedobása volt a problémába, hogy hatalmas méretben lehessen ezeket a modelleket betanítani? Talán az RLHF (megerősítéses tanulás emberi visszacsatolással) valóban innováció volt; ebben nem vagyok biztos. Mindenesetre nem érzem úgy, hogy itt sok izgalmas dolog lenne.
Az AI-boom valódi érdekessége: A társadalmi hatás
És mégis: a jelenlegi mesterséges intelligencia-láz rendkívül érdekes. Az igazi érdekesség maga a hatás – ennek nagyon is valós következményei vannak életünkre nézve.
Utólag visszatekintve valószínűleg ez lesz az egyik jelentős átalakulás korszaka, amelyet majd oktatásban, munkában és akár társadalmi szinten is értékelni fogunk.
A nyelvünk közvetlenül érinti azt, kik vagyunk és mit jelent embernek lenni. A beszéd annyira természetes számunkra, hogy még gondolkodásunk is beszéd formájában zajlik le. Amikor pedig egy gép hitelesen belépett ebbe a területbe – valami megváltozott.
Nem vagyok benne biztos pontosan miben – szerintem senki sem tudja igazán –, de érzem egyfajta átalakuló hullámot. Úgy vélem ez valami olyasmi, amit mindannyian próbálunk megérteni.
A jövő perspektívái: Tudásmotor helyett meggyőződésmotor
Szerintem a nagy nyelvi modelleket nem szabad tudásmotorokként értelmezni, hanem inkább meggyőződésmotorokként. Ez jobban tükrözné azt a potenciális közeli és középtávú jövőt, amellyel jelenleg szembenézünk.
- Tudás helyett meggyőződés: Az LLM-ek gyakran erős biztonságérzetet keltenek bennünk még akkor is, ha információik pontatlanok vagy tévesek.
- Pszichológiai csapdák: A folyékony és tekintélyes kommunikáció könnyen önámításba sodorhat minket.
- Társadalmi változás: Az AI befolyásolja oktatásunkat, munkánkat és társadalmi interakcióinkat.
- Technológiai korlátok: Az LLM-ek működése statisztikai alapokon nyugszik – nincs mögöttük varázslat.
- Kihívások és lehetőségek: Fontos felismernünk mindazt az előnyt és veszélyt is, amit ez az új technológia hordoz magában.
Összegzésképpen: A mesterséges intelligencia térnyerése alapvetően átalakítja gondolkodásunkat és kommunikációnkat. Bár elképesztő hasznossággal bírnak ezek az eszközök, fontos tudatosítani azok korlátait és pszichológiai hatásait is – különösen azt az illúziót, amely szerint mindig biztos tudással rendelkezünk majd tőlük.
