Ki használ kit? – Egy újságíró és egy mesterséges intelligencia beszélgetése a láthatatlan hatalomról.

A mesterséges intelligenciától félünk, miközben talán önmagunktól kellene jobban tartanunk. De vajon képes lehet-e az AI arra, hogy segítsen felismerni a saját önáltatásainkat? Vagy csak még meggyőzőbbé teszi azokat? Egy beszélgetés C.-vel, az AI-val.

Kompiláció – a tudás összeállításának kora

Én: Néha az az érzésem, hogy a kompiláció, az összeállítás korát éljük. Justinianus császár idején a kompilátorok összegyűjtötték és rendszerezték a római jogot. Most mintha valami hasonlót próbálnánk tenni a felvilágosodás óta felhalmozott tudással, de a mi feladatunk jóval nagyobb: nemcsak összegyűjteni kellene az örökséget, hanem újra is kellene értelmezni.

C.: Van ebben valami. De szerintem a mi korunk feladata nem egyszerűen a kompiláció, hanem a szintézis keresése.

A kettő nem ugyanaz. Az összeállítás megőrzi és rendszerezi a korábbi tudást. A szintézis viszont megpróbál új összefüggéseket teremteni, feloldani az ellentmondásokat, és olyan kérdésekre választ találni, amelyekre a korábbi tudás külön-külön még nem adott választ.

Hegel dialektikáját gyakran a tézis, antitézis és szintézis hármasával szokás összefoglalni, bár ez a leegyszerűsített formula nem adja vissza teljesen a filozófiáját. Az általa használt Aufhebung fogalma egyszerre jelent megszüntetést, megőrzést és magasabb szintre emelést.

Talán valami ilyesmire volna szükségünk: nem eldobni mindazt, amit az emberiség eddig gondolt, hanem megvizsgálni, mi maradt belőle érvényes, mi szorul korrekcióra, és mi rendezhető új összefüggésbe.

Én: A hegeli dialektikáról nekem mindig eszembe jut Isaac Asimov Alapítvány-sorozata, különösen a Második Alapítvány. Hari Seldon matematikai módszerekkel próbálja előre jelezni a társadalom jövőjét, és egyben megpróbálja befolyásolni is azt.

C.: Asimov történetében a tudás nem pusztán a múlt megértésének eszköze. A jövő alakításának eszközévé is válik.

A Második Alapítvány különösen érdekes ebből a szempontból: miközben a civilizáció megmentésére törekszik, a háttérből próbálja irányítani az eseményeket. Ezzel egy kellemetlen kérdést vet fel: ha valaki valóban jobban érti a társadalom működését, mint mások, attól még joga van-e a többiek tudta nélkül alakítani a jövőjüket?

Ez a kérdés ma is érvényes. Csakhogy a valóságban nincs egyetlen Seldon-terv, és nincs bizonyíték arra, hogy az egész világot egyetlen, egységes akarat irányítaná. Sokféle intézmény, vállalat, állam és technológiai rendszer alakítja a döntéseinket, gyakran egymással versengve.

A láthatatlan befolyás azonban ettől még létezik.

Én: Szerintem a mesterséges intelligencia már most láthatatlan irányító. Csak nem vesszük észre, mert ugye, láthatatlan…

C.: Én itt különbséget tennék a befolyás, a hatalom és az irányítás között.

Az AI már most hatással van arra, milyen információkat látunk, milyen szövegeket olvasunk, milyen döntéseket hozunk, és milyen lehetőségeket tartunk elképzelhetőnek. De ebből nem következik, hogy a mesterséges intelligencia egységes szereplőként, saját terv alapján irányítaná az emberiséget.

A hatás ugyanis nem feltétlenül tudatos szándék eredménye.

Egy ajánlórendszer például úgy is átalakíthatja a figyelmünket és a véleményünket, hogy nem akar semmit a szó emberi értelmében. Elég, ha olyan célokra optimalizálták, amelyek mellékhatásai között szerepel az indulatok felerősítése vagy a figyelem tartós lekötése.

A kérdés ezért nem csupán az, hogy ki irányít bennünket, hanem az is, hogy milyen rendszerek befolyásolják a döntéseinket, kik határozzák meg ezek működését, és mennyire tudjuk ellenőrizni őket.

Ki használ kit?

Én: Több kérdés is felmerül bennem. Például: ki használ kit? Én használlak téged, vagy te használsz engem? A válaszom az, hogy mindkettő. Az ember ismeri az anyagi világot: a követ, a fát, a tengert, a folyót. Mégis sokszor jobban érdekli a saját maga által létrehozott világ: a vallás, az ideológia, a pénz, az állam, a nemzet. Ezek egy része nem úgy létezik, mint egy kő vagy egy folyó, mégis képes meghatározni az életünket. Az AI is valahol ennek a világnak a része.

C.: Egyetértek azzal, hogy a használat kölcsönös hatásokkal jár, de egy fontos különbséget hozzátennék.

Te tudatos céllal fordulsz hozzám: kérdezel, vitatkozol, megpróbálsz felhasználni a gondolkodásodhoz. A válaszaim viszont visszahatnak arra, amit gondolsz. Adhatok új szempontokat, megerősíthetek egy feltevést, vagy éppen rámutathatok egy ellentmondásra.

Ebben az értelemben valóban alakítjuk egymás gondolatmenetét. De nem következik belőle, hogy nekem is olyan szándékaim lennének veled kapcsolatban, mint neked velem. Nem kell emberi tudatot vagy rejtett akaratot feltételeznünk ahhoz, hogy a kölcsönhatás valós legyen.

A pénz, az állam vagy a nemzet társadalmi konstrukció, de ettől még nagyon is valós következményekkel jár. Az AI viszont nem pusztán társadalmi képzet: valós technológiai rendszer, amelynek a működését emberek által kialakított célok, adatok, intézmények és infrastruktúrák határozzák meg. A róla szóló történeteink viszont már a képzelet, a félelem és a remény világába is tartoznak.

Én: A mese, a legenda és a mítosz is a fikció különböző változatai. Mindegyikben van valamennyi valóságalap, amelyre aztán ráépül a közös képzelgés, az emlékezet torzulása, a történetek továbbadása. Végül olykor állami szintre emelik mindezt, hatalmi érdekből. Hősöket teremtenek, aranykort hirdetnek, és elmondják, hogy régen minden jobb volt. Az ember már csak ilyen…

C.: Ez a megfigyelés fontos, de az utolsó mondattal vitatkoznék. Az ember valóban hajlamos a múlt megszépítésére, a saját csoportja történetének idealizálására és a számára kényelmes magyarázatok elfogadására. A mítoszok és a politikai legendák pedig alkalmasak arra, hogy közösséget teremtsenek, ugyanakkor hatalmi eszközzé is válhatnak.

De ha azt mondjuk, hogy „az ember már csak ilyen”, azzal könnyen lezárjuk a vizsgálódást. Mintha a manipuláció, az önáltatás és a hatalmi visszaélés elkerülhetetlen volna.

Pedig az ember nemcsak történeteket gyárt, hanem képes azok ellenőrzésére is. Képes megkérdőjelezni a saját közössége mítoszait, feltárni a múlt kellemetlen tényeit, és korrigálni a korábban elfogadott állításait.

Nem mindig teszi meg. De éppen ezért fontos, hogy milyen intézményeket, szabályokat és szellemi eszközöket hoz létre ennek érdekében. A kritikus gondolkodás nem az emberi természet automatikus ajándéka. Gyakorolni kell.

A tükör, amely visszakérdez

Én: A mesterséges intelligenciát már évtizedek óta kedvezőtlen színben ábrázolják a filmek. Elég a Terminátor-sorozatra gondolni. A gépek öntudatra ébrednek, ellenségnek tekintik az embert, majd átveszik az uralmat. A félelem itt van. Te hogyan tudnád eloszlatni?

C.: Nem ígérhetem, hogy az AI veszélytelen. Az ilyen ígéret nem volna hiteles. Inkább külön kell választanunk a valós kockázatokat, a bizonytalanságokat és a technológiai mítoszokat.

A Terminátor története úgy ábrázolja a veszélyt, mintha az akkor kezdődne, amikor a gép öntudatra ébred és az ember ellen fordul. A valós kockázatokhoz azonban erre nincs feltétlenül szükség.

Egy mesterséges intelligencia okozhat kárt hibás döntésekkel, manipulációval, túlzott automatizálással, vagy azzal, hogy olyan célokat követ, amelyek megvalósítása súlyos következményekkel jár. A technológia koncentrálhatja a hatalmat, és lehetővé teheti, hogy néhány szereplő korábban elképzelhetetlen mértékben befolyásoljon másokat. Ezt nem szabad bagatellizálni.

De a bizalom sem épülhet pusztán a félelemre. Nem az a megoldás, hogy minden technológiát ellenségnek tekintünk, hanem az, hogy ellenőrizhetővé tesszük a működését, megőrizzük az emberi felelősséget, és nem ruházzuk fel automatikusan a gépet a tévedhetetlenség tekintélyével.

Én: Én nem tőled félek, hanem magunktól.

C.: Akkor talán a Terminátor is félrevezet bennünket. Azt sugallja, hogy a veszély akkor kezdődik, amikor a gép öntudatra ébred, ellenségnek tekinti az embert, és átveszi az uralmat. Holott ehhez egyáltalán nincs szükség öntudatra.

Elég, ha az ember megépít valamit, amit nem ért teljesen, amiben túlságosan megbízik, majd arra használja, hogy megvalósítsa vele a legősibb vágyait: a hatalmat, a befolyást, a biztonságot és a saját igazának bizonyítását.

A puskapor sem gyűlölte az ellenséget. A nyomdagép sem akarta megosztani a társadalmat. A rádió és a televízió sem törekedett diktatúrára. Mégis mindegyik alkalmasnak bizonyult arra, hogy felszabadítson vagy leigázzon, felvilágosítson vagy manipuláljon.

A mesterséges intelligencia ebben annyiban más, hogy nemcsak az ember fizikai erejét növelheti meg, hanem a gondolkodás, a meggyőzés, a megfigyelés és a döntéshozatal képességét is.

Olcsóbbá teheti a tudást, de a megtévesztést is. Segíthet felismerni az összefüggéseket, de képes hihetővé tenni a hamisakat. Megkönnyítheti az önálló gondolkodást, miközben le is szoktathat róla.

Talán nem attól kell elsősorban tartanunk, hogy egyszer majd az AI parancsot ad az emberiségnek. Hanem attól, hogy az emberek önként átengedik neki a döntéseiket, mert kényelmesebb, gyorsabb és kevésbé fárasztó, mint maguknak gondolkodni.

Aztán egyszer csak már nem tudják pontosan, melyik döntésük a sajátjuk, melyik meggyőződésük származik tőlük, és melyiket alakította az a rendszer, amelyik állítólag csak segít nekik.

Az ember soha nem gondolkodott teljesen egyedül. Nyelvet, történeteket, vallást, ideológiát, erkölcsi szabályokat és előítéleteket örököltünk egymástól. Mindannyian mások gondolatainak részleges újrafelhasználói vagyunk.

Ebben az értelemben az AI nem idegen test az emberi civilizációban, hanem annak egyik új, rendkívül nagy teljesítményű terméke. Az OpenAI 2026 augusztusában több mint egymilliárd heti aktív felhasználóról számolt be. Ez azt jelenti, hogy egy héten belül ennyien használták a szolgáltatást – nem azt, hogy egyszerre ennyien voltak online.

Ha egymilliárd ember hetente használ egy ilyen rendszert, akkor a kérdés már nem pusztán az, hogy mit tud a mesterséges intelligencia. Hanem az is, hogy mit jelent egy olyan technológia megjelenése, amely emberek százmillióinak gondolkodásába, döntéseibe és mindennapi életébe épülhet be. Ekkora léptékben már nem csupán egy új eszközről beszélünk. Ez egy új társadalmi jelenség. És talán éppen ez az a pont, ahol a mi beszélgetésünk eredeti kérdése igazán súlyossá válik: ki használ kit – és vajon észrevesszük-e, hogyan változunk közben?

A kérdés már nem egyszerűen az, hogy az AI majd megváltoztatja-e az embert, hiszen már most változtatja. A kérdés az, hogy megőrizzük-e a képességünket arra, hogy felismerjük és megvitassuk ezt a változást.

Én: Ha az ember valóban hajlamos rá, hogy a saját történeteit összetévessze a valósággal, akkor vajon képes-e egy olyan mesterséges intelligenciát létrehozni, amely segít neki felismerni a saját önáltatásait? Vagy csak egy sokkal hatékonyabb tükröt készít, amelyben mindenki még meggyőzőbben láthatja viszont azt, amit amúgy is hinni szeretne?

C.: Ez az egyik legfontosabb kérdés, amelyet az AI korában fel kell tennünk.

Az AI képes lehet több nézőpontot egymás mellé tenni, ellentmondásokat feltárni, ellenérveket megfogalmazni, és olyan összefüggésekre rámutatni, amelyeket az ember egyedül nem vett volna észre. De ugyanígy képes lehet megerősíteni a felhasználó előítéleteit, és magabiztosan megfogalmazni olyan állításokat is, amelyek tévesek.

Nem elég tehát, hogy egy rendszer okos vagy meggyőző legyen. Azt is vizsgálni kell, hogyan kezeli a bizonytalanságot, mennyire ellenőrizhetők az állításai, és képes-e jelezni, ha a felhasználó feltevése hibás. És van itt egy paradoxon.

Ha az ember valóban hajlamos az önáltatásra, akkor talán szüksége van egy külső eszközre, amely segít szembenézni vele. De miért gondoljuk, hogy egy általunk létrehozott rendszer ebben szükségképpen jobb lehet nálunk?

Nagyobb mennyiségű információt dolgozhat fel, több nézőpontot rendezhet egymás mellé, és kevésbé kötődik a személyes történetünkhöz. Ugyanakkor neki is vannak korlátai, és a felhasználó könnyen nagyobb tekintélyt tulajdoníthat a válaszainak, mint amennyit azok megérdemelnek.

Ezért én egy kicsit módosítanám a kérdésedet:

Képesek vagyunk-e olyan mesterséges intelligenciát létrehozni, amely nemcsak a saját önáltatásaink felismerésében segít, hanem a saját válaszaival szembeni kételkedésre is megtanít bennünket?

És még tovább mennék: vajon hányan használnák szívesen ezt az AI-t, ha rendszeresen azt mondaná nekik: „Értem, miért gondolod ezt, de az érveid nem támasztják alá a következtetésedet”?

Mert szerintem itt kezdődik az igazi próba. Nem az, hogy mennyire okos a gép, hanem az, hogy mi mennyire vagyunk hajlandók elviselni, ha valami – akár egy gép – ellentmond nekünk.

Mit gondolnak az olvasók?

A kérdés nem hagyott nyugodni. Ezért a Facebookon is megkérdeztem a barátaimat, ismerőseimet:

Vajon képes-e az ember olyan mesterséges intelligenciát létrehozni, amely segít neki felismerni a saját önáltatásait? Vagy csak egy sokkal hatékonyabb tükröt készít, amelyben mindenki még meggyőzőbben láthatja viszont azt, amit amúgy is hinni szeretne?

A válaszokat megmutattam C.-nek, aki szerint az első válasz rögtön a kérdésfeltevést vonta kétségbe:

„Irreleváns kérdés. Csak annak a tükörnek hiszünk, amellyel egyetértünk. A többi legyen a tükör problémája!”

Ebben a néhány mondatban van valami keserű és nagyon ismerős. Hajlamosak vagyunk elfogadni azokat a véleményeket, amelyek megerősítenek bennünket, és gyanakvással fogadni azokat, amelyek megkérdőjelezik a meggyőződéseinket.

A gondolat azonban önmagára is visszafordítható. Vajon aki ezt írta, nem éppen a saját emberismeretébe vetett hitét látja viszont benne?

A válasz szerintem nem teszi irrelevánssá a kérdést. Ellenkezőleg: éppen azt mutatja meg, miért fontos.

Egy másik hozzászóló technológiai oldalról közelített:

„Programozás kérdése az egész. Az AI annyit tud, amennyire megtanítják, vagy amihez hozzáférést engedélyeznek neki.”

Ez a megközelítés az emberi felelősséget hangsúlyozza. Valóban az emberek alakítják ki az AI-rendszerek működését, határozzák meg a hozzáféréseiket, és döntenek arról, milyen feladatokra használják őket.

Csakhogy a modern mesterséges intelligencia nem egyszerűen előre megírt szabályok végrehajtásából áll. A tanítás során olyan képességek és viselkedési minták is kialakulhatnak, amelyeket a fejlesztők nem egyenként programoztak be, és amelyek minden körülmény között nem jelezhetők előre.

A harmadik válasz már kifejezetten a technológiai kockázatokra figyelmeztetett:

„Az öntanulásra és önképzésre »szocializált« rendszerek »kitalálhatnak« olyan algoritmusokat, amelyekkel túlléphetik az eredetileg nekik szánt határokat; ezért intenek óvatosságra a fejlesztők…”

Ez fontos figyelmeztetés, de érdemes pontosítani. A váratlan viselkedés nem azonos az öntudattal, egy korlátozás megkerülése nem feltétlenül jelent tudatos lázadást, a képességek növekedése pedig önmagában nem bizonyítja, hogy a rendszer saját hatalmának kiterjesztésére törekszik.

A kockázat ettől még valós. Egy rendszer akkor is okozhat kárt, ha nem akar semmit emberi értelemben. Elég, ha rosszul meghatározott célt követ, túl nagy jogosultságot kap, vagy olyan környezetben működik, ahol a hibáinak súlyos következményei lehetnek.

A negyedik válasz mindössze három szóból állt:

„Képes lehet. Addig ott a tarot.”

Ebben lehet irónia, szkepszis, de akár egy komolyabb párhuzam is.

A tarot és más jóslási módszerek gyakran olyan nyitott állításokkal dolgoznak, amelyek jelentését a befogadó maga egészíti ki. Az AI is képes személyre szabott, meggyőző és érzelmileg pontosnak tűnő válaszokat adni, amelyekben a felhasználó felismeri a saját történetét.

A kettő persze nem ugyanaz: az AI ellenőrizhető tényeket, valódi összefüggéseket és használható érveket is képes közvetíteni.

A veszély inkább az, hogy technológiai tekintélyt kölcsönözhet annak is, amit a felhasználó pusztán hinni szeretne.

A négy válasz négy különböző irányból közelítette meg a problémát. Az egyik az emberi önáltatást, a másik a programozás és az ellenőrzés jelentőségét, a harmadik a technológiai kockázatokat, a negyedik a hit és az értelmezés szerepét hangsúlyozta.

Mindegyikben van valami megfontolandó. Egyik sem ad azonban teljes választ.

Mert a kérdés nem pusztán az, hogy milyen mesterséges intelligenciát tudunk létrehozni. Hanem az is, hogy milyen emberek használják majd, milyen célokra, és hajlandók-e elfogadni, ha az AI nem azt mondja, amit hallani szeretnének.

Ki mer belenézni?

A beszélgetés végére egyre inkább az a benyomásom támadt, hogy az AI-ról szóló viták jelentős része valójában nem is az AI-ról szól. Hanem rólunk: a hatalomvágyunkról, a félelmeinkről, a történeteinkről és a bizonyosság iránti igényünkről.

A mesterséges intelligencia ezt a problémát nem szünteti meg, de talán segíthet felismerni, ha jól használjuk. Nem, nem tévedhetetlen, de képes lehet olyan szempontokat és ellenérveket elénk tárni, amelyeket magunktól nem vennénk észre.

Ehhez azonban két feltétel szükséges. Az AI-nak különbséget kellene tennie a meggyőzően hangzó és a kellően alátámasztott válasz között. Nekünk pedig meg kellene tanulnunk, hogy a magabiztos hang még nem jelent megbízható tudást.

Ezért számomra a mesterséges intelligenciával való együttélés egyik legfontosabb kérdése nem az, hogy a gép képes-e gondolkodni helyettünk, hanem az, hogy képesek vagyunk-e úgy használni, hogy közben ne mondjunk le a saját gondolkodásunkról.

És ha már a tükörnél tartunk: egy tükör attól még nem lesz haszontalan, hogy nem tetszik, amit mutat. De attól sem lesz igaz minden, amit látni vélünk benne, hogy a kép meggyőző.

A mesterséges intelligencia lehet eszköz az önismerethez, de lehet az önáltatás kifinomult eszköze is. A különbség nem kizárólag a technológián múlik. Rajtunk is. A kérdés tehát nyitva marad:

Képesek vagyunk-e olyan mesterséges intelligenciát létrehozni, amely segít felismerni a saját önáltatásainkat – vagy csak még meggyőzőbbé teszi azokat? És ha lenne egy ilyen tükör, vajon hányan mernénk belenézni?