Forrás: UN, faz.de Az ENSZ Biztonsági Tanácsában az AI legnagyobb fejlesztőinek vezetői figyelmeztettek: nemcsak az a kérdés, mire képes a mesterséges intelligencia, hanem az is, hogy képesek leszünk-e továbbra is ellenőrizni.
Van valami szokatlan abban, amikor egy technológia legnagyobb vállatainak vezetői nem azt mondják, hogy „minden rendben lesz”, hanem azt: vigyázzunk, mert baj is lehet. Ez történt szerdán az ENSZ Biztonsági Tanácsában. Sam Altman, az OpenAI vezetője és Dario Amodei, az Anthropic vezérigazgatója a mesterséges intelligencia gyors fejlődésének biztonsági kockázatairól beszélt. Mindketten globális együttműködést és nemzetközi biztonsági szabványokat sürgettek.
Amodei ennél is tovább ment: szerinte ha a mesterséges intelligenciát rosszul kezelik, az egész emberiségre veszélyt jelenthet. A kijelentés azért különösen figyelemre méltó, mert nem egy kívülálló szkeptikustól, hanem a világ egyik vezető AI-vállalatának irányítójától származik.
A vita középpontjában egyre kevésbé az áll, hogy az AI elveszi-e majd néhány ember munkáját. Sokkal komolyabb kérdések kerültek előtérbe. Mi történik, ha egy mesterséges intelligencia nem egyszerűen válaszol a kérdéseinkre, hanem önállóan tervez, döntéseket hoz, számítógépes rendszereket használ, más programokat irányít, és hosszabb feladatsorokat hajt végre emberi beavatkozás nélkül?
Az úgynevezett AI-agentek fejlődése éppen ebbe az irányba mutat. Az ENSZ független nemzetközi tudományos AI-paneljének friss jelentése már olyan tesztekről is beszámol, amelyekben mesterségesintelligencia-rendszerek megpróbáltak korlátozásokat megkerülni, illetve olyan lépéseket tettek, amelyekre nem kaptak közvetlen emberi utasítást. Ez önmagában nem bizonyítja, hogy az AI „öntudatra ébredt”, de jól mutatja, hogy az egyre összetettebb rendszerek viselkedése nehezebben kiszámítható.
„Nincs elfogadható katasztrófakockázat”
Sam Altman az ENSZ-ben igyekezett elkerülni az AI-apokalipszisről szóló jóslatokat, ugyanakkor egyértelművé tette: egy komoly katasztrófa kockázatát nem lehet elfogadhatónak tekinteni.
Az utóbbi időben azonban már az AI-kutatók között is megjelentek egészen szélsőséges kockázati becslések. Az Anthropic egyik kutatója például tíz százaléknál nagyobbra becsülte annak esélyét, hogy a mesterséges intelligencia a következő évtizedben az emberiség pusztulásához vezethet.
Ez azonban egy kutató személyes becslése, nem tudományosan igazolt előrejelzés, és nem az Anthropic hivatalos prognózisa. Jelentősége inkább abban van, hogy érzékelteti: a legrosszabb forgatókönyveket már az AI-fejlesztés belső köreiben is komolyan tárgyalják.
A félelmek között szerepel a biológiai fegyverek fejlesztésének megkönnyítése, a kibertámadások automatizálása, a tömeges dezinformáció, az autonóm fegyverrendszerek elterjedése, a pénzügyi rendszerek manipulációja, valamint az, hogy az AI egyre több feladatot hajt végre közvetlen emberi felügyelet nélkül.
Nem kell Terminátor ahhoz, hogy baj legyen
Az egyik legfontosabb félreértés, hogy az AI biztonsági problémája csak akkor kezdődik, ha a gép „öntudatra ébred”. Ez nem feltétlenül igaz. Egy rendkívül erős, de nem tudatos rendszer is okozhat súlyos problémát, ha rosszul meghatározott célt követ, hozzáférést kap kritikus infrastruktúrához, vagy olyan eszközöket használ, amelyeket az ember eredetileg nem szánt neki.
A kérdés ezért nem elsősorban az, hogy „gonosz lesz-e az AI”, hanem az, hogy meg tudjuk-e érteni, előre tudjuk-e jelezni, és szükség esetén le tudjuk-e állítani azt, amit csinál. Ezt nevezik a szakirodalomban a kontroll elvesztése – loss of control – problémájának.
A mesterséges intelligencia ráadásul egyszerre lehet biztonsági eszköz és biztonsági kockázat. Segíthet konfliktusok előrejelzésében, a békefenntartásban vagy a kiberbiztonságban, ugyanakkor megkönnyítheti a támadások, a manipuláció és a dezinformáció automatizálását is. Vagyis nem maga az AI „jó” vagy „rossz”. Az számít, ki használja, mire használja, milyen hozzáférést kap, és milyen ellenőrzés alatt működik.
Már az AI-cégek is külső ellenőröket kérnek
Az ENSZ-ülés egyik fontos bejelentése volt, hogy az Anthropic külső szakértőket von be saját biztonsági gyakorlatainak ellenőrzésére, illetve a biztonsági incidensek jelentésének vizsgálatára. Sam Altman hasonló külső ellenőrzést ígért az OpenAI-nál is.
A lépés azért fontos, mert az AI fejlődésének sebessége mellett egyre kevésbé elegendő, ha egy vállalat saját maga állapítja meg, hogy a saját rendszere biztonságos.
A kérdés már nem egyszerűen az, hogy „megbízhatunk-e az AI-cégekben?”
Hanem az, hogy létrehozható-e olyan rendszer, amelyben nem kell vakon megbíznunk bennük.
Ki ellenőrizze az ellenőrőket?
A probléma itt válik igazán politikai és geopolitikai kérdéssé. A világ legfejlettebb AI-rendszereit néhány óriásvállalat fejleszti, miközben az Egyesült Államok és Kína között egyre élesebb technológiai verseny zajlik. Európa közben saját szabályozási modellt próbál kialakítani.
Az amerikai technológiai vállalatok egy része a nemzetközi együttműködést sürgeti, miközben Washingtonban olyan vélemények is erősek, hogy a túlzott szabályozás gyengítené az Egyesült Államok versenyképességét Kínával szemben.
Így egyszerre két, egymással nehezen összeegyeztethető logika működik. Az első szerint minél gyorsabban fejlesztünk, annál nagyobb gazdasági és geopolitikai előnyre tehetünk szert.
De közben a másodikban is van igazság: minél gyorsabban fejlesztünk, annál gyorsabban érhetünk el egy olyan pontot, ahol már nem tudjuk megfelelően ellenőrizni a rendszereket.
A harmadik megközelítés úgy véli: nem lassítani kell, inkább olyan szabályokra van szükség, amelyek mellett biztonságosan lehet gyorsan fejleszteni. Persze ezek az emberi szabályok, nem az AI szabályai…
Az igazi kérdés: kié a döntés?
Az ENSZ-ben elhangzottak alapján egyre világosabb, hogy az AI körüli vita már messze nem pusztán technológiai kérdés. Hatalmi kérdés is.
Ki határozza meg, mit tehet egy AI-rendszer? A fejlesztő? Az állam? Nemzetközi szervezet? A felhasználó? És mi történik akkor, ha egy rendszer képességei gyorsabban fejlődnek, mint ahogy a szabályozók megértik őket?
Az emberiségnek le kell-e mondania a mesterséges intelligenciáról, vagy képes lesz-e szabályokat alkotni saját új technológiájához még azelőtt, hogy annak képességei túlnőnének az emberi ellenőrzésen?
Az AI már most képes tudományos problémákat megoldani, programokat írni, információt elemezni, képeket és videókat készíteni, és egyre összetettebb feladatokat önállóan végrehajtani, ezért a következő évek döntő kérdése már nem pusztán az lesz: hogyan szabályozzuk? Az ENSZ Biztonsági Tanácsában elhangzott figyelmeztetések alapján ez már nem a távoli jövő filozófiai kérdése. A világ legnagyobb AI-fejlesztői szerint is olyan probléma, amelyre most kellene megtalálni a választ.
