Forrás: neueIPG A mesterséges intelligencia nem kopogtat a közigazgatás ajtaján – már bent ül az irodában. Egyre több országban nemcsak ügyintézési segédeszközként használják, hanem döntéshozóként is. A kérdés nem az, hogy alkalmazzák-e az MI-t az államigazgatásban, hanem az: meddig tart az emberi ellenőrzés és hol kap szabad kezet az MI….

Nemrég az Egyesült Arab Emírségek jelentette be, hogy két éven belül állami szolgáltatásainak felét mesterséges intelligenciára bízza. Az elképzelés szerint az MI „végrehajtó partnerként” működne: elemezne, döntene, végrehajtana és folyamatosan fejlesztené saját működését – emberi beavatkozás nélkül. A cél a gyorsaság és a hatékonyság. A kritikusok szerint azonban ez a digitális technokrácia veszélyes kísérlete, hiszen az élet már most tele van figyelmeztető példákkal.

Hollandiában egy önfejlesztő algoritmus több mint 35 ezer családot bélyegzett meg gyermeknevelési támogatással való csalás miatt. A rendszer kockázati tényezőként kezelte a kettős állampolgárságot és az idegen hangzású neveket. Családok veszítették el otthonukat, gyerekek kerültek állami gondozásba, végül a Mark Rutte vezette kormány bukásához vezetett az ügy.

Ausztráliában a „Robodebt” program több százezer segélyezettet üldözött állítólagos tartozások miatt. Az automatikusan generált fizetési felszólítások sokszor hibásak voltak, mégis behajthatónak minősültek. A vizsgálóbizottság később kimondta: a rendszer jogellenesen működött.

Az Egyesült Államokban algoritmusok döntöttek arról, ki mennyi otthoni ápolási támogatást kapjon. Súlyosan beteg emberek ellátását egyik napról a másikra csökkentették, mert a rendszer így „számolta ki”. Mire a bíróságok közbeléptek, sok esetben már visszafordíthatatlan károk keletkeztek. És ezek még csak részrendszerek voltak. Mi történik akkor, ha ugyanez a logika az egész államigazgatást áthatja?

Az MI-állam logikája

A mesterséges intelligencia különösen vonzó a politikai vezetők számára, mert azt ígéri: gyorsabb ügyintézés, kevesebb bürokrácia, kisebb költség, kevesebb emberi hiba. Egy jól működő digitális rendszer valóban képes lehet egyszerűsíteni az adminisztrációt – például adóügyekben, időpontfoglalásban, dokumentumkezelésben vagy közlekedési rendszerekben. Csakhogy a kormányzás nem futószalag.

Az állam nem csomagküldő szolgálat, ahol a sebesség az egyetlen mérőszám. A közigazgatás döntései emberi sorsokat érintenek: nyugdíjat, segélyt, tartózkodási engedélyt, gyámügyet vagy egészségügyi ellátást. Ezekben az esetekben nemcsak a döntés számít, hanem az is, hogy ki hozta meg, milyen indokkal, és hogyan lehet ellene jogorvoslatot kérni.

A probléma az, hogy az MI-rendszerek gyakran „fekete dobozként” működnek. Még fejlesztőik sem mindig tudják pontosan megmagyarázni, hogyan jutottak egy adott döntésre. Ha egy ügyintéző hibázik, számon kérhető. De kit lehet felelősségre vonni egy önfejlesztő algoritmus esetében? A minisztériumot? A szoftvercéget? Az adatbázist? A felelősség itt kezd el elmosódni.

A másik nem kevésbé fontos tapasztalat, hogy az algoritmusok már a szociális médiában legyőzték az embert, az ingyenes használatért az adatainkkal és a figyelmünkkel fizettünk, az algoritmusok pedig egy információs buborékba zártak bennünket, olyanba, amelyből meglehetősen. nehéz kilépni. Nem kétséges, hogy ha állami hátszéllel működnek, hatalmuk még nagyobb lesz.

A politikai csábítás: kontroll és hatékonyság

A világ különböző politikai rendszerei eltérő módon közelítenek az MI-hez, de egy közös pont jól látható: a technológia a hatalomgyakorlás új eszközévé válik. Kínában az MI-t már ma is használják társadalmi megfigyelésre, arcfelismerésre, prediktív rendészetre és állampolgári pontozási rendszerekhez kapcsolódó adatfeldolgozásra. Az algoritmus itt nem pusztán adminisztrációs segéd, hanem a politikai kontroll infrastruktúrája.

Az Európai Unió ezzel szemben szabályozási oldalról próbálja megközelíteni a kérdést. Az AI Act célja, hogy korlátozza a magas kockázatú rendszerek használatát, különösen ott, ahol alapjogokat érinthetnek. Az EU szemlélete szerint az állam nem mondhat le az emberi felügyeletről.

Az Egyesült Államokban inkább piaci logika dominál: az állam és a technológiai vállalatok együttműködése alakítja az MI-kormányzást. Ez gyors innovációt eredményez, ugyanakkor komoly összefonódásokat is teremt az állam és a Big Tech között. Közben autoriter és demokratikus rendszerek egyaránt ugyanabba az irányba sodródhatnak: az automatizált állam felé.

És mi lesz a bíróságokkal?

A következő nagy frontvonal valószínűleg az igazságszolgáltatás lesz. Már ma is léteznek olyan rendszerek, amelyek előrejelzik egy vádlott visszaesési kockázatát, segítik az ítéletkiszabást vagy elemzik a bírósági precedenseket. Az Egyesült Államokban a COMPAS nevű algoritmust használták bírói döntések támogatására – később azonban kiderült, hogy a rendszer faji torzításokat tartalmazott.

A technológia támogatást nyújthat a bíróságoknak dokumentumelemzésben vagy jogi kutatásban. A veszély ott kezdődik, amikor az algoritmus ajánlása gyakorlatilag ítéletté válik, pedig a bíráskodás nem puszta adatfeldolgozás. A jog nemcsak szabályok mechanikus alkalmazása, hanem mérlegelés, körülmények értelmezése és erkölcsi felelősség is. Egy algoritmus kiszámíthat valószínűségeket – de nem érez arányosságot, méltányosságot vagy irgalmat.

A hatékonyság ára

A mesterséges intelligencia kétségtelenül átalakítja az államot. A kérdés azonban az, hogy az állam közben mivé alakul át. Egy emberközpontú digitális közigazgatás valódi előrelépés lehetne: gyorsabb ügyintézés, jobb hozzáférés, kevesebb bürokrácia. De ha a politikai vezetők kizárólag hatékonysági mutatóként tekintenek az MI-re, akkor könnyen létrejöhet egy olyan rendszer, ahol az állampolgár többé nem emberként, hanem adatpontként jelenik meg. És amikor egy algoritmus hibázik, annak következményeit mindig valódi emberek viselik.