Az AI-ról sokszor úgy beszélünk, mint egy új eszközről, ami gyorsabbá és olcsóbbá teszi a mindennapokat. A keményebb kérdés viszont az, hogy közben ki dönt helyettünk — és milyen intézményekből csúsznak át ezek a döntések vállalati rendszerekbe.

Mi történt

Jill Lepore harvardi történész egy friss podcastbeszélgetésben arról beszélt, hogy egyfajta „mesterséges állam” körvonalazódik: olyan működés, ahol egyre több társadalmi és állami funkciót nem választott intézmények, hanem digitális platformok és gépi rendszerek közvetítenek. Az állítás lényege nem az, hogy már most teljesen gépek irányítanak, hanem hogy a környezet, amely ezt lehetővé teszi, már épül.

Ebben a modellben a döntések, a tájékozódás és az ügyintézés egyre gyakrabban automatizált felületeken keresztül történik. Gondolj rá úgy, mint amikor már nem emberrel beszélsz egy időpont-egyeztetésnél, ügyfélszolgálatnál vagy információkérésnél, hanem chatbotokkal és algoritmusokkal. Az algoritmus olyan szabálykészlet, amely adatok alapján próbál döntést hozni vagy ajánlást adni. Lepore szerint a gond ott kezdődik, amikor ez nem egyszerű kényelmi réteg, hanem a közéletet is alakító infrastruktúra lesz: innen kapunk híreket, politikai üzeneteket, sőt egyesek már arra is AI-t kérdeznek, kire szavazzanak.

Miért fontos

A vita itt valójában nem technológiai, hanem demokratikus. Ha a közös életünket szervező rendszerek — kommunikáció, tájékozódás, ügyintézés, megfigyelés — egyre inkább nagyvállalatok tulajdonában lévő AI-rétegeken futnak, akkor a hatalom is velük együtt tolódik. Ez a hétköznapi felhasználónak elsőre csak annyit jelenthet, hogy több az automata ügyintézés vagy személyre szabottabb a hírfolyam. Hosszabb távon viszont azt is, hogy nehezebb átlátni, ki mi alapján dönt, milyen adatokat használ, és hogyan befolyásolja a választásainkat. A Futurism által kiemelt legerősebb hasonlat — az emberi élet „gyártelepi” szervezése — arra utal, hogy a rendszer nem egyénekként, hanem kezelhető, szegmentálható egységekként tekint ránk.

Mire figyelj

  1. Az AI elkerülhetetlenségéről szóló narratívára. Attól, hogy egy technológia gyorsan terjed, még nem természetes törvény, hogy szabályozás nélkül kell elfogadni.
  1. Arra, hol váltják le az emberi kapcsolatot automatizált döntések. Nem minden chatbot probléma, de számít, hogy van-e valódi emberi alternatíva és felelősség.
  1. A politikai és közéleti AI-használatra. Különösen fontos kérdés, hogyan készülnek a kampányüzenetek, milyen rendszerek szűrik az információt, és milyen szerepet kap az AI a megfigyelésben.
  1. A régi ígéretek visszatérésére. Az az érv, hogy az új technológia majd magától erősíti a demokráciát, már az internet és a közösségi média korszakában is ismerős volt — vegyes eredménnyel.