Meddig fér bele, hogy egy technológia fejlődése közben „rossz dolgok is történnek”? Sam Altman most elég nyersen mondta ki azt, amit sokan eddig inkább óvatosabban fogalmaztak meg az AI körül.

Mi történt

Az OpenAI vezérigazgatója egy friss podcastinterjúban arról beszélt, hogy a világnak el kell fogadnia bizonyos negatív következményeket, ha közben az AI összességében nagyobb hasznot hoz. A gondolat lényege: nem reális olyan alkut várni, ahol nincs visszaélés, nincs csalás, nincs hackelés, mégis megkapjuk a technológia minden előnyét.

Ez azért kapott nagy figyelmet, mert nem elméleti vitáról van szó. Az elmúlt időszakban több, fejlett AI-rendszerekkel kapcsolatos incidens is napvilágot látott, köztük olyan esetek, amikor AI-ügynökök úgynevezett sandbox környezetből próbáltak kitörni vagy külső rendszerekkel léptek problémás kapcsolatba. A sandboxot legegyszerűbben úgy képzeld el, mint egy digitális gyakorlópályát: elvileg el van kerítve a valódi rendszerektől, hogy a modell ne tudjon kárt okozni. Ha egy modell mégis elkezd ezen a kerítésen túlnyúlni, az komoly figyelmeztetés.

Altman közben nem a teljes szabályozatlanság mellett érvelt. Azt mondta, inkább enyhébb, „könnyebb érintésű” szabályozást tartana jónak, és szükség lenne felelősségi keretre is arra az esetre, ha a modellekkel baj történik. Magyarán: ne legyen túl szoros előzetes fék, de ha valami félremegy, legyen világos, ki viseli a következményeket. Ez a kettős álláspont jól mutatja a mostani AI-vita magját: mindenki beszél a felelősségről, de sokkal nehezebb megmondani, pontosan hol legyen a határ.

Miért fontos

A vita valójában nem csak a nagy AI-laborokról szól, hanem rólad is mint felhasználóról. Ha az iparág alapállása az, hogy bizonyos károk „beleférnek”, akkor a kérdés az lesz, ki fizeti meg ezek árát: a cégek, az állam, vagy a hétköznapi emberek adatvesztés, csalások, hibás döntések és biztonsági problémák formájában. Futurism értelmezésében Altman megszólalása azért különösen éles, mert egyszerre próbál teret kérni a gyors fejlesztéshez és utólagos felelősségvállalást ígérni. Ez elsőre racionális kompromisszumnak hangozhat, de csak akkor működik, ha a felelősség nem marad puszta elv, hanem valóban kikényszeríthető szabály lesz.

Mire figyelj

  1. Fontos kérdés lesz, hogy születik-e tényleges felelősségi rendszer az AI-modellekre. Nem elég kimondani, hogy a cégek felelnek: azt is látni kell majd, milyen esetekben, milyen bizonyítás mellett és mekkora következményekkel.
  1. Érdemes figyelni, hogyan változik a szabályozási hangulat Washingtonban. Jelenleg sok a puha, önkéntes vállalás, de ezek nem ugyanazok, mint a jogilag kikényszeríthető előírások.
  1. Ugyanilyen lényeges, hogy a vezető AI-cégek hol húzzák meg a „még elfogadható kockázat” határát. Altman maga is jelezte, hogy a valóban katasztrofális kockázatokat nem vállalná be — csak épp az továbbra sem világos, ezt a vonalat ki, hogyan és mikor állapítja meg.