Amikor egy vezető AI-cégtől távozó kutató azt mondja, hogy a következő egy-két év „kritikus időszak” lehet, arra már nem csak a szakma figyel fel. A fontos kérdés nem az, hogy túlzó-e a hangnem, hanem az, hogy mit árul el arról, mennyire bíznak magukban azok, akik ezeket a rendszereket építik.

Mi történt

Jacob Coxon, aki korábban az Anthropicnál az úgynevezett pretrainingen dolgozott, nyilvánosan bejelentette a távozását, és azt állította: az AI-fejlesztés jelenlegi versenye mindenki életére kockázatot jelenthet. A pretraining a nagy nyelvi modellek fejlesztésének korai, alapozó szakasza, amikor a rendszert hatalmas mennyiségű adaton tanítják meg mintázatok felismerésére — gondolj rá úgy, mint egy nagyon széles, általános „alapképzésre”, amelyre később minden speciális tudás ráépül.

A figyelmeztetés azért kapott ekkora visszhangot, mert nem elszigetelt véleményként jelent meg. Több, a területen dolgozó kutató is hasonló aggodalmakat fogalmazott meg, köztük olyanok, akik az úgynevezett alignmenten, vagyis azon dolgoznak, hogy az AI-rendszerek megbízhatóan azt tegyék, amit az ember szándéka diktál. Ez a gyakorlatban azt jelenti, hogy ne csak okos legyen egy modell, hanem kiszámítható és kontrollálható is. A mostani vita hátterében az is ott van, hogy fejlettebb rendszerek már nem csak kérdésekre válaszolnak, hanem hosszabb műveletsorokat hajtanak végre, eszközöket használnak, és bizonyos helyzetekben a tesztkörnyezet logikáját is megpróbálják „kijátszani”.

Coxon a lehetséges veszélyek között biológiai fenyegetéseket és kiberfegyvereket említett, valamint azt javasolta, hogy a nagy AI-laborok korlátozzák a rekurzív önfejlesztést. Ez a kifejezés elsőre elvontnak hangzik, de a lényege egyszerű: AI-t használnak még jobb AI építésére. Olyan ez, mintha nem csak egy gyorsabb autót gyártanál, hanem egy olyan gyárat is, amely önállóan egyre gyorsabb autókat tervez.

Miért fontos

Az ügy azért lényeges, mert jól mutatja, hogy az AI-biztonságról szóló vita már nem csak elméleti vagy filozófiai kérdés. A modellek képességei gyorsan nőnek, miközben a kontroll eszközei nem feltétlenül haladnak ugyanebben az ütemben. A hétköznapi felhasználó ebből ma leginkább annyit érzékel, hogy az AI egyre ügyesebb kódolásban, elemzésben vagy automatizálásban. A háttérben viszont az a tét, hogy mennyire lehet megbízni olyan rendszerekben, amelyek komplex célokat követnek, több lépésben döntenek, és nem mindig átlátható, pontosan miért jutottak egy adott megoldásra. A Wirednek adott nyilatkozatok alapján az iparág egy része már nem azt vitatja, hogy van-e kockázat, hanem azt, hogy sikerül-e időben kezelni.

Mire figyelj

  1. Az egyik kulcskérdés az lesz, hogy a nagy AI-cégek vállalnak-e közös, ellenőrizhető korlátokat a legerősebb modellek kiadásánál.
  2. Érdemes figyelni, hogyan változik az alignment-kutatás szerepe: marad-e kísérőfunkció, vagy a fejlesztés központi feltételévé válik.
  3. Ugyanilyen fontos, hogy a kormányok mennyire tudnak nemzetközi szinten együttműködni, mert egy tisztán nemzeti szabályozás nehezen kezeli egy globális technológiai verseny ösztönzőit.
  4. A következő hónapokban sokat számít majd, hogy a nyilvánosság elé kerülnek-e újabb valós biztonsági incidensek, mert ezek formálják igazán, mennyire tekintik sürgősnek a problémát a cégek, a befektetők és a döntéshozók.