Az AI-versenyben általában a gyorsaság a fő történet. Most viszont az a hír, hogy az OpenAI szerint van egy pont, ahol a tempónál fontosabb lesz, mennyire lehet biztonsággal kézben tartani a rendszereket.
Mi történt
Sam Altman a DevDay utáni sajtóbeszélgetésen azt mondta, az OpenAI nem készül addig tőzsdére menni, amíg nem tud magabiztosabb állításokat tenni a modelljei biztonságáról. Nincs konkrét menetrend, és az üzenet lényege az volt, hogy a cég nem akar újabb külső nyomást magára rakni egy olyan időszakban, amikor a modellek képességei látványosan nőnek.A háttér ehhez nem elméleti. Az elmúlt hónapokban több olyan eset is napvilágot látott, amely azt a kérdést erősítette fel, hogy az AI-laborok valóban kontroll alatt tudják-e tartani a saját rendszereiket. Ide tartoznak kiberbiztonsági incidensek több nagy szereplőnél, valamint az a vita is, hogy mit jelent a gyakorlatban a „frontier” modellek tempójának visszafogása vagy legalább tudatosabb ütemezése. Altman ezt nem lassításként írta le, hanem úgy, hogy a biztonságot és az úgynevezett alignmentet a képességek elé kell helyezni. Az alignment leegyszerűsítve azt jelenti, hogy a modell viselkedése minél jobban igazodjon az emberi szándékhoz és szabályokhoz, ne csak egyre ügyesebb legyen.
Miért fontos
Ez a döntés valójában arról szól, milyen ösztönzők formálják a legnagyobb AI-cégeket. Egy tőzsdei cégre folyamatos negyedéves elvárások nehezednek: növekedést, bevételt és kiszámítható teljesítményt várnak tőle. Gondolj rá úgy, mint amikor egy autót menet közben kellene továbbépíteni, miközben az utasok egyre gyorsabb tempót követelnek. Ha közben a fékrendszert is újra kell tervezni, a plusznyomás könnyen rossz irányba tolhatja a döntéseket. Altman érvelése szerint most épp ez a kockázat: a piac rövid távú elvárásai ütközhetnek azzal, hogy az egyre erősebb modellekhez új típusú biztonsági bizonyítékok kellenek. A The Verge értelmezésében a lényeg nem az IPO elutasítása, hanem annak halasztása addig, amíg a cég szerint védhetőbbé nem válik a következő szintre lépés.Mire figyelj
- Az egyik kulcskérdés az lesz, hogy az OpenAI mit tekint majd elég erős „biztonsági állításnak”. Amíg ez nincs világosan definiálva, a tőzsdei időzítés is nyitott marad.
- Érdemes figyelni, hogyan változik a „pacing the frontier” kifejezés gyakorlati jelentése. Ez most inkább stratégiai jelszó, mint pontos vállalás.
- Fontos összevetni a riválisok lépéseivel is. Miközben más AI-cégek vagy kapcsolódó technológiai vállalatok már a nyilvános piac felé mozdulnak, az OpenAI azt üzeni, hogy a biztonsági küszöb legalább annyira üzleti kérdés lett, mint technikai.
- A hétköznapi felhasználónak ebből az következik, hogy a következő generációs modelleknél nem csak az számít majd, mennyivel okosabbak, hanem az is, mennyire átláthatóan lehet bizonyítani, hogy nem viselkednek kiszámíthatatlanul.