Az OpenAI új modellje nemcsak gyorsabbnak és ügyesebbnek ígérkezik, hanem egy kényes kérdést is újra előtérbe tol: mi van akkor, ha egy AI egyre többet tud, de közben egyre nehezebb ellenőrizni, hogyan gondolkodik?

Mi történt

Az OpenAI csütörtökön elindította az Astrát, amelyet a vállalat eddigi legerősebb és legképzettebb modelljeként pozicionál. Először a Daybreak nevű kiberbiztonsági program ügyfelei kapják meg, majd a következő napokban fokozatosan elérhetővé válik a fizetős csomagokban — Pro, Plus, Enterprise és Business előfizetéssel —, valamint API-n keresztül is.

A bemutató központi üzenete az volt, hogy az Astra nem egyszerűen egy jobb chatbot, hanem olyan modell, amely számítógépes és böngészős feladatokban is erős. Ez magyarra lefordítva azt jelenti, hogy nem csak válaszol kérdésekre, hanem szoftverfejlesztési, terminálos és hibakeresési munkákban is használható. A terminál itt lényegében egy szöveges vezérlőfelület, ahol fejlesztők és rendszergazdák parancsokkal dolgoznak. Az OpenAI azt állítja, hogy az Astra több biztonsági és kódolási tesztben is felülmúlja a meglévő modelleket, például hibák felderítésében, kódbázisokkal kapcsolatos kérdések megválaszolásában és technikai feladatok végrehajtásában.

Külön hangsúlyt kapott a kiberbiztonság. A cég szerint a modell képes lehet úgynevezett zero-day sérülékenységek azonosítására és kidolgozására is. A zero-day olyan, addig ismeretlen hiba, amelyre még nincs javítás — gondolj rá úgy, mint egy frissen felfedezett hátsó ajtóra egy épületen, amelyről a tulajdonos még nem is tud. Elvben ez nagy segítség lehet a védelmi oldalon, mert a biztonsági csapatok gyorsabban találhatják meg és foltozhatják be a réseket.

Miért fontos

A nagy kérdés nem az, hogy az Astra erős-e, hanem az, hogy mennyire felügyelhető. A vita egy „opaque recurrence” nevű technika körül forog, amely leegyszerűsítve azt jelenti, hogy a modell bizonyos belső következtetési lépései kevésbé láthatók a kutatók számára. Ez azért fontos, mert így nehezebb auditálni, miért jutott egy adott döntésre. Olyan ez, mintha egy kolléga mindig jó válaszokat adna, de egyre ritkábban tudná vagy akarná megmutatni a jegyzeteit. A TechCrunch anyaga is erre a feszültségre helyezi a hangsúlyt: miközben a modellek egyre ügyesebbek, a megfigyelhetőségük nem feltétlenül javul velük együtt. Ez a hétköznapi felhasználónak azért számít, mert minél több valódi munkát bízol AI-ra — kódírást, rendszerkezelést, biztonsági elemzést —, annál fontosabb, hogy ne csak az eredmény legyen jó, hanem az is, hogy tudd, mennyire megbízható az út odáig.

Mire figyelj

  1. Az első hetekben az lesz a legérdekesebb, mennyire igazolják vissza a független tapasztalatok az OpenAI teljesítményre vonatkozó állításait.
  2. Érdemes figyelni, milyen új biztonsági korlátokat és hozzáférési szabályokat vezetnek be, főleg a kiberbiztonsági felhasználás miatt.
  3. Fontos kérdés marad, hogy az Astra mennyire lesz auditálható a gyakorlatban, és a fejlesztők milyen eszközöket kapnak majd a működésének ellenőrzésére.
  4. Az AGI körüli vita sem tűnik el: bár a fogalom továbbra is homályos, az ilyen modellek minden új generációval közelebb hozzák azt a pillanatot, amikor már nem csak marketingkérdés lesz, minek nevezzük őket.