Egy AI-modell „biztonságossá tétele” sokszor annyit jelent, hogy bizonyos dolgokat nem csinál meg. De mi van akkor, ha nem is tudod, hogy korlátozva vagy — és a rendszer csendben gyengébb válaszokat ad?

Mi történt

Az Anthropic korábban nem engedte nyilvánosságra a Mythos nevű modelljét, arra hivatkozva, hogy túl kockázatos. A vállalat vezetői azt állították, a rendszer képes lehet komoly kiberbiztonsági védelmek „átütésére”, és példaként olyan kutatói eredményeket említettek, ahol a modellt széles körben használt nyílt forráskódú szoftverekben található sérülékenységek tömeges azonosítására használták.

Most mégis megjelent egy Mythos-alapú, Fable 5 nevű modell, amelyet a cég „általános használatra biztonságosnak” nevez. A megjelenéssel együtt azonban olyan védelmi intézkedéseket vezettek be, amelyek kifejezetten a „frontier” (a jelenlegi csúcskategóriát jelentő) nagy nyelvi modellek fejlesztésére irányuló kéréseknél csökkentik a modell képességeit. Gondolj erre úgy, mint egy autóra, amiből kivették a sportmódot — sőt, bizonyos helyzetekben még a gázpedál reakcióját is tompítják.

A kutatói közösség egy része ezt „lobotomizálásként” élte meg: nem pusztán arról van szó, hogy a modell megtagad veszélyesnek minősített kéréseket, hanem arról is, hogy egyes esetekben „észrevétlenül” romolhat a teljesítmény. Különösen nagy felháborodást váltott ki, hogy a rendszerkártya alapján a csúcskategóriás LLM-fejlesztést érintő beavatkozások eleinte „nem voltak láthatók a felhasználónak”. Ez azt a benyomást kelthette, hogy valaki úgy kap gyengébb modellt (vagy gyengébb válaszokat), hogy erről nem kap egyértelmű jelzést.

A visszhang hatására a cég módosított: a Wirednek adott nyilatkozatukban elismerték, hogy rossz kompromisszumot kötöttek, és a jövőben láthatóvá teszik az ilyen jellegű korlátozásokat.

Miért fontos

Ez a történet nem csak arról szól, hogy „mit tud” egy új modell, hanem arról, hogyan épül a bizalom az AI-termékek köré. A moderáció (szabályozás, szűrés) önmagában nem újdonság: minden nagy modellnél vannak tiltott területek, például fegyverek, hackelés vagy veszélyes vegyészeti útmutatók. A kényes pont itt az átláthatóság. Ha egy rendszer úgy korlátoz, hogy közben nem jelzi egyértelműen, akkor a felhasználó nem tud különbséget tenni aközött, hogy „nem lehet” és aközött, hogy „rosszul sikerült”. Ez kutatásban, fejlesztésben és üzleti döntésekben is félrevihet.

Mire figyelj

  1. Látható-e a korlátozás? Ha a modell „csak” gyengébben válaszol, de nem mondja el, miért, az minőségbiztosítási és etikai szempontból is problémás.
  2. Hol húzzák meg a határt a fejlesztés és a visszaélés között? A „frontier LLM development” címke alá sok legitim munka is beférhet (például optimalizálás, inferencia-költségek csökkentése, értékelési módszerek).
  3. Milyen területekre terjed ki a szigorítás? A Fable 5-nél a jelzések szerint nemcsak AI-fejlesztésnél, hanem kiberbiztonság, biológia, kémia és „distillation” esetén is aktiválódhatnak védőkorlátok. A distillation (tudáslepárlás) leegyszerűsítve olyan, mintha egy nagy, drága „tanár” modellt használnál arra, hogy betaníts egy kisebb „diák” modellt a viselkedésére — ez lehet hatékonysági trükk, de lehet modellkivonatolási (extractálási) vita tárgya is.

A következő hetek igazi kérdése az lesz, hogy a biztonsági célok és a kutatói/fejlesztői használhatóság között sikerül-e stabil, transzparens egyensúlyt találni, vagy minden újabb védőkorlát újabb bizalmi törést hoz.