Mi történt
Az Anthropic augusztus 14-től bekapcsolja alapértelmezésként az auto módot a Claude Code Pro, Max és Team fiókjaiban. Az auto mód lényege, hogy a rendszer nem kér külön emberi engedélyt minden egyes lépéshez, hanem önállóan folytatja a munkát, kivéve akkor, ha a tervezett művelet visszafordíthatatlannak, rombolónak vagy a felhasználó környezetén kívülre mutatónak számít.Ez fontos különbség a korábbi működéshez képest, ahol a felhasználó gyakran egy sor engedélykérést kapott munka közben. Gondolj rá úgy, mint egy GPS-re, amely nem minden kereszteződésnél kér visszaigazolást, hanem visz tovább az útvonalon, és csak akkor szól közbe, ha tényleg veszélyes letérés jönne. Az auto mód tesztverziója már márciusban megjelent, most viszont szélesebb körben, alapbeállításként érkezik.
Miért fontos
A változás nem csak kényelmi frissítés. A kódoló AI-eszközöknél a túl sok engedélykérés könnyen rutinná válik: az emberek egyszerűen rányomnak az igenre anélkül, hogy valóban átnéznék, mi történik. A belső tesztekben 1053 fizető felhasználó részvételével az auto mód a káros műveletek 89%-át fogta meg, míg a kézi felülvizsgálat csak 13,6%-ot. Ez elsőre meglepőnek tűnhet, de logikus: ha a felhasználók az engedélykérések 97%-át automatikusan jóváhagyják, a „kézi kontroll” könnyen csak látszólagos biztonság marad. Közben új védelmi rétegek is érkeznek, például a prompt injection szűrés — ez olyan támadások ellen véd, amikor egy külső szöveg vagy utasítás megpróbálja eltéríteni a modellt —, valamint testreszabható kemény tiltási szabályok, amelyek bizonyos műveleteket eleve letiltanak, például az adatok jogosulatlan kimentését.Mire figyelj
- Az lesz az igazán érdekes, hogy a gyakorlatban mennyire marad gyors az eszköz úgy, hogy közben nem enged át kockázatos lépéseket.
- Érdemes figyelni, pontosan milyen műveleteket sorol a rendszer a visszafordíthatatlan, romboló vagy külső környezetet érintő kategóriába, mert ezen múlik, hol húzza meg a valódi határt.
- A csapatoknak és cégeknek valószínűleg felértékelődik a testreszabható tiltási szabályok szerepe: ezek dönthetik el, hogy az önállóbb AI mennyire illeszkedik biztonságosan a saját fejlesztési folyamataikba.
- A TechCrunch által is idézett vezetői álláspont alapján a cég erősen bízik ebben az irányban, de a széles bevezetés után derül ki, hogy a felhasználók is ugyanígy érzik-e majd a mindennapi munkában.
