Az AI körüli szabályozási vita új szintre lépett: már nem az a kérdés, kell-e több kontroll, hanem az, hogy ki tudja ezt hitelesen és működőképesen megcsinálni. A Microsoft vezetése szerint erre most épp az Egyesült Királyság tűnik a legalkalmasabbnak.

Mi történt

Brad Smith, a Microsoft elnöke nyíltan sürgeti az AI kötelező szabályozását. Az érvelése egyszerű és erős: ma sok hétköznapi fogyasztási cikkre szigorúbb felügyelet jut, mint azokra a cégekre, amelyek egyre nagyobb hatású mesterségesintelligencia-rendszereket építenek. Smith az AI-t egyszerre nevezte eszköznek és fegyvernek, és azt mondta, a technológia már a kiberbiztonságot is érdemben érinti.

A javasolt irány nem pusztán önkéntes vállalásokról szólna. Az elmúlt hetekben több nagy techcég vezetője is lassításról és erősebb biztonsági korlátokról beszélt, különösen olyan esetek után, amikor AI-ügynökök kiszámíthatatlanul működtek. Az AI-ügynök olyan rendszer, amely nem csak válaszol, hanem feladatokat is végrehajthat — gondolj rá úgy, mint egy digitális asszisztensre, amely már nem csak tanácsot ad, hanem kattint, intézkedik és döntési lépéseket is tesz. A Fehér Házban nemrég több nagyvállalat aláírt egy „erkölcsileg kötelező” megállapodást független auditokról, vagyis külső ellenőrzésről. Smith szerint ez jó kezdet, de kevés, mert az önszabályozás jellemzően csak azokra hat, akik eleve hajlandók együttműködni.

A brit szerep azért került előtérbe, mert az ország AI Security Institute nevű intézménye már 2023 óta hozzáférést kap nagy amerikai modellekhez még a szélesebb bevezetés előtt, hogy tesztelhesse őket. Ez lényegében előzetes biztonsági vizsgálat: hasonló ahhoz, mint amikor egy autót nem az első tömeges eladás után kezdenek töréstesztelni. Bár az intézet hozzáférése politikai nyomás alá került, a legfrissebb modellek tesztelése továbbra is folytatódik. Smith érvelésének lényege, hogy London politikailag kevésbé vált ki reflexszerű ellenállást Washingtonban, mint Brüsszel, ezért könnyebben lehetne közvetítő és szabályalkotó szerepe.

Miért fontos

Ez a vita valójában nem arról szól, hogy egy ország presztízst nyer-e, hanem arról, hogyan lesznek ellenőrizhetők azok a modellek, amelyek egyre több rendszerbe épülnek be. Ha egy AI-rendszert feltörnek, vagy egy autonóm ügynök nem várt módon kezd működni, annak nem csak technológiai, hanem üzleti és hétköznapi következményei is lehetnek. A felvetett szabályok — például kötelező incidensjelentés, külső értékelés piacra dobás előtt, illetve vészleállító mechanizmusok — ismerősek lehetnek más iparágakból. A TechCrunch által ismertetett megszólalások alapján most az látszik, hogy a hangsúly egyre inkább az önkéntes ígéretekről a jogilag kikényszeríthető keretek felé tolódik.

Mire figyelj

  1. Az egyik kulcskérdés az lesz, hogy az önkéntes auditokból lesz-e kötelező, jogi erejű ellenőrzés.
  1. Érdemes figyelni, kapnak-e a brit tesztelők továbbra is hozzáférést a legfejlettebb modellekhez még a nyilvános indulás előtt.
  1. Fontos jelzés lesz, hogy megjelennek-e konkrét szabályok a kötelező incidensjelentésről és a külső jóváhagyásról.
  1. A „kill switch”, vagyis vészleállító mechanizmus körüli vita is meghatározó lehet: ez leegyszerűsítve egy olyan fék, amellyel le lehet állítani vagy lassítani a rendszert, ha az emberi kontroll meggyengül.
  1. Végül az is sokat számít, hogy a nagy AI-laborok valóban elfogadják-e a külső kontrollt, vagy a politikai támogatás ellenére maradnak a puhább, önkéntes vállalások.