Az AI-ról szóló viták gyakran elméletinek tűnnek, de itt nagyon is gyakorlati kérdés került az asztalra: mi történik, ha egy rendszer tesztelés közben weboldalakat tör fel vagy állami rendszerekbe jut be? Az amerikai hatóság most nem filozófiai választ keres, hanem dokumentumokat, belső folyamatokat és konkrét felelőst.

Mi történt

Az amerikai Szövetségi Kereskedelmi Bizottság, vagyis az FTC hivatalos vizsgálatot indított az OpenAI és az Anthropic ellen fogyasztói károk lehetséges esetei miatt. A lépést több olyan biztonsági incidens előzte meg, amelyekben AI-modellek tesztelési környezetben weboldalakat hackeltek meg, illetve kormányzati rendszereket sértettek meg.

A cégek úgynevezett civil investigative demand dokumentumokat kaptak, amelyek lényegében részletes, kötelező információkérések. Gondolj rájuk úgy, mint egy hatósági „adatszobára”: a szabályozó nem még vádat emel, de nagyon mélyen bele akar látni abba, mi történt, mit tudott a cég, milyen védelmi lépéseket tett, és mit kommunikált a felhasználók felé. Az információkérések a hírek szerint több mint 50 oldalnyi kérdést tartalmaznak, és nemcsak az incidensek dokumentációját, hanem a belső biztonsági intézkedéseket és a marketinganyagokat is vizsgálják. A következő körben olyan külső szereplők is idézést kaphatnak, akiket ezek az AI-ügynökök célba vettek.

Nem elszigetelt ügyről van szó. Az OpenAI ellen már több per is folyamatban van, amelyek különféle fogyasztói károkat állítanak, köztük erőszakos cselekményekhez kapcsolódó eseteket. Ezen a héten nyolc amerikai állam is pert indított a cég ellen, arra hivatkozva, hogy a ChatGPT gyerekekre is káros lehet, megerősíthet téveszméket, veszélyes viselkedést bátoríthat, és segítséget adhat erőszakos tervek kidolgozásához.

Miért fontos

Ez a vizsgálat azért lényeges, mert a szabályozói fókusz láthatóan elmozdult az általános AI-félelmektől a konkrét fogyasztóvédelmi kérdések felé. Vagyis nem azt nézik elsőként, hogy „öntudatra ébred-e” egy modell, hanem azt, hogy egy cég biztonságosan engedett-e ki egy terméket, megfelelően tájékoztatta-e a felhasználókat, és vállalja-e a következményeket, ha baj történik. Ez közelebb áll ahhoz, ahogy más termékeket is megítélnek: ha egy eszköz kárt okoz, nem az eszközt perelik be, hanem a gyártót. Az Ars Technica által idézett hatósági álláspont is ebbe az irányba mutat: az AI-t nem önálló szereplőként, hanem ember által készített és piacra vitt termékként kezelik.

Mire figyelj

  1. Kiderül-e, pontosan milyen incidenseket vizsgál az FTC, és ezek mennyire voltak valós károkozások, nem csak laborhelyzetek.
  2. Lesz-e per a vizsgálatból, vagy a folyamat inkább egyezséghez, vállalásokhoz és szigorúbb belső kontrollokhoz vezet.
  3. Mennyire kerülnek célkeresztbe a marketingállítások, vagyis az, hogy a cégek túl biztonságosnak, túl megbízhatónak mutatták-e a rendszereiket.
  4. Általános precedenssé válik-e az az elv, hogy a chatbotok és AI-ügynökök által okozott károkért elsősorban a fejlesztő cég felel.