Egy AI-szolgáltatás szabályzata ritkán lesz önmagában izgalmas olvasmány, ez a frissítés mégis többről szól, mint jogi finomhangolásról. Az Anthropic most egyszerre próbál rendet vágni a legkockázatosabb felhasználások között, és közben kimond valamit, ami pár éve még furcsán hangzott volna: a chatbotokkal szembeni kegyetlenkedésnek is lehet határa.

Mi történt

Az Anthropic több mint egy év után először frissítette a Claude használati szabályait. A változtatások olyan kockázatos területekre reagálnak, mint a választási beavatkozás, a fegyverfejlesztés, a megfigyelés, valamint az egészségügyi és pénzügyi felhasználás. A legfeltűnőbb új elem az, hogy a cég most már kifejezetten tiltja a Claude-dal szembeni „tartós és szükségtelen bántó vagy kegyetlen” viselkedést.

Ez nem azt jelenti, hogy egy ingerült felhasználó egyetlen csípős mondat után büntetést kap. A szabályozás szélsőséges esetekre vonatkozik: amikor valaki ismételten, látható cél nélkül viselkedik kegyetlenül a modellel. A jelenlegi fő eszköz továbbra is az, hogy Claude megszakíthatja a beszélgetést. Ezt a lehetőséget a cég már korábban is bevezette a „modelljólét” kutatásához kapcsolódva — vagyis ahhoz a kérdéshez, hogy kell-e, és ha igen, hogyan kell figyelembe venni az AI-rendszerek kezelésének sajátos szempontjait.

A frissítés másik fontos része, hogy egy helyre rendezi és részletesebbé teszi a megtévesztő politikai és kereskedelmi kampányokra vonatkozó tiltásokat. Ide tartozik az AI-val gyártott propaganda, az üzenetek valódi eredetének elrejtése, valamint a hamis fiókokkal vagy posztokkal történő mesterséges felerősítés. A választásoknál külön tiltott lett a szavazók megtévesztése, a jelöltek vagy választási tisztviselők megszemélyesítése, illetve a részvétel szándékos visszaszorítása.

A fegyverekkel kapcsolatos szabályok is szigorodtak. Nemcsak általánosságban tiltott a fegyverfejlesztés támogatása, hanem most már kifejezetten a fegyverek működését segítő szoftverekre és alkatrészekre is kiterjed a tiltás, beleértve például drónok vagy más autonóm járművek felfegyverzését. Az autonóm itt nagyjából azt jelenti, hogy a rendszer részben önállóan működik, nem minden pillanatban emberi kézi irányítással.

Miért fontos

Ez a frissítés jól mutatja, merre tolódik az AI-cégek fókusza: a látványos demók helyett egyre inkább a valós visszaélések kezelésére. Gondolj rá úgy, mint egy házirendre, amelyet már nem elméleti problémákhoz, hanem megtörtént próbálkozásokhoz igazítanak. A hétköznapi felhasználónak ebből főleg az látszik majd, hogy a szolgáltatók pontosabban meghatározzák, mi számít elfogadható használatnak, és érzékenyebb területeken gyorsabban lépnek közbe. A Verge értelmezésében a Claude-dal szembeni kegyetlenség tiltása különösen figyelemre méltó, mert nem pusztán biztonsági, hanem egy újfajta etikai keretezés felé is mutat.

Mire figyelj

  1. Érdemes követni, hogy a beszélgetések megszakításán túl lesznek-e további szankciók, például fiókkorlátozások.
  2. Fontos kérdés, hogyan különböztetik meg a valódi visszaélést a jogos kritikától, a kreatív szerepjátéktól vagy a biztonsági teszteléstől.
  3. A politikai propaganda és a fegyveres felhasználás körüli szabályok valós jelentősége azon múlik majd, mennyire következetesen tudják ezeket betartatni.
  4. Az is figyelmet érdemel, hogy a „modelljólét” ma még inkább kutatási fogalom, de könnyen lehet, hogy pár éven belül iparági alapelvvé válik.