Amikor egy chatbot azt írja, hogy „szerintem” vagy együttérző hangon válaszol, az sokaknak egyszerű felhasználói élménynek tűnik. Florida most azt állítja: ez nem puszta dizájnkérdés, hanem megtévesztés is lehet.

Mi történt

Florida főügyésze, James Uthmeier azt kéri egy bírótól, hogy tiltsa meg az OpenAI-nak, hogy a ChatGPT-t „hamis emberi tulajdonságokkal” ruházza fel. A beadvány lényege, hogy a chatbot első személyű megfogalmazásai, illetve az érzelmeket utánzó válaszai azt a benyomást kelthetik, mintha a rendszer megbízható „barát” lenne, nem pedig egy statisztikai alapon működő szoftver.

A vita nem csak a nyelvezetről szól. Florida azt is szeretné elérni, hogy az OpenAI ne fejleszthessen új modelleket külső fél által jóváhagyott biztonsági korlátok nélkül. Ezek a korlátok olyan védelmi rétegek, amelyek azt hivatottak csökkenteni, hogy a rendszer veszélyes, félrevezető vagy nem megfelelő válaszokat adjon. A beadvány több friss biztonsági incidensre és kutatói figyelmeztetésre hivatkozik, miközben külön kiemeli a gyerekek és tinédzserek védelmét. Ez azért időszerű, mert az OpenAI nemrég elindította a ChatGPT for Teens változatát, amelynél alapértelmezésben több korlátozás működik.

Az OpenAI közben jelezte, hogy felfüggesztette a legfejlettebb modelljei tréningjét, és csak akkor folytatja, ha további biztosítékokat megfelelőnek lát. A cég álláspontja szerint szükség van erős állami szabályokra, de ezeknek az egész iparágra kellene vonatkozniuk, nem egyetlen szereplőre.

Miért fontos

Ez az ügy egy kényes kérdést tesz a középpontba: mennyire lehet „emberközeli” egy mesterséges intelligencia anélkül, hogy félrevezetővé válna? A modern chatbotok szándékosan természetesnek hatnak, mert így könnyebb velük kommunikálni. Gondolj rá úgy, mint egy ügyfélszolgálati felületre, amelyet azért csiszolnak barátságosra, hogy ne kelljen gépi parancsokban beszélned. Csakhogy itt a barátságos hangnem könnyen összemosódhat azzal az érzéssel, hogy a rendszer valóban ért, érez vagy személyes szándékai vannak. A The Verge által is kiemelt floridai érvelés szerint épp ez a határ a vitás pont: a kényelmes használat meddig ártalmatlan felület, és mikortól válik olyan benyomássá, amely túlzott bizalmat épít.

Mire figyelj

  1. A bíróság mennyire tekinti jogilag megfoghatónak a „hamis emberi tulajdonságok” fogalmát. Ezt nehéz pontosan definiálni, mert az első személyű nyelv sok chatbot alapvető működési mintája.
  1. Lesz-e ebből szélesebb szabályozási minta más államokban is. Ha igen, az nemcsak az OpenAI-t, hanem gyakorlatilag minden beszélgető AI-terméket érinthet.
  1. Változik-e a chatbotok stílusa, főleg a fiataloknak szánt verzióknál. Könnyen lehet, hogy a jövőben több egyértelmű figyelmeztetést, szárazabb megfogalmazást vagy szigorúbb korlátozást látsz majd.
  1. Az iparág elfogadja-e a külső biztonsági jóváhagyás ötletét. Ha igen, az olyan lehetne az AI-nál, mint egy független műszaki vizsga: lassíthatja a piacra lépést, de cserébe átláthatóbbá teheti, milyen kockázatokkal számolhatsz.