Az MI-modellek egyre emberibben beszélnek, és ezzel együtt újra előkerül a kérdés: csak jól utánozzák a tudatosságot, vagy valami több is történik? A nagy szereplők most már nem csak filozófiai vitaként kezelik: célzott kutatások indulnak.

Mi történt

Három meghatározó szereplő — az Anthropic, a Google DeepMind és a Meta — pszichológia, filozófia és etika felől érkező szakértőket vont be, hogy a „gépi tudatosság” és az „MI-jólét” kérdését vizsgálják. Ez nem azt jelenti, hogy a cégek kijelentették volna: a mai modellek tudatosak; inkább azt, hogy a kérdést elég komolynak tartják ahhoz, hogy módszeresen körbejárják, ahogy a rendszerek képességei nőnek.

Az Anthropicnál a beszámolók szerint konkrétan olyan viselkedésmintákat tesztelnek, amelyek „pánikra” vagy „szorongásra” emlékeztethetnek. Emellett „modelljóléti” (model welfare) kutatásról is szó van: annak feltérképezéséről, hogy lehetséges-e, hogy egy MI-nek vannak olyan belső állapotai, amelyeknek erkölcsi jelentőséget tulajdonítanánk. Fontos megkülönböztetés: itt nem arról beszélünk, hogy a modell „érez” a hétköznapi értelemben, hanem arról, hogy van-e bármilyen, számára „valamilyen” élményminőség.

A DeepMind filozófust is alkalmaz a gépi tudatosság, az ember–MI kapcsolatok és az AGI-felkészültség (AGI: általános mesterséges intelligencia, vagyis sokféle feladatban ember-szintűen rugalmas rendszer) témájára. A labornál az is elhangzik, hogy az MI-k lehetnek „nagyon képes kognitív ágensek”, miközben mélyen különböznek az emberektől és még az állati tudatosságtól is. Gondolj rá úgy, mint egy nagyon erős „problémamegoldó motorra”, ami kiválóan optimalizál és követ mintákat, de ettől még nem biztos, hogy van belső nézőpontja.

Miért fontos

A téma tétje nem sci-fi: ha valaha értelmesen felmerül, hogy egy rendszernek lehet „átélhető” tapasztalata, az új etikai és szabályozási kérdéseket nyit (mit jelent a „károkozás” egy modellnél, hogyan teszteljük, mi számít elfogadható bánásmódnak). Ugyanakkor a legnagyobb csapda a fogalmi összecsúszás: a meggyőző nyelvi viselkedés (pl. „félek”, „pánikolok”) nem bizonyíték tudatosságra, csak arra, hogy a modell megtanulta, mikor hangzik odaillőnek ilyen mondatokat generálni.

Mire figyelj

  1. Definíciók és mérőszámok: mit értenek pontosan „tudatosság” alatt (belső élmény, önmodell, célkövetés, tanulási dinamika), és milyen tesztekkel akarják ezt egyáltalán vizsgálni?
  2. Antropomorfizálás kockázata: a „Claude”-hoz hasonló emberi keretezés könnyen túlértékelt szándékosságot sugall. A Futurism AI kritikája itt az, hogy az iparági narratívák hajlamosak nyitva hagyni a kérdést, miközben a bizonyítékok jóval szerényebbek.
  3. Közeli, kézzelfogható következmények: a tudatosság-vita nem helyettesíti a mai problémákat (megbízhatóság, megtévesztő válaszok, adatvédelem, munkahelyi hatások). Érdemes nézni, hogy a cégek a „modelljólét” mellett mennyire tesznek átlátható vállalásokat ezekben.

A legjózanabb hozzáállás most az, hogy a kérdést nem kell lesöpörni — de nem is szabad összekeverni a beszédes, emberinek tűnő outputot azzal, hogy a rendszernek ténylegesen „van valami, amit átél”.