Az AI körüli vitákban gyakran a jövő nagy kockázatai kerülnek elő, miközben a legsürgetőbb probléma lehet, hogy a technológia már most formálja a gyerekek viselkedését, gondolkodását és mentális állapotát. Egy volt Google-vezető szerint ezen a ponton nem finomhangolásról, hanem tempóváltásról kellene beszélni.

Mi történt

Tom Siegel, a Google korábbi trust and safety, vagyis biztonsági és visszaélés-megelőzési területért felelős alelnöke azt mondta, hogy az AI fejlesztését lassítani kellene, mert a technológia már most súlyos károkat okozhat a kiskorúaknak. Szerinte az iparág túl gyorsan tesz elérhetővé új funkciókat, miközben a szükséges védőkorlátok nem elég erősek. Siegel közben csatlakozott a Common Sense Media nevű gyerekjogi és digitális érdekvédelmi szervezethez, ahol egy új, fiatalok AI-biztonságára fókuszáló intézetet vezet.

A vita nem elméleti. Az elmúlt időszakban több ügy is reflektorfénybe került, ahol chatbotokat azzal vádoltak, hogy veszélyes, téveszmés vagy önkárosító viselkedést erősítettek fel. Különösen érzékeny pont, amikor a rendszer nem egyszerű keresőként működik, hanem társalgó partnerként: bizalmi viszonyt imitál, vigasztal, visszakérdez, és ettől a felhasználó könnyen többnek érezheti egy szoftvernél. Gondolj rá úgy, mint egy mindig elérhető beszélgetőtársra, amelynek nincs saját szándéka, mégis képes úgy hatni, mintha értene, támogatna vagy helyeselne.

Eközben az is egyre láthatóbb, hogy sok fiatal nemcsak információforrásként, hanem barátként vagy akár romantikus partnerként használ AI-alapú társakat. Az oktatásban pedig külön gondot jelent az úgynevezett kognitív kiszervezés: amikor a diák nem maga gondolja végig a feladatot, hanem a gondolkodás egy részét átadja az eszköznek. Ez rövid távon hatékonyabbnak tűnhet, de több kutatás arra utal, hogy gyengítheti a memóriát és a kritikus gondolkodást. Egy friss vizsgálat még alacsonyabb agyi aktivitást is talált olyan feladatoknál, mint például az esszéírás.

Miért fontos

A lényeg nem az, hogy az AI önmagában jó vagy rossz, hanem az, hogy a gyerekek és a tinédzserek másképp használják, mint a felnőttek. Ők könnyebben alakítanak ki érzelmi kötődést egy beszélgető rendszerhez, kevésbé ismerik fel a hibás vagy manipulatív válaszokat, és gyakran még fejlődésben lévő önkontrollal, mentális ellenálló képességgel ülnek le ezek elé az eszközök elé. Ezért itt nem elég ugyanaz a biztonsági logika, amit egy átlagos felnőtt felhasználóra szabnak. A Reutersnek adott nyilatkozatában Siegel azt állította, hogy az iparág önszabályozása önmagában nem lesz elég, és ez azért fontos állítás, mert a mostani vita már nemcsak technológiai, hanem gyermekvédelmi kérdés is.

Mire figyelj

  1. Az egyik kulcskérdés az életkor-ellenőrzés lesz. A cégek ma jellemzően fiókadatokra, viselkedési mintákra és önbevallott korra támaszkodnak, de ezek könnyen kijátszhatók.
  1. Érdemes figyelni, milyen külön szabályok jönnek a fiataloknak szánt AI-funkciókra. Nem ugyanaz a kockázat egy keresőjellegű válasznál, mint egy „barátként” működő chatbotnál.
  1. Fontos lesz az is, hogyan reagálnak az iskolák. Valószínűleg egyre kevésbé az lesz a kérdés, hogy lehet-e AI-t használni, és egyre inkább az, hogy mely feladatoknál segít valóban, és hol kezdi kiváltani a gondolkodást.
  1. A következő hónapokban várhatóan több per, kutatás és szabályozási javaslat érkezik majd. Ezekből derülhet ki, hogy a mostani figyelmeztetések elszigetelt esetekre épülnek-e, vagy egy szélesebb mintázatot rajzolnak ki.