Mi történt
A generatív AI-eszközök, mint a ChatGPT vagy a Claude, egyre gyakrabban jelennek meg olyan helyzetekben, ahol korábban emberek közti gyors egyeztetés döntött: éttermi rendelésnél, borválasztásnál, foglalásnál, ügyfélszolgálatnál vagy akár gyereknevelési kérdéseknél. A gond nem pusztán az, hogy ezek a rendszerek „hallucinálhatnak” — vagyis hihetőnek hangzó, de valótlan információt adhatnak —, hanem az is, hogy sok felhasználó ezeket a válaszokat kész tényként kezeli.Erre látványos példák jönnek a vendéglátásból. New York-i felszolgálók szerint előfordul, hogy a vendég allergénmentesnek hisz egy fogást, mert ezt mondta neki a chatbot, miközben a személyzet jelzi, hogy az ételben ténylegesen van problémás összetevő. Máskor nem létező borokat keresnek, vagy olyan palackot kérnek, amit az étterem nem is tart. Hasonló jelenséget látnak más területeken is: parkőrök értelmetlen AI-útitervekkel érkező látogatókról számolnak be, gyerekekkel foglalkozó szakemberek pedig olyan szülőkről, akik inkább egy chatbot alvási tanácsát követik, mint a gyerek viselkedéséből levont szakmai észrevételeket.
A helyzetet tovább bonyolítja az úgynevezett agentic AI, vagyis az a fajta rendszer, amely nemcsak válaszol, hanem a felhasználó helyett lépéseket is próbál tenni: például foglal, e-mailt ír vagy kéréseket küld. Gondolj rá úgy, mint egy digitális asszisztensre, amely nemcsak javasol, hanem intézkedik is. Ez kényelmes lehet, de ha hibás információból indul ki, akkor a tévedés már nem egy rossz tanács marad, hanem valós folyamatokba épül be.
Miért fontos
A történet valójában nem technológiai kuriózum, hanem bizalmi kérdés. Mi történik, ha a felhasználó jobban hisz egy általános célú modellnek, mint annak az embernek, aki ismeri a konkrét menüt, a valódi készletet, a terepviszonyokat vagy a gyerek napi állapotát? Ilyenkor az AI nem egyszerűen információforrás, hanem a helyi tudás versenytársa lesz — csakhogy sokszor rossz alapokon. A The Verge által összegyűjtött példák alapján ez már nem elszigetelt kellemetlenség, hanem a frontvonalban dolgozók mindennapi munkáját formáló új súrlódás. A hétköznapi felhasználónak ebből az a tanulság, hogy az AI jó kiindulópont lehet, de nem végső döntőbíró, főleg ott nem, ahol egészség, biztonság vagy valós helyi körülmények számítanak.Mire figyelj
- Egyre több ilyen konfliktus jöhet a szolgáltatási szektorban, ahogy az AI-eszközök használata általánossá válik.
- Különösen érdemes figyelni az agentic AI terjedését, mert ezek a rendszerek már közvetlenül is kapcsolatba léphetnek cégekkel és szolgáltatókkal.
- Fontos kérdés lesz, hogyan tanulják meg a platformok egyértelműbben jelezni a bizonytalanságot, és hogyan lehet a felhasználókat rávenni arra, hogy a helyi, első kézből származó információt ne írják felül egy magabiztosan hangzó gépi válasszal.