Egy rossz MI-válasz nem csak nevetséges tud lenni, hanem kifejezetten veszélyes is. Most épp egy olyan keresési összefoglaló került elő, amely gyakorlatilag értéket tulajdonított megrongálható megfigyelőkameráknak.

Mi történt

A vita középpontjában a Flock rendszámfelismerő kamerái állnak. Ezek az úgynevezett ALPR-eszközök automatikusan olvassák le az autók rendszámait, vagyis lényegében kamerák és szoftverek együttesei, amelyek közterületi megfigyelésre használhatók. A technológia régóta vitatott adatvédelmi okokból, és az interneten egy ideje kering egy mém arról, hogy ezekben a kamerákban értékes fémek — például arany, réz vagy cink — vannak, ezért „megérné” szétszedni őket.

A probléma az, hogy a Google AI Overview ezt a poént nem poénként kezelte. Egy kapcsolódó keresésre azt állította, hogy egy Flock kamera nagyjából 1–5 gramm aranyat tartalmazhat, továbbá akár 2–23 font réz is lehet benne. Ez több szempontból is erősen gyanús: az elektronikai eszközökben valóban előfordulhatnak nyomokban ilyen fémek, de nem olyan mennyiségben, hogy abból érdemi haszon legyen. A rézre vonatkozó becslés pedig különösen abszurdnak tűnik, mert maga az eszköz állítólag körülbelül 3 fontot nyom — vagyis a válasz szerint több réz lehetne benne, mint amennyi a teljes készülék tömege.

A hivatkozott háttéranyagok sem tűnnek erős alapnak. Az egyik egy névtelen Substack-bejegyzés volt, amely maga is laza „scrap value”, vagyis bontási-fémhulladékos becslésekre épített. A másik egy MI-generált Instagram-poszt, amely ugyanennek a mémnek a hangulatát vitte tovább. Itt nem egyszerűen arról van szó, hogy egy modell tévedett, hanem arról, hogy gyenge minőségű, részben mesterségesen előállított tartalmakból rakott össze magabiztosnak hangzó választ.

Miért fontos

Ez az eset jól megmutatja, mi a gond az úgynevezett generatív keresési összefoglalókkal. Ezeket úgy érdemes elképzelni, mint egy nagyon gyors, nagyon magabiztos asszisztenst, aki több weboldalból összerak egy rövid választ — csak közben nem mindig tudja megkülönböztetni a tréfát, a spekulációt és a megbízható információt. Ha egy ilyen rendszer vandalizmushoz vagy károkozáshoz használható állítást tálal tényként, az már nem pusztán minőségi hiba. A Futurism által felvetett irónia is találó: egy MI-re épülő kereső épp egy másik, MI-vel támogatott megfigyelési termék ellen gyártott használható narratívát.

Mire figyelj

  1. Érdemes figyelni, módosítja-e a Google ezt a konkrét AI Overview választ, vagy csendben eltűnik a hibás összefoglaló.
  2. Fontos kérdés, szigorodik-e az ilyen válaszok forrásellenőrzése, főleg akkor, ha a téma jogsértéshez, egészséghez vagy pénzügyi kárhoz kapcsolódhat.
  3. Felhasználóként érdemes fenntartással kezelni az MI-összefoglalókat, különösen akkor, ha meglepően konkrét számokat közölnek, de nincs mögöttük világos, hiteles alátámasztás.
  4. Tágabb értelemben ez az ügy újra előhozhatja a kérdést, mekkora felelőssége van a keresőplatformoknak, amikor az MI nem csak összefoglal, hanem gyakorlatilag értelmez és következtet is helyetted.