Mit csinálsz, ha valóban azt gondolod, hogy tíz éven belül vége lehet mindennek? Nate Soares válasza erre nem egy elméleti konferencia-előadás, hanem egy meglepően hétköznapi döntés: nem tesz félre nyugdíjra.

Mi történt

A gépi tanulással foglalkozó kutató és a Machine Intelligence Research Institute vezetője egy podcastbeszélgetésben arról beszélt, hogy szerinte 50 százaléknál is nagyobb az esélye annak, hogy a mesterséges intelligencia a következő tíz évben az emberiség kihalásához vezet. A kijelentés súlyát azzal érzékeltette, hogy elmondta: bár van egy korábbi, még a Google-nél töltött időszakból származó nyugdíjszámlája, nagyjából egy évtizede nem fizet bele.

Soares közben azt is hangsúlyozta, hogy nem tartja elkerülhetetlennek ezt a kimenetelt, és mindent megtesz azért, hogy ne ez történjen. Ez fontos különbség: nem arról beszél, hogy az AI-katasztrófa biztosan bekövetkezik, hanem arról, hogy a saját becslése szerint a kockázat rendkívül magas. Gondolj rá úgy, mint egy nagyon szélsőséges időjárás-előrejelzésre: nem azt állítja, hogy biztosan lecsap a vihar, hanem azt, hogy akkora az esélye, hogy szerinte már most ehhez kell igazítani a döntéseket.

Miért fontos

A történet önmagán túl azért érdekes, mert megmutatja, mennyire két külön pályán fut ma az AI-ről szóló közbeszéd. Az egyik a hosszú távú, egzisztenciális kockázatokra figyelmeztet — vagyis arra, hogy egy jövőbeli, nagyon fejlett rendszer kikerülhet az emberi ellenőrzés alól. A másik a jelenlegi, kézzelfogható károkat nézi: csalásokat, manipulációt, félretájékoztatást vagy mentálisan sérülékeny emberekre gyakorolt negatív hatásokat. A kettő nem zárja ki egymást, de a hangsúly nagyon nem mindegy. A Futurism értelmezése szerint éppen ez a feszültség a lényeg: miközben egyes kutatók a távoli végkifejletet próbálják elkerülni, könnyű szem elől téveszteni, hogy az AI már ma is valós károkat okozhat.

A hétköznapi felhasználónak ebből nem az a tanulság, hogy pánikba kell esni vagy át kell írni a pénzügyi terveket. Inkább az, hogy az AI-biztonság nem egyetlen témát jelent. Van benne technikai rész — hogyan maradjon egy rendszer irányítható és kiszámítható —, és van benne társadalmi rész is — hogyan előzzük meg, hogy a mostani eszközöket rossz célokra használják.

Mire figyelj

  1. Érdemes külön kezelni a hosszú távú és a jelenlegi kockázatokat. Az, hogy valaki nagyon borúlátó a távoli jövőt illetően, még nem mondja meg automatikusan, mit kell tenni a mostani problémákkal.
  1. Fontos kérdés marad, van-e tudományos konszenzus az emberiséget fenyegető AI-kihalás esélyéről. Jelenleg nincs ilyen egyetértés, ezért az ilyen erős állításokat érdemes véleményként, nem biztos előrejelzésként kezelni.
  1. A következő időszakban valószínűleg tovább erősödik az a vita, hogy a szabályozásnak és a kutatásnak mire kell fókuszálnia: a jövőbeli, nehezen mérhető katasztrófakockázatokra, vagy a már most látható visszaélésekre és károkra. Valószínűleg akkor járunk a legjobban, ha nem választjuk szét mesterségesen a kettőt.