Ha egy AI-központú vállalatnál már külön kerülőút kell ahhoz, hogy egy ember egyáltalán lássa az önéletrajzodat, az nem csak kínos részlet, hanem jelzés is. A toborzás automatizálása kényelmesnek tűnik, de most épp az látszik, hogy a rendszer a jó jelölteket is félresöpörheti.
Mi történt
Egy kiszivárgott belső HR-dokumentum szerint a Google DeepMind egyik csapata arra kérte az állásra jelentkezőket, hogy a szokásos pályázat mellett töltsenek ki egy külön űrlapot is. Ennek célja az volt, hogy egy „valódi ember” biztosan észrevegye a jelentkezésüket, ne csak az automatizált szűrőrendszeren múljon, eljut-e a megfelelő helyre.A dokumentum szövege ennél is egyértelműbb: azt írja, hogy a jelentkezési rendszernek nem elhanyagolható esélye van arra, hogy tévesen kiszűrjön önéletrajzokat, vagy túl sok idő alatt juttassa el azokat a csapathoz. Magyarul: nem csak arról van szó, hogy a folyamat lassú, hanem arról is, hogy alkalmas jelöltek is kieshetnek. Közben a vállalat szóvivője azt állította, hogy a rendszer működik, a külön űrlap pedig inkább arra szolgált, hogy a csapat közvetlenebbül is lássa a pályázókat.
Miért fontos
Ez az ügy azért érdekes, mert nagyon plasztikusan megmutatja, mi a gond az AI-val támogatott toborzással. Az ilyen rendszerek elvileg arra valók, hogy a rengeteg jelentkezésből gyorsan kiválogassák a relevánsakat. Gondolj rá úgy, mint egy digitális portásra, aki előszűri, ki juthat be az ajtón. Csakhogy ha a portás rossz szabályok alapján dolgozik, vagy túl mereven értelmezi a kulcsszavakat, akkor simán kint hagyhat olyan embereket is, akik valójában megfelelnének. Különösen beszédes, hogy épp egy vezető AI-kutatólaborhoz kötődő csapat érzett szükséget egy emberi „biztonsági sáv” beépítésére. A Futurism ezt nem egyszerű adminisztratív furcsaságként, hanem az automatizált felvételi rendszerek hitelességi problémájaként értelmezi — és nehéz azt mondani, hogy ebben nincs logika.Mire figyelj
- Érdemes figyelni, hogy a vállalat módosít-e hivatalosan a felvételi folyamatán, vagy ez megmarad egy elszigetelt, csapatszintű kerülőútnak.
- Az is fontos kérdés, hogy kiderül-e, pontosan milyen típusú hibákat vétett a szűrőrendszer: kulcsszavas szűrésről, rangsorolási hibáról vagy egyszerű folyamatbeli torlódásról volt szó.
- Tágabb értelemben ez az eset újra előhozhatja, mennyire átláthatóak az álláspályázatokat kezelő AI-eszközök, és van-e valódi emberi ellenőrzés ott, ahol egy rossz döntés valakinek hónapokba kerülő álláskeresést jelenthet.