Az AI munkahelyi terjedéséről sok szó esik, de ritkábban arról, hol húzzák meg a vörös vonalat. Kalifornia most több ilyen határt is kijelölt: nemcsak az elbocsátásoknál, hanem a dolgozók megfigyelésénél is.

Mi történt

Gavin Newsom kaliforniai kormányzó több olyan törvényt írt alá, amelyek kifejezetten a munkavállalók AI-val kapcsolatos kockázatait próbálják kezelni. Az új szabályok megtiltják, hogy a munkáltatók biometrikus adatok alapján próbálják megjósolni egy dolgozó érzelmi állapotát. A biometrikus adat olyan testi jel, mint például az arc, a hang, a pulzus vagy más fiziológiai minta, amelyből egy rendszer következtetéseket próbál levonni.

Emellett a cégeknek írásban értesíteniük kell a dolgozókat, ha tömeges leépítésben AI játszik szerepet, és az is tiltott lesz, hogy egy munkáltató kizárólag AI-ra támaszkodva döntsön valaki kirúgásáról. Newsom egy végrehajtási rendeletet is aláírt, amely előírja, hogy az állami szervek továbbra is az „artificial intelligence”, vagyis mesterséges intelligencia kifejezést használják, ne a „super intelligence” elnevezést.

A mostani csomag nem előzmény nélküli. Ebben a hónapban már született egy olyan kaliforniai törvény is, amely kockázatértékelést ír elő az AI-chatbotok üzemeltetőinek még a bevezetés előtt. Emellett egy másik rendelet szakértői egyeztetést vár el az államtól az iparági felügyelet további erősítésére.

Miért fontos

A lényeg itt nem az, hogy Kalifornia „megállítja” az AI-t, hanem az, hogy megpróbálja elválasztani a hasznos automatizálást a nehezen védhető gyakorlatoktól. Különösen fontos a munkahelyi megfigyelés kérdése: ha egy rendszer azt állítja, hogy az arcod, hangod vagy testjeleidet elemezve meg tudja mondani, mennyire vagy stresszes, dühös vagy elkötelezett, az tudományosan is vitatott, miközben nagyon is valós következménye lehet a munkádra. Gondolj rá úgy, mint amikor egy fekete doboz pontozza a viselkedésedet, de te nem látod pontosan, mi alapján.

A tömeges leépítéseknél előírt értesítés és az AI-alapú kirúgások korlátozása azért érdekes, mert ezek már nem elméleti, hanem nagyon gyakorlati kérdések. Ha egy algoritmus rangsorolja a dolgozókat teljesítmény, jelenlét vagy más minták alapján, könnyen úgy válhat döntéshozóvá, hogy közben emberi felülvizsgálat alig marad. A Guardian által bemutatott kaliforniai megközelítés abból indul ki, hogy az AI lehet eszköz, de nem moshatja el a felelősséget.

Mire figyelj

  1. Az egyik kulcskérdés az lesz, hogyan definiálják a gyakorlatban az „AI-ra támaszkodó” elbocsátási döntést. Nem mindegy, hogy a rendszer csak ajánlást ad, vagy ténylegesen eldönti az ügyet.
  1. Érdemes figyelni, más államok követik-e a példát. Az Egyesült Államokban gyakran állami szinten jelennek meg először az ilyen szabályok, és csak később lesz belőlük szélesebb keret.
  1. Az is fontos lesz, mennyire tudják ellenőrizni a munkahelyi biometrikus megfigyelést. A tiltás önmagában egy dolog, a bizonyítás és a végrehajtás már sokkal nehezebb terep.
  1. Végül az sem mellékes, hogy a chatbotokra és más AI-termékekre vonatkozó korábbi kaliforniai lépések együtt egy szélesebb szabályozási irányt rajzolnak ki: nem általános AI-tilalom készül, hanem konkrét felhasználási helyzetekre szabott korlátok.