A kritikusok azzal vádolták a vállalatokat, hogy algoritmusokat alkalmaztak vezetői feladatok elvégzésére, mondván, hogy az automatizált rendszerek emberteleníthetik és igazságtalanul büntethetik az alkalmazottakat.
Amikor Conor Sprouls, a biztosítási óriás, a MetLife ügyfélszolgálatának ügyfélszolgálati képviselője telefonon beszélget egy ügyféllel, a szemének egyikét a képernyő jobb alsó sarkában tartja. Ott, egy kis kék dobozban, AI elmondja neki, hogy van.
Túl gyorsan beszél? A program villog a sebességmérő ikonján, jelezve, hogy lelassulnia kell.
Hangos álmos? A szoftver megjelenít egy „energia dátumot” egy kávéscsésze képével.
Nem elég empatikus? Egy szív ikon bukkan fel.
Az emberek évtizedek óta félelmetesen elképzelik a hiperhatékony robotok seregeit, amelyek betörnek irodákba és gyárakba, és az emberek által elvégzendő feladatokra törekednek. De az összes aggódás miatt, amelyet a mesterséges intelligencia felválthat a rangsorban dolgozók helyett, valószínűleg figyelmen kívül hagytuk azt a lehetőséget, hogy az a főnököket is felváltja.
A Sproulsnak és a Rhode Island-i Warwick irodájában lévő irodájának más call-center munkatársainak még mindig sok emberi felügyelete van. De a képernyőn megjelenő szoftver - amelyet a Cogito, a bostoni AI cég készített - egyfajta kiegészítő menedzserré vált, és mindig figyeli őket. Minden hívás végén a Sprouls Cogito értesítéseit összegyűjtik, és hozzáadják egy statisztikai irányítópulthoz, amelyet a felügyelő megnézhet. Ha minimalizálásával elrejti a Cogito ablakot, a program értesíti a felettesét.
A Cogito egyike annak a számos AI programnak, amelyet hívóközpontokban és más munkahelyeken használnak. Joshua Feast, Cogito vezérigazgatója szerint a cél az, hogy valós idejű visszajelzéssel hatékonyabbá tegyék a dolgozókat.
"Az emberi teljesítmény változó lehet" - mondta Feast. "Az emberek egymás közötti beszédeiből arra következtethetünk, hogy a dolgok jól mennek-e vagy sem."
Az automatizálás célja mindig is a hatékonyság volt, ám ezen új típusú munkahelyen az AI maga az emberiséget látja optimalizálandó dolognak. Az Amazon összetett algoritmusokat alkalmaz a munkavállalók termelékenységének nyomon követésére teljesítési központjaiban, és automatikusan elkészíti a papírmunkát a tűzoltók számára, akik nem teljesítik a céljaikat, ahogy a The Verge ebben az évben fedezte fel. (Az Amazon vitatta, hogy emberi beavatkozás nélkül szabadon bocsátja a munkavállalókat, mondván, hogy a vezetők beavatkozhatnak a folyamatba.) IBM a Watsont, annak AI-platformját használja a munkavállalói áttekintések során a jövőbeli teljesítmény előrejelzésére, és azt állítja, hogy 96% -os pontosságú.
Aztán ott vannak a startupok. A Cogito, amely olyan nagy biztosítótársaságokkal működik együtt, mint a MetLife és a Humana, valamint a pénzügyi és kiskereskedelmi cégek, azt mondja, hogy 20,000 felhasználóival rendelkezik. A Percolata, a Szilícium-völgyben működő cég, amely az Uniqlo-t és az 7-Eleven-et számolja ügyfelei között, üzletben lévő érzékelőket használ az egyes munkavállalók „valódi termelékenységi” pontszámának kiszámítására és a munkavállalók rangsorolására a legkevésbé termelékenyek között.
Az algoritmus általi irányítás nem új koncepció. Század elején Frederick Winslow Taylor forradalmasította a gyártó világot „tudományos menedzsment” elméletével, amely megpróbálta a hatékonyságot a gyárakból kihúzni úgy, hogy a munka minden egyes elemét időméréssel és méréssel végezte. Az utóbbi időben az Uber, a Lyft és más igény szerint működő platformok milliárd dollárt szereztek azáltal, hogy a humán erőforrás szokásos feladatait - ütemezését, bérszámfejtését, teljesítményértékeléseket - számítógépre bocsátják ki.
De az AI használata a munkavállalók kezelésére a hagyományos, az 9-to-5 munkákban sokkal ellentmondásosabb. A kritikusok azzal vádolták a vállalatokat, hogy algoritmusokat alkalmaztak vezetői feladatok elvégzésére, mondván, hogy az automatizált rendszerek emberteleníthetik és igazságtalanul büntethetik az alkalmazottakat. És bár egyértelmű, hogy miért akarnak a vezetők olyan AI-t, amely nyomon tudja követni mindazt, amit a dolgozók csinálnak, kevésbé világos, miért tennék a dolgozók.
Szürreális azt gondolni, hogy bármely társaság emberi bevonás nélkül tüzet engedhet a saját munkavállalóinak.
"... bár világos, miért akarják a vezetők azt a mesterséges intelligenciát, amely képes követni mindazt, amit a dolgozóik tesznek, kevésbé egyértelmű, hogy miért a dolgozók."
És itt rejlik a probléma - gyenge, tudatlan és ijedt emberek. Erre számítanak a globális vállalati haszonélvezők - annak a statisztikai valószínűségnek, hogy a tömeg ilyen módon fog cselekedni.