Flashback 2012 - Az Atlantic közvetlenül a technokráciához köti a Facebookot

A Facebook hatékonyság iránti vágya azt jelenti, hogy a demokrácia kiesett, és a technokrata, a fejlesztő-király uralom érvényesül.

Tegyük fel, hogy a Facebook nem ország, a valós kormányok sokkal több funkciót látnak el, és hogy az emberek nem állampolgárai a közösségi hálózatoknak.

Ennek ellenére 900 millió ember olyasmit tesz, mint a világ legnagyobb strukturált emberhálójának kék-fehér virtuális terében él. És azok az emberek olyan vitákba keverednek, amelyek elbírálására számítanak. Részben azért várják el ezt az elvárást, mert a Facebook már régóta azt állítja, hogy biztonságos környezetet akar teremteni a más emberekkel való kapcsolattartáshoz. (Hogyan lehet másként elérni, hogy az embereknyitottabb és összekapcsoltabb„?) De az emberek azt is akarják, hogy valaki legyen a felelős, olyan hatóságot akarnak, amelyhez fordulhatnak, ha más személy bunkó.

Ezt az esetet leszámítva valaki valóban vállalati személy. Tehát amikor Ön jelentést tesz valamiről, vagy valaki jelent valamit a tiédről, akkor a Facebook hozza meg a döntést a közzétettekkel kapcsolatban, még akkor is, ha tudjuk, hogy valahol a sorban valamilyen embernek testet kell testesítenie, ha elég hosszú ideig ahhoz, hogy kattintson egy gombra.

Bármilyen egyedi döntés, amelyet a Facebook csapata hoz - hasonlóan levette ezt a képet egy meleg pár csókolózásról - könnyű megkérdőjelezni. Az Ars Technica Ken Fisherje részletesen egész csomó egyszeri probléma hogy az emberek találkoztak a Facebook jelentési rendszerével. Mindegyikben van egy sértett fél, de csak akkor halljuk a konfliktus egyik oldalát, amikor ezek a problémák felbomlik. Számos egyedi eseményen két olyan ember van (vagy olyan entitások, mint a vállalkozások), akiknek ellentmondó vágyaik vannak. Ez egy klasszikus eset, amikor valamiféle kormányra van szükség.

Nem nehéz elképzelni, hogy egy hét alatt egy vagy 20, vagy akár 200 döntést hozzunk a fényképekkel vagy az állapotfrissítésekkel kapcsolatban, de elképesztő gondolat, hogy a Facebooknak feldolgoznia kell 2 millió jelentés hetente, és ez nem tartalmazza az egyszerű „megjelölés spamként” üzeneteket.

Hogyan tervezhet olyan rendszert, amely képes kezelni ezt a terhelést? Beszéltem James Mitchell-lel, aki a felhasználói operációs osztályon belül megerősíti a Facebook által „webhely integritásának” nevezett kérdéseket, és Jud Hoffmannal, a vállalat globális politikai vezetőjével a jelentési folyamatról. Ők a Facebook technokráciájának építészei.

"A gondolatok és a viták mennyisége, amelyek e szabályok létrehozásának és kezelésének folyamatában zajlanak, nem különbözik a törvényhozási és bírósági folyamatoktól, amelyek mind eggyé állnak" - mondta nekem Hoffman ügyvéd. „És James rendelkezik végrehajtó / bírói elemekkel. Nem gondolom, hogy egy kormányzati kontextusban gondolkodni kellene ezen, de ez egy másik forma, és nagyon-nagyon komolyan vesszük. "

A legfontosabb lépés, Mitchell elmondta, az volt, hogy valamilyen struktúrát építsünk be a jelentési folyamatba. Még amikor 2006-ban megkezdte tevékenységét, a felhasználók panaszainak semmilyen formája nem volt. Ez azt jelentette, hogy a megkülönböztetetlen problémák hatalmas sorban álltak. Tehát ő és csapata elkezdett azon gondolkodni, hogy milyen problémákat kaptak, és problémakategóriákat hoztak létre, amelyeket idővel finomítottak.

Ez lehetővé teszi a jelentések egy komplex folyamatok és csoportok útján történő továbbítását, hogy az emberek vagy számítógépek előtt érkezhessenek, akik tudják, mit kell velük csinálni.

A Facebook ma először hozta nyilvánosságra ezt az infrastruktúrát. Ez a Facebookon belüli több csapat több mint ötéves munkájának eredménye, akik azon dolgoztak, hogy a felhasználói megkeresések ezen áradatának kezelése a lehető leghatékonyabb legyen.

Számos ilyen jelentés végén van egy személy, akinek döntést kell hoznia a felhasználó üzenetéről. Néhány ilyen döntés bináris - tartalmaz ez a fénykép meztelenséget? - és ezeket általában kiszervezik olyan csapatok számára, amelyek egyszerű és szigorú képleteket alkalmazhatnak, például megkérdezik: „Meztelen ez a személy?” A többi döntés olyan összetett, hogy a gépek nagyon jól kezelik őket. (Például több mint 50 jel van, amelyet a Facebook algoritmusai megvizsgálnak annak megállapítására, hogy egy profil spam-e, és az automatizált válaszok pontosabbak, mint az emberi válaszok.)

De a jelentések nagy részét egy arctalan, több száz Facebook-alkalmazottból álló csapat állítja össze Mountain View-ban, Austinban, Dublinban és Hyderabadban. Ezek az emberek és az általuk épített eszközök váltak a Facebook kvázi nemzetének tényleges törvényhozóivá, bürokratáivá, rendőrségévé és bíráivá. Egyes általuk meghozott döntések emberek százmillióit érintik valamilyen kis módon; más döntések nagyban megváltoztatják az emberek kis számának életét.

Számomra az a lenyűgöző, hogy a Facebook lényegében egy kormányzati bürokráciát hozott létre szabályozókkal és bűnüldöző szervekkel kiegészítve, de teljesen más értékekre optimalizálták, mint a hagyományos kormányok. Alkotmány helyett a Facebook kettős feladata az, hogy „nyitottabbá és összekapcsoltabbá tegye a világot”, és a felhasználókat negatív tapasztalataik minimalizálásával a webhelyén tartsa. Mindenekelőtt a Facebook minden kormányzási problémára adott megoldását úgy kell megtervezni, hogy az nagymértékben hatékony legyen.

A fentiek szerint a valós kormányoknak a polgárok közötti vitáktól eltekintve mindenféle feladatot ellátniuk kell, csak a Facebook és Palo Alto kormánya közötti léptékbeli különbségeket kell megvizsgálni. Palo Altónak nagyjából 65,000 XNUMX lakosa van és 617 teljes munkaidőben alkalmazottak. A Facebooknak 900 millió „lakója” és néhány száz bürokratája van, akik minden tartalmi döntést meghoznak.

A Facebook hatékonyság iránti vágya azt jelenti, hogy a demokrácia ki van zárva, és technokratikus, a fejlesztő-király uralom érvényesül. Az emberek nem szavazhatnak a szabályokról, és még akkor sem, amikor a Facebook felajánlotta a felhasználóknak, hogy a múlt héten szavazzanak egy új adatvédelmi irányelvről, a szavazók részvétele 0.038 százalék volt. Az emberek tudják, hogy a Facebook ellenőrzi digitális életük nagy részét, de nincs érzékük a digitális állampolgársághoz. És ez az apátia esélyt ad a Facebook technokráciájának a sikerre, ahol a történelmi előzmények nem.

Az eredeti technokraták a gondolkodók és mérnökök csoportja voltak az 1930-as években, akik újjáélesztették Platón filozófus-király álmát, de gépkorbeli pörgéssel. Thorstein Veblen, Howard Scott és M. King Hubbert vezetésével nem a nép, a monarchia vagy a diktátor, hanem a mérnökök uralmát szorgalmazták. A mérnökök és a tudósok ésszerűen és pártatlanul kormányoznának. Olyan technokráciát hoznának létre, amely úgy működne, mint az óramű, és biztosítaná a termelékenység hatékony elosztását. Kidolgozták az egész rendszert, amely alapján az észak-amerikai kontinens olyan funkcionális sorrendekkel fog uralkodni, amely lehetővé teszi a kontinentális igazgató számára, hogy elvégezze a dolgokat.