A technokraták azért hoznak létre, mert megtehetik, nem azért, mert erkölcsi vagy etikai eset áll fenn. Szerintük a technológia nem etikus vagy erkölcsi, ezért a fejlesztési folyamatok során nem érdemel megfontolást. ⁃ TN szerkesztő
Ötvenkét emelettel a Salesforce Tower teteje alatt találkozom Paula Goldmannal egy üvegtáblájú konferenciateremben, ahol az EQUALITY OFFICE szavak egy patchwork bunting banneren vannak kirajzolva, olyan dekorációval, amelyet esetleg gyermeke születésnapi partijára vásárolhat.
Goldman mesterképzéssel rendelkezik Princetonban és Ph.D. Harvardról, ahol azt tanulmányozta, hogyan válnak a vitatott ötletek a mainstream-be. Megérkezett a Salesforce-hoz alig több mint egy éve az első etikai és humánus felhasználási főtisztviselővé vált, aki példátlan és határozottan egyértelmű címet kapott, amelyet kifejezetten példa nélküli, félreérthető, mégis nagyon specifikus munkájához hoztak létre: vigyázzon arra, hogy a Salesforce a világot jobbá, nem pedig rosszabbá tegye.
"Azt hiszem, abban a pillanatban vagyunk az iparban, ahol ezen az inflexiós ponton vagyunk" - mondja nekem Goldman. „Azt hiszem, a technológiai ipar itt volt korábban, a biztonság a 80-as években volt. Hirtelen vírusok és férgek voltak, és egy teljesen újfajta gondolkodásmódra és a kezelésre volt szükség. És látta, hogy egy biztonsági ipar ezek után felnő. És most csak a szabványos protokollról van szó. Nem szállítana egy nagyobb terméket anélkül, hogy újracsoportosítaná azt, vagy megbizonyosodna arról, hogy a megfelelő biztonsági biztosítékok vannak benne.
"Azt hiszem, hasonló helyzetben vagyunk az etikával" - mondja. „Ehhez nemcsak a munka elvégzéséhez szükséges eszközök, hanem a normák összessége is szükséges. Tehát hogyan méretezheti ezeket a normákat?
Megkérdezem tőle, hogy mindenekelőtt hogyan határozzák meg ezeket a normákat.
"Bizonyos értelemben ez a milliárd dolláros kérdés" - mondja. „Mindezek a kérdések rendkívül bonyolultak, és nagyon kevés van közülük, ahol a válasz teljesen egyértelmű. Jobb? Sok minden kiderül, mely értékeket tartja a legmagasabb a számításában? "
···
A Cambridge Analytica botrány, a munkavállalók kikerülése és más politikai és adatvédelmi események nyomán a tech-vállalatok a hívások nak nek bérel amit a Data & Society Research Institute kutatói hívnak „Etikai tulajdonosok” olyan emberek, akik gyakorlati és kimutatható módon működnek „az etikai vizsgálat alapjául szolgáló emberi értékekről folytatott ősi, domain-ugró és feloldhatatlan vitákért”.
A Salesforce Goldman-t az Omidyar Network-től bérelte fel csúcspontja egy hét hónapos válságkezelési folyamat, amely azután következett be, hogy a Salesforce alkalmazottai tiltakoztak a társaság részvétele iránt a Trump-adminisztráció bevándorlási munkájában. Más vállalatok saját válságaikra és aggodalmaikra reagálva hasonló szakemberekből - filozófusokból, szakpolitikai szakértőkből, nyelvészekből és művészekből álló - egy kis kádert béreltek fel, hogy megbizonyosodjanak arról, hogy amikor megígérik, hogy nem lesznek gonoszak, valóban következetes elképzelésük van a amit ez magában foglal.
Akkor mi történt?
Míg egyes technológiai cégek konkrét lépéseket tettek az etikai gondolkodás beillesztése érdekében a folyamatokba, Catherine Miller, a Doteveryone etikai tanácsadó cég ideiglenes vezérigazgatója szerint szintén sok „csapkodó” volt a téma.
A kritikusok ezt elutasítják „Etikai mosás, ”Az a gyakorlat, hogy pusztán erkölcsi értékeket mutatnak be a kormányzati szabályozás és a médiakritika elkerülése érdekében. A kifejezés a technológiai etika vagy a „tetika” körüli növekvő lexikonba tartozik, amely rövidítés a „Szilícium-völgy” tévéműsorban szatíraként kezdődött, de azóta alkalmanként komolyabb használatra vált át.
"Ha nem alkalmazza ezeket a tényeket a tényleges gyakorlatokban és az ösztönző struktúrákban, és ha nincsenek felülvizsgálati folyamatai, akkor az olyan lesz, mint az erkölcsi vaporware" - mondja Shannon Vallor, a Markkula Center technológiai filozófusa alkalmazott etikáért a Santa Clara Egyetemen. - Olyat ígért, amit meg akartál adni, de valójában soha nem érkezett meg.
A Google hírhedt módon létrehozta az AI Tanácsot, majd tavaly áprilisban feloszlatta után az alkalmazottak tiltakoztak az LMBTQ-ellenes szószóló bevonása. Ma a Google etikai megközelítése magában foglalja a „Modellkártyák”, Amelyek célja az AI megmagyarázása.
"Ennek semmi foga nincs" - mondja Michael Brent, az Enigma adatetikusa és a Denveri Egyetem filozófia professzora. "Pontosan így van:" Itt van egy nagyon szép kártya. ""
A vállalat jelentősebb erőfeszítéseket tett: Vallor éppen most teljesítette a Google-i körútját, ahol etikai szemináriumokat tartott mérnököknek, és segített a vállalatnak a termékfejlesztés irányítási struktúráinak megvalósításában. „Amikor szervezeti környezetben beszélek az etikáról, gyakran bemutatom, hogy az erkölcsi tudás és az erkölcsi képességek összessége segíti az embereket és a szervezeteket abban, hogy eleget tegyenek másokkal szembeni felelősségüknek” - mondja nekem Vallor.
Több mint 100 Google alkalmazott dolgozik részt vett etikai tréningeket fejlesztettek ki a Markkula központban. A cég kifejlesztett egy a méltányossági modul a gépi tanulás összeomlási tanfolyamának részeként, és frissítések negyedévente a „felelős AI-gyakorlatok” listája. "Az e társaságokat alkotó emberek túlnyomó többsége olyan termékeket akar építeni, amelyek az emberek számára hasznosak" - mondja Vallor. „Valóban nem akarják megtörni a demokráciát, és valójában nem akarnak fenyegetést jelenteni az emberi jólétre, és valóban nem akarják csökkenteni az írásbeliséget és a társadalom valóságtudatát. Olyan dolgokat akarnak készíteni, amelyekre büszkék. Tehát megteszek-e mindent, hogy segítsek nekik ezt elérni? Igen."
···
A Markkula központ, ahol Vallor dolgozik, Mike Markkula Jr.-ről, aismeretlen”Az Apple társalapítója, aki 1986-ben, ugyanúgy nyújtott a központnak, mint a fiatal Steve Jobs kezdeti hitelt. Soha nem akarta, hogy a neve az épületben legyen - ez meglepetés, hála jele volt az egyetemtől.
Markkula nyugodt életre vonult vissza, és kiterjedt, zárt udvarán lévő Woodside-i birtokából dolgozott. Manapság nincs sok kapcsolata az általa megalapított céggel - "csak akkor, ha valami baj van a számítógépemmel" - mondja nekem. De amikor a 80-as évek közepén lányával együtt eligazodás céljából megérkezett a Santa Clara-i campusra, az Apple elnöke volt, és aggódott a völgyben zajló dolgok miatt. "Mindkettőnknek, Lindának [a feleségének] és nekem egyértelmű volt, hogy jó néhány olyan ember volt döntéshozói pozícióban, akiknek éppen nem volt etikájuk a radarképernyőn" - mondja. "Nem arról van szó, hogy etikátlanok voltak, egyszerűen nem volt eszközük, amivel dolgozhattak volna."
"Mindezek a kérdések rendkívül bonyolultak" - mondja. Az értékek felértékelik az egyént. Egy értelemben igen, ez egyedileg rajtunk múlik, de a kérdés nem bonyolult. Elvették a csalit, és működik. Önfontosságúak, és mint ilyenek kis istenekké tették magukat, akik tudják a jót és a rosszat, nemcsak maguknak, hanem nekünk is választották. Az etikát és a jogtudományt az iskolában szokták tanítani, de ezt a Biblia elvetette. Nézze csak meg a televízióban hirdető összes ügyvédet. Az igazság az, hogy mindannyian bűnösök vagyunk. Igen azt... Olvass tovább "
Steve Prewitt
Február 6, 2020 12: 58 pm
Ez az egész cikk „vaporware” -ként hatott rám. Az etika egy vicc, amikor az iparág legnagyobb szereplője kéz a kesztyűben dolgozik Kínával, létrehozva egy nemzeti technokrata gulagot (és nem, nem a muszlimok „átképzési” táborairól beszélek, amelyek meghatározzák a gonoszt).
"Mindezek a kérdések rendkívül bonyolultak" - mondja. Az értékek felértékelik az egyént. Egy értelemben igen, ez egyedileg rajtunk múlik, de a kérdés nem bonyolult. Elvették a csalit, és működik. Önfontosságúak, és mint ilyenek kis istenekké tették magukat, akik tudják a jót és a rosszat, nemcsak maguknak, hanem nekünk is választották. Az etikát és a jogtudományt az iskolában szokták tanítani, de ezt a Biblia elvetette. Nézze csak meg a televízióban hirdető összes ügyvédet. Az igazság az, hogy mindannyian bűnösök vagyunk. Igen azt... Olvass tovább "
Ez az egész cikk „vaporware” -ként hatott rám. Az etika egy vicc, amikor az iparág legnagyobb szereplője kéz a kesztyűben dolgozik Kínával, létrehozva egy nemzeti technokrata gulagot (és nem, nem a muszlimok „átképzési” táborairól beszélek, amelyek meghatározzák a gonoszt).