Trauma Floor

Tajný život moderátorů Facebooku v Americe

Váš prohlížeč nepodporuje značku videa.

Upozornění na obsah:Tento příběh obsahuje diskusi o vážných problémech duševního zdraví a rasismu.



Záchvaty paniky začaly poté, co Chloe sledovala, jak muž umírá.



Posledních tři a půl týdne strávila tréninkem a snažila se odolávat každodennímu náporu znepokojivých příspěvků: projevy nenávisti, násilné útoky, grafická pornografie. Za několik dní se z ní stane moderátorka obsahu na plný úvazek na Facebooku, nebo to, pro co společnost, pro kterou pracuje, profesionální prodejce služeb jménem Cognizant, neprůhledně nazývá výkonná ředitelka.

Pro tuto část svého vzdělání bude Chloe muset moderovat příspěvek na Facebooku před svými kolegy. Když je řada na ní, kráčí do přední části místnosti, kde monitor zobrazuje video, které bylo zveřejněno na největší sociální síti na světě. Žádný z účastníků to předtím neviděl, včetně Chloe. Lisuje hru.

Někdo ho několikrát bodne, zatímco on křičí a prosí o život.

Video zachycuje zavražděného muže. Někdo ho několikrát bodne, zatímco on křičí a prosí o život. Úkolem Chloe je říct místnosti, zda by měl být tento příspěvek odstraněn. Ví, že část 13 komunitních standardů Facebooku zakazuje videa zobrazující vraždu jednoho nebo více lidí. Když to Chloe vysvětlila třídě, uslyšela, jak se jí třese hlas.



Když se Chloe vrátila na své místo, pocítila silné nutkání vzlykat. Další stážista přešel k recenzi dalšího příspěvku, ale Chloe se nedokáže soustředit. Opustí místnost a začne tak plakat, že se jí nedaří dýchat.

Nikdo se ji nesnaží utěšit. To je práce, na kterou byla najata. A pro 1 000 lidí, jako je Chloe moderujících obsah pro Facebook na webu Phoenix, a pro 15 000 recenzentů obsahu po celém světě, je dnes jen další den v kanceláři.



Za poslední tři měsíce jsem pohovořil s tucetem současných i bývalých zaměstnanců společnosti Cognizant ve Phoenixu. Všichni podepsali se společností Cognizant dohody o mlčenlivosti, v nichž se zavázali, že nebudou diskutovat o své práci pro Facebook - nebo dokonce uznají, že Facebook je klientem společnosti Cognizant. Kryt tajemství má chránit zaměstnance před uživateli, kteří se mohou naštvat na rozhodnutí o moderování obsahu a snaží se jej vyřešit u známého dodavatele Facebooku. Úmluvy NDA mají rovněž zabránit dodavatelům ve sdílení osobních údajů uživatelů Facebooku s vnějším světem v době intenzivního zkoumání otázek ochrany osobních údajů.

fotoaparát foto shop

Ale tajemství také izoluje Cognizant a Facebook od kritiky jejich pracovních podmínek, řekli mi moderátoři. Je na ně vyvíjen tlak, aby nediskutovali o emocionálním mýtném, které na nich jejich práce bere, dokonce ani s blízkými, což vede ke zvýšenému pocitu izolace a úzkosti. Abych je ochránil před možnou odvetou, a to jak od jejich zaměstnavatelů, tak i od uživatelů Facebooku, souhlasil jsem s používáním pseudonymů pro všechny osoby uvedené v tomto příběhu, s výjimkou Cognizantova viceprezidenta pro operace pro služby podnikových procesů, Boba Duncana a ředitele globálního řízení prodejců partnerů Facebooku Mark Davidson.

Moderátor obsahu, který pracuje pro Cognizant v Arizoně, vydělá jen 28 800 $ ročně.

Zaměstnanci společně popsali pracoviště, které neustále balancuje na pokraji chaosu. Je to prostředí, ve kterém se pracovníci vyrovnávají s vyprávěním temných vtipů o sebevraždě, a pak během přestávek kouří trávu, aby otupili své emoce. Je to místo, kde mohou být zaměstnanci propuštěni za to, že udělají jen pár chyb týdně - a kde ti, kteří zůstanou, žijí ve strachu z bývalých kolegů, kteří se vracejí a hledají pomstu.

Je to místo, kde v ostrém kontrastuvýhody poskytované zaměstnancům Facebooku, vedoucí týmů mikromanageují moderátorům každou přestávku v koupelně a na modlitbě; kde bylo zjištěno, že zaměstnanci, zoufalí po dopaminovém spěchu uprostřed utrpení, mají sex uvnitř schodišť a místnosti vyhrazené pro kojící matky; kde se u lidí během tréninku projevuje silná úzkost a nadále zápasí s příznaky traumatu dlouho poté, co odejdou; a kde poradenství, které jim Cognizant nabízí, končí v okamžiku, kdy přestanou - nebo jsou jednoduše propuštěni.

KLÍČOVÉ POZNATKY

  • Moderátoři ve Phoenixu vydělají pouze 28 800 $ ročně - zatímco průměrný zaměstnanec Facebooku má celkovou kompenzaci 240 000 $.
  • V ostrém kontrastu s výhodami poskytovanými zaměstnancům Facebooku vedou vedoucí týmů mikrosprávu s každou přestávkou koupelny moderátorů. Dva muslimští zaměstnanci dostali rozkaz přestat se modlit během devíti minut denně přiděleného wellness času.
  • Zaměstnanci mohou být propuštěni poté, co udělají jen několik chyb týdně, a ti, kteří zůstanou, žijí ve strachu z návratu bývalých kolegů, kteří se chtějí pomstít. Jeden muž, s nímž jsme mluvili, začal pracovat na ochraně, aby se chránil.
  • Bylo zjištěno, že zaměstnanci mají sex na schodišti a v místnosti vyhrazené pro kojící matky, což jeden zaměstnanec popisuje jako traumatické pouto.
  • Moderátoři se vyrovnávají s viděním traumatizujících obrazů a videí vyprávěním temných vtipů o sebevraždě a poté během přestávek kouřit trávu, aby otupili své emoce. Moderátoři jsou v práci běžně vysoko.
  • U zaměstnanců se po odchodu ze společnosti objevují příznaky podobné PTSD, ale již nemají nárok na žádnou podporu od Facebooku nebo Cognizant.
  • Zaměstnanci začali využívat okrajová hlediska videí a memů, která mají moderovat. Na stránkách Phoenixu je domov plochého Země a popírače holocaustu. Bývalý zaměstnanec nám říká, že už nevěří, že 11. září bylo teroristickým útokem.

Moderátoři mi řekli, že je to místo, kde je konspirační videa a memy, které každý den vidí, postupně vedou k přijetí okrajových názorů. Jeden auditor chodí po podlaze a propaguje myšlenku, že Země je plochá. Bývalý zaměstnanec mi řekl, že začal pochybovat o určitých aspektech holocaustu. Další bývalý zaměstnanec, který mi řekl, že zmapoval všechny únikové cesty ze svého domu a spí se zbraní po boku, řekl: Už nevěřím, že 11. září byl teroristický útok.

Chloe chvíli plače v odpočívárně a poté v koupelně, ale začíná se bát, že jí chybí příliš mnoho tréninku. Když se ucházela o zaměstnání, zuřivě se ucházela o zaměstnání jako čerstvá absolventka vysoké školy bez dalších bezprostředních vyhlídek. Když se stane moderátorkou na plný úvazek, vydělá Chloe 15 $ za hodinu - o 4 $ více než minimální mzda v Arizoně, kde žije, a lepší, než může očekávat od většiny maloobchodních pracovních míst.

Slzy nakonec přestaly přicházet a její dech se vrátil k normálu. Když se vrátí do školicí místnosti, jeden z jejích kolegů diskutuje o dalším násilném videu. Vidí, že dron střílí lidi ze vzduchu. Chloe sleduje, jak těla ochabují, jak umírají.

Opět opouští místnost.

Nakonec ji nadřízený najde v koupelně a slabě obejme. Cognizant dává zaměstnancům k dispozici poradce, ale pouze část dne, a musí se ještě dostat do práce. Chloe na něj čeká lepší část hodiny.

Když ji poradce vidí, vysvětluje, že měla záchvat paniky. Řekne jí, že až bude maturovat, bude mít větší kontrolu nad videy na Facebooku, než měla ve školicí místnosti. Video budete moci pozastavit, řekne jí, nebo se na něj dívat bez zvuku. Zaměřte se na své dýchání, říká. Ujistěte se, že vás příliš nezaskočí to, co sledujete.

Řekl, že se nemusíte bát - že tu práci pravděpodobně ještě zvládnu, říká Chloe. Pak se chytí: Jehoznepokojeníbylo: nebojte se, práci zvládnete.

3. května 2017 oznámil Mark Zuckerberg rozšíření Facebookukomunitní operacetým. Noví zaměstnanci, kteří by byli přidáni ke 4 500 stávajícím moderátorům, by byli zodpovědní za kontrolu každého obsahu nahlášeného kvůli porušení komunitních standardů společnosti. Na konci roku 2018 měl Facebook v reakci na kritiku prevalence násilného a vykořisťujícího obsahu na sociální síti více než 30 000 zaměstnanců pracujících v oblasti bezpečnosti a zabezpečení, z nichž asi polovinu tvořili moderátoři obsahu.

Mezi moderátory patří někteří zaměstnanci na plný úvazek, ale Facebook se při své práci do značné míry spoléhá na práci na dohodu. Ellen Silver, viceprezidentka pro provoz Facebooku, v loňském příspěvku na blogu uvedla, že používání smluvní práce umožnilo Facebookuměřítko globálně- mít nepřetržitě pracující moderátory obsahu, kteří hodnotí příspěvky ve více než 50 jazycích, na více než 20 webech po celém světě.

Využití smluvní práce má pro Facebook také praktickou výhodu: je radikálně levnější. Střední zaměstnanec Facebookuvydělává 240 000 $ ročněv platu, bonusech a opcích na akcie. Moderátor obsahu, který pracuje pro Cognizant v Arizoně, na druhé straně vydělá jen 28 800 $ ročně. Uspořádání pomáhá Facebooku udržovat vysokou ziskovou marži. V posledním čtvrtletíspolečnost vydělala na zisku 6,9 miliard dolarů, na tržbách 16,9 miliard dolarů. A zatímco Zuckerberg mělvaroval investoryže investice Facebooku do bezpečnosti sníží ziskovost společnosti, zisky vzrostly oproti předchozímu roku o 61 procent.

Od roku 2014, kdy Adrian Chenpodrobně popsal drsné pracovní podmínky pro moderátory obsahuna sociálních sítích proKabelovéFacebook citlivě kritizuje, že traumatizuje některé ze svých nejlépe placených pracovníků. vjejí příspěvek na bloguSilver uvedl, že Facebook hodnotí schopnost potenciálních moderátorů vypořádat se s násilnými snímky a prověřuje je podle jejich dovedností zvládat.

Bob Duncan, který dohlíží na moderování obsahu společnosti Cognizant v Severní Americe, říká, že personalisté pečlivě vysvětlují uchazečům grafickou povahu práce. Sdílíme příklady druhů věcí, které můžete vidět ... aby měli pochopení, říká. Záměrem všeho je zajistit, aby to lidé pochopili. A pokud nemají pocit, že je pro ně práce podle jejich situace potenciálně vhodná, mohou tato rozhodnutí učinit podle potřeby.

Až donedávna se většina moderování obsahu na Facebooku prováděla mimo USA. Jak ale rostla poptávka po práci po Facebooku, rozšířila své domácí operace o stránky v Kalifornii, Arizoně, Texasu a na Floridě.

Čas pracovníků v poznávání je řízen až na vteřinu.

USA jsou domovem společnosti a jednou z nejpopulárnějších zemí, říká Davidson z Facebooku. U amerických moderátorů je pravděpodobnější, že budou mít kulturní kontext nezbytný k hodnocení obsahu v USA, který může zahrnovat šikanu a nenávistné projevy, které často zahrnují slang specifický pro danou zemi, říká.

Facebook také pracoval na vybudování toho, co Davidson nazývá nejmodernější zařízení, takže replikovali kancelář Facebooku a nechali tento vzhled a dojem z Facebooku. To bylo důležité, protože na trhu někdy také panuje dojem, že naši lidé sedí ve velmi tmavých špinavých suterénech osvětlených pouze zeleným plátnem. To opravdu není tento případ.

Je pravda, že umístění Phoenixu v Cognizantu není ani temné, ani špinavé. A v rozsahu, v jakém nabízí zaměstnancům stoly s počítači, se může trochu podobat jiným kancelářím Facebooku. Ale zatímco zaměstnanci v sídle společnosti Menlo Park na Facebooku pracují ve vzdušném, sluncem zalitém komplexu navrženém Frankem Gehrym, jeho dodavatelé v Arizoně pracují v často stísněném prostoru, kde dlouhé řady několika stánků v koupelně mohou zabrat většině zaměstnanců omezenou dobu přestávek. A zatímco zaměstnanci Facebooku mají velkou svobodu v tom, jak zvládají své dny, čas pracovníků Cognizant je řízen až na druhou.

Moderátor obsahu jménem Miguel přijíždí na denní směnu těsně před jejím zahájením, v 7 hodin ráno. Je jedním z asi 300 pracovníků, kteří se nakonec odfiltrují na pracovišti, které zabírá dvě patra v kancelářském parku Phoenix.

Pracovníci ostrahy hlídají vchod, hledají nespokojené bývalé zaměstnance a uživatele Facebooku, kteří by mohli moderátorům čelit odstraněným příspěvkům. Miguel má odznaky do kanceláře a míří ke skříňkám. Skříň je sotva dostatek, takže někteří zaměstnanci se rozhodli, že v nich nechají věci přes noc, aby zajistili, že budou mít další den.

Skříňky zabírají úzkou chodbu, která se během přestávek dusí lidmi. V zájmu ochrany soukromí uživatelů Facebooku, jejichž příspěvky recenzují, se od zaměstnanců vyžaduje, aby během práce ukládali své telefony do skříněk.

Psací potřeby a papír také nejsou povoleny, pro případ, že by Miguel mohl být v pokušení zapsat si osobní údaje uživatele Facebooku. Tato zásada se vztahuje i na malé papírové zbytky, jako jsou gumové obaly. Menší předměty, jako je krém na ruce, je nutné ukládat do průhledných plastových sáčků, aby je mohli manažeři vždy vidět.

Kvůli čtyřem denním směnám - a vysoké fluktuaci zaměstnanců - nebude většině lidí přidělen stálý stůl na místě, které společnost Cognizant nazývá výrobní patro. Místo toho Miguel najde otevřenou pracovní stanici a přihlásí se k softwaru známému jako Single Review Tool nebo SRT. Když je připraven k práci, klikne na tlačítko označené kontrolou obnovení a ponoří se do fronty příspěvků.

Loni v dubnu, rok potémnoho dokumentů bylo zveřejněno vStrážce Facebook zveřejnil komunitní standardy, kterými se pokouší řídit 2,3 miliardy uživatelů měsíčně. V následujících měsících Základní deska a Radiolab zveřejnil podrobná vyšetřování výzev moderování tak velkého množství řeči.

Autisté by měli být sterilizováni, zdá se mu urážlivý, ale zůstává

Mezi tyto výzvy patří naprostý objem příspěvků; potřeba vyškolit globální armádu málo placených pracovníků, aby důsledně uplatňovala jednotný soubor pravidel; téměř každodenní změny a objasnění těchto pravidel; nedostatek kulturního nebo politického kontextu ze strany moderátorů; chybějící kontext v příspěvcích, díky nimž je jejich význam nejednoznačný; a časté neshody mezi moderátory ohledně toho, zda by pravidla měla platit v jednotlivých případech.

Navzdory vysokému stupni obtížnosti při uplatňování takovéto politiky společnost Facebook nařídila společnosti Cognizant a jejím dalším dodavatelům, aby nad všemi ostatními zdůrazňovali metriku zvanou přesnost. Přesnost v tomto případě znamená, že když Facebook audituje podmnožinu rozhodnutí dodavatelů, jeho zaměstnanci na plný úvazek souhlasí s dodavateli. Společnost stanovila cíl přesnosti 95 procent, což je číslo, které se vždy zdá být mimo dosah. Cognizant nikdy zasáhl cíl po delší dobu - obvykle plaval v 80. nebo 90. letech a v době tisku se pohyboval kolem 92.

Miguel tuto politiku pilně uplatňuje - i když mi říká, často mu to nedává smysl.

Příspěvek volající někomu mému oblíbenému n ----- může zůstat vzhůru, protože podle této zásady je považován za výslovně pozitivní obsah.

Autisté by měli být sterilizováni, zdá se mu urážlivý, ale také zůstává. Autismus není chráněnou charakteristikou ve smyslu rasy a pohlaví, takže neporušuje zásady. (Muži by měli být sterilizováni, byli by sundáni.)

V lednu Facebook distribuuje aktualizaci zásad, podle které by moderátoři měli při hodnocení příspěvků, které vyjadřují nenávist k pohlaví, zohlednit nedávné romantické otřesy. Nesnáším, že všichni muži vždy porušovali zásady. Ale právě jsem se rozešel se svým přítelem a nenávidím všechny muže, které už ne.

Miguel pracuje s příspěvky ve své frontě. Dorazí v žádném konkrétním pořadí.

Tady je rasistický vtip. Tady je muž, který má sex s hospodářským zvířetem. Zde je grafické video vraždy zaznamenané drogovým kartelem. Některé z příspěvků, které Miguel hodnotí, jsou na Facebooku, kde říká, že častější je šikana a nenávistné projevy; ostatní jsou na Instagramu, kde uživatelé mohou zveřejňovat příspěvky pod pseudonymy, a mají tendenci sdílet více násilí, nahoty a sexuální aktivity.

Přesnost se posuzuje pouze na základě dohody ...

Každý příspěvek představuje Miguela se dvěma samostatnými, ale souvisejícími testy. Nejprve musí určit, zda příspěvek porušuje standardy komunity. Poté musí vybrat správný důvod, proč porušuje normy. Pokud přesně rozpozná, že příspěvek by měl být odebrán, ale zvolí nesprávný důvod, započítá se to do jeho skóre přesnosti.

Miguel je ve své práci velmi dobrý. U každého z těchto příspěvků podnikne správné kroky a bude se snažit očistit Facebook od jeho nejhoršího obsahu a zároveň chránit maximální množství legitimního (i když nepříjemného) projevu. U každé položky stráví méně než 30 sekund a bude to dělat až 400krát denně.

Když má Miguel otázku, zvedne ruku a projde a pomůže mu odborník na předmět (SME) - dodavatel, který bude mít komplexnější znalosti o zásadách Facebooku, který vydělá o 1 $ více za hodinu než Miguel. To však bude Miguela stát čas, a přestože nemá kvótu příspěvků ke kontrole, manažeři sledují jeho produktivitu a požádají ho, aby vysvětlil, kdy se počet dostane do 200. let.

Z přibližně 1 500 Miguelových rozhodnutí týdně Facebook náhodně vybere 50 nebo 60 k provedení auditu. Tyto příspěvky zkontroluje druhý zaměstnanec společnosti Cognizant - pracovník zajišťující kvalitu, interně známý jako QA, který také vydělává o 1 $ za hodinu více než Miguel. Zaměstnanci Facebooku na plný úvazek poté auditují podmnožinu rozhodnutí QA az těchto kolektivních úvah se vygeneruje skóre přesnosti.

Miguel má slabý pohled na přesnost.

Přesnost se posuzuje pouze na základě dohody. Pokud já i auditor povolíme zjevný prodej heroinu, měl Cognizant „pravdu“, protože jsme oba souhlasili, říká. Toto číslo je falešné.

Jediné zaměření Facebooku na přesnost se vyvinulo po letech kritiky ohledně řešení problémů s moderováním. Vzhledem k tomu, že každý den přicházejí miliardy nových příspěvků, Facebook pociťuje tlak na všechny strany. V některých případech byla společnost kritizována za to, že nedělá dost - jako když to zjistili vyšetřovatelé OSNse podílel na šíření nenávistných projevůběhem genocidy komunity Rohingů v Myanmaru. Jindy to bylo kritizováno za přesah - jako když moderátorodstranil příspěvek, který obsahoval prohlášení o nezávislosti. (Thomasovi Jeffersonovi byla nakonec udělena posmrtná výjimka z řečových pokynů Facebooku, které zakazují používání výrazu indičtí divoši.)

Jedním z důvodů, proč se moderátoři snaží zasáhnout svůj cíl přesnosti, je to, že u každého daného rozhodnutí o vymáhání politiky mají několik zdrojů pravdy, které je třeba zvážit.

Kanonickým zdrojem pro prosazování jsou pokyny pro veřejnou komunitu Facebooku - které se skládají ze dvou sad dokumentů:veřejně zveřejněnéa delší interní pokyny, které nabízejí podrobnější podrobnosti o složitých problémech. Tyto dokumenty jsou dále rozšířeny o 15 000 slovní sekundární dokument s názvem Známé otázky, který nabízí další komentáře a pokyny k trnitým otázkám moderování - jakýsi Talmud k Tóře pokynů komunity. Známé otázky používané k obsazení jediného zdlouhavého dokumentu, který moderátoři museli denně odkazovat; v loňském roce byla začleněna do interních pokynů pro komunitu pro snazší vyhledávání.

Třetím hlavním zdrojem pravdy jsou diskuse, které mezi sebou moderátoři vedou. Během nejnovějších událostí, jako je hromadné natáčení, se moderátoři pokusí dosáhnout shody ohledně toho, zda grafický obrázek splňuje kritéria, která mají být odstraněna nebo označena jako rušivá. Ale někdy dosáhnou špatného konsensu, řekli moderátoři a manažeři musí jít po podlaze a vysvětlovat správné rozhodnutí.

Čtvrtý zdroj je možná nejproblematičtější: vlastní interní nástroje Facebooku pro distribuci informací. Zatímco oficiální změny politiky obvykle přicházejí každou druhou středu, přírůstkové pokyny k vývoji problémů jsou distribuovány téměř denně. Tyto pokyny se často zveřejňují na Workplace, podnikové verzi Facebooku, kterou společnost představila v roce 2016. Stejně jako samotný Facebook má Workplace algoritmický News Feed, který zobrazuje příspěvky na základě zapojení. Během nejnovější zprávy, například hromadného natáčení, manažeři často zveřejní konfliktní informace o tom, jak moderovat jednotlivé části obsahu, které se pak na pracovišti zobrazují v chronologickém pořadí. Šest současných a bývalých zaměstnanců mi řeklo, že udělali chyby v moderování na základě toho, že viděli zastaralý příspěvek v horní části svého zdroje. Občas to vypadá, jako by vlastní produkt Facebooku pracoval proti nim. Ironií se neztrácí moderátoři.

Občas to vypadá, jako by vlastní produkt Facebooku pracoval proti nim.

Stalo se to pořád, říká Diana, bývalá moderátorka. Bylo to hrozné - jedna z nejhorších věcí, s nimiž jsem se musel osobně vypořádat, abych mohl dělat svou práci správně. V dobách národní tragédie, jako je natáčení v Las Vegas v roce 2017, by manažeři řekli moderátorům, aby odstranili video - a poté o několik hodin později v samostatném příspěvku to nechali. Moderátoři by se rozhodli na základě toho, jaký příspěvek Workplace obsloužil.

Byl to takový velký nepořádek, říká Diana. Měli jsme se vyrovnat našemu rozhodování a to zhoršilo naše čísla.

Příspěvky na pracovišti o změnách zásad jsou doplněny příležitostnými diapozitivy, které jsou sdíleny s pracovníky společnosti Cognizant o moderních tématech s moderováním - často spojených s chmurnými výročími, jako je střelba v Parklandu. Ale tyto prezentace a další doplňkové materiály často obsahují trapné chyby, řekli mi moderátoři. V uplynulém roce komunikace z Facebooku nesprávně identifikovala určité zástupce USA jako senátory; zkreslil datum voleb; a dal špatné jméno střední škole, na které se odehrávalo Parklandské natáčení. (Je to střední škola Marjory Stonemana Douglase, ne střední škola Stonehama Douglase.)

I při neustále se měnících pravidlech mají moderátoři pouze nejtenčí okraje chyb. Úloha se podobá videohře s vysokými sázkami, ve které začínáte se 100 body - perfektní skóre přesnosti - a poté škrábáním a drápáním si udržíte co nejvíce z těchto bodů. Protože jakmile klesnete pod 95, vaše práce je ohrožena.

Pokud manažer pro zajištění kvality označí Miguelovo rozhodnutí špatně, může se proti rozhodnutí odvolat. Získání QA, aby s vámi souhlasil, je známé jako získání bodu zpět. Z krátkodobého hlediska je chyba cokoli, co QA říká, že je, a tak mají moderátoři dobrý důvod se odvolat pokaždé, když jsou označeni jako špatně. (Nedávno společnost Cognizant ztížila získání bodu zpět tím, že požadovala, aby moderátoři nejprve přiměli SME, aby schválil jejich odvolání, než bude postoupeno QA.)

Někdy se otázky týkající se matoucích témat dostanou na Facebook. Ale každý moderátor, kterého jsem se na to zeptal, řekl, že manažeři Cognizant odrazují zaměstnance od zvyšování problémů s klientem, zjevně ze strachu, že by příliš mnoho otázek otravovalo Facebook.

To vedlo k tomu, že Cognizant vynalézal politiku za běhu. Když komunitní standardy výslovně nezakazovaly erotické zadušení, řekli mi tři bývalí moderátoři, vedoucí týmu prohlásil, že obrázky zobrazující udušení budou povoleny, pokud prsty nestisknou kůži udušené osoby.

Postavili se proti mně na parkovišti a řekli mi, že ze mě budou bít hovno

Před propuštěním pracovníků je jim nabídnuto koučování a zařazení do ozdravného programu, který je navržen tak, aby se ujistili, že tuto politiku zvládnou. Ale často to slouží jako záminka pro řízení pracovníků mimo práci, řekli mi tři bývalí moderátoři. Jinak budou dodavatelé, kteří vynechali příliš mnoho bodů, eskalovat své žádosti na Facebook o konečné rozhodnutí. Společnost mi ale ne vždy projde nevyřízenými žádostmi, než je dotyčný zaměstnanec propuštěn, bylo mi řečeno.

Oficiálně je moderátorům zakázáno přibližovat se ke QA a lobovat u nich, aby rozhodnutí zvrátili. Ale stále je to běžný jev, řekli mi dva bývalí QA.

Jeden, jménem Randy, se někdy na konci pracovního dne vrátil do svého auta, aby na něj čekal moderátory. Pětkrát nebo šestkrát v průběhu roku by se ho někdo pokusil zastrašit, aby změnil své rozhodnutí. Postavili by se proti mně na parkovišti a řekli mi, že ze mě budou bít hovno, říká. Nebyl ani jediný případ, kdy by to bylo uctivé nebo hezké. Bylo to jen,Špatně jste mě zkontrolovali! To bylo prsa! To byla plná areola, no tak, člověče!

V obavě o svou bezpečnost začal Randy přinášet do práce skrytou zbraň. Vysvobození zaměstnanci pravidelně hrozili, že se vrátí do práce a ublíží svým starým kolegům, a Randy věřil, že to někteří myslí vážně. Bývalý spolupracovník mi řekl, že si byla vědoma, že Randy přinesl do práce zbraň, a schválila to, protože se obávala, že v případě útoku nebude dostatečná bezpečnost na místě.

Cognizant’s Duncan mi řekl, že společnost bude vyšetřovat různé problémy s bezpečností a řízením, které mi moderátoři sdělili. Uvedl, že uvedení zbraně do práce bylo porušením politiky a že pokud by si to vedení bylo vědomo, zasáhlo by a podniklo kroky proti zaměstnanci.

Randy skončil po roce. Nikdy neměl příležitost vystřelit ze zbraně, ale jeho úzkost přetrvává.

Jedním z důvodů, proč jsem odešel, bylo, jak nebezpečně jsem se cítil ve svém vlastním domě a na své vlastní kůži, říká.

Než si Miguel může dát pauzu, klikne na rozšíření prohlížeče a dá Cognizantovi vědět, že opouští svůj stůl. (To je v tomto typu odvětví standardní věc, říká mi Davidson z Facebooku. Aby bylo možné sledovat, abyste věděli, kde jsou vaše pracovní síly.)

Miguel má povoleno dvě 15minutové přestávky a jeden 30minutový oběd. Během přestávek často najde dlouhé řady pro toalety. Stovky zaměstnanců sdílejí pouze jeden pisoár a dva stánky v mužském pokoji a tři stánky v ženském. Cognizant nakonec umožnil zaměstnancům využívat toaletu v jiném patře, ale dostat se tam a zpět zabere Miguelovi cenné minuty. V době, kdy využil toaletu a bojoval s davem ve své skříňce, mohl mít pět minut na to, aby se podíval na svůj telefon, než se vrátí ke svému stolu.

Miguelovi je také přiděleno devět minut denně na wellness čas, který by měl využít, pokud se cítí traumatizován a potřebuje ustoupit od stolu. Několik moderátorů mi řeklo, že běžně využívali svůj wellness čas na toaletu, když byly linky kratší. Vedení si ale nakonec uvědomilo, co dělají, a nařídilo zaměstnancům, aby nevyužívali čas na relaxaci. (Nedávnoskupina moderátorů Facebooku najatých prostřednictvím Accenture v Austinu si stěžovala na nelidské podmínky související s přestávkami; Facebook tento problém přisoudil nepochopení svých zásad.)

Na místě ve Phoenixu bylo muslimským pracovníkům, kteří využili čas na wellness k provedení jedné ze svých pěti denních modliteb, řečeno, aby tuto praxi zastavili a místo toho to udělali v jinou dobu přestávky, řekli mi současní i bývalí zaměstnanci. Zaměstnancům, s nimiž jsem hovořil, nebylo jasné, proč jejich manažeři nepovažovali modlitbu za platné využití wellness programu. (Společnost Cognizant k těmto incidentům neposkytla komentář, ačkoli mi osoba obeznámená s jedním případem řekla, že pracovník požaduje více než 40 minut na každodenní modlitbu, což společnost považovala za přehnané.)

Zaměstnancům společnosti Cognizant je řečeno, aby se vypořádali se stresem práce tím, že navštíví poradce, pokud jsou k dispozici; zavoláním na horkou linku; a pomocí programu pomoci zaměstnancům, který nabízí několik terapeutických sezení. V poslední době byla do pracovního týdne přidána jóga a další terapeutické aktivity. Ale kromě příležitostných návštěv poradce mi šest zaměstnanců, se kterými jsem mluvil, řeklo, že tyto zdroje považují za nedostatečné. Řekli mi, že zvládli stres z práce jinými způsoby: sexem, drogami a urážlivými vtipy.

Mezi místy, která zaměstnance společnosti Cognizant shledali při sexu v práci: koupelnové stánky, schodiště, parkovací garáž a místnost vyhrazená pro kojící matky. Na začátku roku 2018 bezpečnostní tým rozeslal poznámku manažerům, kteří je varovali před chováním, řekla mi osoba obeznámená s touto záležitostí. Řešení: Vedení odstranilo zámky dveří z mateřského pokoje a z několika dalších soukromých pokojů. (Mateřský pokoj se nyní znovu uzamkne, ale budoucí uživatelé si nejprve musí vyzvednout klíč od správce.)

Bývalá moderátorka jménem Sara uvedla, že utajení jejich práce spojené s obtížností práce vytvářelo silné pouta mezi zaměstnanci. Říkáte, že se opravdu rychle přiblížíte svým spolupracovníkům. Pokud nesmíte mluvit o své práci s přáteli nebo rodinou, vytvoří se vám určitý odstup. Možná se budete cítit blíže těmto lidem. Připadá mi to jako emocionální spojení, když jste ve skutečnosti jen traumatizující vazbou.

Zaměstnanci se také potýkají s užíváním drog a alkoholu, a to jak na akademické půdě, tak mimo ni. Jeden bývalý moderátor, Li, mi řekl, že marihuanu užíval v práci téměř denně, přes vaporizér. Říká, že během přestávek malé skupiny zaměstnanců často míří ven a kouří. (Užívání lékařské marihuany je v Arizoně legální.)

Ani ti nedokážu říct, s kolika lidmi jsem kouřil, říká Li. Je to tak smutné, když si na to vzpomenu - opravdu mě bolí srdce. Šli bychom dolů a ukamenovali jsme se a vrátili se do práce. To není profesionální. S vědomím, že moderátoři obsahu pro největší platformu sociálních médií na světě to dělají v práci, zatímco moderují obsah…

Dělali jsme něco, co zatemňovalo naši duši

Odjel.

Li, který pracoval asi rok jako moderátor, byl jedním z několika zaměstnanců, kteří uvedli, že na pracovišti je plno černého humoru. Zaměstnanci by podle něj soutěžili o to, aby si navzájem posílali nej rasističtější nebo nejuráživější memy, ve snaze ulehčit náladu. Jako etnická menšina byl Li častým terčem svých spolupracovníků a podle jeho názoru přijal to, co viděl jako dobromyslné rasistické vtipy.

Postupem času se však začal zajímat o své duševní zdraví.

Dělali jsme něco, co zatemňovalo naši duši - nebo jak to říkáte, říká. Co jiného v tom okamžiku děláte? Jedna věc, která nás rozesměje, nás ve skutečnosti poškozuje. Musel jsem se hlídat, když jsem na veřejnosti vtipkoval. Náhodně bych neustále říkal [urážlivé] věci - a pak jsem jako,Sakra, jsem v obchodě.Nemůžu takto mluvit.

Časté byly také vtipy o sebepoškozování. Když pila, aby zapomněla, Sara slyšela, jak spolupracovník jednou řekl, když se ho poradce zeptal, jak se má. (Poradce nepozval zaměstnance k další diskusi.) Ve špatné dny Sara říká, že lidé budou mluvit o tom, že je čas jít se pověsit na střechu - vtip je ten, že by se zaměstnanci Cognizant jednoho dne mohli odhodit.

Jednoho dne, řekla Sara, moderátoři vzhlédli od svých počítačů a uviděli muže stojícího na sousední kancelářské budově. Většina z nich sledovala stovky sebevražd, které začaly právě tímto způsobem. Moderátoři vstali a spěchali k oknům.

Ten muž však neskočil. Nakonec si všichni uvědomili, že je spolupracovníkem, a udělal si přestávku.

Stejně jako většina bývalých moderátorů, se kterými jsem mluvil, Chloe přestala asi po roce.

Mimo jiné se začala obávat šíření konspiračních teorií mezi svými kolegy. Jeden QA často diskutoval o své víře, že Země je plochá s kolegy, a aktivně se snažil naverbovat další lidi k víře, řekl mi jiný moderátor. Jeden z Miguelových kolegů kdysi nedbale hovořil o Holohoaxu, což Miguel bral jako signál, že ten muž byl popíračem holocaustu.

Konspirační teorie byly na produkční ploše často dobře přijímány, řeklo mi to šest moderátorů. Po loňské střelbě v Parklandu byli moderátoři útoky zpočátku zděšeni. Ale jak se na Facebook a Instagram dostávalo více konspiračního obsahu, někteří kolegové Chloe začali pochybovat.

Nemyslím si, že je možné tuto práci dělat a nevycházet z ní s nějakou akutní stresovou poruchou nebo PTSD.

Lidé opravdu začali věřit těmto příspěvkům, které měli moderovat, říká. Říkali: ‚Bože, ve skutečnosti tam nebyli. Podívejte se na toto video CNN s Davidem Hoggem - je příliš starý na to, aby chodil do školy. ‘Lidé začali googlovat věci místo toho, aby dělali svou práci a zkoumali o nich konspirační teorie. Byli jsme jako: ‚Lidi, ne, tohle je ta šílená věc, kterou bychom měli moderovat. Co to děláš?'

rozhlasová zahrada

Nejvíce se však Chloe obávala dlouhodobých dopadů práce na její duševní zdraví. Několik moderátorů mi řeklo, že zažili příznakysekundární traumatický stres- porucha, která může vyplynout z pozorování traumatu z první ruky, které zažívají ostatní. Poruchu, jejíž příznaky mohou být identické s posttraumatickou stresovou poruchou, často pozorují lékaři, psychoterapeuti a sociální pracovníci. Lidé, kteří zažívají sekundární traumatický stres, mimo jiné hlásí pocity úzkosti, ztráty spánku, osamělosti a disociace.

V loňském roce společnost v Kalifornii zažalovala bývalá moderátorka Facebooku a uvedla, že je zaměstnána jako dodavatelka u firmy Pro Unlimitedji nechal s PTSD. Ve stížnosti její právníci uvedli, že se snaží chránit před nebezpečím psychického traumatu vyplývajícím z toho, že společnost Facebook neposkytla bezpečné pracoviště tisícům dodavatelů, kteří jsou pověřeni poskytovat uživatelům Facebooku nejbezpečnější možné prostředí. (Oblek stále není vyřešen.)

Chloe zažila příznaky traumatu během několika měsíců od ukončení práce. Během filmu začala mít panický záchvat v kiněMatka!, když násilná bodavá řádění vyvolala vzpomínku na první video, které moderovala před svými spolužáky. Jindy spala na gauči, když uslyšela střelbu z kulometu, a měla panický záchvat. Někdo v jejím domě spustil násilnou televizní show. Říká, že začala šílet. Prosil jsem je, aby to zavřeli.

Útoky ji přiměly myslet na své stážisty, zejména na ty, kteří z programu selhali, než mohli začít. Říká, že spousta lidí to tréninkem nezvládne. Projdou těmi čtyřmi týdny a pak jsou propuštěni. Mohli mít stejnou zkušenost jako já, a poté už neměli absolutně žádný přístup k poradcům.

Minulý týden mi Davidson řekl, že Facebook začal zkoumat testovací skupinu moderátorů, aby změřili to, co společnost nazývá jejich odolností - jejich schopností odrazit se od vidění traumatizujícího obsahu a pokračovat v práci. Společnost doufá, že test rozšíří na všechny své moderátory po celém světě, uvedl.

Randy také asi po roce odešel. Stejně jako Chloe byl traumatizován videem bodnutí. Oběť byla asi v jeho věku a pamatuje si, jak slyšel muže plakat pro svou matku, když zemřel.

Každý den to vidím, říká Randy, mám skutečný strach z nožů. Rád vařím - dostat se zpět do kuchyně a být v blízkosti nožů je pro mě opravdu těžké.

Práce také změnila způsob, jakým viděl svět. Poté, co viděl tolik videí, která říkala, že 11. září nebyl teroristickým útokem, jim uvěřil. Konspirační videa o masakru v Las Vegas byla podle něj také velmi přesvědčivá a nyní věří, že za útok bylo odpovědných několik střelců. (FBI zjistila, že masakr byl dílemjediný střelec.)

Existuje nekonečná možnost, co bude další prací, a to vytváří podstatu chaosu

Randy nyní spí s pistolí po boku. Provádí mentální cvičení o tom, jak by unikl z jeho domova v případě, že by byl napaden. Když se ráno probudí, zametne dům se zvednutou pistolí a hledá útočníky.

Nedávno začal navštěvovat nového terapeuta poté, co mu byla diagnostikována PTSD a generalizovaná úzkostná porucha.

Jsem v prdeli, chlape, říká Randy. Moje duševní zdraví - je to jen tak nahoru a dolů. Jednoho dne mohu být opravdu šťastný a dělat opravdu dobře. Následujícího dne jsem víceméně zombie. Není to tak, že bych měl depresi. Jen jsem se zasekl.

Dodává: Nemyslím si, že je možné dělat tu práci a nevycházet z ní s nějakou akutní stresovou poruchou nebo PTSD.

Běžnou stížností moderátorů, se kterou jsem mluvil, bylo, že místní poradci byli do značné míry pasivní a spoléhali se na to, že pracovníci rozpoznají příznaky úzkosti a deprese a vyhledají pomoc.

Nic pro nás nedělali, říká Li, kromě toho, že očekávali, že dokážeme identifikovat, kdy jsme zlomení. Většina lidí se tam zhoršuje - ani to nevidí. A to mě zabíjí.

Minulý týden, poté, co jsem řekl Facebooku o mých rozhovorech s moderátory, mě společnost pozvala do Phoenixu, abych si stránku prohlédl. Je to poprvé, co Facebook dovolil reportérovi navštívit americký web pro moderování obsahu, protože zde společnost začala budovat specializovaná zařízení před dvěma lety. Mluvčí, který se se mnou na místě setkal, říká, že příběhy, které mi byly vyprávěny, neodrážejí každodenní zkušenosti většiny jeho dodavatelů, ať už ve Phoenixu, nebo v jiných místech po celém světě.

Den předtím, než jsem dorazil do kancelářského parku, kde bydlí Cognizant, mi jeden zdroj říká, že na stěny byly vyvěšeny nové motivační plakáty. Celkově je prostor mnohem pestřejší, než očekávám. Neonový nástěnný graf nastiňuje aktivity měsíce, které zní jako kříženec mezi aktivitami na letním táboře a senior centrem: jóga, pet terapie, meditace aPrůměrné dívky-inspirovaná událost s názvem Ve středu nosíme růžovou. Den, kdy jsem tam byl, znamenal konec Týdne náhodných skutků laskavosti, kdy byli zaměstnanci povzbuzováni, aby psali inspirativní zprávy na barevné karty a připevňovali je ke zdi s kouskem cukroví.

Co byste dělali, kdybyste se nebáli?

Po setkáních s manažery z Cognizantu a Facebooku jsem pohovoril s pěti pracovníky, kteří se dobrovolně přihlásili ke mně. Proudí do konferenční místnosti spolu s mužem, který je odpovědný za provoz webu. Když jejich šéf sedí po jejich boku, zaměstnanci uznávají výzvy práce, ale říkají mi, že se cítí v bezpečí, podporovaní a věří, že práce povede k lépe platícím příležitostem - v rámci Cognizant, ne-li Facebooku.

Brad, který je držitelem titulu politický manažer, mi říká, že většina obsahu, který on a jeho kolegové kontrolují, je v zásadě neškodný, a varuje mě před přeháněním rizik duševního zdraví při práci.

Existuje takové vnímání, že jsme těmito grafickými obrázky a obsahem neustále bombardováni, i když ve skutečnosti je opak pravdou, říká Brad, který na webu pracuje téměř dva roky. Většina věcí, které vidíme, je mírná, velmi mírná. Jsou to lidé, kteří se chvástají. Jsou to lidé, kteří hlásí fotografie nebo videa jednoduše proto, že to nechtějí vidět - ne proto, že by došlo k nějakému problému s obsahem. To je opravdu většina věcí, které vidíme.

Pokud bychom tu práci nedělali, Facebook by byl tak ošklivý

Když se zeptám na vysokou obtížnost uplatňování této politiky, recenzent jménem Michael říká, že se pravidelně ocitl na obtíž choulostivých rozhodnutích. Existuje nekonečná možnost, co bude další prací, a to vytváří podstatu chaosu, říká. Ale také to udržuje zajímavé. Už nikdy nepůjdete celou směnu, protože už znáte odpověď na každou otázku.

V každém případě, říká Michael, si práci užívá lépe než ve svém posledním zaměstnání ve Walmartu, kde se často nadával zákazníkům. Říká, že nemám lidi, kteří by mi křičeli do tváře.

Moderátoři streamují a já jsem představen dvěma poradcům na webu, včetně lékaře, který zde zahájil poradenský program na místě. Oba mě žádají, abych nepoužíval jejich skutečná jména. Říkají mi, že se každý den přihlašují ke každému zaměstnanci. Říkají, že kombinace služeb na místě, horké linky a programu pomoci zaměstnancům je dostatečná pro ochranu pohody zaměstnanců.

DALŠÍ ČTENÍ

Když se ptám na rizika vzniku PTSD u dodavatelů, poradce, kterému budu říkat Logan, mi řekne o jiném psychologickém fenoménu: posttraumatickém růstu, účinku, při kterém některé oběti traumatu vycházejí ze zkušenosti a cítí se silnější než dříve. Příklad, který mi dává, je příklad Malaly Yousafzai, aktivistky v oblasti vzdělávání žen, kterou Taliban jako teenagera střelil do hlavy.

To je extrémně traumatizující událost, kterou ve svém životě zažila, říká Logan. Vypadá to, že se vrátila extrémně odolná a silná. Získala Nobelovu cenu za mír ... Existuje tedy mnoho příkladů lidí, kteří zažívají těžké časy a vracejí se silnější než dříve.

Den končí prohlídkou, při které procházím výrobním parketem a mluvím s ostatními zaměstnanci. Zaráží mě, jak jsou mladí: téměř každému se zdá, že je mu dvacet nebo brzy třicet. Když jsem na podlaze, veškerá práce se zastaví, aby se zabránilo, že nevidím žádné soukromé informace uživatele Facebooku, a tak zaměstnanci při příjezdu přátelsky chatují se svými spolužáky. Beru na vědomí plakáty. Jeden z Cognizantu má v měřítku enigmatický slogan empatie. Další,proslavila Facebook COO Sheryl Sandberg, čte Co byste dělali, kdybyste se nebáli?

Přiměje mě to myslet na Randyho a jeho zbraň.

Každý, koho na webu potkávám, vyjadřuje zaměstnancům velkou péči a zdá se, že pro ně dělá maximum, v rámci systému, do kterého byli všichni zapojeni. Facebook je hrdý na to, že na všech svých webech pro kontrolu obsahu platí dodavatelům minimálně 20 procent nad minimální mzdu, poskytuje veškeré zdravotní výhody a nabízí zdroje v oblasti duševního zdraví, které daleko přesahují zdroje velkého odvětví call center.

A čím více moderátorů, se kterými jsem mluvil, tím více jsem pochyboval o použití modelu call centra pro moderování obsahu. Tento model je již dlouho standardem u velkých technologických společností - používá ho také Twitter a Google, a tedy i YouTube. Výhodou outsourcingu je kromě úspory nákladů také to, že umožňuje technologickým společnostem rychle rozšířit své služby na nové trhy a jazyky. Rovněž však svěřuje základní otázky řeči a bezpečnosti lidem, kteří jsou placeni, jako by vyřizovali hovory zákaznických služeb o Best Buy.

Máte pro nás tip?Pomocí SecureDrop nebo Signal můžete bezpečně odesílat zprávy a soubory naThe Vergebez odhalení vaší identity.

Každý moderátor, s nímž jsem mluvil, byl na svou práci velmi hrdý a mluvil o této práci s hlubokou vážností. Přáli si jen to, aby si o nich zaměstnanci Facebooku mysleli, že jsou vrstevníci, a zacházeli s nimi něčím, co připomíná rovnost.

Pokud bychom tu práci nedělali, byl by Facebook tak ošklivý, říká Li. Vidíme všechny tyto věci jejich jménem. A sakra jo, uděláme pár špatných hovorů. Lidé ale nevědí, že za těmi sedadly jsou skutečně lidské bytosti.

To, že lidé nevědí, že tuto práci dělají lidé, je samozřejmě záměrné. Facebook by raději hovořil o svém pokroku v oblasti umělé inteligence a zamával nad vyhlídkou, že jeho závislost na lidských moderátorech bude v průběhu času klesat.

Ale vzhledem k limitům technologie a nekonečným rozmanitostem lidské řeči se zdá, že je takový den velmi daleko. Mezitím si model call centra moderování obsahu vybírá škaredou daň na mnoha svých pracovnících. Jako první reagující na platformách s miliardami uživatelů vykonávají kritickou funkci moderní občanské společnosti, přičemž dostávají méně než poloviční plat oproti mnoha dalším, kteří pracují v první linii. Dělají práci tak dlouho, jak jen mohou - a když odejdou, NDA zajistí, že ustoupí ještě dále do stínu.

Facebooku to bude připadat, jako by tam nikdy nepracovali. Technicky to nikdy neudělali.

Provedli jste moderování obsahu pro technologického giganta? Pošlete e-mail Casey Newton na casey@thewillandthewallet.org , pošlete mu přímou zprávu na Twitteru @ CaseyNewton , nebo požádejte ho o jeho Signál na kterékoli adrese.

Rozhraní

Večerní zpravodaj Casey Newton o Facebooku, sociálních sítích a demokracii.Předplatit!