V Amazonu se rozhoduje o budoucnosti zaměstnanců na základě dat, která vyhodnocuje algoritmus. Americký gigant je sice technologická špička, ovšem i v jeho případě dochází k omylům, kdy se automatizované rozhodnutí neodvíjí od reálného světa. Agentura Bloomberg popsala příběhy zaměstnanců, o jejichž osudu bylo rozhodnuto bez lidského vědomí.
Automatizace, efektivita a obsese zákazníkem. To dělá z Amazonu největšího obchodníka na světě. I přes veškerou vymoženost, některé úkony zastanou stále jen lidé. Jako třeba samotný rozvoz produktů ke dveřím zákazníků. Amazon si je najímá, nejsou to jeho zaměstnanci. Celkový počet kontraktorů se pohybuje kolem 500 tisíc.
O jejich osudu rozhoduje rating, který hodnotí kvalitu služeb. V praxi se jedná o to, jak zvládají splňovat časové požadavky, které Amazon garantuje svým zákazníkům. Hodnocení se pohybuje na škále: fantastické, skvělé, poctivé a v ohrožení. Jakmile se řidič dostane na poslední úroveň hodnocení, jeho kariéra rozvozce je nejistá.
Jenže algoritmus, který rozhoduje o hodnocení najatých řidičů, plně nereflektuje skutečný svět. Agentura Bloomberg popisuje příběh Stephena Normandina, amerického veterána, který byl vyhozen na základě rozhodnutí algoritmu. Čím se Normandin provinil? Nemohl se dostat do bytového komplexu k boxům Amazonu. Ani na recepci nebyl člověk, který by umožnil situaci vyřešit.
Normandin tak strávil půl hodiny na telefonu, zásilku se mu ale doručit nepodařilo. Vrátil se proto zpět na distribuční centrum. Poté začal dramatický pokles jeho hodnocení, které si budoval roky. Jednoho dne se probudil a zjistil, že se nemůže přihlásit do aplikace, přes kterou se koordinuje rozvážení dodávek. Přišel mu pouze e-mail, ve kterém stálo, že se jeho hodnocení dostalo „pod akceptovatelnou úroveň“. Podepsán, Gangardhar M.
Normandin se odvolal, ale dočkal se jen generovaných odpovědí od rozdílně podepsaných odesílatelů, někdy se podepsali jen křestním jménem, jindy přišla zpráva bez podpisu. Odpovědi se nevztahovaly k jeho konkrétnímu případu. „Existuje řada věcí, které neumí algoritmus vzít v potaz. Zkrátka pravá ruka neví, co děla levá,“ komentoval to Normandin pro Bloomberg.
Nejenom, že algoritmus rozhodne o ukončení kontraktu, ale dokonce i při případném odvolání se řidiči nedovolali k nadřízeným zaměstnancům. Vedení Amazonu si vyhodnotilo, že zkrátka výhody automatizace převažují nad podobným zkraty, které mohou vést k ohrožení životní úrovně konkrétních lidí. Ale je to levnější než zaměstnávat lidi, kteří by vyšetřovali podobné incidenty.
Bloomberg ve svém článku pracuje s výpovědmi 15 řidičů, kteří se s automatizovaným hodnocením setkali. Mimo ně fungování algoritmického hodnocení popsali americkým novinářům i bývalí manažeři. Podle mluvčí Amazonu, Kate Kudrnové, popsané příběhy nereflektují reprezentativně fungování zautomatizovaných procesů. „Značně jsme investovali do technologií, abychom poskytli řidičům přehled o jejich postavení a způsobilosti poračovat v rozvážení, zároveň vyšetřujeme veškerá odvolání,“ odpověděla Bloombergu mluvčí Amazonu.
Obchodní model Amazonu je z velké části postavený na efektivitě vnitřních procesů, to s sebou však nese některá rizika. Společnost, kterou založil aktuálně nejbohatší člověk na světě Jeff Bezos, je v posledních letech kritizována za své chování k zaměstnancům, zejména ve skladech a distribučních centrech.
