Studie z Univerzity Jižní Karolíny (USC) se zaměřila na dvě konkrétní společnosti, které na LinkedInu i Facebooku inzerují. Jde o firmu Domino’s, která rozváží pizzu, a o maloobchodní Instacart, který zas doručuje potraviny všeho druhu. Náplň práce řidičů obou podniků se výrazně neliší, mohou ji zastávat jak ženy tak muži.
Avšak na Facebooku cílily inzeráty zaměstnání v těchto společnostech jiným směrem. Zatímco na nabídky pozice řidiče v Domino’s častěji naráželi muži, inzerát z Instacart se častěji zobrazoval ženám.
Čím si to lze vysvětlit? Podle výzkumníků je to dáno současným zaměstnaneckým složením obou společností. Zatímco řidiči rozvážkové služby Domino’s jsou hlavně muži, pracovní síla Instacartu je více než z poloviny tvořena ženami. Zobrazování inzerátů tak kopíruje status quo.
Algoritmy v zásadě rozhodují za našimi zády.
Sandra Wachterováprofesorka Univerzity v Oxfordu
Nutno poznamenat, že technologický gigant Facebook již čelil soudním sporům kvůli diskriminaci určitých demografických skupin. Do roku 2019 totiž inzerentům umožňoval, aby si sami vybrali, k jakým uživatelům se reklama má dostat.
Zadavatelé reklamy mohli volit výslednou skupinu, které se inzerce zobrazí, nejen na základě zájmů uživatelů, či jejich kvalifikace. Z cílení mohli rovněž vyloučit konkrétní demografické skupiny, například podle rasy daného člověka, jeho věku či právě pohlaví.
Umělá inteligence má předsudky
Aby Facebook urovnal soudní spory s občanskoprávními organizacemi, inzerentům zmiňovanou možnost volby odebral. Pro zadavatele, který hledá na místo sekretářky dvacetiletou ženu a na místo projektového manažera bílého muže, se tak cílení nabídek práce skrz Facebook stalo obtížnějším.
Jenže i bez lidského přičinění dochází k diskriminaci, tvrdí nyní výzkumníci. Předsudky totiž mají i algoritmy Facebooku. Mezi demografickými skupinami rozlišují, i když od inzerentů žádný požadavek nemají. Protože není možné ukázat uživateli každou reklamu, která je na něj zacílena, algoritmy pro něj vybírají to, co považují za nejvíce relevantní, píše agentura AP.
Ženy žalují Disney za diskriminaci a zákaz mluvit o platech. Firma se brání |
Pokud například více žen projeví zájem o určitá pracovní místa, software zajistí, aby se právě ženám ukazovalo více těchto druhů reklam. Algoritmy Facebooku tak prakticky okoukaly současnou nerovnost na trhu práce, naučily se její parametry, a nyní ji napodobují a tím pádem i udržují.
„Nástroje, které jsme vyvinuli, abychom zabránili diskriminaci, počítaly s lidským faktorem,“ komentuje Sandra Wachterová, profesorka Univerzity v Oxfordu, která se zabývá právním rámcem a etickými principy umělé inteligence. „Jenže algoritmus funguje odlišně, různě seskupuje lidi, a dělá to velmi rafinovaným způsobem. Algoritmy v zásadě rozhodují za našimi zády,“ uvádí profesorka.
V inzerátech už se neuvádí: ‚hledáme bezdětnou ženu do 35 let‘ a podobně. Na ojedinělé výjimky nás potom docela rychle upozorňují uživatelé, a my následně píšeme zaměstnavatelům, ať to změní.
Tomáš Ervín Dombrovskýanalytik společnosti LMC
České inzeráty bez předsudků
Diskriminující lidský faktor, který Wachterová zmiňuje, se daří potlačovat díky antidiskriminačním zákonům, a to i v České republice. Proč se v tuzemských inzerátech člověk již v drtivé většině případů nesetká s požadavkem na pohlaví či věk, vysvětluje Tomáš Ervín Dombrovský, analytik společnosti LMC, která provozuje pracovní portály jako je Jobs.cz.
„V roce 2011 analyzovala česká kancelář ombudsmana pracovní inzerci a došla k tomu, že asi 15 procent inzerátů obsahovalo tvrdě diskriminační kritéria. My jsme na toto konto ve spolupráci s kanceláří ombudsmana rozjeli docela velkou osvětovou kampaň směřovanou do firem na manažery a personalisty, abychom tyto praktiky odbourali,“ uvádí Dombrovský s tím, že od té doby se přístup zadavatelů inzerátů změnil.
„V inzerátech už se neuvádí: ‚hledáme bezdětnou ženu do 35 let‘ a podobně. To je pasé. Na ojedinělé výjimky nás potom docela rychle upozorňují uživatelé, a my následně píšeme zaměstnavatelům, ať to změní. Tvrdě diskriminační kritéria, která se týkají pohlaví, zdravotního stavu, věku, národnosti nebo světonázoru či náboženského přesvědčení do inzerátu nepatří,“ dodává analytik.
Ženy do Netflixu
Skrz algoritmy tak dochází k udržování současného stavu, tedy nerovnováhy mezi muži a ženami na trhu práce. „Není to tak, že si uživatel řekne: ‚Toto mě zajímá.‘ Facebook za uživatele rozhoduje, zdali je pravděpodobné, že se zapojí,“ vysvětluje autorka studie Aleksandra Korolová.
„Avšak to, že určitá skupina historicky neměla zájem se něčemu věnovat, neznamená, že by neměla mít příležitost se tomu věnovat nyní, zejména co se týče pracovních míst,“ namítá Korolová.
Žen bez práce přibývá rychleji, rozdíly mezi pohlavími se prohlubují |
Její výzkum nepracuje jen s nabídkami práce firem Domino’s a Instacart. Stejný trend jako u rozvážkových společností výzkumníci našli i u inzerátů streamovací služby Netflix a u výrobce čipů Nvidia. Větší části žen se na Facebooku objevily inzeráty na práci v Netflixu, kdežto muži častěji naráželi na nabídky práce v Nvidia. U obou dvou přitom šlo o nabídky podobných pozic. I v tomto případě odpovídá cílení inzerce rozložení mužů a žen mezi pracovníky v obou společnostech.
Zajímavé je, že na profesní sociální síti LinkedIn výzkumníci neodhalili stejné diskriminační praktiky algoritmů. Společnost LinkedIn k tomu uvedla, že zjištění nové studie je v souladu s interním průzkumem cílení pracovní nabídky.
Výzkumníci chtějí přezkum fungování algoritmů
K průzkumu se vyjádřil i Facebook s tím, že podniká smysluplné kroky k řešení problémů diskriminace při zobrazování inzerátů. „Náš systém bere v potaz mnoho signálů, čímž se pokouší zobrazovat takové reklamy které by lidi nejvíce zajímaly. Ale chápeme obavy vznesené ve studii,“ zní stanovisko Facebooku.
Nejste spokojeni s Vašim zaměstnavatelem? Najděte si nového na portálu jobDNES.cz. |
Výzkumníci nyní požadují přísnější audit algoritmů, do jejichž fungování vlastně nikdo zvenčí Facebooku nevidí. Podle Korolové by mohly americké regulační orgány požadovat určitou formu nezávislého přezkumu.
„Platformy nejsou dobré v kontrolování svých algoritmů z hlediska nežádoucích společenských důsledků. Zvlášť když jde o jejich podnikání,“ uvádí Korolová. Naráží tím na fakt, že zadavatelé reklam jsou dnes hlavním zdrojem příjmu Facebooku. „Produktem“ této sociální sítě jsou vlastně samotní uživatelé, respektive jejich pozornost, za kterou jsou inzerenti ochotni dát nemalé peníze.
