Sdílejte
Minulý měsíc začal Facebook testovat své nové mazací mechanismy. V korporátní řeči ovšem jde o mechanismy moderovací. První zkusmé nasazení dopadlo špatně až komicky. Ze zdí uživatelů mizely naprosto běžné fotky a příspěvky, označené jako Porušení pravidel komunity, účty byly blokovány pro nic za nic. Dysfunkce byla tak zřetelná, že v internetovém světě vyvolala rozsáhlou – a poněkud pohoršenou – debatu.
autor Marian Kechlibar
Komentář
14.09.2018
Neprůhledné mazací systémy sociálních sítí mají za sebou už řadu spektakulárních skandálů. Začátkem července 2018 odstranil Facebook příspěvek citující doslovně americkou deklaraci nezávislosti, patrně kvůli výskytu fráze „merciless Indian savages", čili „nemilosrdní indiánští divoši". Pro konzervativně orientované Američany, kteří si Deklarace cení jako jednoho ze základních kamenů státnosti své vlasti, to byla urážka.

Podobným skandálem bylo, když server YouTube, vlastněný společností Google, zablokoval o rok dříve kanál kanadského profesora psychologie Jordana Petersona pro „porušení smluvních podmínek". Přesnou motivaci k tomuto kroku se nedozvíme nikdy, taková vysvětlení moderátoři skrytí za korporátní zdí mlčení zásadně neposkytují. Po vlně bouře mezi Petersonovými příznivci však Google ze svého rozhodnutí couvl a Petersonův účet obnovil. Méně známý či významný jedinec by však nejspíše měl smůlu.

Robotické systémy jsou výkonné a dokáží „prosít" tisíce příspěvků za sekundu, nechápou však kontext. Dostatečně kreativní vyjádření je ošálí a naopak – leckdy smažou to, co záměrem jejich tvůrců nebylo.
Tenhle problém předpověděl s geniální jasnozřivostí už v roce 1981 polský spisovatel sci-fi Janusz A. Zajdel v románu Edenie (česky vyšlo roku 2000 v nakladatelství Albatros). Jeho postavy žijí v totalitně organizované vesmírné stanici pod permanentním dohledem počítačového kontrolního systému, který poslouchá (a odezírá ze rtů), co říkají. „Problémové" řeči pak hlásí lidské tajné policii. Obyvatelé stanice si pod tímto dozorem vyvinou zvláštní jazyk, koalang. Jeho podstatou jsou symbolické asociace, kterým počítač není schopen porozumět a nevyvolávají v něm tedy podezření.

„Včera se mi zdál šedý anděl," říká mladík v Zajdelově Edenii, když chce své známé sdělit, že jeho pokoj v noci prošmejdil uniformovaný pracovník tajné služby. „Kus prostoru se zaplnil prázdnem?" ptá se jej dívka, čímž se ve skutečnosti chce dozvědět, zda nevítaná návštěva něco sebrala. Na dystopický koalang si poslední dobou vzpomenu dost často, když vidím v moderovaných diskusích pokusy lidí vyjádřit „citlivé" názory až básnickými jinotaji, jen aby nebyli smazáni. Sci-fi se bohužel ve svých předpovědích budoucnosti občas docela strefí.
Podobně jako automatizovaný kontrolní systém v Edenii potřeboval ke své existenci i lidskou složku, potřebují lidskou složku i mazací mechanismy Facebooku, Twitteru a spol. Jen Facebook zaměstnává po světě zhruba 7500 moderátorů obsahu, z toho asi 1200 v Německu. Moderátoři z povolání ovšem dost často ani nerozumějí jazyku, kterým jsou psány příspěvky. „Ačkoliv Česko patří v rámci Facebooku pod centrálu v Irsku, hodnocení vašeho příspěvku či fotky probíhá v Jižní Africe v Kapském Městě, kde to berou čistě vizuálně. Nikdo nepozná, v jakém kontextu příspěvek nebo fotky byly zveřejněny," řekl serveru iDnes Jakub Horák, který prošel výběrovým řízením na pobočce v Irsku.
Petr Paulczyňski @paulczynski
30.03.2018 08:57
Zprávu o tom že se v Brně hraje divadelní kus v němž Ježíš znásilňuje muslimku označil Facebook za zprávu porušující pravidla komunity a smazal ji. Nikdy by mě nenapadlo že po listopadu 89 se vrátí komunistická cenzura
Kde nejsou k dispozici profesionálové, tam nastupují nadšení amatéři, tedy jiní uživatelé sítě, kteří nahlašují obsah ke kontrole a případnému odebrání. Pak už začíná hra na čísla. Čím vícekrát je příspěvek nahlášen, tím pravděpodobněji jej automatické mechanismy odeberou. Že takový postup vede k vytváření celých blokovacích brigád, které nemají na práci nic lepšího, než nahlašovat texty a obrázky, které se jim nelíbí – to je zcela zřejmé. Hůře jsou na tom početnější národy, kde se snadno sejde kritické množství aktivistů. Ti si pak vahou svých počtů vymohou leccos.

Facebook si je problému vědom a pro každého uživatele má tzv. skóre věrohodnosti, číslo od 0 do 1, které má odrážet kvalitu jeho chování, např. to, zda nešíří „fake news". Je ovšem otázka, zda tento druh léku není horší než choroba sama. Své vlastní skóre věrohodnosti se nedozvíte ani vy sám a není ani patrné, na základě čeho vůbec klasifikuje Facebook zprávy jako falešné či pravdivé. Také reminiscence na čínský systém „sociálního skóre" je zřejmá.
Americký soudce Louis Brandeis kdysi řekl, že „nejlepší dezinfekcí je sluneční světlo". Mazací systémy sociálních sítí jako by se z této poučky snažily inspirovat – v tom smyslu, že dělají pravý opak. Na základě nebulózních pravidel vykonávají softwaroví roboti a lidé, kteří ani neovládají cílový jazyk, kontrolu nad zveřejňovanými myšlenkami podle neveřejných kritérií pravdy, to vše za pomoci neidentifikovaných aktivních uživatelů (napadá mě i lepší slovo na „u", totiž udavačů) s neznámým skóre věrohodnosti.

Kdo ohlídá tyto hlídače, aby se jejich dohled nezměnil ve zvůli? I to je dávno známý problém. Pořekadlo Quis custodiet ipsos custodes? najdeme už ve sbírkách starořímských moudrostí. Na řešení v případě sociálních sítí ale budeme muset přijít sami, bez pomoci od Cicera, Petronia a spol. Tenhle druh soukromé kvazimonopolní mediální platformy s dozorem nad činností uživatelů, značnou společenskou a politickou vahou, a navíc velmi intruzivními zásahy do soukromí jednotlivce, tu v dějinách lidstva ještě nebyl.
Tento web využívá cookies. Jeho používáním s tím vyjadřujete souhlas.
ROZUMÍM