Společnost dohledu

Svět se na nás dívá

Internet se dívá, co děláme, jak vypadáme, jak se chováme, kam se díváme i jak se při tom cítíme. Jakmile přicházíme do kontaktu s digitálními technologiemi, jsme sledováni. Dívají se na nás nejen pouliční kamery, ale i obrazovky, kamery a mikrofony telefonů, televizí, počítačů a dalších zařízení. Jejich pohledy jsou naše životy nepřetržitě proměňovány na data. Ta jsou v reálném čase analyzována.

Všechna zařízení, o nichž se říká, že jsou „chytrá“, nesou toto označení, protože ve stejnou chvíli, kdy je používáme, používají ona nás. Vše, co na internetu děláme, se zaznamenává a dále využívá. Jsme materiálem, jež je vytěžován, procesován a následně prodáván.

Žijeme pod dohledem. Stali jsme se primární surovinou. To je dnes významem slovního spojení „být připojený na internet“.

Protože internet je stroj velký jako planeta, lze říci, že žijeme ve světě, který se na nás dívá. Zda-li se na nás dívá láskyplně a přejícně, anebo jestli mu jde jen o to, aby nás formoval a prodával, o tom je ještě čas rozhodnout.

Nejprve je dobré vědět, že se něco takového vůbec děje.

Chytrá kamera identifikující tučňáky (2008)

Chytrá kamera identifikující lidi a auta (2019)

Co se s tím dá dělat

Celkově vzato se s tím zatím nedá dělat nic moc, jelikož se jedná o oficiální plán globálního stroje. Kdo přemýšlí o změně tohoto stavu věcí, často přemýšlí o změně převládajícího modelu kapitalismu nebo o zastavení a zrušení aktuálně nejpopulárnější větve technologického pokroku, případně o vyčerpání materiálních surovin a energetických zdrojů, jež jsou k budování společnosti dohledu potřeba.

Zamezit rozvoji kapitalismu dohledu je velký úkol, přičemž nic nenasvědčuje tomu, že by bylo možné jej zvládnout. Čím více se stáváme závislými na globální biotechnologické síti, tím se zmenšuje naše moc i naše představivost, jež by mohla nabídnout pohledy a obrazy vyprávějící Nový příběh.

Ovšem neznáme budoucnost a žijeme ve složitých časech, a tak je možné, že usilovat o nemožné je tím nejrealističtějším z možných přístupů.

Je možné služby digitálních firem nepoužívat

Je to však obtížné, až nepředstavitelné, jelikož žijeme v digitalizující se společnosti a jsme na jejich produktem existenčně závislí. A máme je rádi.

Vynálezcem dohledu spojeného s následnou těžbou dat je společnost Google. Dalšími ve hře na sledování všeho a všech jsou: Meta (Facebook), Microsoft, Amazon, Apple (říká, že ne, ale málokdo mu to věří), Tesla, ByteDance (TikTok) a mnoho dalších. Všichni dnes v podstatě touží sbírat data, analyzovat je a případně je prodávat či alespoň využívat ve svůj ekonomický prospěch.

Chytré hodinky jsou obojek, který si lidé upínají sami na sebe. Často jimi vybavujeme děti, více zde. Tím je svěřujeme nadnárodním korporacím k jejich výzkumu a vytěžení.

V roce 2019 bylo odhadnuto, že v roce 2020 digitální zařízení, jež u sebe nosíme, vygenerují 28 petabytů informací každý den. Kolik to je se píše na stránce Informační oceán.

Kdykoli se Ti někdo snaží prodat internet věcí, usiluje o prodej Tebe

Chytré hodinky jsou jedním z přístrojů, které zatím nejsou příliš rozšířené, a tak je možné si říci, že je v rámci naší společnosti jednoduše znemožníme a ony následně zmizí. Stačí náš vlastní nezájem o ně. Podobně jsou na tom chytré domy, chytré supermarkety a chytré ulice, biometrické kamery, policejní drony, samořídící se vojenská technika, rádoby autonomní dopravní prostředky apod.

Někdo už to samozřejmě řeší

Technology has the power to transform our society, upend injustice, and hold powerful people and institutions accountable. But it can also be used to silence the marginalized, automate oppression, and trample our basic rights. This is the battleground we fight on: to defend technology as a force for liberation, not tyranny.

https://www.fightforthefuture.org/

V ČR se stejnými tématy zabývá organizace Iuridicum Remedium na stránkách Digitální svobody. Detailnější informace jsou zde.

Jeden z mála textů o Kapitalismu dohledu napsal Hynek Trojánek právě z IR: zde:

Všude tam jsme čím dál častěji konfrontováni s neúprosným faktem („deklarací“, jak píše Zuboff), že čím více dat, tím pro nás lépe, protože se z nich „někdy“ dá „něco“ vyvodit. Paralelně pak pozorujeme i další proces, kdy přísaháme nejen na více dat, ale obecně na více „digitálu“, aniž bychom toto nové náboženství podrobovali důslednější kritice.

Kapitalismus a stroje mají mnoho podob

Současná podoba společnosti vůbec není jediná možná. Společný svět lidí a strojů může fungovat i jinak.

Technologický pokrok není absolutní příkaz. Lze jej zpomalit nebo usměrnit. Ne všechny vynálezy a inovace jsou prospěšné. Jsme to my, kdo je vytváří a rozvíjí. S ledasčím můžeme přestat, další můžeme udělat jinak. S umělými inteligencemi v biosféře se nám naše moc sice lehce komplikuje, ale možná je to dobře, neboť to může vést k zamyšlení nad tím, co tu proboha živého vlastně vyvádíme.

Každý stroj, program či operační systém může být i nepoužíván. Náš ekonomický systém je také stroj.

Materiální a energetické zdroje potřebné k rozvoji stroje jsou omezené a bylo by fajn začít je používat smysluplně a životodárně. Jinak zničíme život na planetě a vyhubíme lidskou populaci. Kapitalisté dohledu se chovají, jako by to bylo jedno.

Nacházíme se teprve v prvních desetiletích tohoto příběhu.

Nejdále jsou se sledovacími technologiemi v Číně. Nejedna západní technologická firma se zde učí, jak efektivně zařídit, aby se společnost dohledu mohla rozvíjet všude.

Společnost dohledu

Neví se přesně, jak moc chytrá a rozšířená dnes společnost dohledu je. Rapidně se to mění. Chytré technologie se ve dne v noci vzdělávají ve vidění, myšlení, vysvětlování i řízení. Jejich tvůrci a další techno-optimisté v ně s každým jejich pokrokem důvěřují více. Digitalizace společnosti jde dnes ruku v ruce se společností dohledu.

V roce 2030 se Čína stane nejbohatším státem světa. Už dnes je většina států na její ekonomice závislá. Rozvoj technologií včetně umělých inteligencí (učících se programů) postupuje v Číně mnohem rychleji než kdekoli jinde, protože čínská verze kapitalismu nemá žádná pravidla ani limity. Budoucnost kapitalismu je čínská, nicméně kapitalismus je současně globální záležitostí, a tak se čínské výdobytky nebudou orientovat výhradně na jihovýchodní Asii. Peníze ani technologie neznají hranice.

Kapitalismus dohledu se zrodil na západě Spojených států, a tak vůbec nemusíme čekat na budoucnost, abychom se stali jeho součástí. Už jí všichni jsme přibližně dvacet let.

Kapitalismus dohledu podle Shoshany Zuboff

Jsme uživateli internetu a také jeho produkty a také jsme základní surovinou

Naše cítění, myšlení, vnímání a chování je hlínou, z níž jsou síty umělých inteligencí těžena data. Z pohledu síťujících technologických firem nejsme lidé. Jsme jen datové sady, hejna čísel, uživatelé k použití, jsme laboratorní krysy, jejichž chování je na prodej. Naše pohledy mají cenu, náš čas jsou peníze. Nikoli naše peníze. Jako lidé zvyklí na život ve stroji nám prodávání vlastního času a chování nepřipadá nijak zvláštní.

Stručně o tom, jak funguje

Schéma na jedenáctém obrázku (níže) znázorňuje fungování kapitalismu dohledu. Cokoli děláme s telefonem či jiným počítačem, generuje data. Ta jsou zpracovávána. Něco se použije na zlepšení dané služby (Youtube vám neukazuje videa, o nichž ví, že vás nezajímají) a něco („behaviorální přebytek“) se používá na odhadnutí našich zálib, tužeb a potřeb.

Každý z nás má svého digitálního dvojníka – datový profil složený ze všeho, co o nás stroje vysledovali a zjistili. Čím více používáme internet, telefon, kreditní kartu, atd., tím více se nám podobá. Trávíme-li s digitálními technologiemi prakticky veškerý čas, jako by nám z oka vypadl. Z vlastností a tvarů dvojníka je chytrými programy vyvozováno naše budoucí chování. To se následně draží na burze budoucího chování, kde za něj inzerenti a další zájemci platí. Nakupuje se naše budoucí pozornost, nač se podíváme, na co klikneme.

Je jedno, co si myslíme, může to být cokoli. Nezáleží, nač se díváme a jak se cítíme, stačí, že se díváme a cítíme. Nezáleží, kdo jsme, svou cenu má už jen to, že jsme. Je vyjádřitelná v penězích. Jsme materiálem k vytěžení. Říká se, že firma, která dnes netěží, brzy skončí. O lidech se v tom příběhu nemluví, jen o uživatelích, datech a ziscích.

Není jasná hranice mezi budoucností a přítomností. Nejpřesnější odhad budoucnosti se dá udělat u těch uživatelů, které se podařilo in-formovat nejlépe. Jsme surovinou, která není pouze těžena, ale také je soustavně utvářena. Informační technologie ovlivňují, jak vnímáme a co si myslíme.

Zdá se, že v současnosti má nejlepší algoritmus čínský Tik Tok. Dokáže pohled v informačním oceánu spolehlivě udržet po celé hodiny. Digiděti mají rády také Instagram patřící firmě Meta (Facebook) a Youtube patřící firmě Alphabet (Google). Než digiděti dospějí, pokud se o ně smysluplně nepostaráme, budou řádně připravené na život ve společnosti dohledu. Budou lhostejné, datafikované a použitelné.

Upozornění: Následují obrázky porušují autorská práva nakladatelství Argo a nejspíše i někoho dalšího. Jejich četbou se možná stáváte účastníky nelegálního jednání. Nicméně četbu doporučuji, jelikož s právy je to v digitalizující se společnosti dohledu hodně, ale hodně rozvolněné.

Zuboff uvádí, že se neví, kolika rozmanitým žalobám Google dohromady čelí, každopádně je mu to zcela lhostejné, neboť na fungování kapitalismu dohledu nemají výsledky soudních procesů žádný vliv.

Často se mě na besedách lidé ptají, proč nás technologické firmy sledují, co z toho mají

Jistotu

Říká se, že člověk má rád své jisté, snad protože je bytostí plnou iluzí, která se snaží nevidět, že primární vlastností života je právě nejistota.

I firmy – tedy právní subjekty, tj. složky orazítkovaných dokumentů – mají rády jistotu. Plánují si, kolik v budoucnosti vydělají peněz, a pak se snaží toho dosáhnout. Jinak je zle. Něco jako plnění pětiletky, jen každý rok čtyřikrát.

A tak vzniká byznys s předvídáním budoucnosti. Když se budeme pohybovat ve známém prostředí (kyberprostor) a budeme dělat přesně to, kam nás algoritmy dovedou, bude možné přesně předvídat kolik peněz utratíme, a tak budou moci firmy s větší jistotou vypočítat, kolik peněz v budoucnosti vydělají. Budoucnost se předvídá nejlépe, když se rovnou vytváří. Pak je nejpřesnější. V reklamním průmyslu jde stále méně o předpřípravu mysli a stále více o přímou výrobu zákazníka. Budoucností, jež je tvořena, se myslí budoucnost konzumenta, uživatele, klienta. Jsme formování k nakupování. Čím delší dobu trávíme s obrazovkami, tím je naše budoucnost jasnější.

Je čas přestat věnovat pozornost reklamám, ale kdo na to má sílu? Vždyť je to nemyslitelné!

Radikální lhostejnost

Datafikace, proměna života na čísla, vede k rovnosti všeho a všech. V číselné podobě jsme si všichni rovni, každý z rozdílů má stejnou hodnotu. Kde je vše stejné, tam je všechno jedno.

Radikální lhostejnost ve společnosti umožňuje, že je nám zcela fuk, jak svět kolem nás funguje a kdo určuje, jaké bude mít tvary. My to rozhodně nejsme, tak co na tom záleží. Lhostejnost v člověku nastává, když vyschne jeho láska k poznání a on či ona již nehledají štěstí ani radost ze života a prostě jenom jsou, ačkoliv tak nějak jako by vůbec nebyli. Klidně jako velký soubor čísel, s nímž je pohybováno odnikud nikam.

Lhostejní uživatelé jsou náchylní nechat si ukázat, namluvit či vnutit doslova cokoli. Prodej reklamy letos znovu atakuje svá roční maxima. A příští rok znovu. Je nám jedno, co dávají na internetu, hlavně, že tam něco běží. Je nám lhostejné, co s námi bude, důležité je, že u toho není nuda. Je mi jedno, jaký je smysl mého života, nějaký mi dejte, já ho stejně nebudu vnímat a hned si od vás vezmu další.

Ne, nevadí nám, co děláte, dělejte si, co chcete, je to pro naše dobro, díky moc.

„Co musíte skrývat?“

Zuboff (str. 545): „Ti, kteří nás chtějí připravit o útočiště, přecházejí nadšeně do útoku a vyvádějí nás z míry otázkou, jež v nás vyvolává pocit viny: „Co musíte skrývat?“ Jak jsme však viděli, zásadní výzvy ve vývoji rovnováhy mezi „já“ a jinými lidmi nelze přiměřeně vyřešit bez posvátnosti „odpojeného“ času a prostoru, v nichž dozrává vnitřní vědomí a schopnost reflexivity: sebereflexe sebe sama a reflexe okolí. Skutečná psychologická pravda totiž zní: Nemáte-li co skrývat, nejste nic.

Chytré, biometrické a další kamery

MŮJ OBLIČEJ PATŘÍ MNĚ

Sledování kamerovými systémy přechází do nové fáze. Klasické kamery, dosud pouze zaznamenávající obraz, se mění ve složité nástroje detekce či identifikace. Lidská obsluha je nahrazována algoritmy umělé inteligence. Identifikují se lidé (podle tváře, chůze), auta (podle SPZ), detekují se jevy jako pohyb, umístění věcí v prostoru, interakce mezi lidmi, podivné chování, zvuky atd. Zejména využití biometrické identifikace u lidí považujeme za oblast primární pozornosti nejen vzhledem k citlivosti dat, s nimiž pracuje, ale i vzhledem k možným negativním dopadům.

https://digitalnisvobody.cz/kampane/vychytrale-kamery/

Tématem kapitalismu dohledu, excesy digitalizace a sledování všeho a všech biometrickými kamerami se v ČR zabývá Iuridicum Remedium, z. s.

Jak jsme na tom v Česku? V ČR je již používán systém kamer s biometrickými funkcemi na pražském letišti. Podle nás nelegálně – čekáme na vyjádření Úřadu pro ochranu osobních údajů.“

https://digitalnisvobody.cz/

Drony a další zabíjecí kamery

https://www.novinky.cz/clanek/zahranicni-blizky-a-stredni-vychod-jako-ze-sci-fi-izraelci-vynalezli-mikrodrony-ktere-zmeni-podobu-mestskeho-boje-40415716