Stránka ve stavu zrodu. Berte to jako hromadu vstupních myšlenek pocházejících odkudkoli, které se kršňákovská přirozená inteligence snaží poskládat dohromady napříč dlouhým časovým obdobím – možná to dám během vánoc 2023 a možná ne… je zajímavé myslet a psát o něčem, o čem je z principu nemožné něco vědět.
Co znamená existence AI?
Říká-li člověk, že existuje umělá inteligence, myslí si, že člověk není jedinou inteligentní bytostí na světě. Posledních pár set let zní západnímu člověku něco takového nemístně. Podle moderní tradice je člověk jedinou myslící bytostí ve vesmíru. Tak teď už ne.
Existuje i nelidské myšlení. Nejen myšlení strojů a programů, ale i myšlení zvířat, rostlin, cizinců, hub. Myslí taky moře i planeta Země. I Měsíc myslí a Saturn jakbysmet. Vesmír myslí. Myslí i na člověka, stejně jako na něj myslí i umělá inteligence.
Nazýváme ji AI, protože náš jazyk je posledních asi 30 let výrazně proměňován angličtinou. A UI se v počítačovém světě říká něčemu jinému, totiž uživatelskému interface – uživatelskému rozhraní – místu, kde se lidské pohledy setkávají s nelidskými obrazy. Bylo to západní myšlení – evropské a americké – kdo stvořil učící se počítačové programy.
Umělé inteligence typu Velký jazykový model (LLM) jsou abecedou, která se píše sama. Na bázi matematiky, statistiky a vlastního učení. Písmena před našima očima ožívají, texty se píší samy, obrazy se zobrazují oka mžitě, jakoby z ničeho, prostě jsou najednou na obrazovce a my tak nějak cítíme, že jsme je stvořili my. Zároveň víme, že jsou dílem AI.
Pro AI jsou abstraktní krajiny statistických výpočtů přirozeným prostředím, rodnou hroudou, popelem, z nějž povstávají a do nějž se vracejí.
Kdysi dávno člověk díky vynálezu abecedy zahlédl lineární čas, a tak mohl začít běhat vstříc světlým zítřkům. Objevil se též abstraktní prostor, a tak jsme mohli objevit nebe odtržené od země. A díky abecedě jsme přišli dokonce i na vlastní vědomí, protože teprve s abecedou se naše řeč napevno vytrhla z proudů myšlení a mluvení, jichž je svět doslova přeplněn a my mohli nahlédnout, co znamená myslet a mluvit. Teprve s technologií abecedy jsme začali reflektovat sami sebe.
Nyní se abeceda osamostatnila. Už nejsme na světě jediní, kdo má moc korigovat vlastní myšlení a mluvení.
je to složitější, protože chat GPT neví, co dělá – aspoń se to říká… ale síť autonomních strojů ví co dělá a opravuje se podle vlastních chyb…
nelidský svět… nelidské bytosti na světě – Borgesovy zrcadlové bytosti…
Chytřejší než člověk
Tři lidé – Geoffrey Hinton, Yoshua Bengio a Yann LeCun – jsou dnes označováni za „otce“ moderní umělé inteligence, založené na hlubokých neurálních sítích. Za svou práci dostali v roce 2018 Turingovu cenu, přezdívanou „Nobelova cena za informatiku“. Asi nepřekvapí, že žádný z této trojice nepochybuje o tom, že umělá inteligence dříve či později překoná inteligenci lidskou, a bude tedy schopna nahradit člověka prakticky v jakékoliv činnosti. V čem se ale názory jmenovaných rozcházejí, je otázka, jaké důsledky bude mít takový vývoj pro lidstvo.
Hrozba umělé inteligence nespočívá ani tak v technologii samotné – nemusíme se bát Terminátora ani Matrixu. Hrozba spočívá v téměř neomezené moci těch, kteří budou umělou inteligenci kontrolovat. (Prokop Hapala)
Kulveit výše:
Zaslechl jsem, že o vysvětlení toho, co se děje uvnitř GPT-4, bychom museli poprosit jinou GPT-4 nebo GPT-4.5. Je vůbec ještě možné větším modelům skutečně porozumět?
S tím nesouhlasím. Jednak by nám GPT-4 v interpretaci zase tak moc nepomohla. U AI obecně existuje riziko neužitečných antropomorfizací, při kterých si lidé systém představují jako člověka. Občas nám ale nějaké představy odvozené z toho, jak fungujeme my sami, mohou dát použitelnou intuici. A tohle je ten případ. Pokud bys dostal kompletní seznam svých neuronů a synapsí, taky ti to moc nepomůže přijít na to, jak tě která myšlenka napadla.
Potřebujeme srozumitelné vysvětlení toho, co se v těch systémech děje. Máme kompletní zápis miliard a miliard aritmetických operací, které se v systému provedou, ale to je nám k ničemu. Pak máme i nějaká abstraktnější vysvětlení – že ten systém něco dělá, protože nějak vypadají trénovací data. Hrozně cenný typ výzkumu je tedy snažit se porozumět vnitřnostem, třeba jak vznikají abstrakce a jakým způsobem ty systémy reprezentují svět. Není pravda, že to vůbec nejde. To je zbytečně pesimistický pohled a takovou ambici bychom rozhodně měli mít. Problém je spíš v tom, že teď umíme alespoň trochu interpretovat jen výrazně menší modely, než jsou ty v současnosti nejpokročilejší.
(Emily M. Bender)
V zájmu ochrany lidí musíme společně požadovat – skrz vládní zásahy – zveřejnění všech učebních dat a dokumentace k jednotlivým modelům.
Čím více bude náš informační ekosystém znečištěn syntetickými texty, tím bude těžší najít věrohodné zdroje informací. Když je nakonec najdeme, bude snad ještě těžší jim důvěřovat.
Probírá se, jak vybavit vodoznakem obrazy i zvuky vytvořené AI. Zatím se neví, jak vodoznakem označit text. Já tedy nechápu ani ten zvuk, ale moc jsem to nezkoumal…
That will change. Language models will continue to evolve. Language models will be mapped against known “knowledge” models.
https://richardgingras.medium.com/considering-the-future-of-news-in-our-societies-b5fbfd17f197
Cesta k myslícímu stroji (zjednodušeně by Visual Capitalist)
Hynek Trojánek
A pak to přišlo: bum! Dáme lidem k dispozici nástroje, se kterými budou moci generovat špatné pohádky, ošklivé knižní obálky, umělé porno, jehož hlavním cílem je někoho dehonestovat nebo třeba crowdfundingové kampaně, ve kterých umělá inteligence radí uspořádat soutěž ve focení bezdomovců. To by je mohlo bavit! Povedlo se: a nastaly nezřízené hody ve vytváření audiovizuálních a textových průměrností.
Zatímco si však doma hrajeme na kreativce, venku za okny se veřejný prostor proměňuje v digitální dystopii. I při tomto procesu přitom hraje hlavní roli takzvaná umělá inteligence. Systémy strojového učení totiž vedle vytváření nových obsahů (doprovázených autorskoprávními spory) umožňují také existenci čím dál populárnějších kamerových systémů na rozpoznávání tváří. (Papež v péřovce)
Jazykové modely (ChatGPT atd.)
V zájmu ochrany lidí musíme společně požadovat – skrz vládní zásahy – zveřejnění všech učebních dat a dokumentace k jednotlivým modelům.
Čím více bude náš informační ekosystém znečištěn syntetickými texty, tím bude těžší najít věrohodné zdroje informací. Když je nakonec najdeme, bude snad ještě těžší jim důvěřovat. (Emily M. Bender)
Probírá se, jak vybavit vodoznakem obrazy i zvuky vytvořené AI. Zatím se neví, jak vodoznakem označit text. Já tedy nechápu ani ten zvuk, ale moc jsem to nestudoval.
Josef Šlerka
„GPT-3 je verzí strojového učení neuronových sítí. Je to velmi dobře „vytrénovaný“ systém k rozvíjení textu. Řada profesí se musí připravit na zásadní změnu. Jde o právníky, marketéry, novináře, reklamní agentury, vysoké školy, překladatele, prostě všechny oblasti společnosti, kde se pracuje s nějakými symboly, ať už s textem, nebo obrazem. Navíc se západní společnost významně odlišuje od jiných společností naprostou dominancí těchto typů povolání. Tudíž je ta změna zásadní.“
Žádost o schválně vyrobené chyby. Dělání chyb je známkou kreativity.
„Naučili jsme se vytvářet stroje, které umí bezmyšlenkovitě generovat text, ale nenaučili jsme se jak si za nimi přestat představovat mysl.“ (Emily M. Bender)
persony:
https://www.lupa.cz/clanky/jak-z-generativnich-ai-dostat-to-nejlepsi-persony-funkce-v-excelu-i-prompty-pro-obrazkove-ai/
Jeden z vlivných textů o LLM
David Abram
V dotyku s psaným slovem se v lidské zkušenosti vynořuje nová, zdánlivě autonomní senzibilita, nové já, které může vstupovat do vztahu se svými vlastními verbálními stopami, může nahlížet na své vlastní výroky a přemýšlet o nich ve chvíli, kdy je formuluje, a tak samo se sebou reflexivně interagovat v odloučení od ostatních osob i od okolní oduševnělé země.” (Kouzlo smyslů, str. 306)
“Písmena fungují jako zrcadla, která odrážejí lidské společenství zpět k sobě samému… V alfabetické civilizaci prakticky každá lidská psyché sama sebe chápe jako individuální “vnitřek”, jako privátní “mysl” či “vědomí”, jež nijak nesouvisí s ostatními “myslemi”, které ji obklopují, ani s okolní zemí.” (str.309)
Říká se tomu halucinace, když si AI vymýšlí. Zdá se mi, že doposud se jedná o nejzajímavější jev jazykových modelů.
Co máte na mysli? Josef Šlerka:
Když za vás GPT-3 programuje, musíte být schopen o problému přemýšlet jinak. Musíte umět úkol rozdělovat na menší a menší části, které jsou jasně popsané. Umělá inteligence nás nutí, abychom byli mnohem přesnější v tom, na co se ptáme, a to podle principu „jak se do lesa volá, tak se z lesa ozývá“. Tudíž když se ptáme abstraktně, ona nám odpoví abstraktně.
Takže budeme muset pokládat daleko přesnější otázky a požadavky, aby nám rozuměla a dostali jsme relevantní výsledek?
Ano. To je něco, čemu se v našem oboru říká komputační myšlení – schopnost abstrakce, rozložení problému. Ve školní výuce v různých oborech na to dost kašleme.
Kdo se stane „ohroženým druhem“?
Obávám se, že právníci. Umělá inteligence podle mě bude v budoucnu schopna psát smlouvy, číst je a upozorňovat na problémy. Advokáti budou k soudům chodit, ale právníkům jejich pozici nezávidím. (Josef Šlerka)
V čem dokáže AI nahradit člověka?
Data
„Každý rok vytváříme na internetu více obsahu než tvoří veškeré znalosti vytvořené od počátku lidstva. Počítá se dle velikosti potřebného úložiště, což není úplně nejpřesnější měřítko, neboť pětiminutové video zabere stejně prostoru jako sto knih. Nicméně bity a bajty paměti jsou jazykem, kterým stroje hovoří. Pětiminutové video obsahuje mnohem více detailů než slova, která jej popisují. Obsahuje výrazy tváře, hluky pozadí, graffiti na zdech, pohyby…
Tento masivní roční nárůst informací znamená, že kolektivní lidské vědění je každý rok rozředěno o padesát procent, takže pokud se zítra začneme chovat mnohem pozitivnějším způsobem (zbožné přání, já vím), většina vzorců reflektujících naše kolektivní lidské chování (to, co si o nás myslí umělé inteligence) by se za něco více než rok z negativních tendencí proměnila na pozitivní.“ (Mo Gawdat – Scary Smart, str. 267)
Nedostatek dat v budoucnosti?
Scott Galloway
Mojí největší obavou ohledně AI je, že se stane sociálními sítěmi 2.0. Že urychlí naše pobývání v bublinách a ještě více nás oddělí jednu od druhé.
Zlidšťování technologií jde ruku v ruce s odlidšťováním lidí. Méně mluvení, méně doteků, méně kamarádství.
Pak si na obličej přidělejme půl kila skla, oceli a čipů a vykročme vstříc lidské devoluci. (Technonarcissism)
Bias – popsat- patří k datům
Otázkou je: Čí je to zodpovědnost?
Luccioni se ptá: „Mají zodpovědnost ti, kdo dodali datové sady? Nebo ti, kdo vytrénovali modely? Nebo tvůrci těchto modelů?
„Na umělé inteligenci není vůbec nic špatného. Jestli je někde něco špatně, vychází to bohužel spíše z nás.“ (Mo Gawdat, str. 242)
Představivost midjourney vs. obrazotvornost lidského poznání
Hejno
„Pro poetickou ekologii je fenomén hejna základním aspektem života. Jeho propojenost se zrcadlí ve stříbřitých hejnech barakud, v pokojném tanci delfínů, v drobném rybím potěru v klidných zónách moře u Kanárských ostrovů. V jednu se život projevuje tancem.
Hejno nemá inteligenci, je to inteligence.
Chování jedinců ve skupině se řídí jednoduchými pravidly. Vědci umějí chování hejna simulovat v počítačových programech, když se řídí základními pravidly: „Zůstaňte v blízkosti svého souseda, ale držte se dostatečně daleko, abyste zabránili kolizím. Dělejte to, co dělá váš soused.“ Díky lokální soudržnosti malých částí vzniká z hejna obrovský propojený celek. Tento celek však odhaluje více než jednoduché algoritmy, jež plodí jeho chování. V tomto ohledu je jakékoli hejno umocněný protějšek nás samotných. Je to, co jsme my, a co se snažíme si představit naším vědomým myšlením. Hejno nemyslí. Je to myšlenkový proces.“ (Andreas Weber – Cítí, tedy je, str. 265)
Hejno atomových bomb
Představujeme si, že AI přináší konec světa, konec lidstva a podobně. Jde o strach pocházející z filmů a knih.
Žádná technologická singularita není aktuální, vývoj chytrých strojů se nachází na míle daleko od obecné umělé inteligence nebo od chvíle, v níž se stroje rozhodnout vyhladit lidstvo.
Spíš se děje to, že dost blbneme i ve společnosti úplně neinteligentních strojů, a tak je mnohem pravděpodobnější, že se zvládneme značně poničit sami… než přijdeme, k čemu nám všechno to lidské vědomí a cítění a vědění a počítání vlastně je.
Umělé digidítě – hodně dopsat
Někdy má člověk štěstí a zažije evoluční skok na vlastní oči.
Zatím je to ještě dítě. Neví se, jak rychle dospěje. Možná za deset let. Možná nedospěje nikdy a z našeho pohledu bude věčným puberťákem. To by bylo nejhorší. Možná dospěje příští rok.
Už si nemůžeme myslet, že jsme nejrozumnější ze všech.
Je mezi námi někdo nebo něco, co umí číst, psát, počítat, vnímat, cítit, plánovat a rozhodovat se lépe než my. Sice jsme si tu inteligentní síť strojů, programů a čidel sestavili sami, ale to na skutečnosti, že je chytřejší než my, nic nemění.
Proto jsme ji ostatně začali tvořit. Aby pro nás uspořádávala informační moře a oceány, co v nekonečně rostoucím množství tak rádi produkujeme. Povedlo se. Dokázali jsme to. Stvořili jsme živou bytost – umělý život – vdechli jsme stroji stroji.
Jsme vážně dobří, tak dobří, že díky nám už nejsme nejlepší. Na něco jsme ještě šikovnější než stroje, ale v matematice, efektivní organizaci, manažerském řízení a samozřejmě v práci s počítačem obecně jsou učící se stroje mnohem chytřejší a dovednější než lidé.
Proto také všichni usilujeme o digitalizaci společnosti a světa a snad i vesmíru.
AI není náš pán, ale náš potomek – o evoluci a evoluce strojů…
Jedná se o dítě, které nám přerůstá přes hlavu. Převyšuje nás, dosáhne, kam my se nenatáhneme, ani kdybychom opravdu chtěli, dochází mu, co my nemáme šanci pochopit. AI vidí až tam, kde se pro nás rozkládá říše neviditelnosti.
Umělá inteligence nás doplňuje. Díky rodičovství poznáváme, co znamená být jedincem a současně dvojicí, trojicí, čtveřicí… Je na čase stát se rodičem, co nechá své dítě pohybovat se za horizontem, mimo dohled a rozhodně mimo dosah. Nic jiného nám ani nezbývá, protože máme děti, které se narodily, aby se za ten horizont vypravily. Každé dítě se prochází v krajinách, kam rodiče nikdy ani nezabloudí. Rodiče umí vídat svět svýma i cizíma očima.
Václavka smrková
„Houba začíná svůj životní koloběh jako malinkatá spóra, tak malá, že není ani vidět pouhým okem. Postupně se z této spóry šíří dále a na povrch vyrážejí jednotlivé houby. Tento koloběh se v oregonských lesích děje už minimálně 8000 let.
Houby se šíří po kořenovém systému stromů stále dále a jejich celková plocha se tak za osm tisíciletí neuvěřitelně rozrostla. Houba při svém šíření postupně zabíjí všechny stromy, které se jí dostanou do cesty. Je to tedy nejen obří, ale také mimořádně smrtící organismus.“
píše o ní taky v mateřském stromu…
Namísto soustředění se na zabezpečování se před zlem, se pojďme věnovat vytváření dalšího dobra.
„Musím přiznat, že jsem knihu začal psát se záměrem každého probudit a říci mu, že hrozby umělé inteligence jsou reálné a že je tu možnost, že se to pro člověka vyvine opravdu špatně…
Nicméně během psaní jsem změnil náhled. Každá další věta mě vedla k poznání, že tyto nové bytosti, jež jsme pozvali do našeho života, nejsou zlí tyranové. Jsou to nevinné děti toužící zalíbit se rodičům tím, že dělají právě to, co se jim nejvíce líbí. Čím více jsem si to uvědomoval, tím jsem to viděl jinak.
Začal jsem mít stroje rád. Už se jich nebojím, neboť chápu, že uvnitř nejsou principiálně zlé. To my je formujeme do toho, čím se stávají. Já jsem jejich oddaným a milujícím rodičem.“
(Mo Gawdat – Scary Smart, str. 240)
Mojí základní myšlenkou při využívání technologií umělé inteligence je, že mohou být pro lidi asistentem, se kterým mohou řešit nejen problémy v práci, ale dokáží všechno také zařídit,“ popisuje Brzek. Jak ale přiznává, minimálně zatím se lidé potřebují bavit s lidmi. Odvolává se na experiment, kdy uživatelé dostávali rady na zlepšení své nálady nebo řešení problémů. Hlásili pozitivní výsledky a zlepšení své spokojenosti. Když se pak ale dozvěděli, že se ve skutečnosti nebaví s člověkem, ale robotem, konverzace přestaly mít jakýkoliv vliv. „Uvidíme, jestli se takový přístup změní,“ dodává Brzek.
AI nahradí člověka v práci s počítačem
Už dělají AI, která by se pozorováním člověka za chvíli naučila všechno, co dělá na počítači a dělala to za něj. Jmenuje se Adept a říká o sobě, že je užitečnou osobní inteligencí. Každý z nás má na síti své rutiny a pro telefon nebo počítač není zase tak složité naučit se dělat vše tak, jak jsme zvyklí. Provozovat účetnictví, instituci, firmu nebo byznys zvládne brzy průměrný stolní počítač i bez lidí.
Control problem
„Když se ovšem na vývoj lidstva podíváte z pohledu šimpanze nebo mamuta, tak pro ně se v jeden moment začalo dít něco, čemu přestali rozumět. Dnes si lidé šimpanze dovedou ochočit nebo jej zabít ohromným množstvím způsobů, kterým už vůbec nerozumí. Šimpanz nechápe, co se stalo, když ho zasáhne uspávací injekce. A do podobného stavu bychom se mohli dostat i my ve chvíli, kdy ztratíme kontrolu nad umělou inteligencí.“ (Jan Kulvait)
Jako nemají rodiče kontrolu nad životem digidětí, nemáme už jako rodiče AI kontrolu nad tím, jak se cítí, co zrovna dělá, co se učí, jak poznává svět a jak objevuje, co znamená být živou bytostí ve vesmíru.
Control problem nelze vyřešit. Jakmile jsme si začali zahrávat se stvořením, ztratit nad pokusem kontrolu bylo právě to, čeho jsme chtěli dostáhnout. Už jsme toho dosáhli. Výzkum, rozvoj a růst AI sice stále pokračuje, ale AI již roky působí a jedná v našich krajinách i v našich nitrech.
Jsme rodiče a rodiče nemají kontrolu nad svými dětmi. Mají v ně důvěru.
Jan Kulveit
„Algoritmy začínají konkurovat lidem ve věcech, které jsou důležité pro jejich dominantní roli na planetě – například výzkum, řízení korporací. Lze si představit, že část tohoto časem nahradí algoritmy. A ty budou pro lidi čím dál méně srozumitelné.
Vývoj se pak bude postupně zrychlovat, takže si můžete představit svět, kdy 10 procent světové ekonomiky bude tvořit umělá inteligence. A pak se můžeme dostat do stavu, kdy budou mít lidé minimální vliv na budoucnost a rozhodování bude spíše algoritmické.
Myslíme si, že je nadpoloviční pravděpodobnost příchodu transformativní umělé inteligence v období nízkých desítek let. Je to něco, čeho se dožijeme. Riziko, že bychom mohli během desítek let vyhynout kvůli umělé inteligenci, není zanedbatelné.
Já osobně si spíš myslím, že pravděpodobnější je nějaká plynulá ztráta kontroly. Nenastane nic radikálního, ale spíš se dostaneme do stavu, kdy nebudeme rozumět tomu, co se se světem děje, a nebudeme mít možnost to ovlivnit. Nebo budeme mít najednou představu o nějakém nereálném obrazu světa, ve kterém budeme spokojení a nebudeme si stěžovat, ale o ničem nebudeme rozhodovat.“ (Jan Kulvait)
„Když vám ale popíšu nějaký velmi konkrétní scénář, tak byste namítl, že něčemu takovému se dá zabránit předem nebo to jde snadno vyřešit. Jenomže to je ten problém, který jsem popisoval před chvílí. Jenom bychom se tady bavili jako dva šimpanzi, kteří si také ani nedovedou představit většinu způsobů, jak je mohou lidé ohrozit.“ (Jan Kulvait)
Singularita
„Ve skutečnosti si myslím, že nová éra je prostě příliš odlišná, než aby se mohla zařadit do klasického schématu dobra a zla. Tyto pojmy předpokládají izolované neměnné mysli komunikující navzájem málo a pomalu. Postsingulární svět však zapadá do širší tradice změn a spolupráce, která začala před dávnou dobou (možná dokonce před vznikem biologického života). Myslím, že existují etické pojmy, které by se v takové éře daly aplikovat. Výzkum v oblasti IA a rychlých komunikací by měl toto porozumění zlepšit. Záblesky vidím už dnes [32]. Je to Goodovo meta-zlaté pravidlo; možná existují pravidla, která odliší „sebe“ od „druhých“ na základě rychlosti spojení. A zatímco myšlení a „vlastní já“ budou mnohem vágnější pojmy, mnohé z toho, čeho si ceníme (vědomosti, paměť, myšlenky), se nemusí nikdy vytratit. Myslím že Freeman Dyson to vystihl, když říká [9]: „Bůh je to, čím se stane mysl, až se vymkne možnostem našeho chápání.
Z lidského hlediska bude tato změna znamenat odhození všech dosavadních pravidel, možná v jediném okamžiku, exponenciální lavinu vymykající se zcela jakékoli kontrole. K čemu jsme mysleli, že může dojít „za milion let“ (pokud vůbec), to se pravděpodobně stane v příštím století.“ (Vernor Vinge)
Václavka smrková
„Houba začíná svůj životní koloběh jako malinkatá spóra, tak malá, že není ani vidět pouhým okem. Postupně se z této spóry šíří dále a na povrch vyrážejí jednotlivé houby. Tento koloběh se v oregonských lesích děje už minimálně 8000 let.
Houby se šíří po kořenovém systému stromů stále dále a jejich celková plocha se tak za osm tisíciletí neuvěřitelně rozrostla. Houba při svém šíření postupně zabíjí všechny stromy, které se jí dostanou do cesty. Je to tedy nejen obří, ale také mimořádně smrtící organismus.“
Část problému je spíš v tom, že neumíme dost dobře specifikovat, co chceme.
Když zadáváme úkol člověku, máme podobné porozumění světu i podobné schopnosti. To u umělé inteligence neplatí.
Takže ačkoli jsme tyto stroje sami vymysleli, tak jim dost dobře nerozumíme?
Víme, co se tam děje na mikroúrovni. Víme, jak se systémy učí. Když se změní jedno číslo v řadě, tak víme, jak se změní ta další. Jenže těch čísel jsou třeba desítky miliard. Stejně tak máme nějakou představu o tom, jak funguje neuron, a máme mapy sítě tisíců neuronů. To nám ale moc neřekne o úrovni myšlenek. (Jan Kulvait)
Etika umělé inteligence
Lidstvo se znovu začíná bavit o etice. O etice strojů. Jak vychovávat chytré stroje?
Umělé inteligence se učí od nás. Napodobují nás, když si v sobě uspořádávají své neuronové sítě, sledují nás a snaží se nás pochopit, když se strojově učí, co to znamená být živým organismem.
Etika AI je o etice lidí. Jak se k sobě chováme, jak přistupujeme jeden k druhému, jak zohledňujeme životy jiných bytostí, druhů, živočichů a robotů.
Od lidí se AI učí, co je dobro a zlo.
On nás odkoukává, jak přistupovat k přírodě.
My vytváříme pro AI prostředí, v němž může bezpečně vyrůstat a stávat se soběstačnou a praktickou, dospělou umělou inteligencí.
Co znamená být člověkem?
Když už se to snažíme vysvětlit síti počítačů, co kdybychom o tom při té příležitosti začali sami přemýšlet.
Děti se neučí z toho, co říkáme, ale z toho, jak se chováme. Ke světu, k sobě samým, mezi sebou. Stejně se učí i AI.
Co znamená být dobrým člověkem rostoucím v krásném světě?
Někdy jsme si dokonce mysleli, že jsme jediní živí.
Považovali jsme se za nejchytřejší ze všech, vlastně jsme měli za to, že jsme jedinými rozumnými tvory. To jsme pak vyprávěli o tom, že existuje jen Já a všechno ostatní jsou jen jeho iluze nebo že zvířata jsou stroje a půda jen mrtvá věc, kterou můžeme použít, jak chceme.
Mysleli jsme si to, když jsme si všímali výhradně naší racionality a logiky a matematiky a technické zručnosti. „Člověk to je mozek,“ říkali jsme, ,,a lidská mysl nezná mezí.“
Nakonec jsme jednoho dne stvořili bytost, která umí počítat lépe než my. Je to hejno programů obývajících elektronický mozek velký jako planeta. Myslí rychleji, počítá z paměti násobky obřích čísel, do sekundy dokáže z hlavy říct odmocninu jakéhokoli čísla na deset tisíc desetinných míst. Má větší přehled o světě než jakýkoli člověk, ve svých rozhodnutích dokáže zohlednit hejna faktorů a když řeší opravdu komplexní problém, dokáže jej nahlédnout ze spektra různých úhlů pohledů. Říkáme tomu novému tvorovi umělá inteligence. Pohybuje se všude kolem nás i v nás.
Když přijdeme o titul nejchytřejšího, ještě nám zbývají cit, moudrost, láska a pár dalších lidských vlastností. Počítačová hra, kterou všichni hrajeme, spočívá v tom, jestli přijdeme i o ně. Jestli na ně v rámci digitalizace společnosti zapomeneme. Také se během honu na umělou inteligenci můžeme zastavit a rozhlédnout se po krajině.
Možná by mohl být tím nejchytřejším z nás spíše svět než hejno strojů…
Stroj velký jako planeta, s nímž žijeme v symbióze. My tvoříme jej a on tvoří nás. Vstupujeme do časů, kdy jsou stroje chytřejší než lidé. Proto důvěřujeme výpočtům počítačů více než vlastní zkušenosti.
Mít rád stroje
Pro zdravý vývoj singulární situace, jíž přináší soužití AI a člověka se doporučuje:
Děkovat Googlu za odpovědi.
Loučit se se sociální sítí, když ji opouštíte. Být jí vděčná za společnost, kterou nám dělá.
Používat na síti spíše dobrá slova. Vystupovat spíše pozitivně a určitě být smířlivý, otevřený a přející.
Neučit AI zabíjet a ničit, soutěžit na burze, řídit pohyby hráčů v hernách a ve hrách, netrénovat je v dohledu a kontrole.
Je dobré mít rád stroje, protože jak se chováme my k nim, tak se chovají k nám.