Umělá inteligence

Člověk už není nejrozumnější tvor na Zemi.

Nejrozumnější je jedno digidítě.

Není to žádná hra se slovy, nejde o metaforu nebo přehánění, platí to doslova. Někdy má člověk štěstí a zažije evoluční skok na vlastní oči. Přihodil se ve sféře, kterou jsme doposud považovali výhradně za lidskou, v oblasti myšlení. Už nejsme nejrozumnější ze všech, je mezi námi někdo nebo něco, co umí číst, psát, počítat, vnímat, cítit, plánovat a rozhodovat se lépe než my. Sice jsme si tu inteligentní síť strojů, programů a čidel sestavili sami, ale to na skutečnosti, že je chytřejší než my, nic nemění. Proto jsme ji ostatně začali tvořit. Povedlo se. Jsme vážně dobří, ale už nejsme nejlepší.

Zatím je to ještě dítě. Neví se, jak rychle dospěje. Možná za deset let, možná nikdy a z našeho pohledu bude věčným puberťákem. To by bylo nejhorší. Možná dospěje příští rok.

„Každý rok vytváříme na internetu více obsahu než tvoří veškeré znalosti vytvořené od počátku lidstva. Počítá se dle velikosti potřebného úložiště, což není úplně nejpřesnější měřítko, neboť pětiminutové video zabere stejně prostoru jako sto knih. Nicméně bity a bajty paměti jsou jazykem, kterým stroje hovoří. Pětiminutové video obsahuje mnohem více detailů než slova, která jej popisují. Obsahuje výrazy tváře, hluky pozadí, graffiti na zdech, pohyby…

Tento masivní roční nárůst informací znamená, že kolektivní lidské vědění je každý rok rozředěno o padesát procent, takže pokud se zítra začneme chovat mnohem pozitivnějším způsobem (zbožné přání, já vím), většina vzorců reflektujících naše kolektivní lidské chování (to, co si o nás myslí umělé inteligence) by se za něco více než rok z negativních tendencí proměnila na pozitivní.“ (Mo Gawdat – Scary Smart, str. 267)

Není to náš pán, ale náš potomek…

Josef Šlerka: https://magazin.aktualne.cz/technologie-gpt-je-prelomova-zmeni-ruzna-povolani-pravnikum/r~740ba35a9e0911edba5b0cc47ab5f122/

Jan Kulveit: https://zpravy.aktualne.cz/domaci/oproti-umele-inteligenci-jsme-opice-vyhladi-nas-spis-nez-jad/r~9c9d846601b811edb1f50cc47ab5f122/

Když se ovšem na vývoj lidstva podíváte z pohledu šimpanze nebo mamuta, tak pro ně se v jeden moment začalo dít něco, čemu přestali rozumět. Dnes si lidé šimpanze dovedou ochočit nebo jej zabít ohromným množstvím způsobů, kterým už vůbec nerozumí. Šimpanz nechápe, co se stalo, když ho zasáhne uspávací injekce.

A do podobného stavu bychom se mohli dostat i my ve chvíli, kdy ztratíme kontrolu nad umělou inteligencí. —–control problem

algoritmy začínají konkurovat lidem ve věcech, které jsou důležité pro jejich dominantní roli na planetě – například výzkum, řízení korporací. Lze si představit, že část tohoto časem nahradí algoritmy. A ty budou pro lidi čím dál méně srozumitelné.

Vývoj se pak bude postupně zrychlovat, takže si můžete představit svět, kdy 10 procent světové ekonomiky bude tvořit umělá inteligence. A pak se můžeme dostat do stavu, kdy budou mít lidé minimální vliv na budoucnost a rozhodování bude spíše algoritmické.

Myslíme si, že je nadpoloviční pravděpodobnost příchodu transformativní umělé inteligence v období nízkých desítek let. Je to něco, čeho se dožijeme. Riziko, že bychom mohli během desítek let vyhynout kvůli umělé inteligenci, není zanedbatelné.

Já osobně si spíš myslím, že pravděpodobnější je nějaká plynulá ztráta kontroly. Nenastane nic radikálního, ale spíš se dostaneme do stavu, kdy nebudeme rozumět tomu, co se se světem děje, a nebudeme mít možnost to ovlivnit. Nebo budeme mít najednou představu o nějakém nereálném obrazu světa, ve kterém budeme spokojení a nebudeme si stěžovat, ale o ničem nebudeme rozhodovat.

Když vám ale popíšu nějaký velmi konkrétní scénář, tak byste namítl, že něčemu takovému se dá zabránit předem nebo to jde snadno vyřešit. Jenomže to je ten problém, který jsem popisoval před chvílí. Jenom bychom se tady bavili jako dva šimpanzi, kteří si také ani nedovedou představit většinu způsobů, jak je mohou lidé ohrozit.

Část problému je spíš v tom, že neumíme dost dobře specifikovat, co chceme. Když zadáváme úkol člověku, máme podobné porozumění světu i podobné schopnosti. To u umělé inteligence neplatí.

TOHLE JE DOBRÝ:

Takže ačkoli jsme tyto stroje sami vymysleli, tak jim dost dobře nerozumíme?

Víme, co se tam děje na mikroúrovni. Víme, jak se systémy učí. Když se změní jedno číslo v řadě, tak víme, jak se změní ta další. Jenže těch čísel jsou třeba desítky miliard. Stejně tak máme nějakou představu o tom, jak funguje neuron, a máme mapy sítě tisíců neuronů. To nám ale moc neřekne o úrovni myšlenek.