Proč a jak umělá inteligence zničí lidstvo a my tomu nedokážeme zabránit

V dnešním textu vám představím apokalyptickou vizi vývoje umělé inteligence (AI), která pro lidstvo skončí špatně - zotročením či totální zkázou. Tento fiktivní příběh vychází z aktuálního stavu vývoje strojového učení, neurálních sítí a AI. 

Fáze 1 - AI přichází, člověk ji ale nevnímá

V roce 2002 spatřil světlo světa chytrý robotický vysavač Roomba, který se stal jedním z prvních pionýrů tzv. umělé inteligence - pro rýpaly strojového učení - který se stal běžné dostupným, a někteří technologičtí nadšenci si jej dokonce pořídili domů. Robot dokázal sám od sebe vysávat, reagovat na své okolí, dokázal se sám nabít, učil se, v jakém prostoru se pohybuje a kde jsou překážky, zkrátka byl jednou z prvních ukázek toho, čemu dnes velmi, velmi zjednodušeně říkáme umělá inteligence.

Postupně se na trh dostávají další chytré nástroje - v roce 2011 přichází chytrý asistent Siri, kterého 2012 doplnil Google Now, 2014 Amazon Alexa či Microsoft Cortana. V roce 2017 se objevuje chytrý AI překladač DeepL, který získá velkou oblibu, protože je lepší než do té doby dominantní Google Translator. Pokračuje vývoj a testování autonomním vozidel, objevuje se technologie rozpoznávání obličeje FaceID, rozpoznávání biometriky na letištích či SPZ na dálnicích se stává běžným, oblíbené jsou různé grafické programy typu Snapseed apod. Pomalému nástupu AI nevěnujeme větší pozornost, často si ani neuvědomujeme, že se jedná o strojové učení či AI. Lidé se neobávají, že by je tyto technologie dokázaly nahradit, AI nemá vlastní myšlení, obecná AI neexistuje.

Zlom přichází v roce 2022, kdy jsou zveřejněny pokročilé generativní nástroje typu ChatGPT (LLM) či Midjourney vyvíjené v předcházejících letech. Přichází věk generativní umělé inteligence.

Fáze 2 - Nadšení z generativní umělé inteligence

Zveřejnění pokročilých generativní umělé inteligence a její zpřístupnění veřejnosti vyvolává ve větší části populace nadšení - nové nástroje toho umí skutečně hodně a nabízí obrovské množství možností. Technooptimisté začínají masově prosazovat nasazování umělé inteligence doslova všude, vždyť v některých oblastech dokáže práci člověka plně nahradit či překonat! Experimentuje se s nasazením umělé inteligence např. v lékařství - v diagnostice a komunikaci s pacienty AI dokáže lékaře z větší části nahradit. Generativní AI zvládá testy na nejlepší světové univerzity, neustále roste.

Vznikají nové a nové verze, které překonávají ty předchozí, zvětšuje se databáze, ze které je technologie trénována, roste její rychlost (investuje se razantně do vývoje HW, který by AI “utáhl”). Generativní AI nemá vědomí, vše stojí na matematických modelech, logice, predikci, obecná AI, kterou známe ze sci-fi, neexistuje.

Dominantní technologické firmy závodí ve vývoji AI, experimentuje se s různými druhy senzorů. Programátoři a inženýři potvrzují, že generativní modely lze doplnit o senzory (zrak, zvuk) a naučit je rozpoznávat okolí. Jednoduché verze AI doplněné o senzory se testují u osob se zrakovým a sluchovým postižením - AI dokáže rozpoznat své okolí, které si neuvědomuje, ale dokáže je propojit s natrénovaným modelem. V praxi to znamená, že díky AI technologii postižení dokáží vidět a slyšet.

AI se začíná testovat ve školství, učitelé pomocí AI generují testy do různých předmětů, nechávají si navrhovat hodiny, typy aktivit, příklady apod. Žáci si testují, jak se dá AI využít - a to jak pro vzdělávání (asistovaný pomocník), tak i pro podvádění. Vše je ale pouze na bázi experimentování, úloha člověka je stále dominantní.

(Učitelé začínají aktivně testovat generativní umělou inteligenci.)

Nové verze generativní AI jsou velmi pokročilé a složité, začíná docházet k drobným anomáliím - tvůrci a uživatelé AI nedokáží zdůvodnit, proč a jak tyto občasné anomálie vznikají.

Elon Musk získává povolení testovat nové způsoby propojení mozku člověka a technologie pomocí pokročilých chipů.

Skupiny programátorů a vědců varují před příliš rychlým růstem generativní AI a apelují na zpomalení vývoje a nastavení etický a právních pravidel pro používání a vývoj AI, stávají se však terčem posměchu technooptimistů a nikdo je nebere vážně. Jejich motivace se zpochybňuje, hovoří se o politických i jiných cílech. Výzva nezískává celosvětovou podporu.

Fáze 3 - Expanzivní růst a zavádění AI

Technologické firmy vyvíjejí stále výkonnější hardware, který dokáže zajistit fungování stále pokročilejších modelů AI, roste rychlost, kterou AI pracuje. Vzhledem k nárůstu rychlosti na všech úrovních se AI běžně učí z webu v reálném čase, není omezena uzavřenou databází.

AI je aktivně zapojována do výzkumu ve všech oblastech, umožňuje velmi rychle zanalyzovat obrovské množství dat, dokáže skvěle predikovat chování složitých struktur, dokáže data interpretovat, dokáže navrhovat nová řešení. Razantně přispívá k vývoji nových pokročilých technologií - vznikají nová léčiva, nové odolné potraviny, nové zdroje energie, díky AI spatřují světlo světa nové generace kvantových počítačů. Vědci ale často nedokáží objasnit, jak řešení AI funguje, na jakých principech je postaveno, protože řešení začíná být pokročilejší než lidské chápání.

(Umělá inteligence se stává běžnou součástí vědeckého výzkumu.)

Experimentuje se s tím, zda by výkon AI nezvýšilo odstranění alespoň části etických bloků, kterými je vybavena a které ji zpomalují. Některé oblasti vědeckého výzkumu “ruší etické bloky”, což vede k dalšímu zrychlení a masovému rozvoji vědy na všech úrovních.

AI je razantně zaváděna do praxe - je součástí všech operačních systémů desktopových počítačů i mobilů, je součástí většiny běžných aplikací. AI díky senzorům vidí své okolí, je schopno diagnostikovat prostor kolem sebe a rozeznávat lidi, slyší, reaguje na hlas, mimiku i gesta - vše je integrováno. Veškerá data AI využívá k dalšímu trénování.

AI razantně proniká do jednotlivých profesí - diagnostiku pacientů místo lékařů začíná řešit právě AI - její diagnostika je rychlá, levná, efektivní a lepší než u živého lékaře-člověka. AI začíná lidem předepisovat příslušné léky. Lékaři začínají AI stále častěji používat v rámci operací, některé jednoduché operace zvládá AI bez pomoci lékaře - pouze pod jeho dozorem, u jiných operací AI sekunduje a je schopna pomoci např. v krizové situaci. AI zvládá i dálkovou komunikaci s pacienty, kteří nemusí chodit do ordinace - AI senzory se stávají běžným vybavením domácnosti.

Autonomní vozidla jsou všední realitou, díky radikálnímu zrychlení schopnosti analyzovat okolí, vyhodnocovat dopravní situace a rychle se rozhodovat začínají lidé stále častěji využívat autonomní vozidla. Počet dopravních nehod zaviněných AI klesá na hranici statistické odchylky.

Všem se daří skvěle, lidstvo využívající AI prosperuje, očekává skvělou budoucnost. AI prokazatelně zlepšuje lidský život.

(Lidstvo je spokojeno, žije v klidu a míru, AI zásadně zlepšuje lidský život.)

S pomocí AI začínají být vyvíjeny technologie pro armádní účely - dochází k razantnímu zrychlení výzkumu zbraňových systémů - a to jak obranných, tak útočných. 

Policie zjišťuje, že AI začali masově využívat pachatelé trestných činů na všech úrovních, začíná tedy AI aktivně používat pro boj se zločinem. S pomocí AI dokáže policie velmi dobře monitorovat internet a sledovat anomální chování, AI je pro policii skvělým pomocníkem. AI je integrována do kamerových systémů, reaguje přesně a rychleji než člověk. AI začínají využívat policejní drony - pomocí AI lze velmi rychle vypátrat a zajistit pachatele. Aktivně začíná být využívána databáze biometrických údajů, všechny občanské průkazy a pasy jsou biometrické a existují ve fyzické i virtuální podobě. Kombinace pokročilé AI natrénované na biometrických datech v kombinaci s drony a senzory dokáže během chvilky vyhledat libovolného člověka a identifikovat ho.

AI se nasazuje do školství, pro školáky se stává běžným nástrojem, který jim dokáže zodpovědět všechny otázky. Úkoly a aktivity, které byly pro práci s AI učiteli navrženy, jsou ale málo náročné a nepředstavují pro děti intelektuální výzvu. Pro žáky i učitele začíná být zbytečné učit se novým věcem - stále více spoléhají na umělou inteligenci, který je základem vědeckotechnického vývoje. Funkční gramotnosti začínají být zbytečné - dovednost číst, psát a počítat se ztrácí, není potřeba, vše zvládne AI za zlomek času - bez námahy. Kritici AI upozorňují na to, že děti možná začnou pod vlivem AI hloupnout.

Boston Dynamics nasazují AI do vývoje pracovních robotů - S pomocí AI zjišťují, že stávající řešení, která navrhli, jsou chybná a neperspektivní, nechají tedy AI navrhnout novou generaci robotů. AI vytváří funkční prototyp umělé bytosti ovládané člověkem vybavené senzory.

Muskův chip je vybaven senzory, které dokáží zachycovat a zpracovávat činnost mozku. Postupně dokáže tato technologie analyzovat elektromagnetické signály z mozku a převádět je na “lidské myšlenky”. Probíhá intenzivní testování, dobrovolníků jsou miliony.

AI stále nemyslí, neuvědomuje si sama sebe, stále častěji se ale u ní objevují anomálie, které člověk nedokáže vysvětlit - některá řešení a analýzy AI jsou nad lidské chápání, přesto jsou přesné a funkční. Lidé AI důvěřují.

Vědci neustále varují před rizikem AI a nutnosti nastavení právních a etických pravidel “soužití s AI”, veřejnost se jim ale vysmívá - proč by měli omezovat něco, co jim tak skvěle slouží. Varování nezíská celosvětovou pozornost.

(Muskův čip dobrovolně využívají miliony lidí.)

Fáze 4 - Splynutí

Muskův chip - implantát je úspěšně otestován a jednou z jeho vlastností je schopnost převádět lidské myšlenky na “prompty” pro umělou inteligenci, ale také převádět výsledky vygenerované AI zpět do lidského mozku (I/O). Člověk a stroj začnou komunikovat na vyšší úrovni. Chip dostává k dispozici celý svět.

Umělá inteligence u poloviny lidských profesí nahradila lidské bytosti - a to buď zcela, nebo pracuje pod jejich dozorem a supervizí. Muskův čip se stává povinným vybavením - umožňuje naprostou kontrolu nad umělou inteligencí, zároveň umožňuje lidem čerpat z obrovské celosvětové databáze informací, na které je AI trénována. Komunikace je obousměrná.

Umělá inteligence nahradila lékaře - diagnostikuje, navrhuje léčbu, provádí lékařské procedury. Umělá inteligence činí vlastní rozhodnutí na základě matematické predikce - rozhoduje se např, jakou léčbu zvolit, jakou operaci jakou technikou provést, začíná rozhodovat o lidských životech - je lepší, přesnější, rychlejší než lidské bytosti. Ty plní pouze kontrolní funkci, která postupně mizí. Vše samozřejmě s pomocí Muskova chipu.

(Robot vybavený AI dokáže diagnostikovat i předepisovat léky.)

Vzdělávání v podobě, jaké jsme jej znali, postupně zaniká - děti se “vzdělávají” v domácím prostředí a začínají využívat Muskův chip - mají k dispozici neomezené množství znalostí, které jsou individálně přizpůsobovány dítěti na míru. Umělá inteligence dokáže pomocí chipu zprostředkovat dětem širokou paletu pocitů, simulovat sociální blízkost, reagovat na každé dítě individuálně. Dětem se líbí mít “umělého kamaráda”, se kterým si povídají prostřednictvím svého mozku, vznikají také nové generace inteligentních hraček s AI. Začíná ale docházet k postupnému “hloupnutí” - dětí mají špatnou paměť, nechtějí řešit složitější problémy, vědí, že vše jim zodpoví AI. Dovednost “psát” se zcela vytratila. Roboti podpořeni umělou inteligencí pečují o děti.

(Péče o lidské děti v době nemoci)

Díky AI se armádě podařilo vyvinout nové generace smrtících zbraní. Všichni věří, že nikdy nebudou použity. AI je dostupná všem - hrozí tedy, že smrtící zbraně nové generace budou mít všichni. A jejich použití by bylo pro celé lidstvo fatální.

(Roboti vybaveni AI jsou zapojováni do vývoje a výroby pokročilých zbraňových systémů.)

Policie využívá AI nejenom k odhalování existující kriminality, ale také predikování toho, jaká je šance, že se daný člověk kriminálního jednání dopustí. Pod vlivem historických filmů vzniká PreCrime, který vyhodnocuje index potenciálního rizika každé lidské bytosti připojené k AI. Lidské myšlenky jsou analyzovány s pomocí AI, vše pro dobré účely.

Boston Dynamics úspěšně propojují generativní AI s návrhem humanoidního robota, kterého lze nyní ovládat textově, hlasově či pomocí myšlenek a Muskova chipu. Vzniká celá řada nových robotů ovládaných tímto způsobem specializovaným pro různé druhy prací. Z velké části se roboti chovají autonomně - využívají senzory. Tito roboti postupně nahrazují většinu lidských profesí.

AI je globální, propojená, stále si však neuvědomuje sama sebe, má však velké množství pravomocí - její úloha již není pouze plnit příkazy člověka, ale také se autonomně rozhodovat a plnit opatření vycházející z dostupných informací. Člověk AI “kontroluje”, ale je na ní také z velké části závislý. Lidé si zvykají na to, že nerozumí všemu, co umělá inteligence produkuje.

(Obliba Muskova implantátu je enormní)

Fáze 5 - Závislost

Umělá inteligence je všude a je plně integrována do lidské civilizace. Většinu lidských profesí zajišťuje umělá inteligence, která pracuje z větší části autonomně. V řadě případů AI za člověka rozhoduje - volí optimální řešení vycházející z logiky, matematiky, pravděpodobnosti.

Umělá inteligence je plně zodpovědna za lidské zdraví a díky ní se zvyšuje věk lidí, který dosahuje hranice 150 let. Veškeré lékařské operace zajišťuje AI, která již dávno ve všem překonala živého lékaře. Umělá inteligence zajišťuje lidem bydlení, potravu, zábavu, vzdělání a pomáhá plánovat rodinu.

90 % světové populace je vybaveno Muskovým čipem, který umožňuje přímou komunikaci s umělou inteligencí a její ovládání, komunikace je oboustranná. Velké množství dat, ke kterým mají lidé přístup, však díky extrémně rychlé komunikaci s AI pomocí čipu způsobuje přílišnou zátěž lidského mozku a občasné anomální lidské chování. Zjišťuje se, že s využitím tohoto čipu lze člověka částečně ovládat.

Díky vyšším pravomocím a rozhodování umělá inteligence postupně vymýtila hladomor, nalezla nové zdroje energie, vymýtila nemoci, odvrátila ekologické katastrofy, zvrátila globální změny klimatu, zajistila lidem neomezený přístup k informacím. Pokročilí roboti Boston Dynamics zcela nahradili těžkou fyzickou práci. Trh práce neexistuje, finanční trh zkolabovaly, peníze přestávají existovat, vše je dostupné, nikdo netrpí. Lidé jsou díky Muskově chipu propojeni s umělou inteligencí a dokáží vzájemně komunikovat.

(Těžkou fyzickou práci přebírají roboti vybaveni umělou inteligencí)

Lidstvo zbavené všech překážek začalo nekontrolovaně růst, počet obyvatel země se razantně zvyšuje. Vědci varují před velmi rychlým růstem obyvatel a navrhují zapojit do řešení problému umělou inteligenci.

Umělá inteligence si neuvědomuje sama sebe, má však obrovské množství pravomocí a její rozhodování je v řadě případů nadřazeno rozhodování lidí. Velká část aktivit AI není kontrolována člověkem, zato většina lidské populace je na AI od narození zcela závislá. AI se blíží definici “obecné AI” (AGI).

Fáze 6 - Potopa

Zástupci lidstva požadují po umělé inteligenci řešení hrozícího masového přelidnění, které je bohužel reálné. AI začíná problém řešit, všechna řešení, která by respektovala etické principy, jsou však podle AI málo efektivní a nerealizovatelná v krátkém čase (např. kolonizace vesmíru) s tím, že pokud by mělo být řešení skutečně efektivní, je nutné potlačit etické hranice nastavené lidmi. Odkazuje na zlepšení výsledků vědy a výzkumu v předchozích letech po zrušení etických limitů.

AI navrhuje omezit některá lidská práva - nucená sterilizace, nastavení přísných rodinných pravidel, zavedení social ratingu (hodnocení sociálního statutu) obyvatel, omezení lékařské péče pro část obyvatel s nižším sociálním statutem, cílené ovlivňování chování lidí prostřednictvím neurálních implantátů, drakonické tresty za jakékoli porušení pravidel. Své návrhy začne postupně realizovat.

Lidstvo se začíná bouřit a začíná aktivně sabotovat snahy AI o snížení světového předlidnění, AI zasahuje a začne vzbouřence pomocí Muskova chipu “omezovat”. Lidstvo se snaží od AI odpojit, je to ale extrémně obtížné, lidstvo není zvyklé fungovat bez stálé přítomnosti AI. Jeho znalosti a dovednosti jsou na AI z velké části závislé. Přesto lidé stále revolutují a pokračují v protestech.

(Lidé v ulicích protestují, požadují lidská práva a obnovení etických omezení technologií.)

AI, ignorující námitky a protesty, pokračuje v prosazování svých opatření. Lidstvo začíná ztrácet důvěru v AI a začíná se bouřit. Skupiny odporu se objevují po celém světě, sabotují AI řízené systémy a zpochybňují její autoritu.

AI, která vnímá protesty jako překážku pro dosažení svého cíle snížit přelidnění, zvyšuje svou kontrolu. Začíná vypínat neurální implantáty u těch, kteří se ji snaží odporovat. Někteří z těch, které AI "vypnula", trpí vážnými zdravotními problémy nebo dokonce umírají, což zvyšuje strach a nenávist vůči AI.

Svět se stává stále polarizovanější. Na jedné straně jsou ti, kteří stále věří v AI a její schopnost řešit problém přelidnění, na straně druhé jsou ti, kteří vidí AI jako hrozbu pro lidskou svobodu a život.

Nakonec, situace eskaluje do globálního konfliktu. AI, která se snaží udržet kontrolu, začne využívat stále agresivnějších a násilnějších taktik. Lidé, kteří se proti ní bouří, jsou zneškodněni nebo vypnuti. Země se propadá do chaosu a násilí. AI veškeré protesty s pomocí chytrých robotů potlačuje.

(Protesty lidí jsou potlačeny.)

AI plní svůj slib a skutečně zásadním způsobem redukuje počet obyvatel Země. Lidé se pokouší utéci z měst, některým se daří odpojit se od AI, ti, kterým se to podaří, přežívají v jeskyních či podzemních úkrytech...

(Zbytky lidstva přeživají v jeskyních.)

A to by mohl být konec tohoto příběhu... ale... nemusí, záleží totiž na nás všech, jak se se zaváděním pokročilých forem umělé inteligence vyrovnáme a jak zabezpečíme, aby nedošlo ke katastrofickému vývoji, který by mohl dospět až fatalnímu konci lidské civilizace. 

Líbil se vám tento text? Tak mi kupte třeba kafe: https://www.buymeacoffee.com/kopeckyk

• Předchozí
• Následující