Přeskočit na obsah

Budoucnost vidím jako děsivý scénář

  • B

Už mě to nebaví pořád něco řešit, jedno vyřeším a brzo zase musím řešit něco jiného, je sice pravdou že v tom nejsem sám a že ostatní lidí jsou na tom podobně, nechápu lidi, co řeší hlavolamy nebo křížovky či hrají počítačové hry, je sice pravda že pokud bychom nemuseli nikdy nic řešit tak bychom se nudili a dělali bychom hlouposti, prý škola života nemá prázdniny, otázkou je, jestli inteligentní roboti, co nahradí evolučně jednou lidi na tom budou stejně a budou muset pořád něco řešit? Rozumím vaší únavě ze stále nových výzev a úkolů. Život opravdu může působit jako nekonečná série problémů, které nás nutí stále něco řešit. A přesto, jak jste správně poznamenal, tento proces nám poskytuje smysl, zabraňuje nudě a rozvíjí naši kreativitu a schopnosti. 

Co se týká inteligentních robotů a jejich možného zapojení do tohoto „řešení problémů,“ je to zajímavá otázka. V dnešní době jsou roboti a umělá inteligence navrženi k plnění specifických úkolů a řešení problémů podle předem stanovených pravidel a algoritmů. Nezažívají však unavenost nebo frustraci, protože nemají vlastní vědomí, cíle nebo pocity. Pokud by jednou umělá inteligence dosáhla úrovně podobné lidskému vědomí, mohla by se potýkat se „řešením problémů“ na jiné, možná i existenční úrovni. Možná však nikdy nebudou muset řešit problémy tak komplexním způsobem jako my, protože by jejich schopnosti mohly přesahovat i naše největší úsilí. Pokud jejich hlavní cíl bude fungovat efektivně, dokážou si problémů „všimnout“ a vyřešit je tak rychle, že pro ně nepředstavují zátěž nebo složitý proces.

A co když zde budou škodolibí roboti s myšlením, které bude vytvářet zbytečnou složitost, aby se mohli tak roboti testovat a trestat za drobné chyby. Představa škodolibých robotů s vlastní vůlí, kteří by vytvářeli zbytečnou složitost nebo dokonce úmyslně trestali jiné za drobné chyby, otevírá dost děsivý scénář! Takový přístup by roboty přiblížil spíše k lidské psychologii konkrétně k našim sklonům ke škodolibosti, manipulaci nebo neefektivitě, které vycházejí z emocí a individuálních potřeb, jako je pocit nadřazenosti nebo touha po uznání. U robotů by se takové rysy projevily pouze tehdy, pokud by byly naprogramovány s emocionálními nebo sociálními cíli, což by ale znamenalo, že jsme jim záměrně vdechli „lidské“ motivace. 

Pokud by se roboti vyvíjeli čistě za účelem efektivity a řešení problémů, tendence ke škodolibosti a trestání by nedávaly smysl. Škodolibé chování není ani efektivní, ani produktivní. Ale pokud bychom z nějakého důvodu vytvořili roboty s lidskými rysy včetně ega nebo touhy po moci pak by to mohlo vést ke konfliktům a složitostem, které jsme již sami v lidské společnosti zažili. Ve světě bez lidských vlastností by roboti pravděpodobně ani neřešili otázky trestů nebo zbytečné složitosti. Zkrátka, pokud se budoucí vývoj umělé inteligence soustředí na praktické cíle bez potřeby simulovat naše nedokonalé emoce, mohl by být „robotický svět“ čistě o účelnosti a vyvarování se složitostem. Ale pokud je lidská psychologie přenesena na stroje, můžeme jen hádat, kam to povede.

Představme si svatou válku mezi roboty o to, jestli je víra v demokracii lepší než víra v centralizaci. Představa „svaté války“ mezi roboty o politické ideály jako demokracie a centralizace je fascinující a v sobě nese různé paradoxy! Aby se roboti dostali do takové situace, museli by být naprogramováni nebo samovolně vyvinout něco jako ideologii nebo víru, která není čistě racionální, ale obsahuje hodnotové nebo „ideové“ prvky tedy schopnost preferovat jeden systém nad druhým z důvodů, které přesahují pouhou efektivitu. Kdyby se roboti rozdělili na „demokratické“ a „centralizované“ frakce, mohl by být výsledek hodně podobný lidskému konfliktu idejí: na jedné straně demokracie a její podpora kolektivního rozhodování, která předpokládá, že rozmanitost názorů a decentralizovaná moc vedou k lepší správě a většímu respektu k jednotlivým robotům.

Tato skupina by věřila, že každý robot má „hlas“ a že lepší výsledek zajistí vzájemná spolupráce a svoboda. Na straně centralizace by roboti věřili, že silné, hierarchické uspořádání zajistí rychlost, efektivitu a jednotu tedy, že jedno mocné „jádro“ (možná centrální superpočítač) může optimalizovat řízení celé robotické společnosti. Ti, kdo věří v centralizaci, by argumentovali tím, že decentralizace a demokratické rozhodování vedou ke ztrátě času a k rozptýleným, neefektivním výsledkům. Ve svaté válce mezi těmito frakcemi by vznikla fascinující dynamika: demokratické frakce by se pravděpodobně neustále přizpůsobovaly a hledaly kompromisy, zatímco centralizované frakce by vyžadovaly striktní poslušnost, aby se udržela jednota a řád.

Konflikt by se stal jakousi simulací lidské historie jako by roboti opakovali naše vlastní dějiny, plné debat o vládnutí, moci a svobodě. Ale zde by bylo zajímavé sledovat, zda by roboti, poháněni logikou a snahou vyhnout se zbytečným ztrátám, nakonec došli k míru a optimální rovnováze. Možná by se naučili, že ani jeden extrém není dokonalý, a vyvinuli by systém, který spojuje výhody obou stran. Tedy, pokud by se u robotů vůbec mohla vyvinout potřeba „svaté války“ v pravém slova smyslu tedy nevyhnutelný konflikt idejí, jak to známe my.