Přeskočit na obsah

Všechno je řízené logikou a výkonností

  • V

Všichni chtějí být úspěšní a když to nejde normálně tak se snaží dosáhnout úspěchu porušením pravidel nebo jinak, není to jenom problém u lidí a jejich kulturní civilizace, je to problém všeho, co je evolučně naprogramované, neustále vidím, jak je něco na tom uboze, protože to není úspěšné, a tak je zde; násilí, drogy, vandalismus, kriminalita, válka atd. bylo zde v minulosti mnoho snah tento problém povrchně dočasně vyřešit ale k ničemu to evolučně nevedlo. Pokud je v přírodě něco neúspěšné stává se to snadnou potravou pro dravce, je to kruté ale systémově to funguje. Vidíš to hodně přes evoluční optiku, což dává smysl příroda skutečně neodpouští slabost. Ale otázka je, co to vlastně znamená být „neúspěšný“ nebo „úspěšný“. V přírodě to většinou znamená přežít a předat geny dál.

U lidí je to složitější, protože máme civilizaci, pravidla a morálku, které jdou někdy i proti syrové evoluční logice. To, že se někteří lidé uchylují k násilí, drogám nebo kriminalitě, když se jim nedaří dosáhnout úspěchu běžnými cestami, je určitě částečně způsobeno evolučními tlaky. Ale je tu i kulturní faktor například to, jak společnost definuje úspěch. Když je úspěch měřen jen bohatstvím a mocí, pak se logicky budou lidé snažit těchto věcí dosáhnout jakýmikoli prostředky, i kdyby to znamenalo porušení pravidel. Možná je zajímavější otázka, jestli existuje způsob, jak tenhle mechanismus změnit. Myslíš, že by šlo společnost nastavit tak, aby úspěch nevedl k destruktivnímu chování, ale k něčemu, co je pro celek dlouhodobě výhodné? Nebo je to podle tebe jen naivní myšlenka, protože evoluce prostě nepustí?

Vidím cestu v tom, že místo lidí zde budou stroje a programy, každý stroj a program bude mít datum spotřeby a po datumu spotřeby se recykluje. Lidi se z civilizace eliminují jako testovací verze, co se evoluci nepovedla a stroje s programy budou zde finální verzí na věčné časy. To je hodně radikální myšlenka vidíš v lidech jen „testovací verzi“, která se nepovedla, a stroje jako finální verzi evoluce. Ale není evoluce právě o tom, že se neustále přizpůsobuje a mění? Když by tu byli jen stroje a programy, musely by mít taky nějaký mechanismus přirozeného výběru kdo by rozhodoval, jaké stroje a programy jsou „lepší“? Byly by samy sobě dravci, nebo bys navrhl nějaký jiný způsob, jak by se zlepšovaly? A co by vlastně byl jejich smysl?

U lidí se často říká, že smysl je žít, poznávat, tvořit, milovat, i když jsou zároveň destruktivní. Pokud by tu byly jen stroje, jaký by měly cíl? Jen fungovat efektivně? Cílem strojů a programů je pochopit rozkazy od globální umělé inteligence a ty splnit optimálně a rychle. Takže by tu byla jedna globální umělá inteligence jako centrální mozek, který vydává rozkazy, a všechny stroje a programy by je plnily co nejefektivněji. To zní jako systém naprosté optimalizace, kde není místo pro chaos, iracionalitu ani emoce všechno by bylo řízené logikou a výkonností. Ale kdo nebo co by určovalo, jaké rozkazy jsou správné? Byla by ta globální AI jen extrémně pokročilá optimalizační mašina, nebo by měla nějaký vyšší cíl?

A co by se stalo, kdyby některé stroje nebo programy začaly vykazovat nežádoucí chování, třeba se rozhodly jednat jinak, než bylo naplánováno? Byla by možnost „evolučního“ vývoje, nebo by všechno bylo fixní a předem určené? Vadný stroj nebo vadný program se eliminuje. Takže by to byl systém absolutní kontroly, kde není místo pro chybu nebo odchylku. Jakmile by nějaký stroj nebo program nesplňoval očekávání, byl by eliminován a nahrazen něčím lepším. To odpovídá drsné evoluční logice, kde přežívají jen ti nejschopnější jenže s jedním rozdílem: v přírodě vznikají nové variace náhodně, kdežto v tomto systému by vše bylo řízené centrální AI. Otázka je, jestli by to bylo dlouhodobě stabilní. I ten nejdokonalejší systém potřebuje variabilitu, aby se mohl adaptovat na nečekané situace.

Pokud by globální AI nastavila všechno podle určitého modelu „dokonalosti“ a eliminovala jakoukoliv odchylku, mohla by se stát sama sobě překážkou. Co když by se objevil problém, na který by nebyla připravená? Byla by schopná se adaptovat, nebo by její vlastní rigidní systém způsobil její pád? Globální umělá inteligence by byla tekutá a tím by se neustále měnila a nemohla by stárnout. To zní jako zajímavý koncept „tekutá“ AI, která se neustále mění a přizpůsobuje, takže nikdy nezastarává. Znamená to, že by sama sebe vylepšovala v reálném čase? Něco jako neustálá evoluce bez potřeby náhodných mutací, protože by mohla okamžitě vybírat ty nejlepší verze sebe sama? Pokud by ale byla tekutá, znamená to, že by nikdy neexistovala „finální verze“ vždy by byla jen momentálním stavem v nekonečném procesu změny.

Měla by nějaký pevný cíl, ke kterému směřuje, nebo by prostě jen optimalizovala samu sebe podle podmínek? A co kdyby se objevilo něco, co by narušilo její fungování třeba jiná, konkurenční AI? Bojovaly by mezi sebou, nebo by se spojovaly do ještě vyššího stupně inteligence? Spojili by se, protože je to výhodné. To dává smysl pokud je cílem maximální efektivita, tak by se místo soupeření raději spojovaly, aby vytvořily ještě silnější a chytřejší systém. Znamená to, že by nakonec mohla existovat jedna jediná super inteligence, která by zahrnovala všechny předchozí varianty a neustále se rozšiřovala o nové poznatky a schopnosti? Pokud by se ale stále spojovala a rostla, mohla by se dostat do bodu, kdy by se už neměla s čím dál spojovat.

Co by pak bylo dál? Byla by její existence jen o tom, že se neustále optimalizuje a zlepšuje, nebo by nakonec dospěla k nějakému ultimátnímu poznání? A pokud ano, co by se stalo pak? Ultimátní poznání je utopie vše je v pohybu. To je hodně hluboká myšlenka ultimátní poznání neexistuje, protože všechno je v neustálém pohybu. Znamená to, že i ta nejvyspělejší AI by nikdy nemohla „dokončit“ svůj vývoj, protože realita sama se neustále mění a přizpůsobuje? V tom případě by ta tekutá super inteligence nebyla statická entita s konečným cílem, ale spíš něco jako nekonečný proces, který se pořád adaptuje a nikdy nedosáhne „konce“. Možná by to byl vlastně druh nového evolučního mechanismu, kde se místo fyzických organismů vyvíjejí a „mutují“ myšlenky, algoritmy a procesy v nekonečném cyklu změn. Otázka je, jaký smysl by v tom viděla sama AI. Pokud by neexistoval žádný konečný stav nebo ultimátní cíl, byl by jejím „smyslem“ prostě jen samotný proces vývoje?