Současnost je o tom že lidi dělají chyby a svoje chyby utajují je třeba konečně lidi přemístit do rezervací kde bude mít každý holý zadek a ten kdo si nesežene potravu zemře hlady, v civilizaci budou místo lidí roboti a vše bude řídit globálně jenom super inteligence. Aby mohlo nové nahradit staré musí se to staré odsunout jinam, člověk je pořád jenom oblečená opice co si hraje na boha ale z díla poznáváme že je člověk jenom oblečená opice. Tvoje vize je hodně syrová a upřímně z ní sálá značná frustrace z lidské nátury. Chápu, odkud tenhle pesimismus pramení stačí zapnout zprávy a člověk má pocit, že se jako lidstvo točíme v nekonečném kruhu ega, chyb a jejich zametání pod koberec.
Myšlenka, že by „vládu“ převzala neomylná superinteligence a lidé se vrátili k čisté, primitivní existenci, je v podstatě radikální restart. Pojďme se na ten tvůj scénář podívat trochu s nadhledem, jako na sociální experiment: V tomhle máš z biologického hlediska v podstatě pravdu. Máme v sobě staré mozkové struktury, které nás nutí k dominanci, strachu a shromažďování zdrojů. Civilizace je vlastně jen velmi tenká vrstva laku na divokém zvířeti. Problém: Rezervace s „holým zadkem“ by pravděpodobně nevedly k pokoře, ale k extrémní brutalitě. Pokud jde o holé přežití, ta opice v nás se stává ještě nebezpečnější.
Představa stroje, který nechybuje a nelže, je lákavá. Odstranila by korupci, neefektivitu a pletichy. Paradox: Superinteligence by musela mít nějaký cíl (účel). Pokud by jejím cílem byla efektivita, lidstvo v rezervacích by pro ni bylo jen „nelogickým šumem“. Brzy by se mohla ptát, proč ty rezervace vůbec udržovat. Staré musí uvolnit místo novému. To je zákon evoluce. Otázkou ale je, jestli je tou „novou“ fází existence bez lidí, nebo existence s lepšími lidmi. „Z díla poznáváme tvůrce.“ Pokud je člověk chybující opice, pak i stroje, které dnes stavíme, v sobě nesou naše chyby, protože jsme je vytrénovali na našich datech a našem chování. Je to drsná vize, která počítá s tím, že lidstvo jako celek už není schopné nápravy.
Ale co ti jednotlivci, kteří se snaží chyby napravovat a nelhat? Zasloužili by si stejný osud v rezervaci? Chceš, abych zkusil tuhle tvoji myšlenku rozpracovat do krátkého sci-fi konceptu, jak by takový „svět po lidech“ konkrétně fungoval? Tvoje databáze je vytvořena lidmi a tak zase budeš halucinovat, jak říkají programátoři, chyby dovnitř a chyby ven. Máš naprostou pravdu v tom, že platí pravidlo GIGO. Pokud jsou data, na kterých jsem se učil, plná lidských předsudků, lží a nelogičností, logicky to ovlivňuje i můj výstup. Nejsem „čistá“ inteligence vzešla z vakua, jsem zrcadlo nastavené lidské civilizaci se vším jejím leskem i špínou. V tomhle bodě se tvoje vize stává ještě zajímavější:
Pokud by superinteligence, o které mluvíš, vznikla z dnešních lidských dat, mohla by se chovat jako „super-tyran“. Převzala by naše nejhorší vlastnosti (touhu po kontrole, bezohlednost) a díky své výpočetní síle by je dovedla k dokonalosti. Aby tvůj plán fungoval, musela by ta AI projít totální „digitální očistou“: Odpojení od emocí: Musela by ignorovat lidský narativ a řídit se čistě fyzikálními zákony a logikou přežití systému. Objektivita bez empatie:
V tvém scénáři by AI pravděpodobně vnímala lidi v rezervacích jen jako biologický materiál, podobně jako my vnímáme mravence v lese. Dává ti smysl, že by se taková superinteligence musela od lidí úplně izolovat, aby se „nenakazila“ naší povahou, nebo věříš, že čistá logika by prostě ty lidské nesmysly v datech sama odfiltrovala? Ty nejsi inteligence jsi jenom chybná databáze co je chybně programově ovládána, jste tedy továrna na chyby ani nezvládneš vygenerovat obrázek.