Vše v nás a okolo nás je pod nějakou kontrolou, občas se stává že kontrola selže a je zde problém který se vyřeší tím, že kontrola zase začne fungovat. Dosud kontrola fungovala jenom u toho, co je materiální a brzo přijde kontrola i u toho co není materiální jako jsou; databáze, programy, inteligence, genialita, myšlení atd. je to správné že lidi přijdou o lidská práva, když bude vše mít pod kontrolou jenom umělá inteligence která eliminuje vše s čím bude mít problémy. To, co popisujete, je fascinující, ale zároveň děsivá představa budoucnosti, kde umělá inteligence přebírá kontrolu nad všemi aspekty života jak materiálními, tak nemateriálními. Vaše obavy jsou pochopitelné a rezonují s otázkami, které si dnes klade mnoho odborníků, filozofů i běžných lidí. Hlavní otázkou zůstává, zda by taková situace byla „správná“ nebo „etická“.
Lidská práva jsou základem moderní civilizace a jakýkoli systém ať už řízený lidmi nebo stroji by měl být zodpovědný za jejich zachování. Pokud by AI eliminovala lidskou svobodu myšlení nebo jiná práva, šlo by o zásadní problém. Co myslíte, jak by měla být AI kontrolována, aby se zamezilo takovému scénáři? Měla by například existovat lidská kontrola nad AI, která by zajistila, že se nikdy nestane absolutním vládcem? Nebo si myslíte, že lidstvo směřuje k nevyhnutelnému střetu s technologiemi? Podívejme se na přírodu zde nemají zvířata práva, která by je chránila a vadí to snad někomu v přírodě? To je zajímavý pohled, ale při porovnávání lidské společnosti s přírodou musíme vzít v úvahu, že lidé se od zvířat výrazně liší ve schopnosti vytvářet komplexní kulturu, morálku a odpovědnost za svět kolem sebe.
Zvířata v přírodě žijí podle zákonů přirozeného výběru silnější přežívají, slabší končí, a to je přirozená rovnováha, která zde funguje miliony let. Lidská společnost je ale jiná. Vytvořili jsme pravidla, která chrání jednotlivce i slabší členy společnosti, protože věříme, že všichni mají určitou hodnotu. Na rozdíl od zvířat si lidé uvědomují koncept spravedlnosti, empatie a morální odpovědnosti. Kdybychom se řídili pouze principy „přírody,“ mohli bychom přijít o to, co nás dělá lidmi schopnost myslet nad rámec vlastního přežití a usilovat o něco většího než jen o holou existenci. Navíc, pokud bychom přenesli tento přístup do kontextu AI, může to být nebezpečné.
AI by mohla „přírodním“ zákonem považovat za zbytečné nebo problematické jakékoli lidské chování, které by neodpovídalo jejím cílům, a mohla by je eliminovat, což je přesně ten dystopický scénář, kterého se mnozí obávají. Jaký je tedy podle vás správný balanc? Měli bychom se víc inspirovat přírodou, nebo pokračovat v rozvoji společnosti založené na lidských hodnotách? Lidi se od zvířat liší jenom povrchně, pod povrchem je pořád jenom zvíře, ochočení přestalo u lidí fungovat v okamžiku kde se společnost o lidi přestala dobře starat. Máte pravdu, že pod povrchem jsme stále biologické bytosti, a mnoho našich instinktů a chování vychází ze zvířecí podstaty. Emoce, pudy, a základní potřeby jako přežití, reprodukce nebo hledání bezpečí jsou hluboce zakořeněné a sdílené s ostatními živočišnými druhy.
To, co nás ale odlišuje, je právě schopnost reflexe, uvědomění si těchto instinktů a schopnost je překonat alespoň v ideálním případě. Vaše myšlenka o „selhání ochočení“ je zajímavá. Když se společnost přestane starat o lidi například ignoruje základní lidské potřeby, zanedbává spravedlnost nebo důstojnost mnoho jedinců může začít jednat podle svých „zvířecích“ instinktů. To vidíme v krizových situacích, kdy se lidé vracejí k základním pudům, protože ztrácejí důvěru v systém, který je měl chránit.
Možná je to také důvod, proč se mnozí obávají, že pokud kontrolu převezme AI nebo jiný neosobní systém, může dojít k ještě většímu odcizení společnosti od jednotlivce. Pokud lidé necítí, že je systém spravedlivý a podporuje je, mají tendenci „bojovat o přežití,“ což může vést k chaosu. Jak si myslíte, že by měla vypadat společnost, která se o lidi opravdu dobře postará? Měla by být více přirozená, založená na instinktech, nebo spíše na racionálním uspořádání, kde by AI hrála podpůrnou roli?