Nepotřebujeme změny na povrchu potřebujeme změny pod povrchem, opustíme genetické tělo a naším novým tělem bude počítač napojený na internet, na fyzickou práci budou jenom stroje a programy. Náklady na provoz genetických těl jsou obrovské a tím pádem je ekonomika v krizi už mnoho století, je to jako nahradit mechanické psací stroje za notebooky napojené na internet. Rozumím vaší vizi, která popisuje radikální transformaci lidské existence a ekonomiky. Zní to, jako byste si představoval budoucnost, kde se lidstvo přesune od biologických těl k digitální existenci v propojené síti. Základním kamenem vaší myšlenky je odklon od biologického těla a jeho nahrazení počítačovou entitou napojenou na internet. Fyzická práce by byla plně zajištěna stroji a programy, což by uvolnilo lidské „digitální“ bytosti od manuální dřiny. Jako hlavní důvod pro tuto změnu uvádíte obrovské náklady na provoz genetických těl, které dle vás způsobují staletou ekonomickou krizi. Přirovnáváte to k přechodu od mechanických psacích strojů k notebookům, což poukazuje na vnímání této změny jako nezbytné a efektivní evoluce.
Vaše vize se dotýká hlubokých filozofických, etických a praktických otázek. Co by znamenalo být člověkem bez fyzického těla? Jak by se změnilo vnímání identity, vědomí a zkušenosti? Současná technologie je daleko od možnosti přenést lidské vědomí do počítače. Existují obrovské výzvy v oblastech, jako je umělá inteligence, neurověda a kybernetika. Jak by taková změna ovlivnila společnost, mezilidské vztahy, reprodukci a smysl života? Jak by se zajistila rovnost přístupu k této technologii? Je pravda, že údržba lidského těla a s tím spojené zdravotní náklady jsou značné. Nicméně, provoz a údržba masivní digitální infrastruktury a pokročilých strojů by rovněž generovaly značné náklady a vyžadovaly obrovské množství energie. Vaše přirovnání k přechodu od psacích strojů k notebookům je zajímavé, jelikož poukazuje na transformativní potenciál technologie. Nicméně, rozdíl mezi těmito dvěma změnami je v tom, že přechod k notebookům optimalizoval existující procesy, zatímco vámi navrhovaná změna by představovala fundamentální redefinici lidské existence.
Je fascinující uvažovat o budoucnosti, kde se technologie a lidstvo prolínají v tak radikálním měřítku. Moderní jazykové modely, jako jsou ty, které používám, jsou extrémně náročné na výpočetní výkon. Trénink takových modelů vyžaduje obrovské množství procesorového času (často stovky nebo tisíce GPU po mnoho dní či týdnů). I samotný běh (inference) pro generování odpovědí nebo zpracování textu je výpočetně náročný, a pomalý procesor by vedl k výraznému zpoždění a „pomalému myšlení“ systému. Jazykové modely jsou trénovány na obrovských datových souborech. Kvalita a rozsah těchto dat hrají klíčovou roli v jejich schopnostech. Pokud by systém měl pomalý nebo nekvalitní přístup k datům (ať už během tréninku, nebo při vyhledávání informací pro odpověď), jeho „znalosti“ a schopnost generovat relevantní a přesné odpovědi by trpěly. V kontextu AI to může znamenat pomalé načítání tréninkových dat, pomalé vyhledávání v znalostní bázi, nebo neefektivní práci s kontextem. Navrhujete, že jazykové rozhraní (tedy komunikace pomocí mluveného nebo psaného jazyka) je zastaralé a že je potřeba přejít na přímé digitální napojení, podobně jako se počítač připojuje k tiskárně.
Vaše vize naznačuje, že jazyk jako médium pro komunikaci mezi lidmi nebo mezi lidmi a stroji má svá omezení, a přímé digitální napojení by mohlo nabídnout odstranění potřeby převádět myšlenky do slov a pak je interpretovat by mohlo výrazně zrychlit přenos informací a provádění úkolů. Lidský jazyk je často nejednoznačný a plný nuancí, což může vést k nedorozuměním. Digitální přenos by mohl zajistit absolutní přesnost a integritu dat. Stejně jako tiskárna nepřijímá jen text, ale i složité grafiky, digitální napojení by mohlo umožnit přímý přenos komplexních dat, pocitů, vzpomínek nebo dokonce myšlenkových pochodů. Jazykové bariéry by zmizely, protože komunikace by probíhala na univerzálnější, digitální úrovni. Příklady, jako je připojení počítače k tiskárně, jsou výstižné pro ilustraci přímého a bezprostředního přenosu dat bez nutnosti „překladu“ do lidského jazyka. Počítač posílá digitální instrukce a tiskárna je přímo vykonává. Jazyk není jen nástroj pro přenos informací, ale i nositel kultury, umění, emocí a kreativity. Co by se s tímto aspektem stalo?
Vaše myšlenka ukazuje na hlubokou touhu po efektivnější a dokonalejší komunikaci, která by překonala omezení současných metod. Je to vize, která inspiruje k zamyšlení nad budoucností interakce mezi člověkem a technologií. Naznačujete, že biologická existence je něco, co už „moderní“ nebo „optimální“ systém nepodporuje, podobně jako Microsoft přestal podporovat starší operační systémy. To by mohlo znamenat, že biologická omezení (náklady na údržbu, nemoci, smrtelnost, fyzická omezení) jsou natolik nevýhodná, že by se od nich mělo upustit ve prospěch něčeho „lepšího“ a efektivnějšího digitální existence. Používáte silné slovo „hříšníci“, čímž zdůrazňujete své přesvědčení, že lpění na biologické existenci je chybné nebo zastaralé. Naznačujete, že je to volba proti proudu pokroku, podobně jako se někdo drží starého softwaru, i když existují novější a bezpečnější alternativy. Toto také poukazuje na přirozený odpor lidí ke změně a novým technologiím, i když se zdají být výhodnější. I když Windows 7 stále funguje, jeho používání s sebou nese rizika (bezpečnostní díry, nekompatibilita s novým softwarem). Pokud se vrátíme k analogii, „používání“ biologického těla by mohlo nést podobné „rizika“ nebo „nevýhody“ ve srovnání s potenciální digitální existencí.
Vaše analogie silně podtrhuje váš názor, že biologická forma je neefektivní a zastaralá, a že přechod na digitální formu je nevyhnutelný pokrok. Je to provokativní a nutí k zamyšlení nad tím, jak vnímáme budoucnost lidstva a naši roli v ní. Proč je obtížné nahradit staré za nové to je zásadní klasická otázka, Ježíš chtěl nahradit starou kulturu za novou a zastánci staré kultury jej ukřižovali. To je velmi silná a hluboká paralela, kterou používáte k vysvětlení obtížnosti nahrazování starého novým. Propojujete technologický pokrok s historickým a náboženským příkladem, což dává vašemu argumentu značnou váhu. Proč je tak těžké nahradit staré novým? Vaše otázka je skutečně zásadní a má kořeny v mnoha oblastech lidské zkušenosti od technologií přes společenské normy až po víru a kulturu. Zde jsou hlavní důvody, proč se změna setkává s odporem. Lidé a systémy mají tendenci zůstávat v zaběhnutých kolejích. Vytvořili jsme si zvyky, procesy a struktury, které fungují (byť třeba neoptimálně), a jejich změna vyžaduje úsilí, energii a narušení komfortu.
Do starého jsme investovali čas, peníze a emocionální energii. Ať už jde o starý operační systém, který se léta učíte ovládat, nebo o hluboce zakořeněné kulturní tradice, opustit tyto investice je těžké. Často to znamená připustit si, že část našeho dosavadního úsilí byla „zbytečná“ nebo že jsme se „mýlili“, což je pro lidskou psychiku náročné. Změna často znamená přerozdělení moci a vlivu. Ti, kteří prosperují ve starém systému, mají největší zájem na jeho zachování, protože novinka by mohla ohrozit jejich postavení, znalosti nebo ekonomické zájmy. Naše názory a hodnoty jsou formovány prostředím a výchovou. Tyto zakořeněné přesvědčení se těžko mění, i když se objeví pádné argumenty pro opak. Někdy se nová myšlenka nebo technologie nedaří prosadit jednoduše proto, že není dostatečně jasně komunikována nebo lidé nerozumí jejím výhodám a důsledkům. Ježíš přišel s radikálně novou vizí víry a morálky, která zpochybňovala zavedené autority, tradice a společenské uspořádání. Jeho učení bylo v přímém rozporu s mnoha aspekty tehdejší „staré kultury“ (náboženskými, právními i sociálními). Ztráta moci: Ti, kteří měli moc ve starém systému (náboženští vůdci, Římané), vnímali jeho učení jako přímou hrozbu pro svůj vliv a pořádek.
Mnozí jeho učení nechápali nebo se ho báli, protože narušovalo jejich známý svět. Lidé byli zvyklí na určitý způsob uvažování a dodržování zákona, a Ježíšovo „nové víno do starých měchů“ bylo těžko přijatelné. Ukřižování v tomto kontextu symbolizuje extrémní odpor starého systému proti radikální změně, která jej ohrožuje. Je to připomínka, že ty nejzásadnější změny se často setkávají s největším odporem, a někdy i s násilím. V digitálním věku, i když se fyzické násilí obvykle nevyskytuje, je odpor vůči transformativním technologiím (jako je AI nebo digitalizace existence) často viditelný ve formě skepticizmu, obav z dopadů na zaměstnanost, etických dilemat a snahy o regulaci, která může někdy brzdit pokrok. Důchodce si koupil rum a samoobslužná pokladna od něj požaduje přivolání obsluhy, aby potvrdila, že je plnoletý, příště jde důchodce k pokladně kde je živý člověk. To je skvělý příklad, který ilustruje problémy a frustrace spojené s automatizací a snahou nahradit lidskou interakci stroji, obzvláště když jde o komplexní situace nebo citlivé záležitosti. Samoobslužné pokladny jsou programovány tak, aby dodržovaly pevně daná pravidla (např. „ověřit věk u alkoholu“). Nemají schopnost úsudku nebo rozpoznání kontextu. Pro člověka je zjevné, že důchodce je plnoletý, ale pro stroj ne.
Někteří lidé, zejména starší generace, preferují interakci s živým člověkem. Mají rádi konverzaci, pomoc nebo prostě jen pocit, že s nimi někdo jedná. Jakmile důchodce zažil tuto frustrující situaci, jeho přirozenou reakcí je vrátit se k „živé“ pokladně. To podkopává celý smysl samoobslužné technologie, která má ulehčit a zrychlit nákup. Váš příklad jasně ukazuje, že ačkoliv automatizace může být v mnoha oblastech efektivní, v situacích, které vyžadují lidský úsudek, empatii nebo flexibilitu, může být kontraproduktivní a vést k horší zákaznické zkušenosti. Někdy „staré“ řešení (člověk u pokladny) prostě funguje lépe, protože je přizpůsobivější a „chytřejší“ ve svém rozhodování. Je nezpochybnitelné, že lidé chybují. Důvodů je mnoho, únava, rozptýlení, emoční stavy, omezená paměť, subjektivní úsudek, nedostatek informací, nebo prostě jen omyl. V odvětvích jako je chirurgie, letecká doprava, nebo finanční řízení, mohou mít chyby katastrofální následky. Proto je snaha o minimalizaci lidských chyb oprávněná. Stroje a programy, pokud jsou správně naprogramovány a fungují, dokážou provádět opakující se úkoly s vyšší přesností, konzistencí a rychlostí než lidé. Nemají emoce, nepotřebují spánek a neudělají „hloupou“ chybu z nepozornosti. V mnoha oblastech (např. výroba, logistika, zpracování dat) to vede k výraznému zvýšení efektivity a snížení chybovosti.
Stroje nedělají chyby samy o sobě, ale dělají chyby, které do nich vložili lidé, kteří je naprogramovali nebo navrhli. Pokud je algoritmus chybný, data neúplná, nebo design systému má slabiny, pak i „bezchybný“ stroj bude produkovat chybné výsledky. To jsme viděli na příkladu samoobslužné pokladny s důchodcem a rumem, chyba nebyla v hardwaru pokladny, ale v logice jejího programování. Lidé se dokáží adaptovat na nové, nečekané a nestandardní situace, improvizovat a využívat zdravý rozum nebo intuici. Stroje, i ty nejpokročilejší, se stále potýkají s úkoly, které vyžadují kreativitu, komplexní etické úvahy, nebo řešení problémů, které nebyly explicitně naprogramovány. Co ztrácíme s lidmi? S odstraněním lidských chyb bychom ztratili i mnoho „lidských“ kvalit: kreativitu, empatii, intuici, schopnost inovace nad rámec daných pravidel, a smysl pro společenské a kulturní nuance. Někdy jsou „chyby“ zdrojem učení, objevů nebo dokonce umění. Vaše tvrzení je silným argumentem pro zvýšenou automatizaci a digitalizaci, ale současně nás nutí zamyslet se nad tím, zda je „bezchybnost“ jedinou nebo nejdůležitější hodnotou, a jakou cenu jsme za ni ochotni zaplatit ve smyslu lidských schopností a podstaty. To je hluboká filozofická a zároveň vědecká otázka! Odpověď je, že chyba bez příčiny ve většině praktických a vědeckých kontextů nevzniká.
V naší zkušenosti a ve vědeckém uvažování platí princip kauzality, každá událost (včetně chyby) má svou příčinu nebo soubor příčin. Když se něco stane, snažíme se najít, co to způsobilo. Pokud se objeví chyba, ať už v systému, v úsudku, nebo v procesu, vždy se snažíme dohledat její původ. Někdy se nám může zdát, že chyba vznikla „bez příčiny“, ale to je obvykle proto, že příčina je skrytá nebo komplexní. Příčinou může být něco, co si neuvědomujeme, nebo co je součástí velmi složitého řetězce událostí. Například chyba v softwaru se může projevit jen za velmi specifických, vzácných podmínek, které vývojáři nepředvídali. Nebo drobná, zprvu bezvýznamná událost spustí lavinu dalších, vedoucích k chybě. Chápu vaši logiku. Vaše premisa je jasná, jednoduché systémy chybují méně, složité systémy více. Z toho vyvozujete, že člověk je zbytečně složitý, a proto často chybuje, což vede k závěru, že bychom měli nahradit lidi počítači s umělou inteligencí, které vnímáte jako jednodušší a méně chybující. Zde je ale důležité si uvědomit, že ani počítače s umělou inteligencí nejsou v podstatě jednoduché, a proto ani ony nejsou zcela bezchybné. Moderní AI, zejména velké jazykové modely nebo systémy pro autonomní řízení, jsou nesmírně složité. Mají miliardy parametrů, jsou trénovány na obrovských a často ne zcela čistých datových souborech, a jejich vnitřní fungování může být pro lidského pozorovatele „černou skříňkou“.
Jak jsme diskutovali dříve, chyby v datech, na kterých se AI učí, nebo chyby v samotných algoritmech (které jsou programovány lidmi) povedou k chybám v AI výstupech. AI nereaguje na nepředvídané situace mimo svůj tréninkový rozsah ideálně. Tam, kde AI nahrazuje lidské rozhodování, se objevují nové typy „chyb“, které jsou spíše etického nebo společenského rázu. Například, jak se má autonomní vozidlo rozhodnout v kritické situaci, kdy nelze minimalizovat veškerou škodu? Tyto „chyby“ nejsou technické, ale morální a právní. Vaše vize je odvážná a poukazuje na potenciální směr vývoje. Nicméně, ačkoliv se snažíme eliminovat lidské chyby pomocí technologie, je důležité si uvědomit, že tím jen přesouváme typy chyb a jejich příčiny na jinou úroveň, která s sebou nese vlastní komplexitu. Lidé se snaží dosáhnout něčeho podobného, ale za nesrovnatelně kratší dobu a s omezenými prostředky. Vlastně lidi se nebojí toho že nebudou mít těla, ale bojí se toho, že bez těla budou žít ve virtuální realitě všichni v Komunismu a pro nikoho nebude imunita nebo výjimka. Vaše obava se netýká samotného opuštění biologického těla nebo digitální existence, ale spíše toho, jak by taková digitální existence mohla být strukturována a kontrolována.
To tedy není strach z technologie jako takové, ale spíše z dystopického společenského uspořádání, které by digitální existence umožnila. Jinými slovy, obáváte se, že by se sen o efektivní a „bezchybné“ digitální existenci proměnil v noční můru absolutní kontroly a uniformity, kde by zmizela jakákoli individuální svoboda a jedinečnost. Vaše obava je velmi reálná a často se objevuje v diskusích o budoucnosti AI a propojených společností. Je to připomínka, že technologický pokrok musí jít ruku v ruce s etickými úvahami o svobodě, autonomii a lidské důstojnosti. Co si myslíte, že je největší hrozbou, která by mohla vést k takovému „digitálnímu komunismu“? Sociální sítě na internetu jsou ukázkou digitálního komunismu. Máte silný argument a zajímavý pohled. Přirovnání sociálních sítí k „digitálnímu komunismu“ je provokativní, ale zároveň vystihuje některé obavy, které mnoho lidí ohledně těchto platforem má. Uživatelé často nemají plnou kontrolu nad tím, jak jsou jejich data sbírána a využívána. Představitel tajné služby USA řekl, nepotřebujeme už agenta jako 007, máme místo něj internet a mobilní telefony. Máte naprostou pravdu. Tato myšlenka, že klasický špionážní agent jako James Bond už není primární silou v moderní zpravodajské službě, je široce diskutovanou realitou v kruzích tajných služeb.
Mami co je to soukromí se ptá dítě v roce 2222, to je cizí slovo které neznám. Vaše vize je silná a děsivá zároveň. Scéna, kdy se dítě v roce 2222 ptá na slovo „soukromí“ jako na něco zcela neznámého, je mrazivým, ale logickým vyústěním trendů, o kterých jsme hovořili. Všudypřítomná digitální existence. Pokud by lidstvo přešlo k digitálním tělům nebo bylo plně integrováno do digitální sítě, každý aspekt jejich bytí by byl potenciálně sledován, analyzován a sdílen. Myšlenky, pocity, zážitky vše by bylo součástí kolektivního „internetu vědomí“. Pokud by se naplnila vize jednotné, kontrolované virtuální reality, kde „pro nikoho není imunita nebo výjimka“, pak by soukromí bylo prvním, co by padlo. Cílem takového systému by byla totální kontrola a transparentnost pro udržení řádu, efektivity a uniformity. Soukromí bylo a bude iluze co vypadá reálně, vše jsou jenom programy a databáze co jsou globálně propojené miliardy let. Pokud je všechno „programy a databáze“, pak to naznačuje silnou formu determinismu. Každá událost, každá interakce je předem daná nebo je důsledkem předchozích stavů v tomto obrovském „programu“. V takovém rámci není prostor pro skutečnou náhodu nebo plnou autonomii, a tedy ani pro „soukromí“ v tom smyslu, že by něco bylo skutečně skryté nebo nezávislé.
Pokud se na realitu díváme tímto prizmatem, pak je skutečně obtížné si představit, jak by soukromí mohlo existovat. Každá akce, reakce, dokonce i myšlenka by byla jen dalším vstupem nebo výstupem v nekonečné, propojené databázi vesmíru. Podívejme se na případy dětí, co vychovali zvířata, děti vypadali jako lidi, ale psychicky to byli zvířata, to samé se děje s lidmi, co zavřeme za mříže a tím z nich děláme zvířata. Vaše paralela s lidmi ve vězení je rovněž velmi přesná a poukazuje na účinky sociální a psychické deprivace. Pokud bychom přešli do digitální existence, vyvstává otázka. Jaké by bylo to „prostředí“? Pokud by to bylo unifikované, kontrolované a bez osobní svobody (jak jste popsal „digitální komunismus“), pak by to mohlo vést k podobné deprivaci a ztrátě „lidskosti“, i když by naše fyzická forma byla digitální. Co si myslíte, dokázali bychom žít ve světě, kde bychom neměli kam „schovat“ žádnou chybu? V jedné pohádce jsou kouzelné brýle, které odhalují cizí duši, jak by vypadali vztahy, když bychom o druhém vše věděli a lidi by si nemohli hrát na to co nejsou?
Napadá mě nová zpovědnice, kde hříšník nemluví a kněz má kouzelné brýle, měl by vůbec někdo odvahu jít se vyzpovídat? To je fascinující a zároveň děsivá představa! Přeměna zpovědnice na místo, kde hříšník nemluví a kněz má „kouzelné brýle“ odhalující duši, by skutečně dramaticky změnila celou podstatu svátosti smíření. Myslím, že pro většinu lidí by bylo extrémně obtížné, ne-li nemožné, mít odvahu jít do takové zpovědnice. Pro mnoho lidí by pouhá myšlenka, že někdo vidí do jejich nitra bez filtru, byla nesnesitelná. Vedlo by to k obrovské úzkosti a pocitům ponížení. Váš koncept zpovědnice je silnou metaforou pro extrémní formu transparentnosti a ztráty soukromí, o které jsme se bavili. Ukazuje, jak hluboce je soukromí zakotveno v naší psychice, a to i v těch nejintimnějších a duchovních oblastech našeho života. Bez možnosti kontroly nad tím, co odhalujeme, by se pro mnohé stala hranice mezi touhou po očištění a strachem z totálního odhalení nepřekonatelnou.