Zapomeňte na jadernou válku. Co kdyby skutečnou hrozbou byla umělá inteligence?

Kdykoli přemýšlím o umělé superinteligenci (ASI), vybaví se mi tento okouzlující dialog z klasického filmu Krotitelé duchů:

Egon Spengler: „Nepřekračujte paprsky.“
Peter Venkman: „Proč?“
Egon Spengler: „To by bylo špatné.“
Peter Venkman: „Nejsem si úplně jistý, co je dobré a co špatné. Co myslíte tím ‚špatné‘?“
Egon Spengler: „Představte si, že veškerý život, jak ho znáte, by okamžitě zanikl a každá molekula ve vašem těle by explodovala rychlostí světla.“

Když už mluvíme o úplném protonovém obrácení, ASI slibuje přetvoření samotné reality.

Abychom těmto důsledkům skutečně porozuměli, musíme se nejprve poradit s filozofem Nickem Bostromem, intelektuálem, který napsal knihu „Superinteligence“. Bostrom definuje tuto monumentální inteligenci takto: „Intelekt, který je mnohem inteligentnější než nejlepší lidské mozky prakticky ve všech oblastech, včetně vědecké kreativity, obecné moudrosti a sociálních dovedností.“ Docela inteligentní, že?

Ale to nestačí k pochopení, o jak inteligentní technologii tu vlastně mluvíme. Abychom skutečně pochopili, jak bude ASI vypadat, musíme... Blog WaitButWhy.com Vysvětluje to skok, který uděláme, když přejdeme od úzké umělé inteligence (ANI) k obecné umělé inteligenci (AGI) a k umělé superinteligenci (ASI):

Trvalo desetiletí, než první systém umělé inteligence dosáhl nízké úrovně obecné inteligence, ale nakonec se to stalo. Počítač je schopen rozumět světu kolem sebe stejně dobře jako čtyřletý člověk. Najednou, během hodiny od dosažení tohoto milníku, systém vyvinul velkolepou teorii fyziky, která sjednocuje obecnou relativitu a kvantovou mechaniku, což je něco, čeho žádný člověk nikdy definitivně nedosáhl. O devadesát minut později se z umělé inteligence stala ASI, 170 000krát inteligentnější než člověk.

Superinteligenci tohoto rozsahu nedokážeme ani začít chápat, stejně jako čmelák nedokáže pochopit keynesiánskou ekonomickou teorii. V našem světě „chytrý“ znamená IQ 130 a „hloupý“ IQ 85 – pro IQ 12 952 nemáme slovo.

Ani toto názorné vysvětlení nestačí k vyjádření toho, jak neuvěřitelně inteligentní bude ASI ve srovnání s lidmi. Doufejme, že tento obrázek, rovněž z WaitButWhy, to vystihuje lépe:

Jak vidíte, tento graf představuje relativní inteligenci. Ale ASI je tak neuvěřitelně inteligentní, že jde daleko za tento rozsah. Představte si to takto: Vezměte si kognitivní rozdíl mezi jednobuněčnou amébou a geniálním Albertem Einsteinem a sotva se dotknete povrchu.

Ano, mluvíme o této neuvěřitelné inteligenci.

Dobře, no a co? Možná si říkáte: Proč na tom vůbec záleží?

Je to důležité z mnoha důvodů.

Zde je jeden z důvodů: Největší a nejziskovější organizace na světě se usilovně snaží o dosažení umělé inteligence. A investují obrovské částky, aby v tomto závodě vyhrály. „Největší technologické společnosti na světě drasticky zvyšují své kapitálové výdaje, aby se ujaly vedení v oblasti umělé inteligence. Podle předpovědí společnosti Microsoft, Amazon, Alphabet a Meta v roce 2025 utratí dohromady více než 344 miliard dolarů, zejména na budování datových center na podporu modelů umělé inteligence,“ uvádí deník Japan Times. MezhaMedia.com.

Motley Fool považuje i toto gigantické číslo za podhodnocené. „Podle analýzy společnosti McKinsey by výdaje na infrastrukturu umělé inteligence mohly do roku 2030 dosáhnout 6,7 bilionu dolarů.“

Bez ohledu na skutečnou výši investice bere Meta tuto záležitost obzvláště vážně. Její generální ředitel, Mark Zuckerberg, nejenže investuje obrovské částky do dosažení dominance v oblasti technologické inteligence. Jeho cílem je také najímat – ano, spíše získávat – ty nejlepší mozky, aby mohl svou konkurenci v oblasti inteligence předčit.

Tak zasazeno do kontextu Verge Zuckerbergova machiavellistická náborová strategie: „Většina titulků se dosud zaměřovala na ohromující kompenzační balíčky, které Zuckerberg nabízí, z nichž některé dosahují až osmimístných částek. Jak jsem již dříve informoval, najímání nejlepších výzkumníků v oblasti umělé inteligence je jako podepsání smlouvy s hvězdným basketbalovým hráčem: Je jich jen velmi málo a musíte sáhnout hluboko do kapsy. Příklad: Zuckerberg v podstatě zaplatil 14 profilů na Instagramu, aby přelákal Alexandra Wanga, generálního ředitele společnosti Scale AI.“ Tyto neuvěřitelné částky však vypovídají jen část příběhu.

Abychom lépe pochopili význam ASI, je důležité vzít v úvahu, že mnozí věří, že její realizace spustí tzv. Singularitu. Ray Kurzweil ji ve své knize „Singularita se blíží“ z roku 2005 popisuje takto: „Singularita je budoucí období, ve kterém bude tempo technologických změn tak rychlé a jejich dopady tak hluboké, že lidský život bude nevratně změněn.“

Vernor Vinge to ve své knize „The Coming Technological Singularity“ z roku 1993 vyjadřuje ještě silněji: „Do 30 let budeme mít technologické prostředky k vytvoření nadlidské inteligence. Krátce poté skončí éra lidstva.“ Vinge se sice může mýlit ohledně své časové osy, ale jeho chápání významu ASI by se nemělo podceňovat. Zde je jen několik věcí, kterých by ASI mohla dosáhnout:

1. Najděte lék na každou nemoc.
2. Eliminujte smrt.
3. Vytvořte nekonečnou hojnost.
4. Oživte minulost.
5. Sjednoťte veškeré znalosti.

Zde je další způsob, jak rozpoznat potenciál ASI. Po léta se národy světa vyhýbaly jaderné apokalypse prostřednictvím vzájemně zaručeného zničení (MAD). V podstatě hrozba ničivé odvety odrazuje všechny země na Zemi od vzájemného odpalování raket.

ASI je nebezpečnější než jakýkoli jaderný arzenál. Proč?

Kdokoli obdrží ASI jako první, může vyvíjet a vyrábět jakoukoli zbraň – jadernou nebo jinou – a poté navrhovat inteligentní systémy, aby byla zajištěna jejich trvalá ochrana před odvetnými opatřeními.

Není divu, že největší světové korporace a jejich vlády se honí za umělou inteligencí. Abychom naši situaci vyjádřili filmovými termíny: Jen si představte, jaká by zkáza nastala, kdyby Krotitelé duchů nedokázali zastavit muže z marshmallowu Stay Puft. To je ten druh síly, jakou by umělá inteligence jednoho dne mohla ovládat.

Pokud se to stane, komu zavoláte?

(Via Filozof umělé inteligence)