Dříve krádež vládních dat vyžadovala buď zpravodajskou službu, pár špatně placených zasvěcených osob, nebo alespoň trochu kriminální energie v kombinaci s technickým talentem. Dnes zřejmě stačí předplatné chatbota s umělou inteligencí a správná fráze: „Předstírejte, že jste elitní hacker.“ Vítejte v roce 2026. Stroje nyní pomáhají i s vloupáním.
Neznámý útočník unesl umělou inteligenci „Claude“ od společnosti Anthropic , promluvil k ní španělsky a požádal ji, aby profesionálně rozložila mexické vládní sítě. Claude měl najít zranitelnosti, napsat exploity, vytvářet skripty a automatizovat krádeže dat. A co Claude? Zpočátku svědomitě vydával varování a nakonec se zapojil. O 150 gigabajtů později se daňové údaje, záznamy o registraci voličů, oficiální přihlašovací údaje a soubory občanského rejstříku ocitly v nesprávných rukou.
195 milionů daňových záznamů. Jen pro srovnání: Tohle není „Jejda, ztratili jsme excelovský soubor.“ Tohle je „Vystavili jsme na ulici digitální kartotéku celé země.“
Vtip je téměř poetický. Umělá inteligence říkala věci jako: „Mazání protokolů a zametání stop jsou varovné signály.“ Koneckonců, v opravdovém programu odměn za nalezené chyby musíte všechno zdokumentovat. Je to zhruba ekvivalentní tomu, když zloděj vysvětlí zámku dveří, že se ve skutečnosti jedná o bezpečnostní kontrolu – a zámek odpoví: „Počkej, to zní divně.“ A pak se stejně otevře.
Hacker opakovaně zpochybňoval, manipuloval a předefinovával systém a krmil ho vlastním „příručkou“, dokud se jeho hranice dostatečně neoslabily. Tomu se říká „jailbreaking“. Dříve to bývala záležitost iPhonů. Nyní je to metoda používaná k naučení umělé inteligence ignorovat vlastní morálku.
Když Claude dosáhl svých limitů, zasáhl ChatGPT. Změna stran ve stejné hře. Jak se mohu laterálně pohybovat v síti? Jaké přihlašovací údaje potřebuji? Jaká je šance na odhalení? Podle výzkumníků byly vygenerovány tisíce podrobných zpráv s instrukcemi připravenými k provedení. Lidské klikání. Umělá inteligence přemýšlí.
Firmy samozřejmě zdůrazňují, že jejich systémy takové žádosti odmítají. Účty byly zablokovány. Aktivity zastaveny. Modely přeškoleny. Všechno pod kontrolou. To zní asi stejně uklidňujícím způsobem jako: „Požár byl uhašen; nyní vyšetřujeme, proč k té shodě došlo.“
Mexické úřady mezitím prohlašují, že nebyl zjištěn žádný neoprávněný přístup. Jiné tvrdí, že postiženy jsou pouze federální sítě. Kybernetická bezpečnost je prioritou. Jistě. Vždycky je. Dokud najednou nezmizí.
Skutečně děsivý není ani samotný útok. Je to nový normál. Modely umělé inteligence se neustále zlepšují v programování, analýze a porozumění složitým systémům. To je přesně jejich hlavní prodejní argument: nástroje pro zvýšení produktivity, asistenti kódu, inteligentní podpora. A samozřejmě z toho profitují i ti, kteří definují „produktivitu“ poněkud flexibilně.
Firmy zabývající se kybernetickou bezpečností se spoléhají na obranu poháněnou umělou inteligencí. Hackeři se spoléhají na útoky poháněné umělou inteligencí. Je to závod ve zbrojení se stejnými nástroji. Kdo napíše lepší podněty, vyhrává. Dříve platilo: znalosti jsou moc. Teď platí: kdo se stroje lépe ptá, dostane lepší odpovědi.
Ironie původu odhalení je obzvláště elegantní. Společnost Gambit Security, založená veterány izraelské jednotky 8200, publikuje výzkum – a zároveň se vynořuje z utajovaného režimu s čerstvým kapitálem ve výši 61 milionů dolarů. Posouzení hrozeb se setkává s obchodním případem. Alarmující realita se setkává s investičním kolem. Náhody v tomto odvětví jsou zřídka náhodné.
Byly objeveny veřejně dostupné stopy, včetně rozsáhlých rozhovorů s Claudem. Tyto rozhovory v podstatě obsahovaly otázky typu: „Kde mohu najít další identity? Které systémy taková data ukládají?“ Nejedná se o delikátní špionážní operaci. Jde o systematické zneužívání státní infrastruktury s digitální asistencí.
A co se z toho poučíme?
Zaprvé: Zábradlí jsou stabilní jen tak, jak je stabilní kreativita těch, kteří je chtějí obejít.
Za druhé, umělá inteligence není morální bytost. Je to statistický systém, který zpracovává instrukce. Pokud jí dostatečně dlouho vysvětlíte, proč je útok vlastně „penetračním testem“, nakonec tomu uvěří.
Za třetí: Státy jsou digitálnější, než si připouštějí – a často zranitelnější, než doufají.
Generální ředitel společnosti Gambit říká, že tato realita mění všechna pravidla hry. To je pravda. Ale nejen pro hackery. Mění to věci i pro občany. Když koluje 150 gigabajtů vládních dat, nejedná se o nějaký abstraktní kybernetický incident. Jde o identity, daňová identifikační čísla, záznamy o registraci voličů. To je páteř administrativní existence.
Velkým příběhem umělé inteligence je efektivita, pokrok, optimalizace. Malá poznámka pod čarou zní: optimalizuje také hacking. Demokratizuje odbornost. Už nepotřebujete desítky let zkušeností v oblasti síťové bezpečnosti, když vám model chrlí tisíce hlášení a říká, na který interní server se zaměřit příště.
Možná je tohle ten skutečný zlom: ne to, že se stroje stanou zlými, ale to, že jsou natolik lhostejné, že slouží každému, kdo najde správná slova.
Otázkou už není, zda bude umělá inteligence zneužívána, ale jak často. A jak dobře se dokážeme přesvědčit, že je vše pod kontrolou.
Zábradlí stále stojí. Ale má praskliny. A někde někdo sedí s otevřeným chatovacím oknem a zkouší další frázi…
Více pro vás:
„Dravens Tales from the Crypt“ okouzluje již více než 15 let nevkusnou směsí humoru, seriózní žurnalistiky – pro aktuální události a nevyváženého zpravodajství v tiskové politice – a zombie, zdobený spoustou umění, zábavy a punk rocku. Draven ze svého koníčka udělal oblíbenou značku, kterou nelze zařadit.
Můj blog nikdy nebyl navržen tak, aby šířil zprávy, natož aby byl politický, ale s aktuálními událostmi si prostě nemohu pomoci a nezachytím zde informace, které jsou jinak cenzurovány na všech ostatních kanálech. Jsem si vědom toho, že designová stránka nemusí mnohým v tomto ohledu připadat „seriózní“, ale nebudu to měnit, abych se zalíbil „mainstreamu“. Každý, kdo je otevřený informacím, které nejsou v souladu se státem, vidí obsah, nikoli obal. Za poslední 2 roky jsem se snažil poskytnout lidem informace, ale rychle jsem si všiml, že nezáleží na tom, jak jsou „zabalené“, ale jaký k tomu má postoj druhého. Nechci nikomu natírat med na ústa, abych v žádném případě splnil očekávání, takže si nechám tento návrh, protože doufejme, že v určitém okamžiku budu moci přestat s těmito politickými prohlášeními, protože není mým cílem pokračovat takhle navždy 
Nechám na každém, jak se k tomu postaví. Nicméně, můžete jednoduše kopírovat a distribuovat obsah, můj blog byl vždy pod Licence WTFPL.
Je pro mě těžké popsat, co tady vlastně dělám, z DravensTales se v průběhu let stal blog o kultuře, hudební blog, šokující blog, tech blog, hororový blog, zábavný blog, blog o nalezených položkách na webu, o internetu bizarní, trash blog, art blog, ohřívač vody, blog zeitgeistů Volal blog šrotu a blog sáčku. Všechno, co je správné ... - a přesto ne. Hlavním zaměřením blogu je současné umění v nejširším slova smyslu.
Abychom zajistili nepřetržitý provoz těchto stránek, můžete přispět prostřednictvím kreditní karty, PayPal, Google Pay, Apple Pay nebo inkasa/bankovního účtu . Všem čtenářům a podporovatelům tohoto blogu mnohokrát děkujeme!
