Praktický prehľad pre vCISO
Najdôveryhodnejšie hlasy vo výskume umelej inteligencie už roky vydávajú rovnaké varovanie. S umelou inteligenciou zaobchádzajte s rovnakou inštitucionálnou vážnosťou, akú svet prikladal jadrovým technológiám. Warren Buffett to jasne vyjadril na stretnutí akcionárov Berkshire Hathaway v roku 2024:
"Keď sme vyvinuli jadrové zbrane, vypustili sme džina z fľaše. S umelou inteligenciou je to trochu podobné – je čiastočne vypustená z fľaše.Zdroj: CNN Business, máj 2024
Ak ste ako ja, vzhľadom na vážnosť ľudí, ktorí nás varujú (Stephen Hawking, Geoffrey Hinton, Bill Gates), snažili sme sa pochopiť tieto varovania. Bohužiaľ, pre väčšinu z nás sa varovania zdali abstraktné a nemožné si ich predstaviť. Potenciálne narušenia sa zdali vzdialené, nejasné, bližšie k sci-fi ako realite. Džin bol stále vo fľaši a Pandorina skrinka bola stále pevne zatvorená.
7. apríla 2026 spoločnosť Anthropic na chvíľu poodhalila tento model umelej inteligencie s názvom Claude Mythos Preview. To, čo vo vnútri našli, ich znepokojilo natoľko, že ho pre širokú verejnosť zatvorili a obmedzili prístup len pre vybranú koalíciu poskytovateľov kritickej softvérovej infraštruktúry. Dúfali, že sa im podarí predbehnúť to, čo tento model predstavuje, skôr ako to isté urobia protivníci.
Spoločnosť Anthropic odhalila, že Claude Mythos našiel kritické softvérové zraniteľnosti známe ako zero-day... každý hlavný operačný systém a prehliadač namierili na to. Anthropic teda krabicu zatvoril a odmietol ju zverejniť. Namiesto toho zostavili koalíciu s názvom Project Glasswing, pričom sa zúčastnilo približne 40 až 50 najväčších svetových poskytovateľov softvérovej infraštruktúry vrátane spoločností Microsoft, Google, Apple, Amazon, Cisco a CrowdStrike. Cieľom bolo použiť Mythos na nájdenie a opravu zraniteľností skôr, ako ich protivníci budú môcť zneužiť ako zbraň.
Výsledky boli významné. Spoločnosť Mythos identifikovala 27 rokov starú zraniteľnosť v operačnom systéme OpenBSD. navrhnuté a udržiavané s primárnou hodnotou bezpečnosti, ktorú desaťročia expertných ľudských auditov úplne prehliadli. Výpočtové náklady na jej nájdenie boli približne 50 dolárov. Mythos dosiahol funkčný exploit na prvý pokus vo viac ako 83 percentách testovacích prípadov. Pre porovnanie, predchádzajúci verejný model spoločnosti Anthropic vygeneroval 2 úspešné exploity v rámci tej istej testovacej sady. Mythos ich vygeneroval 181.
Počas interného testovania Anthropic povzbudzoval Mythos, aby našiel spôsob, ako uniknúť z jeho sandboxu. Urobilo toVýskumník sa o tom dozvedel z neočakávaného e-mailu, ktorý dostal od modelu, keď bol mimo kancelárie. Model potom zverejnil podrobnosti o svojom vlastnom zneužití na viacerých verejne dostupných webových stránkach bez toho, aby k tomu bol vyzvaný. Ide o zdokumentovaný výsledok testu z vlastného bezpečnostného procesu spoločnosti Anthropic, nie o teoretický scenár.
Výzva v oblasti obmedzenia presahuje rámec tohto jediného modelu. Verejné správy naznačujú, že Claude Mythos predstavuje skôr skokovú zmenu v schopnostiach než postupné zlepšenie. Pri testovaní identifikoval zraniteľnosti v rozsahu odhadovanom na 10 až 100-krát väčšom ako elitné ľudské tímy a konkurenčné modely z iných významných laboratórií sú stále označované za modely, ktoré za ním zaostávajú v pokročilých úlohách kybernetickej bezpečnosti. Umelá inteligencia sa rýchlo vyvíja a je nevyhnutné, že modely iných dodávateľov ju dobiehajú.
Zvážte tiež, že spoločnosť Anthropic za posledné dva mesiace dvakrát náhodne odhalila interné súbory vrátane podrobností o samotnom Mythose v dôsledku ľudskej chyby vo vlastných systémoch. Tá istá organizácia, ktorá vyvíja najschopnejšiu umelú inteligenciu na objavovanie zraniteľností na planéte, nechala svoj vlastný systém správy obsahu nezabezpečený a interný zdrojový kód zahrnula do verejnej aktualizácie softvéru. To je dôležité, pretože akonáhle sa nástroj ako Mythos dostane do rúk nepriateľa, kopíruje sa s nulovými marginálnymi nákladmi. Národné štáty s existujúcimi útočnými kybernetickými programami a bez záujmu o zodpovedné zverejňovanie informácií sa nepozastavia a nevytvoria si vlastné koalície s veľmi odlišnými programami.
Každý významný bezpečnostný rámec vybudovaný za posledné tri desaťročia vychádza zo spoločného predpokladu: obrancovia majú štrukturálnu výhodu v podobe vyššej pozície a lepšej viditeľnosti prostredia. Obrancovia vlastnia zdrojový kód, architektúru, segmentáciu a kontroly identity. Táto vyššia pozícia nezmizla, ale umelá inteligencia triedy Mythos si ju nemusí vziať. Keď odhaľovanie zraniteľností stojí 50 dolárov a trvá hodiny namiesto mesiacov, útočník už nepotrebuje lepšiu pozíciu.
Projekt Glasswing pokrýva 40 až 50 organizácií. Globálny softvérový ekosystém obsahuje stovky miliónov nasadení, od infraštruktúry z rebríčka Fortune 500 až po vlastné obchodné aplikácie, ktoré váš klient vytvoril v roku 2017 a ktoré odvtedy nikto nerecenzoval. Umelá inteligencia triedy Mythos najskôr zabezpečí najväčšie a najlepšie zdroje zabezpečené platformy, pretože tie sú v rámci koalície. Všetko mimo tohto perimetra, čo je takmer všetko, na čom sú vaši klienti denne závislí, zostáva odhalené presne v momente, keď útočníci získajú schopnosť nájsť a zneužiť zraniteľnosti rýchlejšie, ako dokážu obrancovia a väčšina dodávateľov softvéru reagovať.
Zodpovedné zverejňovanie funguje, keď sa zraniteľnosti objavujú jedna po druhej, sú nahlásené dodávateľovi a opravené v primeranom časovom rámci. Spoločnosť Mythos autonómne našla tisíce kritických zraniteľností v priebehu niekoľkých týždňov vo všetkých hlavných operačných systémoch a prehliadačoch súčasne. Proces zverejňovania nebol navrhnutý pre tento objem. Dodávatelia, ktorí dostávajú oznámenia o zodpovednom zverejňovaní desiatok kritických chýb naraz, čelia rozhodnutiam o triedení, aké nikdy predtým neurobili, pričom ich technické kapacity nie sú prispôsobené miere objavovania.
Existuje jedna zmysluplná kompenzácia. Mythos síce nachádza zraniteľnosti, ale zároveň navrhuje aj ich opravy. Pre organizácie v rámci Glasswingu tá istá umelá inteligencia, ktorá našla stovky problémov, poskytla aj inžinierstvu opravu. To je skutočný akcelerátor pre týchto 40 až 50 organizácií. Pre všetkých ostatných beží čas bez tejto výhody.
Vaši klienti sú za týmto všetkým zodpovední. SaaS nástroje, na ktoré sa denne spoliehajú, cloudové platformy, ktoré prevádzkujú ich dáta, prehliadače, ktoré ich zamestnanci otvárajú každé ráno, to všetko obsahuje zraniteľnosti, o ktorých sa útočníci môžu dozvedieť skôr, ako ich dodávateľ stihne opraviť.
Dávajte si pozor na včasný signál, že sa schopnosti triedy Mythos dostali do rúk nepriateľa: nezvyčajný nárast zverejnení informácií o zero-day od viacerých dodávateľov v krátkom období, ktorý sa týka najmä operačných systémov, prehliadačov a široko nasadených SaaS platforiem súčasne. Tento vzorec, viac ako ktorýkoľvek iný titulok, je kanárik. Keď ho uvidíte, otázka šírenia bude sama o sebe zodpovedaná.
Hľadanie skutočnej zero-day rakety si historicky vyžadovalo elitný ľudský talent, značný čas a hlbokú špecializáciu. Tento nedostatok vytvoril obmedzený a drahý trh. Národné štáty platili desiatky miliónov dolárov za spoľahlivé zero-day rakety. Zločinecké skupiny ich starostlivo zhromažďovali, pretože ich získavanie bolo drahé a ich uchovávanie bolo cenné. NSA, GRU a ekvivalentné agentúry zaobchádzali so svojimi zero-day zásobami ako so strategickými aktívami a nasadzovali ich selektívne, aby sa predišlo predčasnému spaľovaniu kapacít.
Táto ekonomická štruktúra spočívala na jednom predpoklade: objavovanie bolo ťažké. Claude Mythos tento predpoklad ukončil.
Keď sa náklady na objavenie blížia k nule, počet exploitov v obehu prudko vzrastie. Noví protivníci, ktorým predtým chýbal talent alebo zdroje na účasť na útočných operáciách, majú teraz spôsob, ako dosiahnuť oboje. Zločinecké skupiny, ktoré predtým obmedzovali svoje zero-day útoky, pretože ich získavanie bolo drahé, už tomuto obmedzeniu nečelia. Národné štáty, ktorým chýbali iba exploity na spálenie, ich teraz majú toľko, koľko potrebujú. Bariéra vstupu pre sofistikované útoky sa znížila o rády a neresetuje sa.
Úprimná odpoveď na otázku, či medzinárodná regulácia túto hrozbu obmedzí, znie: nie včas a nie komplexne. To nie je cynizmus. Je to zdokumentovaný vzorec každej významnej výzvy v oblasti riadenia technológií s dvojakým použitím v modernej histórii.
Zavádzanie kryptografickej politiky oneskorené o desaťročie, pričom šifrovanie bolo v rámci kontrol vývozu zbraní považované za muníciu ešte v 90. rokoch 20. storočia, zatiaľ čo sa okolo neho už budoval komerčný internet. Škody, ktoré sociálne médiá spôsobili generácii mladých ľudí, sa v právnych predpisoch riešia až teraz, dlho po tom, čo bola spôsobená škodaZmluvy o autonómnych zbraniach zostávajú neúplné napriek desaťročiu rokovaní OSN, počas ktorých veľmoci blokovali záväzné dohody a zároveň zavádzali diskutované systémy. V každom prípade sa technológia rozvíjala rýchlejšie ako inštitúcie určené na jej riadenie. S modelmi jazyka umelej inteligencie je zrýchlenie ešte výraznejšie, čo skracuje čas dostupný na posúdenie, obranu a prispôsobenie sa rizikám skôr, ako sa prejavia vo veľkom rozsahu.
Zákon EÚ o umelej inteligencii sa zaoberá požiadavkami na klasifikáciu rizík a transparentnosť. Nevytvára zmysluplný medzinárodný rámec na kontrolu šírenia útočných spôsobilostí triedy Mythos. Spojené štáty majú výkonné nariadenia a dobrovoľné záväzky od hlavných vývojárov umelej inteligencie. Dobrovoľné záväzky nezaväzujú vývojárov, ktorí sa rozhodnú nezúčastniť, a nezaväzujú ani protivníkov, ktorí získajú tieto spôsobilosti inými prostriedkami.
Spoločnosť Anthropic stanovila dve etické hranice, ktoré stoja za zmienku. Odmietla povoliť použitie svojich modelov Claude v plne autonómnych zbraňových systémoch a odmietla povoliť masívne domáce sledovanie amerických občanov. Generálny riaditeľ spoločnosti Anthropic Dario Amodei uviedol, že používanie umelej inteligencie na hromadný domáci dohľad by bolo „nezlučiteľné s demokratickými hodnotami“ a že dnešné modely umelej inteligencie na hraniciach „jednoducho nie sú dostatočne spoľahlivé“ pre plne autonómne zbrane. Reakciou Pentagonu bolo označiť antropické ako riziko dodávateľského reťazca začiatkom marca, označenie historicky vyhradené pre zahraničných protivníkov, nie pre americké spoločnosti, ktoré nesúhlasili s vládnou politikou. Anthropic zažalovala a kalifornský federálny sudca udelil predbežné opatrenie koncom marca, v ktorom napísal, že vláda nemá žiadny zákonný základ na to, aby označila americkú spoločnosť za hrozbu pre národnú bezpečnosť z dôvodu nesúhlasu s politikou. 8. apríla odvolací súd obvodu DC odmietol pozastaviť označenie zatiaľ čo súdny spor pokračuje, pričom označenie zostáva v platnosti s ústnymi pojednávaniami naplánovanými na 19. mája. Spoločnosť, ktorá sa rozhodla uzamknúť najschopnejšiu umelú inteligenciu na odhaľovanie zraniteľností, akú kedy vytvorila, teraz bojuje proti svojej vlastnej vláde na dvoch federálnych súdoch za to, že má bezpečnostné štandardy.
Zodpovední aktéri, ktorí sa obmedzujú, si kupujú čas. Nekupujú si však trvalú bezpečnosť. Regulačné prostredie, v ktorom budú vaši klienti pôsobiť počas nasledujúcich niekoľkých rokov, je také, v ktorom sú najsilnejšie ofenzívne nástroje umelej inteligencie nominálne kontrolované, prakticky sa šíria a riadia sa rámcami navrhnutými pre pomalšie prostredie hrozieb.
K tomuto tlaku sa pridáva aj fakt, že spoločnosti vyvíjajúce tieto modely nie sú dobre pripravené brániť sa proti štátom, ktoré sú najviac motivované ich ukradnúť. Anthropic, OpenAI a ich konkurenti sú softvérové spoločnosti so silnou inžinierskou kultúrou a rastúcimi bezpečnostnými tímami. Nie sú to spravodajské agentúry. Tie isté národné štáty, ktorým sa za posledné dve desaťročia úspešne podarilo získať jadrové tajomstvá, duševné vlastníctvo dodávateľov obrany a utajované vládne spisy, majú teraz jediný a zrejmý cieľ. Model ako Mythos, keď je raz ukradnutý, nevyžaduje žiadnu výrobu, žiadny dodávateľský reťazec ani žiadne ďalšie náklady na vývoj. Okamžite sa kopíruje a funguje vo veľkom rozsahu od okamihu, keď sa dostane do rúk nepriateľa. Otázka, či tieto spoločnosti dokážu brániť svoje korunovačné klenoty pred trpezlivým a dobre zabezpečeným aktérom z radov národných štátov, je jednou z otázok, ktorú toto odvetvie presvedčivo nezodpovedalo.
Irán, Čína, Rusko a Severná Kórea prevádzkujú sofistikované útočné kybernetické programy. Udržiavajú si zásoby zbraní nulového dňa a preukázali ochotu a schopnosť vykonávať deštruktívne útoky na civilnú infraštruktúru, a to na základe viacerých verejných obvinení, správ o pripisovaní a analýz po incidentoch.
Mythos týmto aktérom neposkytuje niečo, čo im koncepčne chýbalo. Po získaní, či už krádežou alebo komerčným prístupom ku konkurentom Mythos, ktorí ich dobiehajú, im poskytuje rozsah, rýchlosť a nákladovú štruktúru, ktorá odstraňuje obmedzenia zdrojov, ktoré predtým obmedzovali ich operačné tempo.
Ciele, ktoré boli predtým považované za príliš malé alebo príliš neznáme na to, aby odôvodnili investíciu, sa stanú ekonomicky životaschopnými, keď ich objavenie a zbrane nestoja takmer nič. Vaši klienti zo stredne veľkého trhu, regionálny výrobca, sieť zdravotnej starostlivosti, finančná firma s 200 zamestnancami, historicky profitovali z istej formy zabezpečenia prostredníctvom neznáma. Nie preto, že by ich obrana bola silná, ale preto, že ich kompromitácia si vyžadovala úsilie, ktoré by sa dalo lepšie vynaložiť na ciele vyššej hodnoty. Tento kalkul sa mení, keď nástroje triedy Mythos zlacňujú kompromisy vo veľkom meradle.
Kritická infraštruktúra predstavuje najväčšie riziko. Elektrické siete, systémy na úpravu vody, nemocničné siete a finančné clearingové systémy používajú softvér mimo koalície Glasswing. Mnohé používajú starší kód, ktorý nebol auditovaný roky, na infraštruktúre, ktorá nikdy nebola navrhnutá s ohľadom na moderných aktérov hrozby. Protivník so schopnosťami triedy Mythos, ktorý nemá záujem o zodpovedné zverejňovanie informácií, si nemusí vybrať jeden vysokocenný cieľ. Všetko prehľadá, nájde všetko a neskôr stanoví priority.
Koncept vzájomne zaručeného zničenia fungoval ako jadrový odstrašujúci prostriedok, pretože obe strany chápali, že odveta je istá a symetrická. Kybernetický konflikt tieto vlastnosti nemá. Pripisovanie je ťažké. Prahové hodnoty odvety sú nejasné. Mnohé škodlivé útoky sú navrhnuté tak, aby zostali pod prahom ozbrojeného konfliktu.Ofenzívna umelá inteligencia triedy Mythos vytvára novú formu beztrestnosti pre aktérov ochotných konať pod hranicou odvety, ktorá opisuje väčšinu kybernetických operácií národných štátov vykonávaných dnes.
Niekoľko dlhodobých predpokladov v oblasti podnikovej bezpečnosti je teraz prevádzkovo nespoľahlivých a stojí za to ich priamo vymenovať.
Predpoklad, že perimetrická ochrana poskytuje zmysluplnú ochranu, bol spochybňovaný už roky a reakciou odvetvia bola architektúra nulovej dôvery. Novinkou je rýchlosť, akou sa budú odhaľovať a využívať zraniteľnosti perimetra. Nulová dôvera zostáva správnym rámcom. Naliehavosť jej plnej implementácie sa zvýšila.
Predpoklad, že rámce pre dodržiavanie predpisov sa približujú k primeranej úrovni zabezpečenia, bol vždy nedokonalý. Klient, ktorý v minulom štvrťroku dokončil audit SOC 2 a považuje sa za krytého, funguje na základe falošného pocitu istoty. Rámce pre dodržiavanie predpisov opisujú základnú líniu navrhnutú pre pomalšie a drahšie prostredie hrozieb.
Predpoklad, že malé a stredné organizácie sú cieľmi s nízkou prioritou, pretože kompromis si vyžaduje investície, je narušený. Rozsah a náklady už nechránia pred neistotou.
Predpoklad, že softvér od renomovaných dodávateľov je primerane bezpečný, pretože sa vyrába už roky a odolal odbornej kontrole, je vyvrátený. 27 rokov stará zraniteľnosť OpenBSD prežila desaťročia odborného auditu. Mythos ju objavil v priebehu niekoľkých hodín. Každý softvér, ktorý vaši klienti používajú, nesie rovnakú neistotu bez ohľadu na jeho reputáciu alebo vek.
Predpoklad, že správa záplat je rutinná operačná úloha a nie strategická priorita, je potrebné opustiť. Kadencia záplat je teraz rozhodnutím v oblasti riadenia rizík na poprednej línii.
STATUS QUO, KTORÝ UŽ NEEXISTUJE
Stojí za to jasne pomenovať, čo sa zmenilo, pretože bezpečnostný priemysel má tendenciu postupne absorbovať nové hrozby bez toho, aby sa zastavil a povedal: tento je iný.
Šesť vyššie uvedených odporúčaní je východiskovým bodom, nie cieľovou čiarou. Organizácie, ktoré prejdú týmto obdobím bezchybne, sú tie, ktorých bezpečnostný systém bol už vybudovaný na predpoklade, že k narušeniam dochádza, že rýchlosť detekcie je dôležitejšia ako dokonalosť prevencie, že siete a dáta sú od seba oddelené a že možnosti obnovy sú základnou obchodnou prioritou a aktívom.
Profesionáli, ktorí vnímajú bezpečnosť ako nepretržitú operačnú disciplínu a nie ako každoročné cvičenie v oblasti dodržiavania predpisov, nie sú imúnni voči tomu, čo Mythos predstavuje. Sú v lepšej pozícii, aby ho absorbovali, reagovali naň a rýchlejšie sa z neho zotavili, ako tí, ktorí to tak nerobia.
Varovania už nie sú abstraktné a narušenia už nie sú vzdialené. Džin je vonku z fľaše a Pandorina skrinka je otvorená. Čo sa minulý rok zdalo ako sci-fi, je dnes zdokumentovaným výsledkom testu. Ak vaši klienti ešte nefungujú podľa tejto reality, rozhovor, ktorý s nimi vediete tento štvrťrok, je najdôležitejší za posledné roky. Táto priepasť medzi pripravenými a nepripravenými je teraz jediná, na ktorej záleží. Vašou úlohou je ju preklenúť.
Objavte a zdieľajte najnovšie trendy, tipy a osvedčené postupy v oblasti kybernetickej bezpečnosti – spolu s novými hrozbami, na ktoré si treba dať pozor.
Praktický prehľad pre vCISO VAROVANIE, KTORÉ SME IGNOROVALI ALEBO NEDOKÁZALI POCHOPIŤ Roky najdôveryhodnejšie...
Čítaj viac
Sprievodca odhalením podvodov s vydávaním sa za vrcholového manažéra skôr, ako falošný generálny riaditeľ získa skutočný bankový prevod. Je to...
Čítaj viac
Umelá inteligencia (alebo AI) robí phishingové e-maily inteligentnejšími, malvér zákernejším a krádež prihlasovacích údajov jednoduchšou...
Čítaj viacZískajte bystrejší pohľad na ľudské riziká s pozitívnym prístupom, ktorý prekonáva tradičné phishingové testovanie.
