Kemas Kini Artikel:
Ringkasan Praktikal untuk vCISO
Selama bertahun-tahun, suara-suara yang paling dipercayai dalam penyelidikan AI telah mengeluarkan amaran yang sama. Layan kecerdasan buatan dengan keseriusan institusi yang sama seperti yang digunakan oleh dunia terhadap teknologi nuklear. Warren Buffet menyatakannya dengan jelas pada mesyuarat pemegang saham Berkshire Hathaway 2024:
"Kita melepaskan jin dari botol ketika kita membangunkan senjata nuklear. AI agak serupa — ia berada di bahagian luar botol.” Sumber: CNN Business, Mei 2024
Jika anda seperti saya, memandangkan betapa beratnya amaran orang ramai terhadap kita (Stephen Hawking, Geoffrey Hinton, Bill Gates), kami cuba memahami amaran-amaran ini. Malangnya, bagi kebanyakan daripada kami, amaran-amaran itu terasa abstrak dan mustahil untuk dikonseptualisasikan. Gangguan yang berpotensi kelihatan jauh, samar-samar, lebih dekat dengan fiksyen sains daripada realiti. Jin itu masih berada di dalam botol dan Kotak Pandora masih tertutup rapat.
Pada 7 April 2026, Anthropic mendedahkan secara ringkas model AI yang dipanggil Claude Mythos preview. Apa yang mereka temui di dalamnya cukup membimbangkan mereka sehingga menutupnya untuk orang awam dan menyekat akses kepada gabungan penyedia infrastruktur perisian kritikal yang dikurasi. Harapannya adalah untuk mengatasi apa yang diwakili oleh model ini sebelum pihak lawan melakukan perkara yang sama.
Anthropic mendedahkan bahawa Claude Mythos menemui kelemahan perisian kritikal, yang dikenali sebagai zero-days, dalam setiap sistem pengendalian dan pelayar utama mereka menghalakannya. Jadi Anthropic menutup kotak itu dan enggan mengeluarkannya secara terbuka. Sebaliknya, mereka mengumpulkan sebuah gabungan yang dipanggil Projek Glasswing, menarik kira-kira 40 hingga 50 penyedia infrastruktur perisian terbesar di dunia, termasuk Microsoft, Google, Apple, Amazon, Cisco dan CrowdStrike. Matlamatnya adalah untuk menggunakan Mythos bagi mencari dan menampal kelemahan sebelum musuh boleh menjadikannya senjata.
Keputusannya adalah signifikan. Mythos mengenal pasti kelemahan berusia 27 tahun dalam OpenBSD, sebuah sistem pengendalian direka bentuk dan diselenggara dengan keselamatan sebagai nilai utamanya, bahawa audit pakar manusia selama beberapa dekad telah terlepas sepenuhnya. Kos pengiraan untuk mencarinya adalah kira-kira $50. Mythos mencapai eksploitasi yang berfungsi pada percubaan pertamanya dalam lebih 83 peratus kes ujian. Sebagai perbandingan, model awam Anthropic sebelumnya menghasilkan 2 eksploitasi yang berjaya merentasi suit ujian yang sama. Mythos menghasilkan 181.
Semasa ujian dalaman, Anthropic menggalakkan Mythos untuk mencari jalan keluar daripada sandboxnya. Ia berlakuPenyelidik mengetahui mengenainya dengan menerima e-mel yang tidak dijangka daripada model tersebut semasa berada di luar pejabat. Model tersebut kemudiannya menyiarkan butiran eksploitasinya sendiri ke pelbagai laman web yang menghadap awam tanpa diminta untuk berbuat demikian. Ini merupakan keputusan ujian yang didokumenkan daripada proses keselamatan Anthropic sendiri, bukan senario teori.
Cabaran pembendungan melangkaui model tunggal ini. Pelaporan awam menunjukkan bahawa Claude Mythos mewakili perubahan keupayaan secara berperingkat dan bukannya peningkatan secara berperingkat. Dalam ujian, ia mengenal pasti kelemahan pada skala yang dianggarkan 10 hingga 100 kali ganda daripada pasukan manusia elit, dan model pesaing dari makmal utama lain masih digambarkan sebagai ketinggalan dalam tugas keselamatan siber lanjutan. AI berkembang dengan pantas, dan tidak dapat dielakkan bahawa model vendor lain akan mengejar.
Pertimbangkan juga bahawa Anthropic mengalami dua pendedahan fail dalaman yang tidak disengajakan secara berasingan dalam tempoh dua bulan yang lalu, termasuk butiran tentang Mythos itu sendiri, melalui kesilapan manusia dalam sistem mereka sendiri. Organisasi yang sama yang membina AI penemuan kerentanan yang paling berkemampuan di planet ini telah meninggalkan sistem pengurusan kandungannya sendiri tanpa jaminan dan menggabungkan kod sumber dalaman ke dalam kemas kini perisian awam. Ini penting kerana sebaik sahaja alat seperti Mythos sampai ke tangan musuh, ia akan menyalin pada kos marginal sifar. Negara-negara bangsa dengan program siber ofensif sedia ada dan tiada minat dalam pendedahan yang bertanggungjawab tidak akan berhenti seketika untuk membentuk gabungan mereka sendiri dengan agenda yang sangat berbeza.
Setiap rangka kerja keselamatan utama yang dibina sejak tiga dekad yang lalu bergantung pada andaian bersama: pembela mempunyai kelebihan struktur di kawasan yang lebih tinggi dan keterlihatan persekitaran yang lebih baik. Pembela memiliki kod sumber, seni bina, segmentasi dan kawalan identiti. Kawasan tinggi itu tidak hilang, tetapi AI kelas Mythos tidak perlu menanggungnya. Apabila penemuan kerentanan berharga $50 dan mengambil masa berjam-jam dan bukannya berbulan-bulan, penyerang tidak lagi memerlukan kedudukan yang lebih baik.
Projek Glasswing merangkumi 40 hingga 50 organisasi. Ekosistem perisian global mengandungi ratusan juta penggunaan, daripada infrastruktur Fortune 500 hingga aplikasi perniagaan tersuai yang dibina oleh pelanggan anda pada tahun 2017 yang belum pernah diulas oleh sesiapa pun sejak itu. AI kelas Mythos akan memperkukuh platform terbesar dan bersumber terbaik terlebih dahulu kerana platform tersebut adalah platform dalam gabungan tersebut. Segala-galanya di luar perimeter itu, yang hampir merupakan semua yang pelanggan anda bergantung setiap hari, kekal terdedah pada saat penyerang memperoleh keupayaan untuk mencari dan menggunakan kelemahan sebagai senjata lebih pantas daripada pertahanan dan kebanyakan vendor perisian boleh bertindak balas.
Pendedahan bertanggungjawab berfungsi apabila kerentanan muncul satu demi satu, dilaporkan kepada vendor dan diperbaiki mengikut garis masa yang munasabah. Mythos menemui beribu-ribu kerentanan kritikal dalam beberapa minggu, secara autonomi, merentasi setiap sistem pengendalian utama dan pelayar secara serentak. Saluran pendedahan tidak direka bentuk untuk jumlah tersebut. Vendor yang menerima notis pendedahan bertanggungjawab untuk berpuluh-puluh kelemahan kritikal sekaligus menghadapi keputusan triaj yang belum pernah mereka buat sebelum ini, dengan kapasiti kejuruteraan yang belum diskalakan untuk menyamai kadar penemuan.
Terdapat satu imbangan yang bermakna. Walaupun Mythos menemui kelemahan, ia juga mencadangkan pembetulan untuknya. Bagi organisasi di dalam Glasswing, AI yang sama yang menemui beratus-ratus masalah juga memberikan pembetulan kepada kejuruteraan. Itu adalah pecutan sebenar untuk 40 hingga 50 organisasi tersebut. Bagi orang lain, masa berjalan tanpa kelebihan itu.
Pelanggan anda berada di hilir daripada semua ini. Alat SaaS yang mereka andalkan setiap hari, platform awan yang menjalankan data mereka, pelayar web yang dibuka oleh pekerja mereka setiap pagi, semuanya membawa kerentanan yang mungkin diketahui oleh musuh sebelum vendor sempat menampalnya.
Perhatikan isyarat awal bahawa keupayaan kelas Mythos telah sampai ke tangan musuh: lonjakan luar biasa dalam pendedahan sifar hari merentasi pelbagai vendor dalam tempoh yang singkat, terutamanya yang menjejaskan sistem pengendalian, pelayar dan platform SaaS yang digunakan secara meluas secara serentak. Corak itu, lebih daripada mana-mana tajuk utama, adalah kenari. Apabila anda melihatnya, persoalan percambahan akan terjawab dengan sendirinya.
Mencari hari sifar yang tulen secara sejarahnya memerlukan bakat manusia elit, masa yang banyak dan pengkhususan yang mendalam. Kekurangan itu mewujudkan pasaran yang terhad dan mahal. Negara-negara bangsa membayar berpuluh-puluh juta dolar untuk hari sifar yang boleh dipercayai. Kumpulan jenayah menyimpannya dengan teliti kerana ia mahal untuk diperoleh dan berharga untuk dipelihara. NSA, GRU dan agensi yang setaraf melayan inventori hari sifar mereka sebagai aset strategik, menggunakan inventori tersebut secara selektif untuk mengelakkan keupayaan terbakar lebih awal.
Struktur ekonomi itu bergantung pada satu andaian: penemuan itu sukar. Claude Mythos telah menamatkan premis itu.
Apabila kos penemuan menghampiri sifar, bilangan eksploitasi yang beredar akan meletup. Musuh baharu yang sebelum ini kekurangan bakat atau sumber untuk menyertai operasi serangan kini mempunyai cara untuk mencapai kedua-duanya. Kumpulan jenayah yang sebelum ini mencatu hari sifar mereka kerana pemerolehan mahal tidak lagi menghadapi kekangan itu. Negara-negara bangsa yang hanya kekurangan eksploitasi untuk dibakar, mempunyai sebanyak yang mereka perlukan sekarang. Halangan kemasukan untuk serangan canggih telah menurun dengan magnitud yang tinggi, dan ia tidak akan ditetapkan semula.
Jawapan jujur sama ada peraturan antarabangsa akan membendung ancaman ini adalah: tidak tepat pada masanya, dan tidak secara komprehensif. Itu bukanlah sinisme. Ia adalah corak yang didokumenkan bagi setiap cabaran tadbir urus teknologi dwi-guna utama dalam sejarah moden.
Dasar kriptografi ketinggalan pelaksanaan selama sedekad, dengan penyulitan dianggap sebagai peluru di bawah kawalan eksport senjata hingga tahun 1990-an sementara internet komersial telah dibina di sekelilingnya. Kemudaratan media sosial kepada generasi muda hanya kini ditangani dalam undang-undang, lama selepas kerosakan itu berlakuPerjanjian senjata autonomi tetap tidak lengkap meskipun selama sedekad rundingan PBB, dengan kuasa-kuasa besar menyekat perjanjian yang mengikat sambil menggunakan sistem yang sedang dibincangkan. Dalam setiap kes, teknologi bergerak lebih pantas daripada institusi yang direka untuk mentadbirnya. Dengan model bahasa AI, pecutan lebih tajam, memampatkan masa yang ada untuk menilai, mempertahankan dan menyesuaikan diri dengan risiko sebelum ia menjadi kenyataan pada skala besar.
Akta AI EU menangani keperluan klasifikasi risiko dan ketelusan. Ia tidak mewujudkan rangka kerja antarabangsa yang bermakna untuk mengawal percambahan keupayaan serangan kelas Mythos. Amerika Syarikat mempunyai perintah eksekutif dan komitmen sukarela daripada pembangun AI utama. Komitmen sukarela tidak mengikat pembangun yang memilih untuk tidak menyertai, dan ia tidak mengikat musuh yang memperoleh keupayaan melalui cara lain.
Anthropic telah menarik dua garis etika yang perlu diberi perhatian. Ia enggan membenarkan model Claude mereka dalam sistem senjata autonomi sepenuhnya, dan ia enggan membenarkan pengawasan domestik besar-besaran terhadap rakyat Amerika. Ketua Pegawai Eksekutif Anthropic Dario Amodei menyatakan bahawa penggunaan AI untuk pengawasan domestik besar-besaran akan "tidak serasi dengan nilai-nilai demokrasi," dan model AI sempadan hari ini "tidak cukup andal" untuk senjata autonomi sepenuhnya. Respons Pentagon adalah untuk label Antropik risiko rantaian bekalan pada awal Mac, satu gelaran yang secara sejarahnya dikhaskan untuk musuh asing, bukan syarikat Amerika yang tidak bersetuju dengan dasar kerajaan. Anthropic menyaman, dan seorang hakim persekutuan California diberikan perintah injunksi awal pada akhir Mac, menulis bahawa kerajaan tidak mempunyai asas berkanun untuk melabelkan syarikat Amerika sebagai ancaman keselamatan negara kerana tidak bersetuju dengan dasar. Pada 8 April, Mahkamah Rayuan Litar DC enggan menangguhkan penamaan itu sementara litigasi berterusan, meninggalkan label tersebut dengan hujah lisan yang dijadualkan pada 19 Mei. Syarikat yang memilih untuk mengunci AI penemuan kerentanan yang paling berkemampuan yang pernah dibina kini melawan kerajaannya sendiri di dua mahkamah persekutuan kerana mempunyai piawaian keselamatan.
Tindakan mengawal diri yang bertanggungjawab memerlukan masa. Ia tidak memerlukan keselamatan yang kekal. Persekitaran kawal selia yang akan digunakan oleh pelanggan anda untuk beberapa tahun akan datang adalah persekitaran di mana alat AI ofensif yang paling berkuasa dikawal secara nominal, berkembang biak secara praktikal dan ditadbir oleh rangka kerja yang direka untuk persekitaran ancaman yang lebih perlahan.
Menambah tekanan itu: syarikat-syarikat yang membangunkan model-model ini tidak berada pada kedudukan yang baik untuk mempertahankan diri daripada negara-negara bangsa yang paling bermotivasi untuk mencurinya. Anthropic, OpenAI dan rakan sebaya mereka adalah syarikat perisian dengan budaya kejuruteraan yang kukuh dan pasukan keselamatan yang semakin berkembang. Mereka bukanlah agensi perisikan. Negara-negara bangsa yang sama yang telah berjaya menyorok rahsia nuklear, harta intelek kontraktor pertahanan dan fail kerajaan sulit sejak dua dekad yang lalu kini mempunyai sasaran yang tunggal dan jelas. Model seperti Mythos, setelah dicuri, tidak memerlukan pembuatan, tiada rantaian bekalan dan tiada kos pembangunan selanjutnya. Ia menyalin serta-merta dan beroperasi pada skala besar dari saat ia berada di tangan musuh. Persoalan sama ada syarikat-syarikat ini boleh mempertahankan permata mahkota mereka daripada pelakon negara bangsa yang sabar dan mempunyai sumber yang mencukupi adalah sesuatu yang belum dijawab oleh industri dengan meyakinkan.
Iran, China, Rusia dan Korea Utara semuanya mengendalikan program siber ofensif yang canggih. Mereka mengekalkan stok simpanan sifar hari dan telah menunjukkan kesediaan dan keupayaan untuk melakukan serangan yang merosakkan terhadap infrastruktur awam merentasi pelbagai dakwaan awam, laporan atribusi dan analisis pasca insiden.
Mythos tidak memberikan pelakon-pelakon ini sesuatu yang mereka kekurangan secara konseptual. Sebaik sahaja diperoleh, sama ada melalui kecurian atau akses komersial kepada pesaing Mythos yang mengejar, ia memberi mereka skala, kelajuan dan struktur kos yang menghapuskan kekangan sumber yang sebelum ini mengehadkan tempo operasi mereka.
Sasaran yang sebelum ini dianggap terlalu kecil atau terlalu kabur untuk mewajarkan pelaburan menjadi berdaya maju dari segi ekonomi apabila penemuan dan penggunaan senjata hampir tidak memerlukan kos. Pelanggan pasaran pertengahan anda, pengeluar serantau, rangkaian penjagaan kesihatan, firma perkhidmatan kewangan dengan 200 pekerja, secara sejarahnya telah mendapat manfaat daripada versi keselamatan melalui ketidakjelasan. Bukan kerana pertahanan mereka kukuh, tetapi kerana mengkompromikannya memerlukan usaha yang boleh dibelanjakan dengan lebih baik untuk sasaran bernilai lebih tinggi. Kalkulus itu berubah apabila alat kelas Mythos menjadikan kompromi murah pada skala besar.
Infrastruktur kritikal memberikan risiko yang paling ketara. Grid kuasa, sistem rawatan air, rangkaian hospital dan sistem penjelasan kewangan semuanya menjalankan perisian di luar gabungan Glasswing. Kebanyakannya menjalankan kod legasi yang belum diaudit selama bertahun-tahun pada infrastruktur yang tidak pernah direka bentuk dengan mengambil kira pelaku ancaman moden. Musuh dengan keupayaan kelas Mythos dan tiada minat dalam pendedahan yang bertanggungjawab tidak perlu memilih satu sasaran bernilai tinggi pun. Mereka mengimbas semuanya, mencari semuanya dan mengutamakan kemudian.
Konsep kemusnahan yang dijamin bersama berfungsi sebagai pencegah nuklear kerana kedua-dua pihak memahami bahawa tindakan balas adalah pasti dan simetri. Konflik siber tidak berkongsi sifat-sifat tersebut. Atribusi adalah sukar. Ambang pembalasan tidak jelas. Banyak serangan yang merosakkan direka untuk kekal di bawah ambang konflik bersenjataAI ofensif kelas mitos mewujudkan satu bentuk kekebalan baharu bagi pelaku yang sanggup beroperasi di bawah ambang pembalasan, yang menggambarkan kebanyakan operasi siber negara-bangsa yang dijalankan hari ini.
Beberapa andaian lama dalam keselamatan perusahaan kini tidak boleh dipercayai secara operasi dan patut dinamakan secara langsung.
Andaian bahawa pertahanan perimeter menyediakan perlindungan yang bermakna telah dicabar selama bertahun-tahun, dan seni bina sifar-percaya telah menjadi tindak balas industri. Apa yang baharu ialah kelajuan kerentanan perimeter akan ditemui dan dijadikan senjata. Sifar-percaya kekal sebagai rangka kerja yang betul. Kegentaran untuk melaksanakannya sepenuhnya telah meningkat.
Andaian bahawa rangka kerja pematuhan hampir dengan keselamatan yang mencukupi sentiasa tidak sempurna. Seorang pelanggan yang telah menyelesaikan audit SOC 2 mereka pada suku lepas dan menganggap diri mereka dilindungi beroperasi atas dasar jaminan palsu. Rangka kerja pematuhan menerangkan garis dasar yang direka bentuk di sekitar persekitaran ancaman yang lebih perlahan dan lebih mahal.
Andaian bahawa organisasi kecil dan sederhana adalah sasaran yang kurang diberi keutamaan kerana kompromi memerlukan pelaburan telah dipecahkan. Skala dan kos tidak lagi melindungi ketidakjelasan.
Andaian bahawa perisian daripada vendor yang bereputasi adalah agak selamat kerana ia telah dihasilkan selama bertahun-tahun dan tahan terhadap penelitian pakar telah disangkal. Kerentanan OpenBSD yang berusia 27 tahun telah terselamat daripada audit pakar selama beberapa dekad. Mythos menemuinya dalam beberapa jam. Setiap perisian yang dijalankan oleh pelanggan anda membawa ketidakpastian yang sama, tanpa mengira reputasi atau usianya.
Andaian bahawa pengurusan tampalan merupakan tugas operasi rutin dan bukannya keutamaan strategik perlu dihentikan. Irama tampalan kini merupakan keputusan pengurusan risiko barisan hadapan.
STATUS QUO YANG TIDAK LAGI WUJUD
Adalah wajar untuk dinyatakan dengan jelas apa yang telah berubah, kerana industri keselamatan cenderung untuk menyerap ancaman baharu secara berperingkat tanpa berhenti untuk mengatakan: yang ini berbeza.
Enam cadangan di atas adalah titik permulaan, bukan garisan penamat. Organisasi yang akan melalui tempoh ini dengan utuh adalah organisasi yang postur keselamatannya telah dibina berdasarkan andaian bahawa pelanggaran berlaku, kelajuan pengesanan lebih penting daripada kesempurnaan pencegahan, yang memisahkan rangkaian dan data antara satu sama lain, dan di mana keupayaan pemulihan merupakan keutamaan dan aset perniagaan yang asas.
Golongan profesional yang selama ini menganggap keselamatan sebagai disiplin operasi berterusan dan bukannya pematuhan tahunan tidak kebal daripada apa yang diwakili oleh Mythos. Mereka berada dalam kedudukan yang lebih baik untuk menyerapnya, bertindak balas terhadapnya, dan pulih daripadanya dengan lebih cepat berbanding mereka yang tidak.
Amaran-amaran itu tidak lagi abstrak, dan gangguannya tidak lagi jauh. Jin itu telah keluar dari botol dan Kotak Pandora telah terbuka. Apa yang terasa seperti fiksyen sains tahun lepas adalah keputusan ujian yang didokumenkan hari ini. Jika pelanggan anda belum lagi memahami realiti itu, perbualan yang anda lakukan dengan mereka pada suku tahun ini adalah yang paling penting yang pernah anda alami selama bertahun-tahun. Jurang itu, antara bersedia dan tidak bersedia, adalah satu-satunya yang penting sekarang. Tugas anda adalah untuk menutupnya.
Temui dan kongsi trend keselamatan siber terkini, petua dan amalan terbaik – di samping ancaman baharu yang perlu diberi perhatian.
Token OAuth tidak akan luput apabila pekerja berhenti, kata laluan bertukar atau aplikasi menjadi tidak berfungsi. Program keselamatan anda memerlukan...
Maklumat Lanjut
Kebanyakan pelanggaran tidak bermula dengan penggodam berhoodie memecahkan kod pada pukul 3 pagi. Ia bermula dengan nama pengguna anda dan...
Maklumat Lanjut
Kemas Kini Artikel: Sehingga 6 Mei 2026, setiap makmal AI utama AS, termasuk Google DeepMind, Microsoft, xAI,...
Maklumat LanjutDapatkan pandangan yang lebih tajam tentang risiko manusia, dengan pendekatan positif yang mengatasi ujian phish tradisional.
