- Kaliforniyalı araştırmacılar, Anthropic'in Claude Mythos Preview'unu kullanarak bir haftadan kısa bir sürede Apple'ın M5 Bellek Bütünlüğü Uygulamasına karşı çalışan bir güvenlik açığı geliştirdiler.
- Bu saldırı, macOS çekirdeğinde bellek bozulmasına yol açmak ve kısıtlı sistem alanlarına erişim sağlamak için iki güvenlik açığını ve gelişmiş teknikleri bir araya getiriyor.
- Uzmanlar bunu, Apple'ın M5 çiplerinde kullandığı yeni donanım destekli MIE korumalarını başarıyla atlatan ilk kamuya açık güvenlik açığı olarak tanımlıyor.
- Bu dava, siber güvenliği hem güçlendirebilecek hem de zayıflatabilecek güçlü yapay zeka modellerine kontrollü erişim konusundaki tartışmaları alevlendiriyor.
Son günlerde, düşük profilli bir siber güvenlik deneyi, güvenlik camiasında büyük bir tartışma konusu haline geldi: Anthropic'in gelişmiş yapay zeka modelinin önizleme sürümü, Claude MythosApple'ın M5 çiplerindeki en yeni donanım savunmalarından birini kırmaya yardımcı olduğu için övgü alan bu olay, en son yapay zekanın hem kritik kusurları ortaya çıkarabileceğini hem de saldırganlar ve savunucular arasındaki dengeyi yeniden şekillendirebileceğini somut bir örnek olarak görülüyor.
Palo Alto merkezli girişim şirketi Calif'in araştırmacılarına göre, Mythos Önizleme modeli Ekip, Apple'ın M5 tabanlı Mac'lerdeki en yeni Bellek Bütünlüğü Uygulaması (MIE) korumasını tehlikeye atan çalışan bir güvenlik açığı oluşturmada çok önemli bir destekleyici rol oynadı. Saldırı hala derin insan uzmanlığı gerektirirken, yapay zekanın istismar edilebilir hataların keşfini büyük ölçüde hızlandırdığını ve bu tür sistemleri kimin ve hangi koşullar altında kullanmasına izin verilmesi gerektiği konusunda yeni sorular ortaya çıkardığını belirtiyor.
Claude Mythos, Apple'ın M5 koruma önlemlerini nasıl ihlal etmeye yardımcı oldu?
Hikayenin özü, Kaliforniya'nın teknoloji merkezi Palo Alto'da bulunan bir siber güvenlik firması olan Calif'in, Apple'ın güvenlik açıklarını ne kadar iyi tespit edebildiğini değerlendirmek üzere yola çıkması etrafında dönüyor. M5 çiplerinde yeni MIE mekanizması Modern saldırı tekniklerine karşı dayanıklı olabilirdi. Bu araştırma sürecinde ekip, kod yollarını analiz etmek, potansiyel zayıf noktaları belirlemek ve umut vadeden saldırı yüzeylerini önceliklendirmek için Anthropic'in Claude Mythos Preview adlı yapay zeka destekli yardımcı pilotunu kullandı.
Kaliforniyalı araştırmacılar, nihayetinde birleştirmeyi başardıklarını bildiriyorlar. Çeşitli özel siber saldırı teknikleri içeren iki farklı yazılım hatası. M5 donanımında çalışan macOS'ta çekirdek düzeyinde bellek bozulması elde etmek için. Bu bozulma, normalde erişilemez olan sistem bölümlerine ulaşmalarına ve Apple'ın en gelişmiş donanım destekli korumalarından bazılarını etkili bir şekilde atlamalarına olanak sağladı.
Bu vakayı öne çıkaran şey, ortaya çıkan güvenlik açığının, birçok raporda belirtildiği gibi, şu şekilde görünmesidir: macOS çekirdeği bellek bozulmasına yönelik ilk kamuoyuna açıklanan saldırı Apple'ın M5 çiplerindeki MIE korumalarını atlatan bir güvenlik açığı. Apple'ın yıllarca süren yatırımların ardından büyük bir ilerleme olarak lanse ettiği bir savunma mekanizması için, bu kadar kısa sürede kamuoyuna açık bir güvenlik açığının ortaya çıkması sektörün dikkatini çekti.
Wall Street Journal ve Mac odaklı yayın organları da dahil olmak üzere kaynaklar, bu güvenlik açığının egzotik donanım arızalarına veya fiziksel erişim hilelerine dayanmadığını vurguladı. Bunun yerine, bir kez tespit edildiğinde, etkilenen sistemlerdeki MIE'nin güvenlik önlemlerini etkisiz hale getirebilen tutarlı bir saldırı yoluna dönüştürülebilen mantıksal hataları zincirliyor.
Kaliforniya'nın kendisi projeyi, "ne olacağının bir testi" olarak tanımladı. Üst düzey yapay zeka araçları, deneyimli güvenlik açığı geliştiricileriyle bir araya getirilmiştir.Bu, tek tıkla otomatik bir hackleme senaryosundan ziyade, oldukça karmaşık bir süreçtir. Bununla birlikte, sonucun hızı ve gelişmişliği, sıkı bir şekilde kontrol edilmediği takdirde bu tür yeteneklerin ne kadar hızlı yayılabileceği konusunda endişelere yol açmıştır.
M5 çipinde Bellek Bütünlüğü Uygulaması nedir?
Apple tanıtıldı Bellek Bütünlüğü Uygulaması M5 çip serisi için amiral gemisi niteliğinde bir güvenlik özelliği olarak tasarlanan bu özellik, cihazları bellek bozulması saldırılarının tüm kategorilerine karşı güçlendirmeyi amaçlıyor. Fikir basit ama iddialı: Belleğin nasıl kullanıldığını izlemek ve kısıtlamak için özel donanım desteği kullanmak, saldırganların düşük seviyeli kod yürütmesini ele geçirmesini çok daha zorlaştırıyor.
Calif'in analizine göre, Apple, MIE'yi konsept aşamasından piyasaya sürülen ürüne dönüştürmek için yaklaşık beş yıl harcadı ve bu yatırımın milyarlarca dolara ulaşması muhtemel. Şirket, MIE'yi bir dönüm noktası olarak konumlandırdı. donanım destekli bellek güvenliğiBu işlem, önceki nesil iOS ve macOS cihazlarına karşı kullanılan uzun süredir devam eden güvenlik açıklarını ortadan kaldırmayı amaçlıyor.
Calif'in araştırmasından önce, MIE'nin pratikte oldukça başarılı olduğu bildiriliyordu. Girişim şirketi şu iddiada bulunuyor: kamuoyuna açık her türlü güvenlik açığı zinciri MIE, yakın zamanda sızdırılan Coruna ve Darksword paketleri gibi yüksek profilli saldırı kitleri de dahil olmak üzere, mevcut iOS sistemlerini hedef alan saldırıları sekteye uğratmıştı. Başka bir deyişle, MIE, klasik bellek bozulma modellerine dayanan saldırganlar için büyük bir engel olarak görülüyordu.
Bu bağlamda, MIE'nin M5 donanımındaki korumalarına rağmen çalışabilen, kamuya açık bir çekirdek bellek bozulması açığının ortaya çıkması, önemli bir teknik ve sembolik gelişme olarak değerlendirilmektedir. Bu, MIE'nin genel olarak başarısız olduğu anlamına gelmez, ancak şunu göstermektedir ki... Azimli araştırmacılar hâlâ uygulanabilir saldırı yolları bulabilirler.Özellikle Claude Mythos gibi güçlü analitik araçlarla desteklendiğinde.
Teknik detaylar gizli tutulmaya devam ediyor; Calif ve Anthropic, Apple sorunu tamamen çözene kadar beklediklerini vurgulayarak, güvenlik açığı zincirinin tam dokümantasyonunu henüz yayınlamadılar. Bununla birlikte, açıklamaları, MIE'nin çıtayı önemli ölçüde yükseltse de, kırılmaz bir kalkan olmadığını ve gelecekteki önlemlerin bunu varsayması gerekeceğini gösteriyor. Yapay zeka destekli güvenlik açığı tespiti Tehdit ortamının bir parçasıdır.
Bir zaman çizelgesi: hatanın keşfedilmesinden, bir haftadan kısa sürede çalışan bir istismara kadar.
Calif'in anlatımındaki en dikkat çekici unsurlardan biri, geliştirme hızıdır. Firma, ilk hata tespitinden güvenilir bir şekilde çalışan bir kavram kanıtına kadar tüm saldırının yedi günden kısa bir sürede tamamlandığını gösteren oldukça kesin bir zaman çizelgesi ortaya koymuştur; bu hız, deneyimli güvenlik uzmanlarını bile dikkate değer bulmaktadır.
Ekibin anlattığına göre, süreç şu şekilde başladı: araştırmacı Bruce Dang İlk önemli hataları 25 Nisan'da tespit etti. Birkaç gün içinde güvenlik uzmanı... Dion Blazakis 27 Nisan'da bu çalışmaya katılarak, gelişmekte olan saldırı stratejisini şekillendirmek ve MIE'nin ilk istismar girişimlerine nasıl yanıt verdiğini daha iyi anlamak için ek uzmanlık sağladı.
Kısa bir süre sonra mühendis Josh Maine, gerekli aletleri geliştirmeye odaklandı. İnsan araştırmacıların ve Mythos modelinin önerdiği istismar yollarını keşfetmek, test etmek ve iyileştirmek. Calif, ilk keşiften sadece birkaç gün sonra, 1 Mayıs itibariyle, hedef alınan M5 tabanlı sistemlerde MIE'yi atlatabilen tamamen işlevsel bir çekirdek istismarına sahip olduğunu söylüyor.
Araştırmacılar, bu hızlı dönüşümün yalnızca otomasyonun sonucu olmadığını vurguluyor. Bunun yerine, karşılıklı bir iş akışını tanımlıyorlar. Mythos Preview, umut vadeden güvenlik açığı modellerini ortaya çıkardı.Daha sonra insan uzmanlar tarafından doğrulanan, geliştirilen ve tutarlı bir güvenlik açığına dönüştürülen bu yapay zekâ tabanlı hipotezler ve uzman analizleri arasındaki sıkı döngü, aksi takdirde haftalar veya aylar sürebilecek bir süreci birkaç güne sıkıştırmış gibi görünüyor.
Calif, bu başarıyı, saldırı güvenliği alanında "makine zekası ve insan uzmanlığının bir araya geldiğinde neler olabileceğinin" erken ama çarpıcı bir göstergesi olarak nitelendirdi. Apple'ın en sağlam korumalarına karşı "bir hafta içinde" bir çekirdek açığı geliştirmeyi başarmaları, kendi ifadelerine göre, bu ikilinin güçlü bir güç haline gelme olasılığının bir işaretidir ve savunmacıların gelecekte bunu hesaba katmaları gerekecektir.
Claude Mythos'un rolü: güçlü, ancak tamamen özerk değil.
Bu öykünün merkezinde Anthropic'in şirketi yer alıyor. Claude Mythos ÖnizlemesiGelişmiş yazılım güvenlik açığı analizi ve istismar yetenekleri nedeniyle genel halka sunulmayan bir modeldir. Bunun yerine, erişim, Anthropic'in Project Glasswing girişimi kapsamında büyük teknoloji firmaları, finans kuruluşları ve onaylanmış araştırma kuruluşlarından oluşan kapalı bir grupla sınırlıdır.
Calif, yapay zeka sisteminin güvenlik açığının geliştirilmesinin her aşamasına anlamlı katkı sağladığını defalarca vurguladı. Girişim şirketine göre, Mythos yeni ortaya çıkan hataların ne zaman güvenlik açığına uyduğunu hızlı bir şekilde tanıma yeteneği gösterdi. iyi anlaşılan istismar sınıflarıve bu zayıflıkların nasıl birbirine bağlanabileceği veya manipüle edilebileceği konusunda önerilerde bulunmak. Bu örüntü tanıma gücü, ekibin manuel deneme yanılma yönteminin büyük bir bölümünü atlamasını sağladı.
Şirket, Mythos'u hem gücünü hem de genelliğini vurgulayan bir dille tanımladı: model belirli bir hedefe saldırmayı öğrendikten sonra... güvenlik sorunları kategorisiBu sayede, söz konusu bilgi çok çeşitli benzer hedeflere genelleştirilebilir. Bu, bir yazılımda işe yarayan aynı kavramsal tekniklerin, bazı ayarlamalarla, tamamen farklı sistemlere aktarılabileceği anlamına gelir.
Bununla birlikte, Kaliforniya'daki araştırmacılar şu hususun altını çizmekte özen gösteriyorlar: İnsan yargısı merkezi önemini korudu.M5 çiplerindeki MIE, nispeten yeni bir güvenlik önlemi katmanıdır ve aktif saldırı altındaki davranışının bazı kısımları, Apple içinde bile henüz tam olarak haritalandırılmamıştı. Sonuç olarak, bu korumaları atlatmanın veya aşmanın yollarını anlamak, deneyimli güvenlik açığı geliştiricilerinin yapay zeka önerilerini yorumlamasını, bunları gerçek donanıma karşı test etmesini ve çökmelerden, günlüklerden ve sistem davranışından gelen ince geri bildirimlere dayanarak yinelemeler yapmasını gerektiriyordu.
Ekip, Mythos'un "tek tuşla çalışan bir açık oluşturucu" olduğu fikrine karşı çıkmak için büyük çaba sarf etti. Bunun yerine, onu insan yeteneklerini artıran, özellikle de bir yerden bir yere hareket etmek için gereken süreyi kısaltan son derece yetenekli bir asistan olarak tanımlıyorlar. hata keşfinden pratik istismaraYine de, böyle bir aracın varlığı ve uzman ellerde bu kadar etkili olabilmesi, erişim kontrolleri ve sorumlu kullanım konusunda geniş kapsamlı bir tartışmayı körüklüyor.
Sektörün tepkisi ve Apple'ın yanıtı
Bu keşif, hem teknik karmaşıklığı hem de geliştirilme biçimi nedeniyle teknoloji dünyasının büyük ilgisini çekti. Medya kuruluşları arasında şunlar yer alıyor: Wall Street Journal Bu durum, yapay zekanın teorik bir endişe kaynağı olmaktan çıkıp üst düzey saldırıların somut bir aracı haline gelmesiyle, siber güvenlik yeteneklerinde dikkat çekici bir değişim olarak değerlendirildi.
Apple cephesinden yapılan açıklamalar ise temkinli kaldı. Wall Street Journal'ın aktardığı bir açıklamada, Apple temsilcisi şirketin standart söylemine geri döndü. Kullanıcı güvenliği en öncelikli konudur. ve bildirilen tüm güvenlik açıklarının titizlikle araştırıldığını belirtti. Bunun ötesinde, şirket Kaliforniya'daki özel güvenlik açığı veya bunun MIE'nin gelecekteki sürümlerini nasıl şekillendirebileceği konusunda ayrıntılı açıklamalarda bulunmadı.
Ancak Apple'ın bulguları ciddiye almaya başladığına dair ipuçları var. Gözlemciler her ikisine de yapılan atıflara dikkat çekti. Yayın notlarında Kaliforniya ve Antropolojik Araştırma yer almaktadır. Geçtiğimiz Pazartesi günü yayınlanan macOS Tahoe 26.5 güncellemesi için, bu durum en azından bazı güvenlik açığı giderme çalışmalarının devam ettiğinin bir işareti olarak yorumlandı; ancak ne Kaliforniya ne de Apple, güvenlik açığının hangi yönlerinin (eğer varsa) tamamen yamalandığını kesin olarak doğrulamadı.
Kaliforniya ise, Apple "nihayet saldırı vektörünü ortadan kaldırana kadar" teknik dokümanların tamamını yayınlamayacağını vurguladı. Firma bu nedenle şu kararı aldı: zaafı şahsen ifşa et Apple, standart hata bildirim kanallarına güvenmek yerine, Kaliforniya'daki genel merkezinde hata bildiriminde bulunmayı tercih etti. Bunun nedeni, özellikle Pwn2Own gibi etkinliklerde koordineli bildirimlerin kolayca kaotik hale gelebileceği göz önüne alındığında, büyük satıcıların aldığı rapor selinde kaybolmaktan kaçınmak istemeleriydi.
Bu nispeten doğrudan, yüz yüze açıklama yaklaşımı, tüm tarafların yalnızca Apple'ın en yeni çip mimarisini hedef almakla kalmayıp aynı zamanda yapay zekanın bu tür kusurları ortaya çıkarmadaki artan rolünü de gösteren bir güvenlik açığının hassasiyetini kabul ettiğini gösteriyor. Daha fazla ayrıntı ortaya çıkana kadar, geniş topluluğun büyük bir kısmı kısa kamuoyu açıklamalarının ve az sayıdaki teknik ipuçlarının satır aralarını okumak zorunda kalıyor.
Anthropic'in Claude Mythos'a erişimi neden kısıtladığı
Anthropic'in tutma kararı Claude Mythos, genel halkın elinden kurtarıldı. Bu olay, Kaliforniya-Apple olayından önce gerçekleşmiş olsa da, ihtiyatlı içgüdülerin doğruluğunu teyit eden bir gelişme olarak görülüyor. Şirket, iç testler ve dış değerlendirmeler sırasında Mythos'un, daha önce kamuoyuna açıklanan herhangi bir yapay zeka sisteminin ötesinde bir seviyede, yazılım güvenlik açıklarını otonom olarak tespit edebildiğini ve bazı senaryolarda bu açıklardan yararlanmaya yardımcı olabildiğini gözlemlediğini bildirdi.
Bu bulgular ışığında, Anthropic sıkı bir şekilde kontrol edilen bir dağıtım yöntemini tercih etti. Bazen şu şekilde anılan girişim kapsamında: Cam Kanat ProjesiMythos, yalnızca sıkı kullanım yönergeleri altında faaliyet göstermeyi kabul eden seçkin ortaklara (büyük teknoloji şirketleri, bankalar ve az sayıda araştırma kuruluşu) sunulmaktadır. Amaç, modelin güçlü yönlerinden savunma güvenliği ve araştırma için yararlanırken, fırsatçı saldırganlar tarafından kötüye kullanılma riskini azaltmaktır.
Bu strateji endişeleri tamamen gidermedi. Bazı sektör gözlemcileri, bu tür bir araca sınırlı erişimin bile, ayrıcalıklı erişime sahip kuruluşların hızla en son teknolojiyi geliştirebileceği bir "silahlanma yarışı" dinamiğini hızlandırabileceğini savunuyor. saldırgan yeteneklerBu durum, daha geniş ekosistemi potansiyel olarak istikrarsızlaştırabilir. Diğerleri ise, daha az vicdanlı aktörlerin yetişmesini beklemek yerine, yetenekli savunmacıların bu teknikleri şimdi keşfetmesinin ve anlamasının daha iyi olduğunu savunuyor.
Tartışmaya karmaşıklık katan bir diğer nokta ise, Mythos'un tamamen savunma amaçlı bağlamlarda bile etkileyici sonuçlar verdiği yönündeki raporlardır. Örneğin, Mozilla'nın modelin şu konularda etkili olduğunu gözlemlediği söyleniyor: Firefox'ta yüzlerce potansiyel güvenlik açığı Dahili testler sırasında, bir örnekte 271 sorun tespit edildi. Bu tür bulgular, Mythos'u güvenlik açığı geliştirme konusunda güçlü kılan özelliklerin, onu yazılım güvenliğini artırma konusunda da son derece güçlü bir müttefik haline getirdiğini göstermektedir.
Anthropic, Mythos'a daha geniş erişim için kamuoyuna açık bir zaman çizelgesi taahhüt etmedi ve M5 güvenlik açığı gibi olaylar, mevcut kısıtlamaların korunması veya hatta sıkılaştırılması yönündeki argümanları güçlendirebilir. Şimdilik, model, çift kullanımlı doğasının açıkça kabul edildiği, yüksek riskli güvenlik ortamlarının birkaçında kullanılan özel bir araç olmaya devam ediyor.
Siber güvenlikte yapay zeka: giderek büyüyen, iki ucu keskin bir kılıç
Kaliforniya'daki istismar davası, daha geniş kapsamlı tartışmada hızla bir referans noktası haline geldi. Yapay zekanın siber güvenlikteki rolüBir yandan, Mythos gibi araçların kodu hızla analiz etme, ince hata kalıplarını tespit etme ve saldırı veya savunma stratejileri önerme yeteneği, savunmacıların kusurları bulma ve yamalama hızını önemli ölçüde artırabilir. Öte yandan, aynı yetenekler, özellikle yüksek beceriye sahip ekipler tarafından kullanıldığında, karmaşık saldırıların geliştirme döngüsünü kısaltabilir.
Güvenlik uzmanları uzun zamandır, yapay zekâ sistemlerinin keşiften istismar geliştirmeye ve yatay hareketlere kadar saldırı iş akışının büyük bir bölümünü devralabileceği bir gelecekten endişe duyuyorlar. M5 olayı henüz tam otomasyonu temsil etmiyor, ancak gerçekleştiğinde nasıl görüneceğine dair bir fikir veriyor. Yapay zeka, ayrılmaz ve yüksek etkili bir bileşen haline geliyor. Sorumlu araştırmacıların elinde bile, gerçek dünya saldırı zincirinin potansiyelini ortaya çıkarabilir.
Alanında uzman birçok kişi, yapay zeka destekli saldırıların tehdit spektrumunun en üst seviyesinde giderek norm haline geleceğini öngörüyor. Suç örgütleri veya devlet destekli aktörler gibi iyi finanse edilen saldırganların, Mythos gibi modellere benzer kendi modellerini geliştirmeleri veya keşfetmeleri ve bunları kullanarak devasa kod tabanlarını tarayıp insanların tek başına bulmasının imkansız olduğu zayıf noktaları ortaya çıkarmaları muhtemeldir.
Aynı zamanda, savunmacılar bu olayı bir uyarı olarak görüyorlar. Eğer hücum bu dereceye kadar hızlanabiliyorsa, o zaman... yama uygulama süreçleri, kod inceleme uygulamaları ve güvenlik açığı yönetimi süreçleri Hızla ilerleyebilmek için yeniden tasarlanması gerekebilir. Bazı kuruluşlar, saldırıları önceden engellemek ve güvenlik açıklarını ilk önce keşfedip düzeltmek için benzer teknikler kullanmayı umarak, yapay zeka destekli denetim araçlarıyla zaten denemeler yapıyor.
Kaliforniya-Apple olayı, yapay zekanın artık soyut bir gelecek kaygısı olmaktan çıkıp güvenlik alanında aktif bir oyuncu haline geldiği, sürekli gelişen bir ortamın tam ortasına denk geliyor. Şirketlerin önümüzdeki yıllarda bu modelleri nasıl kullanacakları, kısıtlayacakları veya düzenleyecekleri, yalnızca bireysel olayları değil, dijital riskin genel seyrini de şekillendirecektir.
Özetle, Apple'ın M5 Bellek Bütünlüğü Uygulamasına karşı gerçekleştirilen saldırıda, merkezi rol oynayan unsur şudur: Claude Mythos ÖnizlemesiAnthropic'in modele erişimi ele alış biçimindeki kontrollü ancak tartışmalı yaklaşım, aynı yöne işaret ediyor: Gelişmiş yapay zeka, modern siber güvenliğin mekaniğiyle sıkı bir şekilde iç içe geçiyor. Bu özel örnek, en gelişmiş dil modellerinin deneyimli insan araştırmacılarla iş birliği yaptığında, donanım düzeyindeki ciddi kusurları şaşırtıcı derecede kısa sürelerde ortaya çıkarıp işlevsel hale getirebileceğini gösteriyor; bu, hem satıcıların hem de savunucuların yeni nesil korumaları tasarlarken hesaba katmaları gereken yeni bir gerçeklik.
