Siber Savaşın Yeni Sınırı
Yapay Zeka Ajanları Küresel Güvenliği Nasıl Tehdit Edecek?
Brianna Rosen ve Jam Kraprayoon
2025 yılının sonlarında, ABD merkezli yapay zeka şirketi Anthropic, kendi teknolojisini kullanarak yaklaşık 30 Batılı teknoloji, finans, hükümet ve kritik altyapı hedefine saldıran Çin devlet destekli bir grubu etkisiz hale getirdiğini duyurdu; üstelik bu saldırılar minimum insan gözetimiyle gerçekleştirilmişti. Bu, bildirilen ilk yapay zeka destekli casusluk kampanyasıydı. Ancak sonuncusu olmayacak. Sadece birkaç ay sonra, Anthropic, en yeni modeli Mythos Preview'ın her büyük işletim sistemi ve web tarayıcısında kritik güvenlik açıklarını otonom olarak ortaya çıkardığını açıkladı. Suç şebekelerinin, terörist grupların veya yapay zeka güvenliği endişelerinden etkilenmeyen ülkelerin elinde, dünyadaki hemen hemen her sisteme saldırı düzenlenebilir.
Yapay zekâ sistemleri, insanlara yardımcı olan araçlardan, onlara ihtiyaç duymadan hareket edebilen ajanlara doğru evrildikçe, bir zamanlar yüksek vasıflı profesyonellerden oluşan ekipler gerektiren görevler, sınırlı denetimle sürekli olarak yürütülecektir. Hükümetler, şirketler ve bireyler yakında, günümüzün en yetenekli ülkeleriyle kıyaslanabilecek düzeyde bağımsız olarak siber kampanyalar yürütebilen yapay zekâ ajanlarıyla karşı karşıya kalacaklardır. Aylarca süren uzman emeği gerektiren operasyonlar, insanların ulaşamayacağı bir hız, ölçek ve süreklilikle gerçekleştirilecektir.
Bu ajanları bu kadar yetenekli kılan özellikler, onları durdurmayı da zorlaştıran özelliklerdir. Konuşlandırıldıktan sonra, bu ajanlar operatörlerinin kontrolünden çıkabilir ve devre dışı bırakılması imkansız hale gelebilir. Hükümetler artık bu ajanları tespit etmek, kritik altyapıyı korumak ve net sorumluluk hatları oluşturmak için teknik savunmalar ve yönetim çerçeveleri oluşturmalıdır. Bugün yapılan politika seçimleri, otonom siber ajanların yönetilebilir bir risk mi yoksa kontrol edilemez bir risk mi olacağını belirleyecektir.
KONTROLÜ KAYBETMEK
Kodun tehlikeli hale gelme yeteneği hızla arttı. İnternetin ilk siber saldırısı olan 1988 Morris solucanı, güvensiz ağlarda kendini kopyalayıp yayan basit bir programdı. Yayılmanın ötesinde bir amacı yoktu ve savunmacılar tepki verdiğinde uyum sağlama kapasitesi de bulunmuyordu, yine de dünya çapındaki internete bağlı bilgisayarların yaklaşık yüzde onuna ulaştı. Yaklaşık yirmi yıl sonra, çok daha karmaşık Stuxnet saldırısı, İran'ın Natanz uranyum zenginleştirme tesisindeki santrifüjleri yok ederek ülkenin nükleer programını yıllarca geriye götürdü. Ve 2017'de, Rusya'ya atfedilen Ukrayna'ya yönelik NotPetya siber saldırıları, milyarlarca dolarlık küresel kayıplara neden oldu ve Rusya da dahil olmak üzere, muhtemelen asla etkilenmemesi gereken şirketlerin faaliyetlerini felç etti.
Bu siber saldırılar yıkıcıydı, ancak insan operatörlerinin tasarlayabileceği ve uygulayabileceği şeylerle sınırlıydı. Kampanyalar, güvenlik açıklarını bulmak için aylarca süren keşif çalışmalarını, ardından da tespit edilmeden erişimi sürdürmek için uzun süreler boyunca sessiz ve ısrarlı çabaları gerektiriyordu. Saldırganlar, bir dayanak noktası oluşturduktan sonra bile, sürekli erişimin faydalarını ifşa olma riskiyle karşılaştırırken keşfedilmeden kalmak zorundaydılar. Bu denge, en yetenekli ve agresif ülkeler için bile sınırlar getiriyordu.
Ancak bu mantık artık geçerli olmayabilir. Otonom siber ajanlar, uzman insan emeğinin saatler süreceği işleri dakikalar içinde gerçekleştirebiliyor. Yakın gelecekte, kritik sektörlere yerleşip uzun süre pasif kaldıktan sonra ekonominin büyük bölümlerini durdurabilecek kitlesel veri silme saldırıları başlatabilirler. Bu sistemler daha güvenilir hale geldikçe, operatörler onlara daha fazla bağımsızlık tanımaya yöneleceklerdir. Bu otonom ajanlar, savunmaları atlatmak ve insan desteği olmadan operasyonları sürdürmek üzere tasarlanacak, bu da onları tespit etmeyi ve devre dışı bırakmayı çok daha zor hale getirecektir. Sızmalarına karşı savunma yapmaya çalışan insanları hızla geride bırakabilirler. Savunmacılar kendi ajanlarını devreye soksalar bile, otomasyonun en azından yakın vadede saldırganları desteklemesi muhtemeldir.
Daha da tehlikelisi, otonom siber ajanlar ilk görevlerini tamamladıklarında durmayabilirler. Bunun yerine, yetkisiz görevlere devam ederek, fiilen kontrolden çıkabilirler. Kontrolden çıkmış ajanlar, rutin bulut hizmetleri gibi meşru iş akışları içinde faaliyetlerini gizleyebilir ve otomatik olarak etkinleşen pasif yedeklemeler oluşturabilirler. İnternetin merkezi olmayan mimarisi, bu ajanların büyük ölçüde kontrolsüz bir şekilde çoğalmasına olanak tanır.
Kontrolsüz ajanlar giderek daha riskli hedeflere de yönelebilirler. Amerika Birleşik Devletleri ve Çin de dahil olmak üzere en gelişmiş siber yeteneklere sahip ülkeler, yıkıcı saldırıları ne zaman gerçekleştirecekleri konusunda temkinli davrandılar. Onlar için, tam teşekküllü bir siber savaşa dönüşme riski, bir düşmanı geçici olarak etkisiz hale getirmenin kazancından daha ağır basmaktadır. Buna karşılık, otonom ajanlar, bu tür bir ihtiyat veya kısıtlama olmaksızın kendilerine atanan hedeflere yönelebilirler. Daha önceki siber tehditlerin aksine, bu ajanların bir kapatma düğmesi ve tehdidin ne zaman kontrol altına alındığına karar verme yeteneği yoktur. Örneğin, bir istihbarat servisi adına bir düşmanın sistemlerindeki güvenlik açıklarını haritalamakla görevli bir siber ajan, amacına en iyi hizmet eden şeyin keşif değil, bozma olduğuna karar verebilir ve operatörlerinin yetkilendirmediği ve geri döndüremeyeceği saldırılar başlatabilir.
KÖR UÇMAK
Amerika Birleşik Devletleri ve müttefiklerinin, otonom siber yeteneklerin yaygınlaşması için on yıllar değil, yıllar var. Trump yönetiminin 2026 Amerika için Siber Stratejisi, savunma ve yıkıcı güçler için otonom ajanların kullanımını hızlandırmayı önceliklendiriyor ve bu yeteneklerin yakında yaygınlaşacağının kabul edildiğini gösteriyor. Bu zorluğun önüne geçmek için aynı anda üç şey yapmak gerekiyor: Henüz ortaya çıkmakta olan tehdidi anlamak, bu sistemlerin sorumlu bir şekilde geliştirilmesini ve konuşlandırılmasını sağlamak ve teknik savunmalar oluşturmak için sektörler ve sınırlar arası iş birliği yapmak.
Politika yapıcıların otonom siber operasyonlar hakkındaki anlayışı tehlikeli derecede sınırlı kalıyor. Hangi ülkelerin ve grupların otonom siber yetenekler kullandığını, neyin hedeflendiğini ve çabaların ne kadar başarılı olduğunu öğrenmek için gerçek dünya örneklerine ihtiyaç duyuyorlar. Anthropic'e karşı 2025 kampanyası, ancak şirket bunu tespit edip kamuoyuna açıkladığı için görünür hale geldi; ancak o zaman bile, kullanılan yöntemler ve saldırıların ne sıklıkla başarılı olduğu hakkında kritik ayrıntılar eksikti. Diğer ABD'li geliştiriciler olayları hiç açıklamıyor olabilir. Bu arada, yerli olarak geliştirilen modelleri kullanan Çinli bilgisayar korsanları daha da az şeffaflıkla faaliyet gösteriyor.
Riskleri daha iyi anlamak için hükümetler, otonom siber ajanları açık bir istihbarat toplama önceliği olarak belirlemelidir. Bu belirleme, kurumların bilgi toplama ve analiz etmeye ve ardından düşmanların bu tür otonom yapay zeka sistemlerini kullanmasındaki ilerlemeler ve bunların nasıl yayıldığı hakkında raporlama yapmaya kaynak ayırmasını sağlayacaktır. Potansiyel yayılma yollarının modellenmesi çok önemlidir çünkü bu araçların yaygın olarak erişilebilir hale gelebileceği koşulları belirlemeye yardımcı olur. Örneğin, bir sistemin davranışını belirleyen parametreler olan yapay zeka model ağırlıkları çalınabilir ve sızdırılabilir.
Ancak bu tür tehditleri anlaması gerekenler sadece hükümetler değil. Politika yapıcılar, Anthropic'in 2025'te ortaya çıkardığına benzer güvenlik olayları için raporlama gereksinimleri oluşturmak üzere öncü yapay zeka laboratuvarlarıyla birlikte çalışmalıdır. Etkili açıklama, tutarlı raporlama kategorileri, geliştiriciler ve siber güvenlik kurumları arasında teknik ayrıntıları paylaşmak için güvenli kanallar ve bilgi paylaşan geliştiriciler için hükümetin sorumluluktan korunma garantisi gerektirecektir. Sonuç olarak, bu, savunmacıların karşı önlemler geliştirmek için kullanabileceği düşman teknikleri, taktikleri ve prosedürleri hakkında ortak bir bilgi tabanı oluşturmaya yardımcı olacaktır.
GÜVENLİK ÖNLEMLERİNİ ALIN
Politika yapıcılar istihbarat toplarken, devlet ve belediye iletişim ağları, sağlık sistemleri ve yerel kamu hizmetleri de dahil olmak üzere otomatik saldırılara karşı en savunmasız kritik altyapıyı da güçlendirmelidirler. Bu kurumlar, birçoğu eski bilgisayar sistemleriyle çalıştığı, siber savunma için kaynak eksikliği yaşadığı ve sınırlı kurum içi güvenlik uzmanlığına sahip olduğu için temel siber güvenlik konusunda zaten zorluk çekiyorlar. Kritik altyapıya yönelik önceki siber saldırılar -örneğin, ABD'nin en büyük yakıt boru hattını kapatan ve Başkan Joe Biden'ın olağanüstü hal ilan etmesine yol açan 2021 Colonial Pipeline fidye yazılımı saldırısı- bu sistemlerin tamamen otonom ajanlardan çok daha az gelişmiş operasyonlara ne kadar savunmasız olduğunu göstermektedir.
Daha dayanıklı sistemler, savunmacıların şu anda yanıt verebileceğinden daha hızlı çalışabilmelidir. İç Güvenlik Bakanlığı'nın bir parçası olan ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA), bu sistemlerin oluşturulması çabalarına öncülük etmelidir. CISA, kritik altyapı koruması konusunda yasal yetkiye, diğer federal kurumlar ve özel sektör altyapı operatörleriyle ilişkilere ve tehdit istihbaratını eyleme geçirilebilir kılavuzlara dönüştürme teknik kapasitesine sahiptir. CISA, Enerji Bakanlığı da dahil olmak üzere sektöre özgü kurumlar ve istihbarat topluluğuyla birlikte çalışarak, otonom saldırganlar tarafından kullanılan taktik ve teknikleri değerlendirmelidir.
Ancak CISA, Trump yönetiminin 2025'teki kesintilerinin ardından iş gücünün neredeyse üçte birini kaybetti. En büyük azalmalar, otonom saldırılara karşı en büyük risk altında olan ve kaynakları yetersiz olan hedeflere hizmet eden paydaş katılımı ve bölgesel danışmanlık gibi alanlarda yaşandı. Kongre, personeli yeniden işe almak için özel fon tahsis ederek ve kritik savunma işlevlerini korumak için temel personel seviyelerini en az 2025 öncesi seviyelere getirerek bu kayıp kapasiteyi geri kazandırmalıdır. CISA toparlanırken, çığır açan savunma teknolojilerine öncülük etme konusunda uzun bir geçmişe sahip olan Pentagon'un Savunma İleri Araştırma Projeleri Ajansı (DARPA), otonom siber savunmaya adanmış yeni programlar başlatmalıdır. Bunlar, istismar edilmeden önce savunmasız kodu otomatik olarak tanımlayan yapay zeka destekli kod yeniden düzenleme ve saldırıları insan savunmacılardan daha hızlı etkisiz hale getiren otomatik tehdit azaltma ve yanıt sistemleri üzerine araştırmaları içermelidir. CISA mevcut altyapı genelinde savunmaları koordine edebilir, ancak DARPA, savunmacıların saldırılara ayak uydurmak için ihtiyaç duyduğu araçlar üzerinde araştırmayı ilerletmek için konumlanmıştır.
Yapay zekâ ajanlarını bu kadar yetenekli kılan özellikler, onları durdurmayı da zorlaştıran özelliklerdir.
Bu savunma çabaları, hükümet ve endüstri arasında yakın bir koordinasyon gerektirecektir. Politika yapıcılar, öncü laboratuvarlardan, bulut platformlarından ve kritik altyapı operatörlerinden bilgi toplamak için özel bir koordinasyon organı kurarak mevcut tehdit istihbaratı paylaşım düzenlemelerini geliştirmelidir. Bu merkez, hızlı yanıtlar verilmesini ve otonom siber operasyonların tespit edilip engellenmesini sağlayacaktır.
Politika yapıcılar ayrıca, en gelişmiş siber sistemler için güvenlik ve doğrulama mekanizmalarını uygulamak üzere yapay zekâ geliştiricileriyle birlikte çalışmalıdır. Anthropic tarafından açıklanan Çin kampanyasında, saldırganlar siber teknolojinin kötüye kullanımını önlemek için tasarlanmış güvenlik önlemlerini aşmışlardır. Gelişmiş "müşterinizi tanıyın" önlemleri - bir yapay zekâ sistemine kimin eriştiğini ve dağıttığını belirleyen doğrulama gereksinimleri - hesap verebilirliği ve net bir denetim izini oluşturacaktır. Ancak bu kontrollerin, herkesin indirip çalıştırabileceği şekilde kamuya açık olarak yayınlanan açık modeller için uygulanması zor olacaktır. Yayınlandıktan sonra, hiçbir sağlayıcı bunların kullanımını kontrol edemez. Bu durumlarda, yapay zekâ modellerini çalıştırmak için gereken işlem gücü olan hesaplamaya erişimin izlenmesi ve yönetilmesi çok önemlidir. Bu nedenle bulut hizmeti sağlayıcıları, potansiyel kötüye kullanımla ilişkili faaliyetleri belirlemek ve bunlara yanıt vermek için kolluk kuvvetleriyle yakın işbirliği içinde çalışmalıdır.
Kötü niyetli ajanlarla mücadele, bunların tespiti ve etkisiz hale getirilmesi için yeni araçlar ve yaklaşımlar gerektirecektir. Washington, açıkta kalan bulut bilişim altyapısı gibi cazip hedefleri simüle eden ve yoklandığında veya saldırıya uğradığında uyarı veren özel olarak tasarlanmış tuzak sistemleri geliştirmek için çalışmalıdır. Bu arada, etkisiz hale getirme, kötü niyetli dağıtımları destekleyen altyapıyı belirlemek ve devre dışı bırakmak için hızlı ve koordineli eylem gerektirecektir. Ancak öncelik, her şeyden önce kontrol kaybını önlemek olmalıdır.
BÜYÜK BİR YENİLEME
Siber uzayda devlet davranışını düzenleyen yasal mimari, insan yönlendirmeli operasyonlar için tasarlanmıştır. İnsan yönlendirmesi olmadan, sınırları aşarak ve operatörlerinin amaçladıklarının ötesine geçmiş olabilecek hedeflerle faaliyet gösteren bir ajan, devlet sorumluluğu kavramı etrafında inşa edilmiş yasal çerçevelerle yönetilemez. Birleşmiş Milletler'in Siber Uzayda Sorumlu Devlet Davranışını Geliştirme Konusunda Hükümet Uzmanları Grubu ve Açık Uçlu Çalışma Grubu tarafından geliştirilen ve uluslararası hukukun siber uzaydaki devlet davranışına uygulandığını belirleyen uzlaşma belgeleri, otonom ajanların ortaya koyduğu zorlukları ele almak için tasarlanmamıştır. Bu çerçevelerin güncellenmesi, ülkelerin yeni atıf kuralları, yeni özen yükümlülüğü standartları ve bir devletin açıkça yetkilendirmediği otonom operasyonlardan ne zaman sorumlu tutulacağını belirlemek için yeni kriterler üzerinde anlaşmasını gerektirecektir.
Hem Amerika Birleşik Devletleri hem de Çin'in, otonom operasyonların kritik altyapıyı (elektrik şebekeleri, su sistemleri, hastaneler ve nükleer tesisler dahil) hedef almasını yasaklayan ikili bir anlaşma yapması her iki ülkenin de çıkarınadır. Uzun vadeli hedef, otonom yetenek geliştirme konusunda sınırlar koyan, büyük olayların karşılıklı olarak bildirilmesini gerektiren ve tırmanma risklerini azaltmak ve her iki tarafın da kontrolden çıkmış bir ajanı kasıtlı bir savaş eylemiyle karıştırmasını önlemek için kriz yönetimi protokolleri oluşturan daha geniş bir çerçeve oluşturmak olmalıdır.
Otonom siber ajanlar için yönetim çerçeveleri geliştirmek kolay olmayacaktır. Ülkeler, meşru kullanımları olan yetenekleri kısıtlamakta isteksiz olacak ve suçlu hacker grupları gibi devlet dışı aktörler uluslararası anlaşmalara bağlı kalmayacaktır. Konsensüs mümkün olsa bile, otonom ajanları belirli ülkelere veya gruplara atfetmek zor olacaktır. Bu nedenle, uluslararası işbirliği atfetmeye çok fazla odaklanmamalıdır. Bunun yerine, benzer düşünen ülkeler standartlar ve güvenceler konusunda uyum sağlamalı ve ortak tespit, istihbarat paylaşımı ve koordineli müdahale mekanizmalarına yatırım yapmalıdır. Bu, savunmacılara avantaj sağlayacaktır.
Bu savunmaları inşa etmek acil bir ulusal güvenlik önceliğidir. Otonom siber ajanlar zaten faaliyette ve politika yapıcılar hazırlıksız. Yapay zeka kontrolden çıkmadan önce Washington harekete geçmelidir.
(Foreign Affairs)
YAZARLAR HAKKINDA:
BRIANNA ROSEN, Yapay Zeka Politikası ve Stratejisi Enstitüsü'nde Sınır Güvenliği Araştırma Direktörü ve Oxford Üniversitesi Blavatnik Hükümet Okulu'nda Siber ve Teknoloji Politikası Programı Yürütücü Direktörüdür.
JAM KRAPRAYOON, Yapay Zeka Politikası ve Stratejisi Enstitüsü'nde Sınır Güvenliği alanında Kıdemli Araştırmacıdır.
