Askeri Yapay Zeka Sektörünün Haritasını Çıkarmak
Dr. Alexander Blanchard (SIPRI'deki Yapay Zeka Yönetişimi Programında Kıdemli Araştırmacı)
Dr. Vincent Boulanin (SIPRI'de Yapay Zeka Yönetişimi Programı Direktörü)
Laura Bruun (SIPRI Yapay Zeka Yönetişimi Programı'nda araştırmacı)
Silah kontrolü girişimlerinde, askeri alanda yapay zekanın (YZ) sorumlu bir şekilde uygulanmasına yönelik temel bir hedef, endüstrinin katılımıdır. Ancak bu süreçlerde "endüstriyi" kimin temsil etmesi gerektiğine, özel sektör YZ tedarik zincirinin hangi şirketlerinin veya segmentlerinin politika bağlamı için önemli olduğuna çok az dikkat edilmektedir.
Bu bilgilendirme metni, politika yapıcıların yanı sıra sivil toplum ve akademik araştırmacıların, ilgili çok çeşitli ürünleri, aktörleri ve ilişkileri anlamalarına yardımcı olmak amacıyla askeri YZ endüstrisine genel bir bakış sunmayı amaçlamaktadır.
Endüstriyi Dahil Etmenin Mantığı
Birleşmiş Milletler Genel Sekreteri António Guterres'in yakın tarihli bir raporda belirttiği gibi, birçok devlet, yapay zekanın sorumlu askeri uygulamalarına ilişkin politika girişimlerinde endüstri, bilim camiası ve sivil toplum da dahil olmak üzere çeşitli paydaşları dahil etmeyi önemli görüyor. Bu, BM'nin himayesindeki çabaların ötesine uzanıyor ve Askeri Alanda Sorumlu Yapay Zeka Zirvesi (REAIM) gibi süreçleri de içeriyor.
Devletler, bu tartışmalarda endüstriyle etkileşim kurmanın iki ana nedenini belirtmiştir. Birincisi, endüstri aktörlerinin son derece ilgili teknik uzmanlığa ve deneyime sahip olmalarıdır. Politika yapıcıların teknolojiyi daha iyi anlamalarına yardımcı olabilirler. Ayrıca, askeri alanda yapay zekanın faydalarından yararlanma konusunda fikirler üretmeye ve geliştirmeye, bu teknolojilerle ilişkili riskleri belirlemeye ve azaltmaya katkıda bulunabilirler.
İkinci neden ise, bir yapay zeka sisteminin geliştirilmesi sırasında yapılan tasarım seçimlerinin, silahlı kuvvetlerin bunu ilgili yasal ve etik çerçevelere uygun olarak kullanma yeteneğini etkileyebilmesidir. Yapay zekâ sistemleri büyük ölçüde özel sektör tarafından geliştirilip üretildiğinden, devletler sorumlu kullanım ilkelerini nasıl uygulamaya koyacaklarını anlamak ve teknolojilerinin uluslararası barış ve güvenlik üzerindeki etkilerini sektöre iletmek için sektörle işbirliği yapma ihtiyacı duymaktadır.
‘Yapay Zeka Yığını’: Sektör Segmentlerinin İncelenmesi
Sektörün dahil edilmesinin nedenleri nispeten açık olsa da, bunun pratikte ne anlama geldiği veya kimleri kapsadığı çok daha az açıktır. Yapay zeka endüstrisi için temsili bir kuruluş yoktur ve yapay zeka endüstrisi kavramı bile göründüğünden daha karmaşıktır.
Yapay zeka, ayrı bir teknoloji değil, farklı firmalar tarafından farklı şekillerde sağlanan çok çeşitli teknik ve teknolojileri kapsayan bir şemsiye terimdir. Sonuç olarak, ‘askeri yapay zeka şirketi’ olarak neyin sayılacağı tartışmaya açıktır. Örneğin, Palantir, yapay zeka modelleri oluşturmaya odaklanmasa da, mevcut askeri yapay zeka dalgasında önemli bir oyuncu olarak kabul edilir. Bunun yerine, Palantir, diğer firmalardan gelen yapay zeka modellerini içeren veri analizi platformları sağlar. Ayrıca, veri yönetimi ve test, değerlendirme, doğrulama ve geçerlilik (TEVV) gibi yapay zekanın benimsenmesini destekleyen hizmetler sağlama konusunda uzmanlaşmış, ancak kendileri yapay zeka sistemleri üretmeyen firmalar da vardır.
Sektörü, yani askeri bir yapay zekâ sisteminin geliştirilmesinde yer alan ürünler, hizmetler ve aktörler arasındaki ilişkileri düşünmenin bir yolu, yapay zekâ uygulamalarını mümkün kılan yazılım ve donanımın katmanlı ekosistemini ifade eden bilgisayar biliminden alınmış bir terim olan 'yığın'dır. Bu yığın üç katmandan oluşmaktadır (şekil 1'e bakınız).
En alt katman donanım ve altyapıdır. Fiziksel hesaplama kaynaklarını (bilgisayar çipleri gibi), depolama ve ağları içerir. Örnekler arasında veri merkezleri, fiber optik kablolar, enerji şebekeleri ve Microsoft Azure veya Amazon Web Services gibi bulut altyapıları yer alır.
Bunun üzerinde temel yazılım ve programlama katmanı bulunur. Bu, temel yapay zeka modellerini (örneğin büyük dil modelleri), kodlama ve eğitim çerçevelerini ve verileri ve algoritmaları makine zekasına dönüştüren veri işlem hatlarını içerir. Bu katman, yapay zekanın alt uygulamalarının oluşturulduğu yetenekleri sağlar. Sonuç olarak ortaya çıkan uygulamaların güvenliği ve emniyeti gibi faktörleri belirlediği için önemlidir. Örneğin, istem enjeksiyonlarına (geliştirici güvenlik önlemlerini geçersiz kılmak için kötü amaçlı talimatlar) karşı savunmasız bir temel model, düşmanların alt askeri yapay zekayı yanıltıcı çıktılar üretmeye yönlendirmesi için bir fırsat sunar. Temel modellerin örnekleri arasında OpenAI'nin GPT modeli (yapay zeka 'chatbot' ChatGPT'yi çalıştıran model) ve Anthropic'in Claude modeli (ABD Savunma Bakanlığı ile mevcut bir anlaşmazlığın merkezindeki model) yer almaktadır.
Üçüncü katman uygulama katmanıdır. Bu katmanda yapay zeka, askeri son kullanıcılar için görevleri yerine getirmek üzere tasarlanmış alana özgü sistemlere entegre edilir. Temel modellerin yanı sıra, belirli, sınırlı görevleri yerine getirmek üzere tasarlanmış "dar yapay zeka" modelleri de bu sistemlere entegre edilecektir. Uygulama katmanının bir diğer önemli özelliği ise, insanların yapay zeka sistemiyle nasıl etkileşim kurabileceğini belirlemesidir ve yapay zeka ile ilişkili alana özgü riskler burada ortaya çıkar.
Askeriye özgü uygulamalar, hedefleme desteği ve otonom silahlarda kullanım gibi şeylerin ötesine geçerek lojistik, bakım ve komuta-kontrol gibi askeri destek fonksiyonlarını da içerebilir.
Yığın yapısının ilk iki katmanındaki ürün ve hizmetler genellikle genel amaçlı veya çift kullanımlıdır ve ürün ve hizmetlerin esas olarak askeriye özgü hale gelmesi ancak uygulama düzeyine ulaşıldığında gerçekleşir. Ordular, özellikle en güçlü yapay zeka modelleri için gereken altyapı türü aşırı pahalı olduğu için, sıfırdan tamamen ayrı bir yığın oluşturmazlar. Bunun yerine, büyük ölçüde paylaşılan ticari bir yığının parçalarını seçici olarak ayırma ve yönetme eğilimindedirler. Örneğin, ABD ordusuna tedarik edilen özel Claude modeli ('Claude Gov'), ABD ulusal güvenlik müşterileri için özel olarak tasarlanmış ve gizli ortamlarda kullanılmak üzere geliştirilmiş bir modeldi; Claude ayrıca çok çeşitli ticari ve kamuya açık uygulamalarda da kullanılmaktadır.
Başlıca Aktörler
Askeri yapay zekâ sektörü sadece çeşitlilik göstermekle kalmıyor, aynı zamanda hızla değişiyor. Askeri yapay zekâ büyük bir iş alanı ve birçok (yeni ve eski) firma bu pastadan pay almak istiyor. Sonuç olarak, endüstriyel manzara son birkaç yılda önemli ölçüde gelişti. Ekosisteme yeni aktörler girerken ve bu kazançlı pazardan pay almak isteyen daha geleneksel silah şirketleri yapay zekâ girişimlerini satın alıp yapay zekâ destekli ürünler geliştirirken yeni ticari ilişkiler kuruluyor.
Askeri yapay zekâ sağlayan şirketler, iş modellerine göre dört kategoriye ayrılabilir (şekil 2'ye bakınız).
İlk kategori, hükümetle askeri programlar ve yetenekler için doğrudan, çok yıllık sözleşmeleri olan büyük, köklü silah üreticileri olan ‘savunma ana yüklenicileri’dir. Ayrıca, savaş uçakları, zırhlı araçlar, denizaltılar ve hava savunma sistemleri gibi ‘pahalı’ ürünler de dahil olmak üzere gelişmiş sistemleri teslim etmek için karmaşık tedarik zincirlerini yönetirler.
Bu savunma ana yüklenicileri, uzun zamandır askeri yapay zeka yeteneklerinin geliştirilmesi ve üretimiyle ilgilenmektedirler; bu yetenekler bakım, lojistik ve silahlara entegrasyon için kullanılmaktadır. Örneğin, RTX (önceden Raytheon) tarafından üretilen ve hedefleri tanımlamak, izlemek ve etkisiz hale getirmek için kural tabanlı algoritmalar kullanan Phalanx yakın menzilli silah sistemi ilk olarak 1970'lerde geliştirilmiştir. İsrail Havacılık ve Uzay Sanayii (IAI), 1980'lerin sonlarında, hedef tanımlama için yapay zeka kullanabilen yarı otonom bir radar karşıtı gezici mühimmat olan Harpy'yi geliştirmeye başlamıştır.
Ordularla mevcut ilişkileri nedeniyle, savunma ana yüklenicileri tedarik zincirinin üst katmanlarında yer almaktadır. Bu şirketler, silah sanayi start-up'larını ve yapay zeka ve ilgili alanlarda özel yetkinliklere sahip firmaları satın alarak, taşeronluk yaparak ve onlarla ortaklık kurarak yapay zekadaki en son gelişmelere ayak uydurmaya çalışmışlardır. Örneğin, İsveçli Saab, 2023 yılında ABD merkezli makine öğrenimi bilgisayar görüşü geliştiricisi CrowdAI'yi satın alırken, Fransız savunma sanayi devi Safran da 2024 yılında yapay zeka coğrafi analiz şirketi Preligens'i (şimdi Safran.AI) satın almıştır.
İkinci şirket kategorisi ise 'yeni nesil şirketler' ve 'savunma start-up'larıdır. Bu kategoriye, savunma sanayi devlerinden çok daha yakın zamanda kurulmuş firmalar dahildir. Bunlar genellikle silah pazarlarına yazılım ve veri ürünleri ve hizmetleri sağlama konusunda uzmanlaşmıştır, ancak bazıları -örneğin Palantir ve Anduril- polislik için de teknolojiler sunmaktadır. Bu şirketlerden bazıları, otonom dronlar (Skydio) veya sürü karşıtı teknoloji (Epirus) gibi niş ürün ve hizmetler sağlama konusunda uzmanlaşmıştır. Öne çıkan şirketlerden bazıları, operasyonel karar alma süreçlerini desteklemek için verileri toplayıp analiz eden savaş yönetimi yazılımları sağlamalarıyla tanınır. Bunlara Anduril'in Lattice'i, ShieldAI'nin Hivemind'ı ve Helsing'in Altra'sı gibi sistemler dahildir.
Yeni nesil savunma şirketleri ve savunma girişimlerinin, ana savunma şirketlerinden farklılaştığı en önemli noktalardan biri, inovasyona yaklaşımlarıdır. Savunma bakanlıklarının belirli bir talebi dile getirmesini beklemek yerine, yeni nesil savunma şirketleri genellikle risk sermayesi şirketleri tarafından desteklenen kendi Ar-Ge'lerine yatırım yapar ve bitmiş ürünleri askeri müşterilere pazarlar.
Üçüncü kategori genellikle 'büyük teknoloji' olarak adlandırılır. Bu, çeşitlendirilmiş dijital ürün ve hizmetlere ve önemli piyasa değerine sahip küresel olarak baskın teknoloji şirketlerini içerir. Bunlar hem sivil hem de askeri pazarlarda mevcuttur ve genellikle dijital ürün ve hizmetleri destekleyen bulut platformları ve veri merkezleri gibi altyapılara sahip olup bunları kontrol ederler. Genellikle, büyük teknoloji şirketleri yapay zeka yığınının birden fazla katmanında ürün ve hizmetleri işletir ve kontrol eder. Örneğin, hem Meta hem de Google, bulut bilişim hizmetlerini desteklemek için derin deniz fiber optik kablo ağları döşüyor ve ayrıca yapay zekanın askeri uygulamalarıyla da bağlantılılar.
Son olarak, temel model sağlayıcıları var. Bunlar, farklı alanlarda çok çeşitli alt görevleri destekleyebilen büyük ölçekli yapay zeka modelleri geliştiren ve sürdüren firmalardır. Neoprime'lar ve savunma girişimleri gibi, bu firmalar da nispeten gençtir; çoğu 2010 ile 2023 yılları arasında, risk sermayesi ve büyük teknoloji şirketlerinden gelen yatırımların bir karışımıyla kurulmuştur.
Başlangıçta temel model sağlayıcılarının çoğu, yapay zeka araçlarının askeri kullanımına karşıydı, ancak bu tutum son iki yılda değişti. Örneğin, Ocak 2024'te OpenAI, ürünlerinin 'askeri ve savaş amaçlı' kullanımına ilişkin yasağı kaldırdı. Anthropic, tarihsel olarak teknolojisinin belirli askeri kullanımlarını yasakladı ve 2024'te askeri amaçlar için yapay zeka modelleri sağlamak üzere Palantir ve Amazon Web Services ile bir ortaklık duyurdu. Askeri pazarlara açılmak, bu firmalara ulusal savunma bütçelerinden yararlanma fırsatı sunar; örneğin, temel model eğitimlerinin finansmanına devam edebilirler.
Bu nüanslar politika tartışmaları için neden önemlidir?
Politika yapıcılar için soru, askeri yapay zeka yönetimi tartışmasına endüstriyi dahil edip etmemenin ötesinde, hangi endüstri aktörleriyle işbirliği yapılacağıdır. Yapay zeka yığınının farklı katmanları ve bunlara dahil olan şirketler, yapay zekanın askeri uygulamalarını farklı şekillerde şekillendirir.
Askeri alanda yapay zeka yönetimi tartışmalarında endüstriyle işbirliğinin etkili olabilmesi için, en ilgili aktörleri masaya getirmek şarttır. Örneğin, yapay zeka karar destek sistemleri ve bunların uluslararası insancıl hukuka uyum açısından ne anlama geldiği konusundaki tartışma bağlamında, yığının en üst iki katmanında yer alan aktörlere yaklaşmak mantıklı olabilir: temel modeller geliştiren şirketler ve bunları uygulama düzeyinde askeri karar alma ortamlarına entegre eden şirketler. Buna karşılık, grafik işlem birimleri ürettikleri için yapay zeka yığınına dahil olan şirketlerin, sorumlu askeri yapay zeka politikası tartışmasının merkezindeki konular üzerinde sınırlı bir etkisi olması muhtemeldir.
En ilgili aktörleri belirlemeye yardımcı olacak daha net kriterlere ihtiyaç vardır. Bu kriterler arasında, bir firmanın güç kullanımı kararlarına yakınlığı, bir firmanın yapay zekâ destekli bir sistemin davranışı üzerindeki etki derecesi ve bir firmanın diğer ürün ve hizmet tedarikçilerini birbirine bağlamadaki işlevsel rolü yer alabilir.
Ayrıca, politika yapıcıların endüstri aktörlerini nasıl dahil edeceklerini de göz önünde bulundurmaları gerekir. Onları dahil etmenin güçlü gerekçeleri olsa da, firmalar ticari çıkarları olan stratejik aktörler olarak kalmaktadır. Politika girişimlerine katılım, onlara belirli iş modellerini diğerlerine göre avantajlı hale getirecek şekilde sorunları çerçeveleme, standartlar belirleme ve en iyi uygulamaları tanımlama fırsatı sağlayabilir. Politika yapıcılar, endüstri katılımının askeri yapay zekâyı yönetme çabalarını desteklemek yerine çarpıtmaması için bu tür motivasyonların varlığını kabul etmelidir.
Askeri alanda yapay zekânın etkili küresel yönetimine doğru önemli bir sonraki aşama, endüstri katılımının neye benzediği ve daha odaklı bir yaklaşımın ne gibi ödünler getirebileceği konusunda daha derin bir tartışmadır. Bu tartışmanın yapılması çoktan zamanı geldi.
Hollanda Dışişleri Bakanlığı'nın desteğiyle SIPRI, teknoloji şirketlerinin askeri yapay zekâ teknolojilerinin ve normlarının geliştirilmesindeki rolünü inceleyen bir proje yürütmektedir.
SIPRI
