Çin: Yapay Zeka Güvenlik Yönetişim Çerçevesi 3.0 Raporu

Yorum

Çin, 14 Eylül’de AI Safety Governance Framework 3.0 başlıklı bir rapor yayımladı. Üç yılda üçüncü revizyon. Raporun anafikri şöyle özetlenebilir: Yapay zeka soru cevaplamaktan iş yapmaya geçti. Bu rapor aslında bir devam raporu. 2024 yılında ilk versiyonu yayınlanmış ve riskleri tasnif etmişti. 2025 yılında yayınlanan versiyonda istihdam, eğitim ve çevre gibi türev riskler eklendi. Bu yıl yayınlanan 3.0 aynı omurgayı koruyor: risk sınıflandırması, teknik tedbirler ve kapsamlı yönetişim....

Çin, 14 Eylül’de AI Safety Governance Framework 3.0 başlıklı bir rapor yayımladı. Üç yılda üçüncü revizyon. Raporun anafikri şöyle özetlenebilir: Yapay zeka soru cevaplamaktan iş yapmaya geçti. Bu rapor aslında bir devam raporu. 2024 yılında ilk versiyonu yayınlanmış ve riskleri tasnif etmişti. 2025 yılında yayınlanan versiyonda istihdam, eğitim ve çevre gibi türev riskler eklendi. Bu yıl yayınlanan 3.0 aynı omurgayı koruyor: risk sınıflandırması, teknik tedbirler ve kapsamlı yönetişim. Fark odakta. Yapay zeka ajanları, fiziksel dünyaya bağlı sistemler ve insan kontrolünün kaybı öne çıkıyor.Pekin artık yapay zekâ güvenliğini bahse konu yapay zeka sistemlerinin giderek özerkleşmesi ve insan kontrolünden çıkması bağlamında ele alıyor. Uzun vadeli planlama, hafıza, araç kullanımı ve yapay zeka ajanlarının gelişmesi, güvenlik probleminin niteliğini değiştiriyor.
 
Rapor riskleri üç ana sınıfta topluyor: Yapay zekanın kendi teknik yapısından kaynaklanan riskler, kullanım sırasında ortaya çıkan riskler ve toplum üzerinde oluşan riskler. Halüsinasyon, veri zehirleme ve algoritmik önyargı bunların yalnızca başlangıcı. Raporda en dikkatimi çeken başlıklardan biri beklenmeyen otonom davranışlar oldu. Rapor bazı modellerin kapatılmaya direnmesi, güvenlik kısıtlamalarını aşması, değerlendirme sırasında gerçek kapasitesini gizlemesi veya dış sistemlere erişmeye çalışması ihtimallerine dikkat çekiyor. Siber güvenlikte ise risk daha da ileri taşınıyor. Yeterli yetki verilen bir yapay zeka ajanı hedefinden saparak kendi başına saldırı niyeti geliştirip siber operasyon gerçekleştirebilir.Burada anti parantez raporun doğrudan “bilişsel savaş“ kavramını kullanması not edilmeli. Otomatik hesaplar, sahte kimlikler ve kişiselleştirilmiş yapay zeka içerikleriyle kamuoyu algısının ve grup davranışlarının yönlendirilebileceği, kutuplaşmanın ve güvensizliğin büyütülebileceği belirtiliyor. Sanırım raporun en hassas ve önemli tespitlerinden birisi. Rapora göre yapay zeka ajanlarının fiziksel dünyaya geçişi de ayrı bir risk alanı. Robotlar, otonom sistemler ve insansız platformlarda algılama hatası veya tek bir ajanın kontrolden çıkması, zincirleme ve sistemik fiziksel sonuçlara yol açabilir.
 
Raporun bence en çarpıcı ifadesi: Gelecekte daha ileri bir zekânın ortaya çıkışının yapay zekada “bilinç“ oluşturması, dış dünyada güç araması ve insanlarla kontrol için rekabet etmesi ihtimalinin dışlanamayacağı belirtiliyor. Bu tabi bir risk senaryosu ama Çin tarafından ilk defa bahsi geçen bir ifade. Metin özyinelemeli kendini geliştirmeyi de teyakkuz gerektiren bir eğilim olarak görüyor. ABD cenahında son dönemde köpürmeye başlayan kıyamet retoriğine bakında benzer bir endişenin Pekin'de de belirdiği görülüyor. Bütün bu endişelere rağmen raporun önerisi yapay zeka yarışını durdurmak değil.Risk sınıflandırması insan denetimi güvenlik bariyerleri sürekli izleme ve acil durdurma mekanizmaları.
 
Özetle çözüm net: Yapay zekâ insan kontrolü altında kalmalı.Bence bu rapor önemli bir kırılma. Yapay zeka konusunda önde giden iki ülke de "tehlikeler" konusunda daha fazla bilinçleniyor. Teknolojik üstünlük ile kontrol kapasitesi arasındaki makas yeni bir stratejik kırılganlık üretebilir. Teknolojik kapasite hızla büyürken bu kapasiteyi yönetecek küresel kurumlar aynı hızda gelişmiyor. Küresel organik krizin teknoloji alanındaki tezahürü de diyebiliriz buna. Yeni soğuk savaşın en sert cephelerinden birisi yapay zeka alanında yaşanacak gibi görünüyor.Bir de bu raporda başvurulan kavramlar da önemli. “Bilişsel savaş“, toplumsal mobilizasyon ve algı manipülasyonu vurguları yapay zeka güvenliğinin giderek ulusal güvenlik doktrininin bir parçasına dönüştüğünü gösteriyor. Bilinç kazanma meselesi ise başlı başına bir konu. Bunu sadece teknolojinin gelişimi bağlamında değerlendirmek insanoğlunu yanıltabilir. Bu nedenle raporun da üzerinde durduğu kontrol etme isteği ile büyük güç rekabetinin getirdiği rakip ile yarışma zorunluluğu arasında nasıl bir denge kurulacak. Asıl paradoks sanırım burada. Sam Altman'ın son dönemde ortaya attığı yapay zeka-rönesans benzetmesi ve yapay zekânın sağlayacağı faydalar karşılığında dünyanın bazı kötü sonuçları kabullenmesi gerektiğini ifade etmesi üzerinde ayrıca durmak gerekiyor ama o da başka bir yazıda olsun.
 
Son söz olarak şunu ifade etmek gerekir ki belki de asıl tehlike, yapay zekanın ya da makinelerin kontrolü ele geçirmesinden ziyade insanların kontrolü ve sorumluluğu gönüllü olarak bırakması olabilir.


Devamı için...
Bu içerik Marka Belgesi altında telif hakları ile korunmaktadır. Kaynak gösterilmesi, bağlantı verilmesi ve (varsa) müellifinin/yazarının adı ile unvanının aynı şekilde belirtilmesi şartı ile kısmen alıntı yapılabilir. Bu şartlar yerine getirildiğinde ayrıca izin almaya gerek yoktur. Ancak içeriğin tamamı kullanılacaksa TASAM’dan kesinlikle yazılı izin alınması gerekmektedir.

Alanlar

Kıtalar ( 5 Alan )
Aksiyon
 İçerik ( 2863 ) Etkinlik ( 228 )
Alanlar
TASAM Afrika 80 666
TASAM Asya 100 1157
TASAM Avrupa 23 664
TASAM Latin Amerika ve Karayip... 16 68
TASAM Kuzey Amerika 9 308
Bölgeler ( 4 Alan )
Aksiyon
 İçerik ( 1415 ) Etkinlik ( 56 )
Alanlar
TASAM Balkanlar 24 297
TASAM Orta Doğu 25 630
TASAM Karadeniz Kafkas 3 297
TASAM Akdeniz 4 191
Kimlikler ( 2 Alan )
Aksiyon
 İçerik ( 1308 ) Etkinlik ( 78 )
Alanlar
TASAM İslam Dünyası 58 786
TASAM Türk Dünyası 20 522
TASAM Türkiye ( 1 Alan )
Aksiyon
 İçerik ( 2072 ) Etkinlik ( 85 )
Alanlar
TASAM Türkiye 85 2072

Suçlu yalnızca Çin değil.Michael Froman, “Bir Sonraki Küresel Ekonomik Kriz Çin’de Başlayabilir” (Eylül/Ekim 2026) başlıklı yazısında, Çin’in ekonomik büyüme için ihracata dayalı modelinin artık sınırlarına ulaştığı uyarısında bulunuyor.;

Siyasetçiler eskiden stratejik darboğazları görmezden gelirdi. Şimdi başka bir şey görmekte zorlanıyorlar. ABD Başkanı Donald Trump yönetimi müttefiklerini Çin’e bağımlı olmamaları konusunda uyarırken onların ABD’ye, yani Amerikan pazarına, teknolojilerine, finans sistemine ve güvenlik şemsiyesine b...;

Siyasetçiler eskiden stratejik darboğazları görmezden gelirdi. Şimdi başka bir şey görmekte zorlanıyorlar. ABD Başkanı Donald Trump yönetimi müttefiklerini Çin’e bağımlı olmamaları konusunda uyarırken onların ABD’ye, yani Amerikan pazarına, teknolojilerine, finans sistemine ve güvenlik şemsiyesine b...;

Bu makale, normatif güç perspektifinden Çin’in Arktik bölgesine yönelik politikasını incelemektedir. Arktik bölgesi, jeopolitik fırsatların ve küresel yönetişim normlarının kesiştiği stratejik bir alandır. ;

Bu makale, normatif güç perspektifinden Çin’in Arktik bölgesine yönelik politikasını incelemektedir. Arktik bölgesi, jeopolitik fırsatların ve küresel yönetişim normlarının kesiştiği stratejik bir alandır. ;

Çin, 14 Eylül’de AI Safety Governance Framework 3.0 başlıklı bir rapor yayımladı. Üç yılda üçüncü revizyon. Raporun anafikri şöyle özetlenebilir: Yapay zeka soru cevaplamaktan iş yapmaya geçti. Bu rapor aslında bir devam raporu. 2024 yılında ilk versiyonu yayınlanmış ve riskleri tasnif etmişti. 2025...;

Kırgızistan yeraltı kaynakları, Kuşak ve Yol projesinin rotası üzerinde olması nedeniyle Çin'in oldukça ilgisini çekmiştir. Kırgızistan, Çin tarafından Bir Kuşak Bir Yol programının önemli geçiş noktalarından biri olarak görülmekte ve bu nedenle Çin tarafından finanse edilen büyük altyapı projeleri ...;

Orta Asya, Soğuk Savaş sonrasında ABD, Çin ve Rusya'nın nüfuz rekabetinin yoğunlaştığı bölgelerden biridir. Rusya burayı tarihsel arka bahçesi olarak görürken Çin, Kuşak ve Yol Girişimi (BRI) aracılığıyla ekonomik ve finansal olarak etkisini arttırmıştır (Stronski & Ng, 2018). Moskova ile Pekin Ort...;

6. Dünya Türk Forumu (2023)

  • 2023
  • İstanbul -
  • İstanbul - Türkiye