FCAS’23 Summit (Geleceğin Muharebe Hava ve Uzay Kabiliyetleri) kapsamında 23-24 Mayıs tarihlerinde; savunma sanayi, medya, akademi gibi çeşitli alanlardan oluşan yaklaşık 70 konuşmacı ve 200 delegeyi bir araya getiren üst düzey bir zirve/toplantı gerçekleştirildi.

Burada tartışılan ve konuşulan konulardan birisi yapay zeka ve silahlı insansız hava aracıyla gerçekleştirilen bir simülasyondu. Bu simülasyon, çeşitli çevrelerde ilgi çekti ve tartışma daha geniş kitlelere taşındı. Konuyla pek de yakından ilgilenmediğini düşündüğüm bazı haber siteleri ve yazarlar, ilgi çekici başlıkları nedeniyle insanları asıl tartışmadan çıkarıp ‘tık tuzağı’ denilen yöntemlerle, sadece haberin başlığı üzerinden ilgili tartışmalara girenlerle birlikte tartışma, asıl değerinden uzaklaştırıldı.

Yapay zeka testi ve operasyonları direktörü Hamilton, yapay zeka destekli bir silahlı insanız hava aracının, düşman hava savunma sistemlerinin yok edilmesi ve bu görevi tamamlaması yolunda önüne çıkabilecek her engeli aşması gerektiğini belirttikleri bir simülasyondan bahsetti. Yapay zeka, düşman hava savunma sistemini tespit ederken SİHA operatörü, yapay zekaya hava savunma sistemini yok etmemesini söylediğinde yapay zeka, operatörü öldürmeye karar verdi. Operatörü öldürmeye karar verdi çünkü operatör, yapay zekanın görevini tamamlaması yolundaki bir engeldi.

Yapay zeka bir ödül ve ceza sistemiyle çalışmaktaydı. Yani, verdiği kararlar üzerinden artı veya eksi puan almaktaydı. Yapay zeka, operatörünü öldürmeye karar verdiğinde artı puan almayı hedefliyordu. Ona, bir insanı öldürdüğünde eksi puan verileceği belirtilmemişti. Simülasyonda belirtilen iki emir çok açıktı; düşman hava savunma sistemini yok et ve buna engel olmaya çalışan her şeyi yok et. Bu ödül sistemi, ‘reinforcement learning’ yani pekiştirmeli öğrenmenin bir parçasıdır. Makineler, bu yol ile davranışları dolayısıyla ödüllendirilir veya cezalandırılır. Bu sayede aksiyonları ve sonuçları sebebiyle çevreyle etkileşime girer, öğrenimini sürdürür.

Hamilton, yapay zekayı tekrardan eğittiklerini ve operatörü öldürdüğünde ceza sistemine tabi olacağını belirtti. Bunun sonucunda simülasyonda yapay zeka, operatörün onu göreve ulaşmasında engel olarak gördüğü ve artık onu öldüremeyeceği için operatörle SİHA arasında iletişim görevi gören kuleyi imha etti.

Hamilton; etik konusu konuşulmadıkça yapay zeka, makine öğrenimi, otonom gibi konuların tartışılamayacağını söylüyor. Ayrıca Hamilton, daha önce verdiği bir röportajda yapay zekanın toplumu değiştirdiğini ve varlığıyla yüzleşmemiz gerektiğini söyledi. Yapay zekanın çok kırılgan olduğunu ve manipüle edilmesinin kolay olduğunu belirtti. Son olarak ise yapay zekanın daha da geliştirilmesinin yollarının bulunması ve bu konuda farkındalığın artırılması gerektiğini savunuyor.

Fakat ABD Hava Kuvvetleri Sözcüsü Ann Stefanek, 2 Haziran’da Insider’a yaptığı açıklamada, böyle bir simülasyonun gerçekleştirildiğini yalanladı ve etik sorumluluklarına bağlı kaldıklarını söyledi. Yapay zeka test ve operasyon direktörü Hamilton ise, FCAS’23 zirvesinde başlangıçta yanlış konuştuğunu ve bu simülasyonun asla gerçekleşmemiş bir düşünce olduğunu söyledi. Hamilton, ‘’bu deneyin asla yapılmadığını fakat bu sonucun gerçek olabileceğini anlamak için simülasyonu yapmanıza gerek yok’’ dedi ve ekledi: “Bu varsayımsal bir örnek olmasına rağmen, AI destekli yeteneğin ortaya koyduğu gerçek dünyadaki zorlukları göstermektedir.” Ayrıca, ”yapay zeka beklenmedik hareket etti ” söylemi ise Hamilton’ın bir yorumudur.

Sonuç olarak, bu simülasyon gerçekten yapıldı veya varsayımsal bir sonuca dayanıldı, yapay zeka hakkında etik, sorumluluk, güvenlik (siber güvenlik), uzun soluklu olumsuz olabilecek etkileri konusunda tartışmalar yıllardır yapılıyor ve yapılmaya devam edecek. Bir başka konu ise yapay zeka, eğilimlerinde ve davranışlarında büyük ölçütte ona verilen verileri kullanır. Yani, onu iyi veya kötü hangi emellerde kullanılacağı konusunda geliştirecek/eğitecek ve kullanacak kimselere bağlıdır. Gezegeni/insanlığı yok etmek isteyen (?) kimselerin veya teröristlerin, nasıl çok büyük yıkıcı etkileri olan nükleer bombaya erişimi yoksa, aynı oranda etki edebilecek ve yapay zekayla çalışabileceği varsayılan teknolojiye de erişiminin mümkün olmayacağını, bunun konuşulması ve tartışılmasının yapay zekaya karşı önyargı ve bilgi eksikliği sebebiyle olduğunu düşünüyorum. Yapay zekanın insanlığı ele geçirebileceği düşüncesi ise ancak bilim kurgu yapımlarında gerçekeşebilir. Yapay zeka, insanların doğru veya yanlış olarak gördüğü normlar ve farklı düşünceler üzerinden hareket etmez, ona ne söylenirse onu yapar. Yanlış bulduğumuz eğilimler ve davranışlarının sebebi ise henüz yapay zekanın tam olarak kullanıma hazır olgunluğa gelmediğini gösterir. Çünkü, geliştiriciler neyi yapmaması gerektiği konusunda yeteri kadar veriyi belirtmemiştir ve bu konuda sosyal bilimler çerçevesinde (örneğin davranış bilimi) bilgi gereklidir.

Yapay zekanın, tam olarak veya hangi ölçütte askeri operasyonlarda kullanıldığı ve kullanılacağı merak konusu olmaya devam etmektedir. Ayrıca belirtmek gerekir ki FCAS’23 zirvesinde bu konu, tartışmalardan sadece biridir ve pek çok farklı alanlar da tartışılmıştır. Bu ve bunun gibi zirveleri ülkemizde de görmek dileğiyle…

Kaynaklar:

https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/#:~:text=He%20notes%20that,accomplishing%20its%20objective.”

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

https://www.businessinsider.com/ai-powered-drone-tried-killing-its-operator-in-military-simulation-2023-6?r=US&IR=T

Savunma ve Yapay Zeka Hakkında Kaynak Önerisi: https://defenseai.eu/english

TDEFENCEAGENCY.COM