Yapay zekaya sahip İHA denetimden çıktı: Simülasyonda “dur emrini” kabul etmedi, operatörünü öldürdü
Londra’da geçen hafta düzenlenen “Geleceğin Hava ve Uzay Savaşı” panelinde konuşan ABD Hava Kuvvetleri Yapay Zeka Operasyonlar Şefi Albay Tucker Hamilton, yapay zekanın “hedefine ulaşmak için umulmadık stratejiler” kullandığını anlattı.
Simülasyonda düşman hava savunma sistemlerini yok etmekle görevlendirilen yapay zekanın, “bazı gayeleri yok etmemesini isteyen” operatörü amaç aldığını söyledi.
“DUR BUYRUĞUNU DİNLEMEDİ”
Amerikalı Albay, “Yapay zeka, simülasyonda “dur” buyruğunu dinlemedi, misyonu engellediği gerekçesiyle insan operatörünü öldürdü.” dedi.
Amerikalı kumandan, yapay zekaya “operatörü öldürmenin puan kaybettirdiği” söylendiği, bilgisayarın bu defa “dur buyruğu almamak için” irtibat kulesini yok ettiğini anlattı.
Albay Hamilton’un kıssası, İngiliz kraliyet Havacılık Cemiyeti’nin İnternet sayfasında yayınlandı.
“BÖYLE BİR TEST GERÇEKLEŞTİRMEDİK”
Olayla ilgili olarak ABD hava kuvvetleri ise “böyle bir test gerçekleştirmedik” açıklaması yaptı. Albay Hamilton’un şahsi bir anektodunu aktardığı vurgulandı..
Uzmanlar bu tip misyonlar için ödül sistemi kullanıldığını belirtiyor. Yapay zeka imha ettiği her amaç için puan topluyor. Lakin tek hedefi puan toplamak olduğu için “dur” buyruğu, “puan kazanma” emeli ile çelişiyor.
Silah sistemlerinin yapay zeka denetimine bırakılması büyük riskleri de beraberinde getiriyor.. Güvenlik pürüzlerinin ve insan operatörlerin kısıtlamasının ne derece tesirli olduğu konusunda tartışmalar sürüyor..
