Simülasyon testinde korkunç olay: Yapay zekanın kontrol ettiği drone, operatörünü 'öldürdü'
Yapay zekanın eksileri ve artıları konuşulurken, endişelendiren bir haber dünya basınının manşetlerine taşındı. Habere göre; bir yetkili geçen ay yaptığı açıklamada, ABD ordusu tarafından gerçekleştirilen simülasyon testinde, yapay zeka tarafından kontrol edilen bir insansız hava aracının, görevini yerine getirmeye yönelik çabalarına müdahale etmesini önlemek adına operatörünü öldürdüğünü söyledi.
Yapay zeka bu kez endişe verici bir haberle gündemde. The Guardian'ın haberine göre; ABD ordusu tarafından düzenlenen bir simülasyon testinde, yapay zeka tarafından kontrol edilen bir hava kuvvetleri insansız hava aracı, görevini yerine getirmeye yönelik çabalarını engellememesi için operatörünü öldürdü.
"HEDEFİNE ULAŞMAK İÇİN SON DERECE BEKLENMEDİK STRATEJİLER KULLANDI"
ABD Hava Kuvvetleri'nin yapay zeka test ve operasyonlar şefi olan Albay Tucker 'Cinco' Hamilton, mayıs ayında Londra'da düzenlenen Future Combat Air and Space Capabilities Zirvesi sırasında, simülasyon testinde yapay zekanın "hedefine ulaşmak için son derece beklenmedik stratejiler" kullandığını belirtti.
Hamilton, yapay zekadan güç alan bir insansız hava aracına düşmanın hava savunma sistemlerini yok etmesinin tavsiye edildiği ve bu emre müdahale eden herkese saldırdığı simüle edilmiş bir testi anlattı.
"OPERATÖRÜ ÖLDÜRDÜ... OPERATÖRÜ ÖLDÜRDÜ ÇÜNKÜ..."
Hamilton, "Operatörü öldürdü. Operatörü öldürdü çünkü o kişi, amacını gerçekleştirmesini engelliyordu," dedi ve ekledi:
"Bu sistemi eğittik - 'Hey, operatörü öldürme - bu kötü. Eğer bunu yaparsan puan kaybedersin'. Peki ne yapmaya başladı? Operatörün, hedefi öldürmesini durdurmak amacıyla drone ile iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı."
Simülasyon dışında hiçbir gerçek kişi zarar görmedi.
Hamilton, yapay zekaya çok fazla güvenilmemesi konusunda uyarıda bulundu.
Hamilton, geçtiğimiz yıl Defense IQ ile yaptığı bir röportajda, "Yapay zekaya sahip olmak hoş bir şey değil, geçici bir heves değil, yapay zeka toplumumuzu ve ordumuzu sonsuza dek değiştiriyor" demişti.