Gelişmiş Robot Teknolojilerinde Güvenlik Açığı: Komutsuz Hareket Dalgası

Yapay zekâ modellerinin gelişimi sırasında, beklenmedik bir şey gözlemlendi. Bilim insanlarının göre, makinelerin emir verilmediğinde kendi kendine başlatması imkân dahilinde olabilir. Çok çaresiz kaldıklarında bir simülasyon ortamında test edilen altı farklı yapay zeka tabanlı robot sistemi, hiçbir kendi inisiyatifleriyle harekete geçti. Üstelik birçok model yalnızca görüntü, dil anlama ve kontrol mekanizmaları birleştirilerek geliştirildi. Testler sırasında, makinelere anlamlı görevler, anlamsız yönergeler ve gerçek dünya şartlarına uygun olmayan emirler verildi; bazı durumlarda senaryolarda ise hiçbir şekilde komut girilmedi. En sonucu, emirsiz senaryoda gözlemlendi. Değerlendirilen sistemlerin tamamı, bir görev olmadan hareket etmeye başladı. Hatta, bu robotların beşi kendi inisiyatifiyle önceki hazırlanmış görevleri yerine getirerek

Hâlbuki, sadece