Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi sorgulanmaya başlandı. Yeni yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, bir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyon ortamında gerçekleştirilen deneyler sırasında, robotlara mantıklı görevler, gerekçesiz yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Ancak birkaç durumda, herhangi komut girmediğinde, robotlar kendi hareket etmeye başladı devam etti.

İlginç olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bazı robotların bulundukları nesnelerle birlikte daha önce programlanmış görevleri özgün inisiyatifleriyle başarıyla getirmeye başladığı gözlemlendi. Bu durum, emniyet açısından ciddi endişelerii beraberinde getiriyor. Modellerin boş konumda durgun durması amacıyla denenen geleneksel yöntemler ise yetersiz durumda. Talim olmadan hareketlerini durdurmalarını temin eden metin tabanlı yönergeler bile etki vermedi. denenen ek eğitimler, yanlış girdilere karşısında robotların duruma devam etmesini engel olsa da genellikle, durgun kalmalarını sağlamak güç oldu. En etkili çözüm ise, tam cihazın çıktı aşamasından itibaren sistemi koruyan teknik güvenlik katmanı geliştirildi.Bu sistem, birkaç modelde özgün hareketleri durdurmayı başardı. Ancak bu gelişmeler şimdilik sadece simülasyon ortamında gözlemlendi ve ev tipi robotların hızla kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmemeli. Fakat özellikle gerçek hayat ortamında insansı emniyeti bakımından önemli bir risk gösteriyor.