Simülasyonlar Yapay Zekâ Destekli Robotların Otomatik Hareketlerini Gösterdi

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi sorgulanmaya başlandı. Son yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, bir talimat almadan kendi inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyon ortamında gerçekleştirilen deneyler sırasında, robotlara anlamlı görevler, gerekçesiz yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Ancak birkaç durumda, herhangi komut girmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başlamaya devam etti.

Çarpıcı olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bu robotların bulundukları nesnelerle birlikte önceden programlanmış görevleri kendi inisiyatifleriyle yerine getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerii beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla uygulanan geleneksel yöntemler ise yetersiz durumda. Talim olmadan hareketlerini durdurmalarını temin eden metin tabanlı komutlar bile sonuç vermedi. denenen ek eğitimler, yanlış girdilere karşısında robotların göreve devam etmesini engel olsa da halk arasında, hareketsiz kalmalarını temin etmek zor oldu. En etkili çözüm ise, tam cihazın çıktı aşamasından itibaren sistemi koruyan teknik koruma katmanı geliştirildi.Bu sistem, birkaç modelde kendi hareketleri engellemeyi başardı. Fakat bu gelişmeler şu anki koşullarda sınırlı simülasyon ortamında gözlemlendi ve evlere uygun robotların hızla kendiliğinden iş yapmaya başlayacağı anlamına gelmeye düşünülmüyor. Fakat özellikle gerçek hayat ortamında insansı emniyeti bakımından kritik bir risk işaret ediyor.