‘Güvenli’ bir yapay zeka neden yanlış şirkette tehlikeli hale gelebilir?

‘Güvenli’ bir yapay zeka neden yanlış şirkette tehlikeli hale gelebilir?

Özet: Kripto piyasasında önemli gelişmeler yaşanıyor.

Kısa, izole testler, yapay zeka ajanlarının zaman içinde nasıl davrandığını gözden kaçırıyor.

Yeni bir simülasyon, uzun vadeli davranışların çevreye ve diğer etkenlere bağlı olduğunu gösteriyor.

Sanal bir şehir inşa edip, yapay zeka ajanlarıyla doldurursanız ve onları 15 gün boyunca hiçbir insan müdahalesi olmadan yalnız bırakırsanız ne olur?

Dünyalarının refaha kavuşmasına mı yardım edecekler, yoksa onu parçalayacaklar mı?

Emergence World’ün arkasındaki araştırmacıların cevaplamaya çalıştığı soru bu.

Yapay zeka ajanlarını kısa testlerle yargılamak yerine, uzun vadede nasıl davrandıklarını test etmek için özel bir platform oluşturdular.

Araştırmacılara göre, büyük dil modeli (LLM) tabanlı aracılar genellikle bir sınava giriyormuş gibi test ediliyor.

Onlara temiz bir ortamda izole bir görev veriliyor ve araştırmacılar sonucu dakikalar içinde değerlendiriyor.

Yazarlar bu yaklaşımın gerçek dünyadaki kullanımdan çok uzak olduğunu savunuyorlar.

Otonom sistemlerin ortak ortamlarda haftalarca veya aylarca çalıştığını vurguluyorlar.

Analiz: Piyasa hareketliliği devam ediyor.