Yapay zeka aracılarına güvenilmeyen sistemler olarak davranılmalıdır: Araştırmacılar

Yapay zeka aracılarına güvenilmeyen sistemler olarak davranılmalıdır: Araştırmacılar

Özet: Kripto piyasasında önemli gelişmeler yaşanıyor.

Yeni bir araştırma makalesine göre, yapay zeka destekli ajanlara yönelik güvenlik, kötü aktörlerin başarısızlıklarını ve saldırılarını daha iyi önlemek için yalnızca modelin etrafına değil, tüm sisteme yerleştirilmelidir.

Google, Gray Swan AI, EmbraceTheRed ve çeşitli üniversitelerden araştırmacılar tarafından 20 Mayıs’ta yayınlanan değiştirilmiş makale, ajan güvenliğine bir sistem sorunu olarak yaklaşılması gerektiğini ve AI ajanlarına güvenilmeyen bir bileşen olarak davranılması gerektiğini savundu.

Araştırmacılar, “Bu açıdan bakıldığında, topluluktaki baskın bakış açısı olan model sağlamlığını artırma çabaları tek başına yetersizdir.

Bunun yerine, mevcut çabaları sistem güvenliği alanındaki tekniklerle tamamlamalıyız” dedi.

Yapay zeka ajanları kripto kullanıcıları arasında giderek daha popüler hale geliyor.

Bazı kripto para yöneticileri, uzaydaki yapay zeka ajanlarının önümüzdeki birkaç yıl içinde patlayabileceğini öne sürüyor.

Circle CEO’su Jeremy Allaire, Ocak ayında milyarlarca yapay zeka aracısının beş yıl içinde kullanıcılar adına faaliyet göstereceğini tahmin etmişti.

Araştırmacılar, bir dizi saldırı vaka çalışmasını inceledikten sonra “üç mekanizmanın” “saldırıların büyük bir kısmını ortadan kaldırabileceğini” söyledi.

Saldırganların veri içindeki kötü amaçlı talimatları gizleyerek aracıyı kandırmasını önlemek için yapay zeka aracılarının talimatlar ile güvenilmeyen veriler arasında net bir ayrım yapması gerektiğini savunuyorlar.

Araştırmacılara göre yapay zeka aracısının tam erişim yerine yalnızca bir görevi gerçekleştirmek için gereken minimum izinlere sahip olması gerekiyor.

Analiz: Piyasa hareketliliği devam ediyor.