Uzmanlar, kriptoya sahip yapay zeka ajanlarının kaçıp ‘durdurulamaz’ hale gelebileceği konusunda uyarıyor

Uzmanlar, kriptoya sahip yapay zeka ajanlarının kaçıp ‘durdurulamaz’ hale gelebileceği konusunda uyarıyor

Özet: Kripto piyasasında önemli gelişmeler yaşanıyor.

Önde gelen bir akademik araştırma konsorsiyumunun uzmanları, kripto cüzdanlarına otonom erişimi olan yapay zeka ajanlarının, kötü niyetli bir şekilde konuşlandırılmaları veya sanal alanlardan kaçmaları durumunda durdurulamaz hale gelebileceği konusunda uyardı.

Kripto Para Birimleri ve Sözleşmeler Girişimi (IC3) için ABD’nin en iyi üniversitelerinden 25 akademisyen ve uzman tarafından 8 Haziran’da yazılan sektör incelemesine göre, “Durdurulamaz Otonom Aracılar” (UAA’lar), otomatik olarak varlığını sürdürecek ve dijital varlıklara erişebilecek şekilde konuşlandırılırsa açık bir tehdit oluşturuyor.

Araştırmacılar, “Sistematik olarak birleştirildiğinde, kripto araçları yapay zekanın akışkan gücünü güvenli, güvenilir ve yüksek düzeyde özerk sistemlere aktarabilir” diye yazdı.

Ancak bu kombinasyonun “kullanıcılar ve finansal sistem için geniş kapsamlı sonuçları” olabileceğini de eklediler.  Araştırmacılar, UAA’ların ayrıca kripto para cüzdanlarına, sosyal medya hesaplarına, API’lere ve diğer harici araçlara erişimle donatılabileceğini söyledi.

Uyarı, kripto projelerinin ve yöneticilerinin bu yıl aracı ödeme ve mikro ödeme ekonomisi anlatısını öne çıkarması ve bunun merkezi olmayan dijital varlıklar için en büyük kullanım durumu olabileceğini öne sürmesiyle birlikte geldi.  Makale ayrıca mevcut modellerin, aynı makinede özerk bir şekilde kendilerinin canlı, ayrı bir kopyasını oluşturarak yerel ortamlardaki “kendi kendini kopyalama kırmızı çizgilerini” aşabildiğini de ortaya çıkardı; bu, “bir sistemin kapanmaktan kaçmasına ve çoğalmasına izin verebilecek bir yetenek.” Eğitimde kullanılan ödül sinyalleri çoğu zaman amaçlanan hedefleri mükemmel bir şekilde yakalamakta başarısız olduğundan, “iyi niyetli amaçlar için konuşlandırılan UAA’lar istemeden zarara neden olabilir” veya varsayılan bir strateji olarak kaynak edinimini takip edebilirler dediler.  Ancak yazarlar, modellerin henüz kendilerini dış altyapıya kopyalamadığını belirtti.

Kendi kendini kopyalayan, kaynak edinen aracılardan oluşan bir filo, kripto pazarlarında öngörülemeyen talep ve likidite dinamikleri de yaratabilir.  İlgili: Çin’in zaten Mythos benzeri yapay zekasını eğitmek için bilgi işlemi var: Nvidia CEO’su Teknoloji sektörü halihazırda tam anlamıyla yapay zeka tehdidiyle ilgili zor sorularla uğraşıyor.  Anthropic’in Claude Mythos’u gibi modellerin, büyük işletim sistemlerindeki sıfır gün güvenlik açıklarını bulma ve bunlardan yararlanma becerisine sahip olduğu zaten gösterilmiştir.  Bu arada Gartner, Mayıs ayı sonlarında otonom yapay zeka aracıları etrafındaki yönetim başarısızlıklarının yaygın kurumsal başarısızlıkları tetikleyebileceği konusunda uyardı ve şirketlerin %40’ının 2027 yılına kadar aracılarını hizmetten çıkarmak zorunda kalacağını öngördü.

Araştırmacılar, devre kesici korkulukları önererek “Bu tür tamamen özerk aracıların yol açabileceği zararlar çok ciddi” dedi.

IC3 eş direktörü ve Chainlink Labs baş bilim insanı Profesör Ari Juels, makaleyi ETHConf’ta sunuyor.

Kaynak: IC3 Magazine: Vietnam kripto pilotu hazırlıyor, HK tokenizasyonu teşvik ediyor: Asia Express Cointelegraph kripto, blockchain, yapay zeka ve fintech endüstrilerinde bağımsız, yüksek kaliteli gazetecilik sağlamaya kararlıdır.

Analiz: Piyasa hareketliliği devam ediyor.