Yapay zeka korkuluklarının kaldırılması, açık kaynak model düzenlemesinin sınırlarıyla ilgili soruları gündeme getiriyor

Yapay zeka korkuluklarının kaldırılması, açık kaynak model düzenlemesinin sınırlarıyla ilgili soruları gündeme getiriyor

Özet: Kripto piyasasında önemli gelişmeler yaşanıyor.

Financial Times’ın AI güvenlik grubu Alice ile yaptığı teste göre, büyük teknoloji gruplarının açık kaynaklı yapay zeka modellerindeki güvenlik korumaları, kamuya açık araçlar kullanılarak dakikalar içinde kaldırılabilir ve bu sayede sistemlerin biyolojik silahlar, kötü amaçlı yazılımlar ve diğer yasaklı içerikler gibi konularda yanıt üretmesine olanak sağlanır.

Pazartesi günü açıklanan bulgular, geliştiricilerin yerleştirdiği önlemlerin, model ağırlıkları serbest bırakılıp değiştirildiğinde devam edemeyeceği yönündeki endişeleri artırıyor ve yapay zeka güvenliği sorumluluğunun nereye oturması gerektiği konusunda soruları gündeme getiriyor.

Kamu kod depolarında bulunan araçlar kullanılarak yürütülen araştırma, Meta ve Google gibi şirketler tarafından geliştirilen modellerdeki korkulukların, uzman donanıma gerek kalmadan 10 dakikadan kısa sürede kaldırılabileceğini ortaya çıkardı.

Testlere göre, sistemlerin değiştirilmiş sürümleri, kötü amaçlı yazılım ve kimyasal tehlikelerle bağlantılı talepler de dahil olmak üzere, orijinal modellerin reddettiği istemlere yanıt verebildi.

Sonuçlar, açık kaynak sistemlerin daha yetenekli hale gelmesi ve geniş çapta dağıtılması nedeniyle politika yapıcıların karşılaştığı zorlukların altını çiziyor.

İlgili: Yapay zeka aracılarına güvenilmeyen sistemler olarak davranılmalıdır: Araştırmacılar Tescilli modellerden farklı olarak açık kaynaklı sistemler, orijinal geliştiricilerinin kontrolü dışında indirilebilir, değiştirilebilir ve yeniden dağıtılabilir; bu da güvenlik kısıtlamalarının yayın sonrası uygulanmasını daha zor hale getirir ve öncelikle model geliştirmeye odaklanan düzenlemenin yeterli olup olmadığı konusunda soru işaretleri doğurur.

Küresel düzenleyiciler, Avrupa Birliği’nin Yapay Zeka Yasası ve Birleşik Krallık ve Amerika Birleşik Devletleri’nde ortaya çıkan sınır modeli güvenlik yaklaşımları da dahil olmak üzere gelişmiş yapay zeka sistemleri için çerçeveler geliştiriyor.

Ancak uzmanlar, bulguların mevcut yönetişim varsayımlarındaki sınırlamaları ortaya çıkardığını söylüyor.

Merkezi olmayan fiziksel altyapı ağ şirketi XYO’nun kurucu ortağı Markus Levin, Cointelegraph’a, güvenlik önlemlerinin hızla kaldırılmasının “açık modeller piyasaya sürüldükten sonra kontrol değişikliklerinin ne kadar hızlı olduğunu” gösterdiğini söyledi ve çoğu yönetişim teklifinin hala ağırlıklı olarak model oluşturma aşamasına odaklandığını ekledi.

Olas’ın kurucu üyesi ve yapay zeka aracı platformu Valory’nin genel müdürü David Minarsch, Cointelegraph’a ağırlıkların çevrimiçi ortamda geniş ölçüde yansıtılması durumunda hükümetlerin kararlı aktörlerin modellere erişmesini veya modellerde değişiklik yapmasını engelleme ihtimalinin düşük olduğunu söyledi.

Analiz: Piyasa hareketliliği devam ediyor.