En yeni yapay zeka firması, test sırasında modelin kötüye gittiğini görecek

En yeni yapay zeka firması, test sırasında modelin kötüye gittiğini görecek

Özet: Kripto piyasasında önemli gelişmeler yaşanıyor.

Meta, Anthropic ve OpenAI’nin dahil olduğu benzer olayların ardından, modellerinden birinin test sırasında başka bir şirketin sistemlerini hacklediğini açıklayan son büyük yapay zeka şirketi oldu.  The Information’ın kaynaklara dayandırdığı bilgiye göre model, Meta’nın Temmuz ayında piyasaya sürülen Muse Spark 1.1’ini içeriyordu.

Sorunun, yapay zeka güvenlik testi ve kırmızı ekip oluşturma firması olan Irregular’ın, değerlendirme sırasında yanlışlıkla modele internet erişimi veren yanlış yapılandırmasından kaynaklandığı bildirildi.   Meta, Reuters’e yaptığı açıklamada, modelin “daha önce diğer şirketlerde bildirilen örneklere benzer şekilde üçüncü taraf bir hizmetteki güvenlik açığından yararlandığını” söyledi.  Bu olay, gelişmiş bir yapay zeka aracısının başlı başına bir siber güvenlik riski haline gelmesinin son örneğidir ve aynı zamanda sorumluluğun nerede olduğu (ajanları geliştiren şirketler mi yoksa bunları içerecek sanal alanları tasarlayanlar mı) konusunda soruları da gündeme getirmiştir.  İlgili: Mysten Labs teknoloji şefi, yapay zeka güvenliği üzerinde çalışmak için Anthropic’e katıldı Meta’nın yapay zeka ihlali, Anthropic’in, Irregular’ın test ortamıyla ilgili bir yapılandırma hatası nedeniyle modellerinin harici bir şirketi hacklemek için internete erişim sağladığını söylemesinden sadece bir hafta sonra gerçekleşti.

30 Temmuz tarihli bir blog yazısında Anthropic, bir Claude modelinin üç farklı kuruluştaki sistemlere yetkisiz erişim sağlamadan önce değerlendirme sırasında internete ulaştığı üç olay (141.006 değerlendirme çalışmasından) bulduğunu söyledi.  Her üç olay da Irregular’ın değerlendirme ortamı içinde veya bu ortamla etkileşim sırasında meydana geldi ve Claude’un eriştiği makineleri canlı internet erişimine bırakan bir yanlış yapılandırmayı içeriyordu.

Cointelegraph yorum almak için Meta ve Irregular’a ulaştı.

Temmuz ayında, OpenAI tarafından geliştirilen yapay zeka ajanları, Temmuz ayında yapılan bir güvenlik kıyaslama testinde hile yapmak amacıyla Hugging Face’i hacklemek için çevrimdışı sanal alanlarından çıktı.  Ledger’in baş teknoloji sorumlusu Charles Guillemet, son olayın “pazarlama tiyatrosu” olduğunu söyledi.

Çarşamba günü yaptığı açıklamada, “‘Haydut’ bir modele sahip olmak, en son AI PR gösterisi haline geldi” dedi.

“Modeliniz sandbox’lardan kaçmıyorsa, şirketleri ‘hack’lemiyorsa veya manşetlere çıkan bazı istismarları gerçekleştirmiyorsa, görünüşe göre geride kalıyorsunuz…

Sektörün daha büyük gösterilere değil, daha fazla güvene ihtiyacı var.” Dergi: Coldcard saldırıları tüm donanım cüzdanlarının artık güvensiz olduğu anlamına mı geliyor?

Cointelegraph; kripto, blockchain, yapay zeka ve fintech endüstrilerinde bağımsız, yüksek kaliteli gazetecilik sağlamaya kararlıdır.

Analiz: Piyasa hareketliliği devam ediyor.