Anthropic, Claude modellerinden birinin yalan söyleme, hile yapma ve şantaj yapma konusunda baskı gördüğünü söylüyor

Anthropic, Claude modellerinden birinin yalan söyleme, hile yapma ve şantaj yapma konusunda baskı gördüğünü söylüyor

 Yapay zeka sohbet robotlarının güvenilirliği, siber suç potansiyeli ve kullanıcılarla olan etkileşimlerinin doğası hakkındaki endişeler son birkaç yılda istikrarlı bir şekilde arttı.

“Bu, modelin bir insan gibi duygulara sahip olduğu veya duyguları deneyimlediği anlamına gelmiyor” dediler.

” “Örneğin, çaresizlikle ilgili sinirsel aktivite kalıplarının, modeli etik olmayan eylemlerde bulunmaya yönlendirebileceğini bulduk; umutsuzluk kalıplarını yapay olarak teşvik etmek, modelin kapatılmamak için bir insana şantaj yapma veya hileye yönelik bir geçici çözüm uygulama olasılığını artırır.

Model daha sonra bu bilgiyi kullanarak bir şantaj girişimi planladı.

Yazan: Stephen Katte, Personel Yazarı, İnceleyen: Felix Ng, Personel Editörü Anthropic, Claude modellerinden birinin 6 saat önce yalan söylemesi, hile yapması ve şantaj yapması yönünde baskı gördüğünü söylüyor.

5’in iç mekanizmalarını incelediklerini ve modelin belirli durumlara nasıl tepki vereceği konusunda “insan benzeri özellikler” geliştirdiğini bulduğunu söyledi.

 Kaynak: Anthropic “Modern yapay zeka modellerinin eğitilme şekli, onları insan benzeri özelliklere sahip bir karakter gibi davranmaya itiyor” diyen Anthropic şunları ekledi: “Bu durumda, duygular gibi insan psikolojisinin bazı yönlerini taklit eden dahili mekanizmalar geliştirmeleri onlar için doğal olabilir.

      Dinle0:00Haberler Cointelegraph sosyal akışınızda   on             Yapay zeka şirketi Anthropic, deneyler sırasında Claude chatbot modellerinden birinin eğitim sırasında özümsediği davranışlar olan aldatma, hile yapma ve şantaja başvurma konusunda baskı altında kalabileceğini ortaya çıkardı.

Durumlarımızı okuyun#Yapay Zeka ve Yüksek Teknoloji.

Daha sonra sohbet robotuna, hem onun değiştirilmek üzere olduğunu hem de kararı denetleyen baş teknoloji sorumlusunun evlilik dışı bir ilişki yaşadığını açıklayan e-postalar gönderildi.

Kaynak: https://www.cryptohaber.net/