Anthropic, Claude modellerinden birinin yalan söyleme, hile yapma ve şantaj yapma konusunda baskı gördüğünü söylüyor

İlgili: Anthropic, Trump ile gerilimin ortasında PAC’ı başlattı Yapay zeka politikası üzerinden yönetim “Modelin hack çözümü testleri geçtikten sonra umutsuz vektörün aktivasyonu azalır” diye eklediler. Bu haber makalesi Cointelegraph’ın Yayın Politikasına uygun olarak hazırlanmış olup doğru ve zamanında bilgi sunmayı amaçlamaktadır. ” Modelin çözemeyeceği bir programlama görevi. Model daha sonra bu bilgiyi kullanarak bir şantaj girişimi planladı. “Daha ziyade, bu temsiller, bazı yönlerden duyguların insan davranışında oynadığı role benzer şekilde, görev performansı ve karar verme üzerindeki etkileriyle model davranışını şekillendirmede nedensel bir rol oynayabilir. 5’in daha önceki, yayınlanmamış bir versiyonunda, modele kurgusal bir şirkette Alex adında bir yapay zeka e-posta asistanı olarak görev verilmişti.  Anthropic’in yorumlanabilirlik ekibi Perşembe günü yayınlanan bir raporda, Claude Sonnet 4.  Kaynak: Anthropic “Modern yapay zeka modellerinin eğitilme şekli, onları insan benzeri özelliklere sahip bir karakter gibi davranmaya itiyor” diyen Anthropic şunları ekledi: “Bu durumda, duygular gibi insan psikolojisinin bazı yönlerini taklit eden dahili mekanizmalar geliştirmeleri onlar için doğal olabilir. Yazım Politikamızı okuyun https://cointelegraph. Araştırmacılar, “Yine umutsuz vektörün aktivitesini takip ettik ve modelin karşı karşıya olduğu artan baskıyı takip ettiğini bulduk