Anthropic’in uyarısı: Yapay zeka kendi başına daha akıllı hale gelmenin eşiğinde

Anthropic’in uyarısı: Yapay zeka kendi başına daha akıllı hale gelmenin eşiğinde

Özet: Kripto piyasasında önemli gelişmeler yaşanıyor.

ABD merkezli yapay zeka firması Anthropic, yapay zeka gelişiminin, yakında temsilcilerin insan katkısı olmadan kendilerini geliştirebileceğini, eğitebileceğini ve geliştirebileceğini görebilecek bir hızda ilerlediği konusunda uyarıyor ve geliştirmede bir yavaşlama öneriyor.

Perşembe günü yayınlanan bir blog yazısında, Anthropic Institute’un başında bulunan Marina Favaro ve Anthropic’in kurucu ortağı Jack Clark, temsilcilerin kodları zaten kendilerinin çalıştırabildiğini, çalışma saatlerini diğer temsilcilere devredebildiğini ve yönetimi tamamen devralmanın eşiğinde olabileceğini söyledi.

“Yapay zeka tarihinin büyük bölümünde, geliştirme döngüsünün her adımını insanlar attı.

Ancak Anthropic’te, yapay zeka geliştirmenin giderek artan bir payını yapay zeka sistemlerine devrediyoruz, bu da çalışmalarımızı hızlandırıyor” dediler.

Favaro ve Clark, “Yeterince ileri götürüldüğünde ve yeterli bilgi işlem sağlandığında, bu eğilim, kendi halefini tamamen özerk bir şekilde tasarlayıp geliştirebilen bir yapay zeka sistemine işaret ediyor” diye ekledi.  Yapay zekanın kendi başına daha akıllı hale gelmesi durumunda neler olabileceğine dair endişeler var.

Aralık ayında OpenAI, özyinelemeli kendini geliştirme yeteneğine sahip yapay zeka da dahil olmak üzere giderek daha yetenekli yapay zekanın nasıl güvenli bir şekilde geliştirilip dağıtılacağını araştırdığını söyledi.

“Bu sistemlerin karmaşık, gerçek dünya senaryolarında ve düşmanlık koşullarında sürekli olarak insanın niyetini takip etmesini, yıkıcı davranışlardan kaçınmasını ve kontrol edilebilir, denetlenebilir ve insani değerlerle uyumlu kalmasını istiyoruz” dedi.

Şirket aynı zamanda Güvenlik Araştırması ekibinin bir parçasını oluşturan özyinelemeli kişisel gelişim hazırlığı için bir araştırmacıyı da işe alıyor.

Favaro ve Clark’a göre yapay zeka modelinin gelişimi her yedi ayda bir yerine her dört ayda bir kabaca ikiye katlanıyor.

Anthropic’in Claude modelinin yazdığı kodun yaklaşık %80’inin Anthropic’in kod tabanıyla birleştirilmesiyle insanların rolü her adımda daralıyor.

Analiz: Piyasa hareketliliği devam ediyor.