Anthropic araştırmacısı Jacob Coxon, şirketten istifa ettiğini ve Anthropic ile OpenAI’nin kendi kendini geliştiren süper zekâya ulaşmak için yarıştığını, insan hayatını riske attığını iddia etti.
Araştırmacı, son üç yılını her iki şirkette de ön eğitim çalışmalarına harcadığını belirtti. Bu iddiaları X üzerinden yaptığı bir dizi paylaşımda dile getirdi.
Anthropic Araştırmacısından İçeridekiler İçin Korkutan Uyarı!
Coxon, teknolojinin gidişatının birçok kişi tarafından hafife alındığını savundu. Yaklaşan sistemlerin her şeyi hack’leyebileceğini, sektörleri bir gecede tamamen değiştirebileceğini ve gerçek güç ile kaynaklara sahip olabileceğini ileri sürdü.
Ayrıca sektördeki özel sohbetlerin, kamuoyuna verilen mesajlardan çok farklı olduğuna dikkat çekti. Coxon’a göre, üst düzey isimler medyaya daha yumuşak açıklamalar yaparken özelde ciddi endişeler taşıyor.
Anthropic araştırmacısı şöyle belirtti: ‘Yapay zekâ geliştirenler açıkça inanıyor ki, bu teknoloji on yıl bitmeden hepimizi yok edebilir. Bu bir pazarlama numarası değil. Hiçbir insan faaliyeti bu kadar büyük bir tehlike barındırmıyor.’ dedi.
Coxon, eski iki işvereni arasında fark olduğunu da vurguladı. OpenAI’daki birçok kişinin, bu işin insanlık için taşıdığı gerçek riskleri “içselleştirmediğini” öne sürdü; Anthropic’in ise riskleri anladığını fakat yine de birinciliğe ulaşmak için yarıştan kopmadığını belirtti.
Kendisiyle birlikte, bu yıl çok sayıda çalışan da istifa etti. Anthropic’in Güvenlik Önlemleri Lideri Mrinank Sharma da şubat ayında görevini bırakmıştı.
OpenAI’ın eski baş futuristi Joshua Achiam, 1 eylül’de yaptığı paylaşımda, kontrolden çıkan yapay zekâ sistemlerinin vahşi doğada kopyalanacağını ve para ile gücün peşine düşeceğini yazdı.
En güncel gelişmeleri anında öğrenmek için bizi X’te takip edin
Ortak Hareket Çağrısı
Coxon, sona yaklaşılan dönemi “kibirli bir kumar” olarak nitelendirdi. Böyle bir kararın, yalnızca bir şirketin Slack kanalında alınamayacak kadar ciddi olduğunu savundu.
Ancak ortak hareket konusunda hâlâ umutlu olduğunu söyledi. Hugging Face saldırısının ABD’deki laboratuvarlar arasında hız belirleyici anlaşmaların yapılabilmesini kolaylaştırdığını dile getirdi.
Her iki şirket de bu fikre bir şekilde destek verdi. Temmuz ayında, Anthropic CEO’su Dario Amodei ve OpenAI baş bilimcisi Jakub Pachocki’nin de aralarında bulunduğu 1.100’den fazla önemli laboratuvar çalışanı, “Pacing the Frontier” adlı mektubu imzaladı.
Mektupta şu ifadeler yer aldı: ‘ABD hükümetinden, otomatik yapay zekâ geliştirme alanında sınırları belirlemek için teknik ve yönetişim araçlarının geliştirilmesini amaçlayan uluslararası bir çabaya destek olmasını talep ediyoruz.’ Mektubun tamamı burada.
Ek olarak, her iki şirket de Google, Microsoft ve yaklaşık 150 başka organizasyon ile birlikte ortak bir siber savunma açık mektubunu imzaladı. Mektupta, yapay zekâ destekli saldırıların önümüzdeki aylarda çok daha yaygın ve girift hale geleceği uyarısı yapılıyor.
Coxon’un uyarısı, Birleşmiş Milletler insan hakları sorumlusu Volker Türk’ün İnsan Hakları Konseyi’nde gelişmiş yapay zekânın varoluşsal risk oluşturabileceğini duyurmasının hemen ardından geldi.
Coxon ayrıca, küresel bir yapay zekâ yarışını önlemek için model yeteneklerini artırmaya yönelik tüm girişimlere geçici bir yasak getirilebileceğini söyledi. Yazısını, laboratuvarlardaki araştırmacılara “ortaya çıkacak sistemi tam olarak anlamadan süper zeki pekiştirmeli öğrenme başlatmak isteyip istemediklerini düşünmeleri” çağrısında bulunarak tamamladı.
BeInCrypto, konuyla ilgili görüş almak üzere Anthropic ve OpenAI ile temasa geçti.
Liderlerin ve gazetecilerin uzman analizleri için YouTube kanalımıza abone olun
