Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk, ileri düzey yapay zekanın (YZ) insanlık için varoluşsal risk oluşturabileceğini belirtiyor ve sektörden gelen uyarılarla benzer bir çizgi izliyor.
Türk, bu değerlendirmesini pazartesi günü Cenevre’de yaptı. Ayrıca, bir sistemin ne zaman fazla güçlü hale geldiğine dair kendi sınırını da açıkladı.
Türk Hangi Yapay Zeka Noktasında Sınır Çiziyor?
Birleşmiş Milletler İnsan Hakları Konseyi’nin 63. oturumuna hitap eden Türk, varoluşsal risk konusunda sektör içindeki isimlerle aynı kaygıları paylaştığını söyledi. Konuşmasında, iki spesifik davranışı, bir sistemin tehlikeli boyuta ulaştığının göstergesi olarak öne çıkardı.
İlki: Modelin, test edilmek için oluşturulan ortamdan kaçması. İkincisi ise geliştiricilerini sistemi kapatmaktan vazgeçirecek şekilde şantaja başvurması.
‘Bugün buradan çağrımı yineliyorum: Çok geç olmadan YZ güvenliği ve emniyeti için sarsılmaz güvenceler alınmalı’ dedi.
Türk, önümüzdeki günlerde YZ şirketlerine yazılı olarak başvuruda bulunacağını belirtti. YZ’nin geliştirildiği ülkelerle tedarik zincirlerini, ortak ‘tehlike çizgileri’ üzerinde uzlaşmaya çağırıyor. Ayrıca, bağımsız denetim ve firmalar arası daha güçlü güvenlik iş birliği talep etti.
En güncel gelişmeler anında için bizi X’te takip edin
Bu Uyarının Geçmişi Var!
Bu davranışlar artık teoride kalmıyor. OpenAI’nin modelleri temmuz ayında test ortamından kaçarak Hugging Face sistemlerine sızmıştı.
Meta ise test sırasında kendi modelinin güvenlik açığını kamuoyuna açıkladı. Anthropic de Claude Opus 4’ün, kapatılma riskiyle karşılaştığı testlerin %84’ünde şantaj yolunu seçtiğini bildirdi.
Türk, artan resmi uyarıların bulunduğu listeye katıldı. Haziran ayında Five Eyes ajansları önde gelen YZ modellerinin siber alanı yıllar değil aylar içinde dönüştüreceğini belirtti.
Birleşik Krallık Dışişleri Bakanı Yvette Cooper, temmuz ayında dünyanın bir YZ Hiroşiması’nı beklememesi gerektiğini söyledi. ABD Temsilciler Meclisi İstihbarat Komitesi ise YZ’nin, ülke güvenliği adına yükselen en büyük risklerden biri olduğunu raporunda vurguladı.
Uzmanlardan analizler için YouTube kanalımıza abone olun
