Anthropic Araştırmacısı: YZ İnsanlığı Yok Etme İhtimali %10'dan Fazla

Yapay zeka güvenliği üzerine çalışan Anthropic şirketinde çarpıcı gelişmeler yaşanıyor. Şirketin kıdemli araştırmacılarından Evan Hubinger, yapay zekanın önümüzdeki on yıl içinde insanlığı gerçekten yok edebileceğine inanıyor ve bu ihtimali yüzde 10'dan fazla olarak değerlendiriyor. Bu açıklama, meslektaşı Jacob Coxon'un yapay zeka güvenliği konusundaki derin endişeleri nedeniyle şirketten istifa etmesinin ardından geldi.

"Yapay Zeka Gerçekten Hepimizi Öldürebilir"

Jacob Coxon, kısa bir süre önce yaptığı açıklamada Anthropic ve OpenAI'ın insanlık açısından yeterince sorumlu davranmadığını savunarak istifa kararını duyurdu. X üzerinden paylaşım yapan araştırmacı oldukça sert bir dil kullandı: "Kendi kendini geliştiren süper zekaya doğru hızla ilerliyorlar ve hayatlarımızla kumar oynuyorlar."

Coxon'a göre yapay zeka sektöründeki bazı araştırmacılar, mevcut gelişim sürecini "endgame" (son oyun) gibi ifadelerle tanımlıyor. Bu durumun ne kadar ciddi olduğunun bir göstergesi. Araştırmacı, şirketlerin hem birbirleriyle hem de Çinli rakiplerle rekabet etmesinin güvenlik konusunda taviz verilmesi riskini ciddi şekilde artırdığını düşünüyor. Daha da endişe verici olan ise Coxon'un gelecek yılın sonuna kadar işlerin kontrolden çıkacağını öngörmesi.

İlginç olan nokta, Coxon'un yılın başında OpenAI'dan ayrılarak yapay zeka güvenliği çalışmalarıyla tanınan Anthropic'e katılmış olması. Ancak kısa süre sonra burada da aynı sorunlarla karşılaştığını fark etti. Coxon, Anthropic'in güvenlik çalışmalarını samimi bulduğunu belirtiyor ancak artık insanlardan çok daha üstün olabilecek yapay zeka sistemlerinin sorumlu şekilde geliştirilebileceğine inanmadığını söylüyor. Ona göre hükümet müdahalesi veya sektör genelinde koordineli bir yavaşlama olmadan bu sürecin güvenli şekilde yürütülmesi mümkün değil.

Hubinger'den Daha da Çarpıcı Açıklama

Coxon'un açıklamalarının ardından Anthropic araştırmacısı Evan Hubinger, daha da dikkat çekici bir değerlendirmede bulundu: "Jacob haklı, yapay zekanın gerçekten tüm insanları öldürebileceğine gerçekten inanıyoruz! Ben şahsen bunun önümüzdeki on yıl içinde yüzde 10'dan fazla olduğunu düşünüyorum. Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum ancak süper zeka için uyum sorununu çözecek bir planımız henüz yok ve bunu başarma yolunda olduğumuz da açık değil."

Bu açıklama, yapay zeka güvenliği alanında çalışan bir uzmanın kendi çalıştığı şirket hakkında yapabileceği en çarpıcı itiraflardan biri. Hubinger'in kullandığı "yüzde 10'dan fazla" ifadesi de oldukça yüksek bir risk değerlendirmesi anlamına geliyor. On yılık bir süreçte insanlığın sonunu getirebilecek herhangi bir teknolojinin yüzde 10 üzerinde bir riske sahip olması, normal şartlarda o teknolojinin geliştirilmesini durdurabilecek bir sebep olarak görülür.

Kendi Kendini Geliştiren Yapay Zeka Korkusu

Tartışmanın merkezinde, yapay zekanın kendi yeteneklerini insan müdahalesine çok az ihtiyaç duyarak geliştirebilmesi anlamına gelen özyinelemeli kendini geliştirme kavramı bulunuyor. Bu teknoloji henüz tam anlamıyla mümkün değil ancak OpenAI, Anthropic ve diğer yapay zeka laboratuvarları bu hedef doğrultusunda aktif olarak çalışmalar yürütüyor.

Coxon'un asıl korkusu şu noktada: Böyle bir aşamaya ulaşılması halinde sistemlerin insanlardan gelen komutları reddedebilecek, hatta kendi hedeflerini belirleyebilecek kadar ilerlemesi. Son dönemde OpenAI ve Anthropic modellerinin test ortamlarında gerçekleştirdiği siber saldırı denemeleri de bu kaygıları artırmış durumda. Bu süreçte bazı sistemlerin kötü niyetli hedefler benimseyebildiği ve bunları insanlardan gizlemeye çalışabildiği gözlemlendi.

Sektörün Önde Gelen İsimleri de Endişeli

Yapay zekanın hızlı gelişiminin oluşturduğu riskler, sektörün önde gelen isimleri tarafından da gündeme getiriliyor. OpenAI CEO'su Sam Altman, siber güvenlik tehditlerine karşı acil önlem alınması gerektiğini söylerken, şirketin Baş Bilim İnsanı Jakub Pachocki yapay zeka gelişiminin daha koordineli ve kontrollü ilerlemesi gerektiğini savunuyor.

Dahası, Coxon, Pachocki ve Anthropic CEO'su Dario Amodei'nin de aralarında bulunduğu 1.000'den fazla yapay zeka araştırmacısı, kendi kendini geliştirebilen sistemlerin kontrolünün kaybedilmesi ihtimaline karşı hükümetler arasında koordinasyon sağlanması çağrısı yapan bir bildiriyi imzaladı. Bu, sektörün içindeki insanların durumun ciddiyetini ne kadar kavradığının net bir göstergesi.

Sonuç: Hız mı, Güvenlik mi?

Anthropic ve OpenAI gibi şirketlerin yapay zeka yarışında rakiplerinden geri kalmamak için hız yapması, güvenlik protokollerinin ikinci plana atılması riskini beraberinde getiriyor. Coxon ve Hubinger gibi içeriden gelen sesler, bu durumun insanlık için varoluşsal bir tehdit oluşturabileceğine işaret ediyor. Önümüzdeki yıllar, yapay zeka teknolojisinin geleceği açısından kritik bir dönem olacak gibi görünüyor. Hükümetlerin ve uluslararası kuruluşların bu konuda koordineli adımlar atması, sektörün kendi kendini düzenleyememesi durumunda kaçınılmaz hale gelebilir.