Yapay zeka teknolojilerinin hızla ilerlemesiyle birlikte, sektörün önde gelen uzmanlarından insanlığın geleceğine dair endişe verici açıklamalar geldi. Yapay zekanın insan değerleriyle uyumu üzerine çalışan bir araştırmacı, bu teknolojinin tüm insanları yok etme olasılığının yüzde 10'dan fazla olduğunu ve bu riske karşı henüz bir planlama yapılmadığını belirtti. Bu açıklamalar, sektördeki iç tartışmaların ve derin kaygıların bir yansıması olarak dikkat çekiyor.
Anthropic bünyesinde yapay zeka uyum araştırmaları yapan Evan Hubinger, eski bir meslektaşı olan Jacob Coxon'un iddialarını doğruladı. Coxon'un, yapay zeka geliştirenlerin bu teknolojinin 10 yıl içinde insanlığı yok edebileceğine inandığı yönündeki paylaşımını alıntılayan Hubinger, bu görüşe 'gerçekten, içtenlikle' katıldığını ifade etti. Hubinger, önümüzdeki 10 yıl içinde bu olasılığın yüzde 10'u aşabileceğini düşündüğünü vurgulayarak, süper zeka ile uyum sorununu çözecek net bir plan veya yol haritasının henüz mevcut olmadığını dile getirdi.
Sektördeki bu kritik uyarılar, daha önce OpenAI ve Anthropic'te araştırmacı olarak görev yapmış olan Jacob Coxon'un istifası sonrası geldi. Coxon, her iki şirketin de yeterince sorumlu davranmadığını savunarak istifa ettiğini duyurmuştu. Şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içinde olduğunu belirten Coxon, bu teknolojinin gücünün hafife alınmaması gerektiğini vurguladı. Yapay zeka sistemlerinin yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek ve gerçek güç ile kaynaklar elde edebilecek insanüstü sistemler haline geleceği konusunda uyarılarda bulundu.
Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı 'öldürebileceğine' ciddi şekilde inandığını öne sürdü. Yöneticilerin kamuoyu önünde daha ılımlı konuşmalarına rağmen, kapalı kapılar ardında bu konuda büyük bir korku yaşadıklarını iddia eden Coxon'un ve Hubinger'in açıklamaları, yapay zeka etiği ve güvenliği konularındaki tartışmaların ne denli kritik bir boyuta ulaştığını gözler önüne seriyor.
Kaynak: TRT Haber (CaddeNews AI Derlemesi)
Yorumlar (0)
İlk yorumu siz yapın.