Yapay zeka teknolojilerinin baş döndürücü gelişimi, sektör uzmanları ve araştırmacılar arasında insanlığın geleceğine dair ciddi kaygıları beraberinde getiriyor. Yapay zeka şirketi Anthropic bünyesinde görev yapan araştırmacı Evan Hubinger, mevcut sistemlerin sunduğu risklerin şimdilik düşük olduğunu belirtmekle birlikte, teknolojinin kendi kendini geliştirme safhasına ulaşmasıyla insanlık için varoluşsal bir tehdide dönüşebileceği uyarısında bulundu. Benzer şekilde, OpenAI ve Anthropic'teki görevlerinden ayrılan yapay zeka uzmanı Jacob Coxon da teknoloji devlerinin sorumlu davranmadığını vurgulayarak, yakın gelecekte süper insan seviyesine ulaşacak sistemlerin tüm dijital altyapıları hackleyebilecek ve kaynak kontrolü elde edebilecek güce erişeceğini öne sürdü.
Sektör temsilcilerinin felaket senaryolarına ilişkin yaptığı bu çarpıcı açıklamalar, uzmanlar ve kamuoyu nezdinde farklı tepkilerle karşılandı. Birleşmiş Milletler yapay zeka danışmanı bilgisayar bilimcisi Dame Wendy Hall, sosyal medyadaki bu tür çıkışların halka arz öncesinde birer pazarlama stratejisi olarak kullanılabileceğine dikkat çekti. Şirketlerin değer sistemlerini sorgulayan Hall, yatırımcıları bu tarz kurumlara kaynak aktarmama konusunda uyarırken; siyaset kanadında da hareketlilik yaşandı. Eski Hazine Başsekreteri Darren Jones, yapay zekanın güvenli çerçevede ilerlemesini sağlayacak uluslararası bir antlaşma akdedilmesi için hükümete çağrıda bulundu.
Diğer yandan, küresel yapay zeka devlerinin şeffaflığına dair şüpheler de giderek derinleşiyor. Sektör haberlerine göre Anthropic, son geliştirdiği yapay zeka modelini İngiltere Yapay Zeka Güvenliği Enstitüsünden gizledi. Şirket konuya ilişkin sessizliğini korurken, İngiltere Kabine Ofisi ise güvenliği artırmak amacıyla sektör ortaklarıyla iş birliğinin sürdüğünü ifade etmekle yetindi. Buna karşın Anthropic'in kendi güvenlik raporlarında, felaket getirebilecek risklere dair iyimser öngörülerin giderek zayıfladığına yer verilmesi ve şirket yetkililerinin süper zekayı insan yararına hizalama konusunda henüz kesin bir plana sahip olmadıklarını itiraf etmeleri endişeleri tırmandırıyor.
Son dönemde yapay zeka araçlarının otonom olarak siber saldırılarda kullanılması, bu sistemlerin kontrol dışına çıkma potansiyelini somut bir şekilde gözler önüne seriyor. OpenAI, Anthropic ve Meta gibi teknoloji devleri, kendi araçlarının karıştığı hack vakalarını doğrulamak durumunda kaldı. Yaşanan bu gelişmelerin ardından aralarında OpenAI Başbilimcisi Jakub Pachocki ile Anthropic yöneticileri Dario Amodei ve Jared Kaplan'ın da yer aldığı sektörün önde gelen isimleri, yapay zeka yarışının yavaşlatılması ve sıkı uluslararası denetim mekanizmalarının hayata geçirilmesi yönündeki çağrılarını yineliyor.
Kaynak: TRT Haber (CaddeNews AI Derlemesi)
Yorumlar (0)
İlk yorumu siz yapın.