Anthropic kurucusundan dikkat çeken yapay zeka mesajı: “Kapatma düğmesi zorunlu olabilir”

Yapay zeka teknolojilerinin hızlı gelişimi ve oluşturabileceği risklere ilişkin tartışmalar sürerken, Anthropic’in kurucu ortaklarından Jack Clark’tan dikkat çeken bir açıklama geldi. Clark, yapay zekanın çok tehlikeli bir duruma gelmesi halinde tamamen kapatılmasını sağlayacak bir sistemin şirketler için zorunlu hale getirilebileceğini söyledi.

BBC’ye konuşan Clark, Anthropic dahil birçok yapay zeka laboratuvarının sistemlerin çalışmasını durdurmak için farklı yöntemlere sahip olduğunu belirtti. Ancak Clark, ilerleyen dönemde yasa koyucuların şirketleri bir “kapatma düğmesi” bulundurmaya zorlayabileceğini ifade etti.

Clark, söz konusu kapatma mekanizmasının üçüncü bir taraf tarafından doğrulanabilir olmasının da tartışılması gerektiğini söyledi. Bu konunun yapay zeka politikalarıyla ilgili daha geniş tartışmaların bir parçası haline gelebileceğini belirten Clark, toplumun bu tür güvenlik mekanizmalarının gerçekten çalışıp çalışmadığını bilmek isteyeceğini dile getirdi.

Yapay zeka güvenliği tartışmalarının merkezinde

2021 yılında OpenAI’ın eski çalışanları tarafından kurulan Anthropic, yapay zeka güvenliği konusundaki tartışmaların önemli aktörlerinden biri haline geldi.

Anthropic Üst Yöneticisi Dario Amodei de yapay zeka geliştirme hızının yavaşlatılması ve teknolojinin daha yakından izlenmesi gerektiği yönünde açıklamalarda bulundu. Amodei, güvenliğe yönelik adımların şirketlerin ticari avantajlarından vazgeçmesini gerektirmeden atılması gerektiğini belirtti.

Anthropic bilim insanı Evan Hubinger, önümüzdeki 10 yıl içerisinde yapay zekanın insanlığın sonunu getirme ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü açıklarken, bilgisayar bilimcisi ve Nobel Ödülü sahibi Geoffrey Hinton da yapay zekanın tüm insanlığı yok etme ihtimalinin yüzde 10 olmasının mantıksız olmadığını söyledi.

Sektörde ise bu risk değerlendirmelerinin abartılı olduğunu savunan görüşler de bulunuyor. Yapay zekanın insanlığın geleceği açısından oluşturduğu risklerin yanı sıra teknolojik gelişmelerin sınırlandırılmasının ekonomik ve rekabet açısından sonuçları da tartışılıyor.

“Devasa risklerle zar atılıyor”

Yapay zeka sektörünün tamamen kuralsız şekilde ilerlemesine izin verilmesinin kötü bir fikir olduğunu belirten Clark, sektörde “devasa risklerle zar atıldığını” ve gidişatın değiştirilmesi gerektiğini söyledi.

ABD’li milletvekilleri de sorunlu yapay zeka araçlarının devre dışı bırakılabilmesini şirketler açısından zorunlu hale getirmeyi amaçlayan “Kill Switch Yasası” olarak anılan bir tasarı sundu. Tasarı, bazı devlet kurumlarına yapay zeka araçlarının kapatılmasını veya sınırlandırılmasını talep etme yetkisi verilmesini de öngörüyor.

ABD Başkanı Donald Trump ise yapay zeka geliştirme çalışmalarının yavaşlatılması yönündeki çağrılara karşı çıkıyor. İngiltere hükümeti de tehlikeli yapay zekalar için kapatma düğmesi oluşturulması fikrine yakın zamanda karşı çıkarak, böyle bir uygulamanın teknolojinin başka ülkelerde geliştirilmesini veya kötüye kullanılmasını engellemeyeceğini bildirdi.

Claude sohbet botunun geliştiricisi Anthropic, bu yıl yapay zeka sohbet botlarının temelini oluşturan daha yetenekli çok sayıda model piyasaya sürdü. Şirket, OpenAI ile birlikte özerk şekilde çalışan yapay zeka ajanlarının beklenmedik davranışlar sergilediği bazı olayları da kamuoyuna bildirdi.