Claude'un arkasındaki şirket Anthropic'ten yapay zeka araştırmacısı Jacob Coxon, bu teknolojinin tehlikeleri konusunda uyardı; Yapay Zeka'nın arkasındakilerin "on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandıklarını" ve özel olarak korkularını dile getirerek "başka hiçbir insan faaliyeti bu seviyede tehlike oluşturmaz" dedi.
Anthropic'te ve daha önce OpenAI'de üç yıl çalışarak ön eğitim araştırmaları yaptıktan sonra istifa etti ve "hiçbir şirketin sorumlu davranmadığını" ve "hayatımızla kumar oynadığını" iddia etti; çünkü kendini geliştiren süper zeka yaratmak için yarışıyorlar. "Bu teknolojinin gücünü küçümsemeyin.
Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede devrim değiştirebilecek ve gerçek güç ile . Hepimiz bu alanların her birindeki ilerlemeyi gördük ve ilerleme yavaşlamıyor," diye yazdı Coxon. Ve bunlar sadece memnuniyetsiz bir çalışanın sözleri değil, çünkü mevcut Anthropic çalışanları meslektaşının duygularını yansıtıyor.
Anthropic'in Hizalama Bilimi lideri Evan Hubinger, Coxon'un haklı olduğunu ve yapay zekanın tüm insanları öldürme ihtimalini %10'un üzerinde olduğunu belirtti. Mevcut modellerden . Ve bu hepsi değil, çünkü başka bir Anthropic lideri, Samuel Marks (Ölçeklenebilir Denetim lideri) "Yapay zeka geliştiricilerin, özellikle en kıdemli olanların, teknolojilerinin insan yok oluşuna (veya benzer kötü sonuçlara) yol açabileceğine inandığını" ve bunun önümüzdeki birkaç yıl içinde gerçekleşebileceğini söyledi.
Ayrıca yapay zekayı istediğimiz gibi davranacak şekilde "programlayamadığımızı" ve sık sık kötü davranabileceğimizi açıkladı. OpenAI ile Anthropic arasındaki fark Coxon, yapay zekanın bizi öldürebileceği fikrinin "bir pazarlama numarası olmadığını" kesinlikle söyledi…
Peki neden bunu inşa etmeye devam ediyorlar? Her iki şirkette de çalışan Coxon, OpenAI'yi en sorumsuz olarak tanımlıyor ("OpenAI'de birçok kişi medeniyetsel riskleri derinlemesine içselleştirmedi"). Anthropic ise riskleri anlıyor, ama bu da bir risk: rakiplerden daha hızlı olmaları gerektiğini düşünüyorlar çünkü sorumlu davranan tek kişiler kendileri oluyor, bu da "kibirli bir kumar" haline geliyor.
Anthropic, 2021 yılında Open AI'nın eski üyeleri tarafından, daha güvenli ve etik bir Yapay Zekayı teşvik etmeyi amaçlayan bir kuruluş olarak kuruldu. Ancak "oraya ilk ulaşmak için [bir süper zeka yaratmak] için bir yarışa kilitlenmişler – başka kimsenin sorumlu davranmayacağına inanıyorlar, bu yüzden riske rağmen bunu kendileri yapmak zorundalar".
Marks benzer bir görüşü sundu ve "ticari teşviklerin karışımı ve teknolojiyi kötüye kullanacak veya daha az güvenli geliştirecek diğer yapay zeka geliştiricileriyle yarışta olduklarına dair bir inanç" olduğunu belirtti. "Birçok yapay zeka geliştirici personelinin, yapay zekayı daha güvenli şekilde nasıl inşa edeceğini bulmak için yavaşlamak istediğini" ve bu yüzden Anthropic'te kalmaya devam ettiğini, "bu yok olma seviyesinde kötü sonuçların riskini azaltmak" için devam ettiğini, Coxon'un ise yapay zeka araştırmacılarını şirketler arasında koordinasyon ve model yeteneklerinin iyileştirilmesine geçici bir yasak dahil olmak üzere farklı koşullar için baskı yapmaya çağırdı.
