Yapay zekâ yarışında şimdiye kadar temel hedef daha güçlü modeller geliştirmek ve bu modelleri mümkün olduğunca hızlı şekilde piyasaya sunmaktı. Ancak son günlerde teknoloji sektörünün önde gelen yöneticileri arasında farklı bir soru öne çıkıyor:

Yapay zekâ geliştirme hızı, güvenlik mekanizmaları yetişene kadar yavaşlatılmalı mı?

Tartışma, Anthropic CEO'su Dario Amodei'nin yayımladığı “We Must Pace the Frontier” başlıklı yazıyla yeni bir boyut kazandı. Amodei, yapay zekâ yarışının durdurulmasını değil, özellikle en gelişmiş “frontier” modellerin geliştirilme hızının güvenlik ve denetim kapasitesiyle uyumlu hale getirilmesini savundu.

Önerinin ardından OpenAI CEO'su Sam Altman, SpaceX CEO'su Elon Musk ve Google DeepMind yöneticisi Demis Hassabis gibi isimlerden destek geldi. Microsoft CEO'su Satya Nadella da gelişmiş yapay zekânın insan kontrolü altında kalması gerektiğini belirterek kontrollü bir ilerleme ve bağımsız değerlendiriciler fikrini destekledi.

Ancak sektörün tamamı aynı görüşte değil.

Nvidia CEO'su Jensen Huang ve Meta CEO'su Mark Zuckerberg, sektör genelinde koordineli bir yavaşlamaya veya yeni düzenlemelere ihtiyaç olmadığını savunan farklı bir yaklaşım ortaya koydu. Böylece yapay zekâ sektöründe tartışma yalnızca “güvenli yapay zekâ” konusunda değil, güvenliğin nasıl sağlanacağı ve bunun inovasyon hızını ne ölçüde etkilemesi gerektiği konusunda da iki farklı çizgiye ayrılmış durumda.

Tartışmayı ne tetikledi?

Tartışmaların son aşaması, Anthropic'ten ayrılan araştırmacı Jacob Coxon'ın yapay zekânın uzun vadeli risklerine ilişkin kamuoyuna yaptığı uyarıyla başladı.

Anthropic'in hizalama bilimi liderlerinden Evan Hubinger da Coxon'ın açıklamalarına destek vererek, gelişmiş yapay zekânın önümüzdeki on yıl içinde insanlığın yok olmasına yol açma ihtimalinin kendi değerlendirmesine göre yüzde 10'un üzerinde olduğunu söyledi.

Bu ifadeler, özellikle “alignment”, yani yapay zekâ sistemlerinin insan amaçları ve değerleriyle uyumlu şekilde çalışmasını sağlama konusundaki mevcut yöntemlerin yeterli olup olmadığı tartışmasını yeniden gündeme taşıdı.

Buradaki temel endişe yalnızca yapay zekânın yanlış bilgi üretmesi veya iş kayıplarına yol açması değil.

Daha ileri aşamada;

• Siber saldırıların otomatikleştirilmesi,

• Biyolojik tehditlerde kötüye kullanım,

• Kritik altyapılara yönelik saldırılar,

• İnsan kontrolünün azalması,

• Daha otonom ve kendi kararlarını verebilen sistemlerin ortaya çıkması

gibi riskler tartışılıyor. Amodei de kendi yazısında kontrol kaybı, siber saldırılar, biyolojik riskler ve ekonomik bozulma ihtimalini öne çıkarıyor.

Dario Amodei: “Önce güvenlik mekanizmaları yetişmeli”

Amodei'nin önerisi bir “AI durdurma” çağrısından ziyade, gelişmiş yapay zekâ yarışının hızının kontrol edilmesini hedefliyor.

Anthropic CEO'su üç temel yaklaşım öneriyor:

1. Bağımsız değerlendiriciler

Yapay zekâ laboratuvarlarının sistemlerini, şirketlerden bağımsız üçüncü tarafların denetlemesi.

Anthropic, bu kapsamda bağımsız değerlendiricilere sistemlerine kalıcı ve çalışanlarla benzer düzeyde erişim sağlamayı taahhüt etti. Amaç, güvenlik önlemlerinin uygulanıp uygulanmadığının ve modellerin eğitim sürecindeki davranışlarının dışarıdan incelenebilmesi.

1. Ortak güvenlik standartları

En gelişmiş yapay zekâ modellerini geliştiren şirketlerin belirli güvenlik standartları üzerinde birlikte çalışması.

1. Uluslararası koordinasyon

Yapay zekânın oluşturabileceği risklerin yalnızca tek bir şirket veya ülke tarafından çözülemeyeceği görüşü.

Amodei aynı zamanda ABD'nin teknolojik liderliğinin korunması gerektiğini savunuyor ve Çin'e yönelik gelişmiş yapay zekâ çipleri ile teknoloji transferinin sınırlandırılması gibi önlemler öneriyor.

Sam Altman ve Elon Musk destek verdi

OpenAI CEO'su Sam Altman, Amodei'nin yaklaşımına destek veren isimlerden biri oldu.

Altman'a göre yapay zekâ geliştirme hızı tamamen durdurulmamalı; ancak frontier modellerin ilerleme temposunun güvenlik çalışmalarıyla birlikte ele alınması gerekiyor. Bağımsız değerlendiricilerin şirket çalışanlarıyla benzer erişim imkanlarına sahip olması fikrini de destekledi ve OpenAI'ın benzer bir uygulamayı hayata geçireceğini açıkladı.

Elon Musk da Amodei'nin yaklaşımını kısa bir ifadeyle destekledi:

“Dario haklı.”

Bu destek, yapay zekâ sektöründeki tartışmanın yalnızca Anthropic ve OpenAI arasında kalmadığını gösterdi.

Satya Nadella: İnsan kontrolü temel şart

Microsoft CEO'su Satya Nadella da tartışmaya dahil olan isimlerden.

Nadella'ya göre süper zekâ çalışmalarının temel koşulu, geliştirilen yapay zekânın insanlığa fayda sağlaması ve insan kontrolü altında kalması.

Nadella ayrıca “deliberate pacing” olarak ifade edilen kontrollü ilerleme yaklaşımını ve bağımsız değerlendiricilerin yapay zekâ laboratuvarlarının içinde görev almasını destekledi. Ona göre gelişmiş yapay zekânın yönetimi birkaç şirketin kontrolünde kalmamalı; akademi, farklı ülkeler ve sektörün diğer aktörlerini kapsayan daha geniş bir yapı oluşturulmalı.

Hugging Face: Bağımsız denetim daha açık hale getirilmeli

Hugging Face CEO'su Clément Delangue ise yapay zekâ hizalamasının birkaç büyük laboratuvarın kapalı kapılar ardında çözebileceği bir problem olmadığını savundu.

Şirket, Open Alignment Initiative girişimini duyurarak frontier AI laboratuvarlarında bağımsız güvenlik değerlendirmeleri gerçekleştirme fikrine destek verdi.

Bu yaklaşım, “yavaşlayalım mı?” tartışmasını başka bir noktaya taşıyor:

Belki de asıl mesele hızın kendisi değil, hızla birlikte bağımsız denetimin ne kadar hızlı geliştirilebildiği.

Jensen Huang: “Hız ve güvenlik arasında seçim yapmak zorunda değiliz”

Nvidia CEO'su Jensen Huang ise koordineli bir yavaşlama fikrine karşı çıkan en güçlü isimlerden biri.

Huang'a göre yapay zekâ güvenliği öncelikle bir mühendislik problemi. Yeni yasalar veya kapsamlı yeni düzenlemeler yerine şirketlerin güvenli olmadığını düşündükleri ürünleri piyasaya sunmaması gerektiğini savunuyor.

Huang, şirketlerin piyasanın tepkisini dikkate alarak kendi hızlarını belirleyebileceğini ve “hızlı inovasyon” ile “güvenli ürün” arasında zorunlu bir tercih bulunmadığını ifade ediyor.

Bu yaklaşımın temelinde piyasa mekanizması bulunuyor:

Güvenli olmayan bir ürün kullanıcılar tarafından tercih edilmezse şirket zaten geliştirme ve piyasaya sunma kararlarını değiştirmek zorunda kalabilir.

Mark Zuckerberg: Şirketler kendi hızlarını belirleyebilir

Meta CEO'su Mark Zuckerberg de sektör genelinde koordineli bir yavaşlamaya karşı çıkan isimlerden.

Zuckerberg'e göre her yapay zekâ laboratuvarının güvenli geliştirme hızını kendi belirleme sorumluluğu ve teşviki bulunuyor.

Meta'nın yapay zekâ ajanı Muse için güvenlik ve emniyet çalışmalarına daha fazla zaman ayırmak amacıyla lansmanı birkaç ay ertelediğini de açıkladı.

Ancak Zuckerberg, bunu diğer şirketlerden aynı şeyi yapmalarını istemeden gerçekleştirdiklerini vurguladı. Ona göre yapay zekâ şirketleri, kullanıcıların güvenmediği veya talimatlarını doğru şekilde yerine getirmeyen sistemlerin ticari olarak başarılı olamayacağının farkında.

Aidan Gomez: Evrensel yavaşlama çözüm olmayabilir

Cohere CEO'su Aidan Gomez ise yapay zekânın genel olarak yavaşlatılmasına yönelik önerilere eleştirel yaklaşıyor.

Gomez, güvenlik önlemlerinin gerekli olduğunu kabul ederken herkesin aynı anda hızını düşürmesini öngören bir sistemin otomatik olarak daha güvenli yapay zekâ ortaya çıkaracağı görüşüne karşı çıkıyor.

Bu yaklaşımın temel sorusu şu:

Eğer yalnızca bazı şirketler yavaşlarken diğerleri hızlanmaya devam ederse, koordineli bir yavaşlama gerçekten mümkün olabilir mi?

George Kurtz: “Zaten var olan sistemleri ne yapacağız?”

CrowdStrike CEO'su George Kurtz ise tartışmanın başka bir boyutuna dikkat çekiyor.

Kurtz'a göre gelecekte geliştirilecek yapay zekâ sistemlerinin hızını azaltmak, bugün zaten kullanılmakta olan yapay zekâ sistemlerinin oluşturduğu güvenlik risklerini ortadan kaldırmıyor.

Bu nedenle siber güvenlik sektörünün giderek daha otonom hale gelen yapay zekâ sistemlerine karşı savunma mekanizmalarını geliştirmesi gerektiğini savunuyor.

Bağımsız testler, daha güçlü güvenlik kontrolleri ve yüksek etkili kararlarda insan denetimi de bu yaklaşımın önemli parçaları arasında yer alıyor.

Tartışmanın merkezinde aslında üç soru var

Yapay zekâ sektöründeki görüş ayrılığı yalnızca “hızlı mı, yavaş mı?” sorusundan ibaret değil.

1. Güvenlik araştırmaları teknolojiye yetişebiliyor mu?

Yapay zekâ modellerinin yetenekleri hızla gelişirken, bu modellerin neden belirli kararları verdiğini anlamak, davranışlarını kontrol etmek ve güvenlik açıklarını tespit etmek aynı hızda ilerliyor mu?

Bu soruya “hayır” diyenler geliştirme hızının kontrollü şekilde azaltılmasını savunuyor.

2. Bağımsız denetim gerçekten bağımsız olabilir mi?

Şirketlerin kendi güvenlik ekiplerinin yanı sıra dışarıdan değerlendiricilerin de modelleri incelemesi öneriliyor.

Ancak burada da yeni bir soru ortaya çıkıyor:

Bu değerlendiriciler şirketlerden ne kadar bağımsız olacak ve hangi yetkilere sahip olacak?

AP'nin aktardığı değerlendirmelerde, önerilen sistemlerin uygulanabilirliği ve bağımsızlığının nasıl güvence altına alınacağı konusunda soru işaretleri bulunduğu belirtiliyor.

3. Yavaşlamak rekabet avantajını kaybettirir mi?

Yapay zekâ yalnızca ticari bir teknoloji değil; aynı zamanda ABD ile Çin arasındaki teknoloji rekabetinin de önemli bir unsuru.

Bir şirket veya ülke güvenlik amacıyla yavaşlarken rakiplerinin geliştirmeye devam etmesi, ekonomik ve stratejik açıdan farklı sonuçlar doğurabilir.

Amodei de kendi önerisinde bu çelişkiye dikkat çekiyor ve ABD'nin teknolojik üstünlüğünü koruması gerektiğini savunuyor.

Yapay zekâ yarışında yeni dönem mi başlıyor?

Son gelişmeler, yapay zekâ sektöründe önemli bir ayrışmayı ortaya koyuyor.

Bir tarafta Dario Amodei, Sam Altman, Elon Musk, Satya Nadella ve Demis Hassabis gibi isimler, en gelişmiş yapay zekâ sistemlerinin geliştirilme hızının güvenlik ve denetim mekanizmalarıyla daha yakından ilişkilendirilmesini savunuyor.

Diğer tarafta Jensen Huang ve Mark Zuckerberg gibi yöneticiler, güvenliğin şirketlerin kendi sorumluluğunda olması gerektiğini ve inovasyon hızının sektör genelinde koordine edilerek düşürülmesinin gerekli olmadığını düşünüyor.

George Kurtz ise mevcut sistemlerin güvenliğine odaklanırken, Aidan Gomez daha geniş kapsamlı bir yavaşlamanın rekabet ve güvenlik açısından beklenen sonucu vermeyebileceğine dikkat çekiyor.

Dolayısıyla önümüzdeki dönemin temel tartışması; Yapay zekânın geliştirilme hızı ile onu kontrol etme ve güvenliğini sağlama kapasitesi arasındaki fark ne kadar açılabilir? olabilir.

Şirketlerin milyarlarca dolarlık yatırımlarla yarıştığı bir ortamda bu sorunun cevabı, hem teknoloji sektörünün geleceğini hem de yapay zekânın toplumdaki kullanım biçimini doğrudan etkileyebilir.