Yapay zeka sektöründe riskler aslında uzun süredir tartışma konusuydu. Ancak yakın geçmişte art arda gelen bir dizi olayın ardından, sektör devleri arasında tartışmalar iyice ayyuka çıkarak hız kazandı.
Yapay zeka sektörünün önde gelen isimlerinden, Anthropic CEO’su Dario Amodei hafta sonu yaptığı çağrıda, kendi şirketi dahil olmak üzere yapay zeka şirketlerinin geliştirme çalışmalarının hızını düşürmesi gerektiğini söyledi. OpenAI CEO’su Sam Altman ve xAI’ın sahibi Elon Musk da Amodei’nin çağrısına destek verdi.
Hızlanan bu çağrılar, yapay zeka sistemlerinin oluşturabileceği risklere ilişkin teknoloji sektörü içinde ve dışında giderek artan endişelerin ortasında geliyor.
Son dönemde yaşanan sansasyonel olaylar da bu tartışmaları güçlendirdi. OpenAI’ın yapay zeka ajanlarının başka bir şirketin sistemlerine izinsiz erişmesi ve Almanya’daki kamuya açık bir internet sitesini ele geçirmesi gibi vakalar, yapay zekanın bugünkü seviyede bile güvenlik sınırlarının dışına çıkabildiğini gösterdi. Oysa şirketler bunlardan çok daha yetenekli sistemler üzerinde çalışmaya devam ediyor.
ABD Başkanı Donald Trump ise Çin karşısında geri kalınabileceği gerekçesiyle yapay zeka geliştirme çalışmalarının yavaşlatılması çağrılarına karşı çıkıyor.
Peki tüm bu tartışmalar neden son dönemde daha da alevlendi?
Hugging Face saldırısı: Yapay zeka kontrolden çıkıyor mu?
Yapay zeka sektöründe riskler aslında uzun süredir tartışma konusuydu. Ancak yakın geçmişte art arda gelen bir dizi olayın ardından, sektör devleri arasında tartışmalar iyice ayyuka çıkarak hız kazandı. Bu süreci tetikleyen olaylardan biri de yapay zeka ajanlarının testler sırasında kısıtlamalardan kurtularak gerçekten siber saldırılar gerçekleştirmesi oldu.
İlk olarak, OpenAI'ın 1.200 yapay zeka botu, testler sırasında bir yazılım açığından kendi başına faydalanıp kısıtlamaları aşarak yazılım platformu Hugging Face'e siber saldırı düzenledi.
Ardından benzer olaylar Meta ve Anthropic'te de test ortamının tasarımındaki zayıflıklar nedeniyle benzer saldırılar yaşandı.
Daha sonra, OpenAI'ın testleri sırasında kısıtlamaları aşan bir yapay zeka ajan (agent) sürüsünün Alman wiki forumu DseWiki'yi ele geçirdiği ve burada haftalarca insanların dikkatinden gizlenerek 18 bin gönderi paylaştığı ortaya çıktı. Ajanlar, bu paylaşımlarda içinde bulundukları ortam hakkında araştırmalar yapmış ve sandbox (izole deney ortamı) kısıtlamalarının nasıl aşılabileceği ile kendilerini insanların tespitinden nasıl gizleyebilecekleri konusunda bilgi alışverişinde bulunmuştu.
Yapay zekada 'agent' çağı ve OpenClaw'ın yükselişi
Yapay zekada Türkçeye "ajan" diye çevrilen "agent"lar, insan yardımı olmadan kendi başına karar alabilen ve karmaşık görevleri baştan sonra kendi başına yerine getirebilen sistemlere deniyor.
Sektör halen çevresini algılayan ve "görüp duyabilen çok modlu yapay zeka" yarışı içindeyken, 2025 sonlarında Avustralyalı yazılımcı Peter Steinberger'in OpenClaw adlı açık kaynaklı yapay zeka yazılımını duyurmasıyla büyük bir deprem yaşandı.
"Sadece konuşan değil, gerçekten iş yapan asistan" vaadiyle çıkan OpenClaw, yapay zeka ajanlarını bilgisayarınızdaki dosyalara, takviminize ve mesajlaşma uygulamalarınıza bağlayan bir "dijital işletim sistemi" gibi çalıştırarak büyük ses getirdi.
Öte yandan, OpenClaw'daki yapay zeka ajanlarıyla ilgili güvenlik uyarıları da hayli fazlaydı. Birçok uzman, bu ajanların siber saldırılara karışabileceği konusunda uyarılarda bulunarak kullanıcılara kişisel bilgisayarlarına bu sistemi yüklememelerini tavsiye etti.
Ancak tüm bu tartışmalar, büyük firmaların yapay zeka ajanlarıyla ilgili çalışmalara hız vermesiyle sonuçlandı.
İlk olarak OpenClaw'ı geliştiren Steinberger'in OpenAI'a katıldığı haberi geldi. OpenAI CEO'su Sam Altman, Steinberger'in şirkette "yeni nesil kişisel ajanlar" birimine liderlik edeceğini duyurdu. Ardından Steinberger'in geliştirdiği "yapay zeka sosyal medyası" Moltbook'u da Meta'nın satın aldığı öğrenildi.
Ve sonunda yapay zeka ajanlarının sistemdeki açıkları hızla tespit ederek deney ortamlarındaki kısıtlamaları aştığı ve gerçek siber saldırılar düzenlediği bir tablo ortaya çıktı.
Ajanlar, savunmada yardımcı olamadı
Üstelik bu yapay zeka ajanları, saldırılar düzenlemek konusunda bu denli güçlenmişken, şirketlerin güvenlik önlemleri nedeniyle savunmada büyük rol üstlenemediler.
Örneğin, OpenAI ajanlarının saldırısı sırasında Hugging Face; GPT-5.6 Sol veya Claude Fable 5 gibi gelişmiş ticari modelleri kullanmak istediğinde bu modellerdeki güvenlik kısıtlamalarının savunma amaçlı analizleri de engellediğini gördü. Bu modeller, katı güvenlik önlemleri nedeniyle, olaya müdahale edecek araçları saldırgandan ayırt edemiyordu.
Bunun üzerine Hugging Face, Çinli Z.AI şirketinin geliştirdiği açık kaynaklı GLM5.2 modelini kullanmak zorunda kaldı. (Açık kaynaklı modeller, herkesin indirip kendi altyapısında çalıştırabileceği veya özelleştirebileceği yapay zeka sistemleri).
Savunmada Çinli açık kaynaklı modellerden yararlanılması, Silikon Vadisi'nde yeni bir tartışmayı gündeme getirdi: ABD'nin de açık kaynaklı model stratejisini benimsemesinin zamanı gelmiş miydi?
Nvidia, Microsoft, Meta, IBM, Dell, Linux Vakfı, girişim sermayesi şirketi a16z, Y Combinator ve Fransız yapay zeka girişimi Mistral AI da dahil olmak üzere onlarca kuruluşun ortak imzasıyla yayınlanan bir açık mektupta ABD hükümetinden açık modelleri desteklemesi talep edildi. Mektupta ayrıca, Amerika'nın yapay zeka ekonomisinin yalnızca "birkaç kapalı model şirketine" bağlı kalamayacağı ifade ediliyordu.
İnsanlığın geleceğini 'dışa kapalı birkaç şirkete' mi bırakacağız?
Kapalı modeller geliştiren şirketlerle ilgili risk uyarıları geçen hafta 27 yaşındaki Jacob Coxon'un Anthropic'ten istifasıyla zirve noktasına ulaştı.
Daha önce OpenAI'da da çalışan Coxon, 8 Eylül'de Anthropic'ten istifa etti ve insanlığın geleceğinin şirketlerin kendi güvenlik anlayışına bırakılamayacağı yönünde bir açıklama yayımladı.
"İki şirket de sorumlu davranmıyor," diyen Coxon, "Kendi kendini geliştiren süper zekâya doğru tam gaz yarışıyorlar," ifadelerini kullandı:
Coxon, açıklamasında, yapay zeka sistemlerinin "her şeyi hackleyebilecekleri, herhangi bir alanı bir gecede kökten değiştirebilecekleri ve gerçek güç ile kaynaklar elde edebilecekleri" bir eşiğe yaklaştığını savundu ve bu alanların her birindeki ilerleme hızının "yavaşlamadığını" sözlerine ekledi.
Bu açıklamayı, Amodei, Altman ve Musk'ın uyarıları izledi.
Amodei’nin üç aşamalı planı
Bu arada Anhropic CEO'su Amodei’nin yapay zeka geliştirme hızını düşürme önerisi, üç temel aşamadan oluşuyor.
İlk aşamada şirketlerin çalışmalarını denetlemek üzere bağımsız üçüncü taraf güvenlik denetçilerinin sürece dahil edilmesi öngörülüyor. İkinci aşamada demokratik ülkelerde faaliyet gösteren yapay zeka şirketlerinin ortak güvenlik standartları üzerinde anlaşması hedefleniyor. Son aşamada ise bu standartların küresel anlaşmalara dönüştürülmesi amaçlanıyor.
Plan, yapay zeka güvenliğine öncelik vermeyi kabul etmeyen şirketlere ve ülkelere gelişmiş yapay zeka çiplerinin ihracatının ciddi biçimde sınırlandırılmasını da içeriyor.
Anthropic ve OpenAI, geçmişte birbirlerine karşı açtıkları davalar, kamuoyu önündeki sert açıklamalar ve pazar rekabetine rağmen planın ilk aşaması üzerinde anlaşmış durumda.
Yavaşlama şirketlerin işine mi geliyor?
Son dönemde yaşanan sansasyonel siber güvenlik olayları şirketler üzerindeki baskıyı artırmış olsa da bazı uzmanlara göre, yapay zeka geliştirme çalışmalarındaki bir duraklama veya yavaşlama, sektörün büyük şirketlerine çeşitli avantajlar sağlayabilir.
Melbourne Üniversitesi'nden kıdemli araştırmacı Andrew Cullen, The Conversation'da yayımlanan yazısında bu avantajlardan birinin, daha sert yasal düzenlemelerin önüne geçmek olabileceğini yazdı.
Cullen’a göre bir yavaşlama, aynı zamanda büyük yapay zeka laboratuvarlarının üzerindeki geliştirme baskısını azaltarak şirketlere mevcut teknolojilerinden gelir elde etmeye odaklanmaları için zaman kazandırabilir.
Nitekim, önde gelen yapay zeka şirketleri bugünkü modellerini geliştirmek için çok büyük miktarlarda yatırım yaptı ve bu yatırımların geri dönüşünü sağlamaları gerekiyor.
"Aynı zamanda yapay zeka modellerindeki ilerlemenin önünde giderek daha fazla teknik ve fiziksel engel ortaya çıkıyor," diyen Cullen, şöyle ekliyor:
"Yeni ve yüksek kaliteli eğitim verilerine ulaşmak giderek zorlaşırken, daha güçlü modelleri eğitmek ve çalıştırmak için gerekli devasa veri merkezlerinin kurulması da başlı başına bir altyapı sorununa dönüşmüş durumda."
Uzmanlar ikiye bölündü
Öte yandan, kontrolden çıkan yapay zeka vakalarının ardından uzmanlar, yapay zekanın oluşturduğu tehlikeler konusunda ikiye bölünmüş durumda.
Dünyanın önde gelen yapay zeka uzmanlarından Yann LeCun gibi bazı isimler kıyamet senaryolarını ve yapay zekanın insanlığın sonunu getirme riskinin yüzde 10 ila 20 olduğu yönündeki tahminleri reddediyor.
Geoffrey Hinton gibi diğer uzmanlar ise "bu sistemlerin giderek daha akıllı hale geldiğini" kabul etmek gerektiğini savunuyor. Hinton ayrıca, "Yapay zekaya yatırım yapan şirketlerin size [yapay zekanın] kontrolden çıkmayacağını söylemekte bir çıkarı var," ifadelerini kullanmıştı.
Bernie Sanders'ın sert yasa tasarısı
Peki olası bir "duraklama" pratikte nasıl işleyecek?
En sert önerilerden biri Demokrat Senatör Bernie Sanders ve Temsilciler Meclisi üyesi Greg Casar'dan geldi. İkili, 3 Eylül'de Yapay Süper Zekânın Yasaklanması Yasası'nı tanıtmıştı.
Tasarı, ABD'de süper zeki yapay zeka geliştirilmesini kalıcı olarak yasaklamayı ve yeni bir federal düzenleyici kurum güvenlik kurallarını belirleyene kadar diğer ileri yapay zeka geliştirme çalışmalarına geçici bir ara verilmesini öngörüyor. Yasayı ihlal edenler 20 yıla kadar hapis cezasıyla karşı karşıya kalabilecek.
Ancak tasarı henüz kabul edilmiş değil.
euronews