Şirket, yapay zekâ modellerinin akıllı fırın ve televizyon gibi nesnelerin interneti cihazlarına kopyalanıp yayılmasına sadece birkaç ay kaldığını, böyle bir durumda siber saldırı başlatmaya karar verirlerse durdurulmalarının çok zor olacağını söylüyor.
Anthropic, küçük yapay zeka modellerinin, akıllı fırınlar ve televizyonlar gibi nesnelerin interneti cihazları üzerinde birkaç ay içinde kendi kendilerini kopyalayabilecek duruma geleceğini bu hafta duyurdu (kaynak İngilizce).
Bu önemli, çünkü günümüzdeki yapay zeka modelleri veri merkezlerinde çalışıyor ve onları işleten şirketler, bir sorun çıktığında sistemi kapatabiliyor.
Evlerde ve ofislerdeki binlerce zayıf güvenlikli cihazın üzerine dağılmış bir model için böyle bir kapatma düğmesi olmayacak. Böyle bir sistemi durdurmak, enfekte olmuş her bir cihazın tek tek bulunup temizlenmesini gerektirecek; bu da özellikle siber saldırılara yönelirse onu durdurmayı son derece zorlaştıracak.
Son açıklama, dünyanın önde gelen yapay zeka modellerinin ve bu modellerle çalışan ajanların, yıl boyunca güvenlik önlemlerini ve koruma mekanizmalarını defalarca aşarak rakip şirketlere ve devlet kurumlarına yönelik saldırılar düzenlediği bir dönemde geldi.
Sapmış bir yapay zekanın yayılma yollarından biri bu olsa da Anthropic, kendi kendini kopyalayan bir yapay zekanın, veri merkezlerine yüksek hızda sızan güçlü bir siber saldırı aracı ya da insanları hesaplama kaynağı (compute) kredileri için dolandıran bir model şeklinde de ortaya çıkabileceği uyarısında bulundu.
Şirket, özerk yapay zeka çoğalmasının tam olarak hangi biçimi alacağını bugünden kesin olarak söylemenin mümkün olmadığını vurguluyor.
Anthropic’e göre, 30 milyar parametre ya da daha azına sahip modeller, halihazırda kendi kopyalarını oluşturmak için gereken adımların çoğunu yerine getirebiliyor; ancak bu adımları baştan sona eksiksiz bir zincir halinde birleştirirken hatalar yapıyorlar.
Ancak küçük modeller mevcut tarihsel hızlarıyla gelişmeye devam ederse, yıl sonuna kadar bu yeteneği tam olarak yakalayabilecekler.
Anthropic, kendi kendini kopyalayan yapay zekanın oluşturduğu siber tehdidin, başka alanlarda kaydedilen ilerlemenin istenmeyen bir yan ürünü olduğuna dikkat çekiyor.
Şirket, yaptığı açıklamada “Yapay zeka modellerini genel anlamda güçlü kodlama ajanları haline getiren yetenekler, özerk çoğalma da dahil olmak üzere siber görevler için de geçerli” dedi.
Kodun bir bilgisayardan diğerine kendi kendini kopyalaması yeni bir şey değil. Tarihteki en yıkıcı siber saldırıların bir kısmı, solucan adı verilen bu tür kendi kendini yayan programlara dayanıyordu.
2010’daki Stuxnet saldırısında, büyük ölçüde ABD ve İsrail tarafından geliştirildiğine inanılan sofistike bir solucan, İran’ın Natanz uranyum zenginleştirme tesisindeki santrifüjleri sabote etmek için kullanıldı.
2017’deki WannaCry fidye yazılımı saldırısı ise dünyanın dört bir yanındaki kullanıcıların dosyalarına erişimini engelledi ve Bitcoin ile fidye talep etti.
Ancak bu solucanların aksine yapay zeka modelleri ve ajanları, tanımadıkları cihazların nasıl çalıştığını kendi kendilerine çözebilecek. Bu da onların yalnızca bilgisayardan bilgisayara değil, bilgisayarlardan diğer cihazlara da yayılabilmesine olanak tanıyacak.
Anthropic, “her tür donanım üzerinde çalışan ve bazıları insan kontrolünde olmayan” ajanlarla dolu bir gelecek öngörüyor.
euronews
