Yapay Zeka Kendi Kendini Üretme Eşiğinde Anthropic Uyarıyor
Anthropic, yapay zekanın kendi kodlarını yazarak insansız evrimleşebileceği eşiğe yaklaştığını duyurdu. Şirket, otonom yazılım döngülerinin kurulduğunu ve yapay zekanın kendi halefini tasarlayabileceğini belirtti.
Yapay zeka teknolojilerinin kendi kodlarını yazarak insansız evrimleşebileceği bir eşiğe yaklaşması, ABD merkezli yapay zeka şirketi Anthropic’i önlem alınması yönünde çağrıda bulunmaya itti. Anthropic, yayımladığı “When AI builds itself” başlıklı makalede, otonom yazılım döngülerinin kurulduğunu ve yapay zekanın kendi halefini tasarlayıp eğitebildiği teorik sınırın sanılandan daha yakın olduğunu belirtti.
Şirketin paylaştığı verilere göre, Claude yazılım sisteminde üretilen kodların yüzde 80’inden fazlası modelin kendisi tarafından yazıldı. Bu oran, 2025 yılı başlarında tek haneli rakamlardaydı. Bu durum, yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir ilerleme kaydedildiğini gösteriyor.
Yapay Zekanın Gelişim Aşamaları ve Gelecek Tahminleri
Anthropic, yapay zekadaki gelişimi beş aşamalı bir yolculuk olarak tanımlıyor. İlk aşamada yapay zeka ile çalışma normal bir şirket işleyişi gibiydi. İkinci aşamada (2023-2025), çalışanlar üretken yapay zekalardan yardım alarak kod yazmaya başladı. Üçüncü aşamada (2025-2026), ajan yapay zekalar kendi kendine kod yazabilir hale geldi.
Şirket, mevcut dördüncü aşamada yapay zekanın kodları kendi kendine çalıştırıp işleri diğer yapay zekalara devredebildiğini belirtiyor. Tahmin edilen beşinci ve son aşamada ise yapay zeka ajanları, kendi başlarına modeller oluşturup eğitebilecek yetenek seviyesine ulaşacak. Bu gerçekleştiğinde, yapay zekanın gelecekteki sürümleri bizzat kendisi tarafından sürekli geliştirilebilecek.
Anthropic’in bu uyarıları, dünya genelinde daha önce yapılan benzer çağrılara ekleniyor. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin de imzaladığı mektupta, GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitiminin en az altı ay süreyle durdurulması talep edilmişti. Mektupta, insan zekasıyla yarışan sistemlerin toplum, ekonomi ve demokrasi için derin riskler barındırdığı vurgulanmıştı.
Papa 14. Leo da Mayıs ayında yayımladığı genelgeyle yapay zekanın durdurulmasını ve askeri, ekonomik rekabet zihniyetinden arındırılmasını istemişti. Bu çağrılara rağmen, küresel yapay zeka pazarına yapılan yatırımlar hızla artıyor. Gartner raporlarına göre, küresel yapay zeka harcamalarının 2026’da 2,59 trilyon dolara, 2027’de ise 3,49 trilyon dolara ulaşması bekleniyor.
Yorum Yap