Yapay zeka kendi kodunu yazma eşiğine yaklaşırken, Anthropic’in raporu endişeleri artırdı. Küresel yatırımlar ise büyümeyi hızlandırıyor.
Yapay zeka teknolojilerinin, kendi kodlarını üreterek insansız bir evrimleşme potansiyeline yaklaşması, uluslararası düzeyde önlemler alınması yönündeki çağrıları artırdı. ABD merkezli yapay zeka şirketi Anthropic, bu endişelere katılarak yayımladığı “When AI builds itself” başlıklı makale ile konuyu gündeme taşıdı.
Anthropic’in paylaştığı verilere göre, bir yapay zeka modelinin insan müdahalesi olmaksızın kendi halefini tasarlayıp eğitebileceği teorik eşiğin beklenenden daha yakın olduğu belirtildi. Şirket, otonom yazılım döngülerinin kurulduğuna işaret etti.
Anthropic, yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir ilerleme kaydedildiğini vurguladı. Claude yazılım sisteminde, üretim kod tabanına entegre edilen kodların yüzde 80’inden fazlasının doğrudan modelin kendisi tarafından yazıldığı açıklandı. Bu oranın 2025 yılı başlarında tek haneli rakamlarda olduğu belirtilmişti.
Şirket, yapay zekadaki gelişimi beş aşamalı bir yolculuk olarak tanımlıyor. İlk aşamada yapay zeka ile çalışmanın standart bir işleyişe benzediği ifade ediliyor. 2023-2025 dönemini kapsayan ikinci aşamada, çalışanların üretken yapay zekalardan kod yazma konusunda destek aldığı belirtiliyor.
2025-2026 dönemini kapsayan üçüncü aşamada, ajan yapay zekaların kendi kendine kod yazabilir hale geldiği, mevcut dördüncü aşamada ise kodları kendi başına çalıştırıp işleri diğer yapay zekalara devredebildiği bir konuma gelindiği ifade ediliyor. Anthropic’in beşinci ve son aşama tahmini ise, ajanların kendi başlarına yapay zeka modelleri oluşturup eğitebilecek yetkinliğe ulaşacağı yönünde. Bu durum, gelecekteki yapay zeka sürümlerinin sürekli olarak kendileri tarafından geliştirilebileceği anlamına geliyor.
Anthropic’in bu raporu, daha önce de dünya genelinde yapılan ve yapay zekanın durdurulması yönündeki çağrıları destekler nitelikte. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin de imzaladığı bir mektup, GPT-4’ten daha güçlü sistemlerin eğitiminin en az altı ay süreyle durdurulması çağrısında bulunmuştu. Mektupta, insan zekasıyla rekabet eden yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için derin riskler taşıdığı, dezenformasyon, kitlesel iş kayıpları ve medeniyet kontrolünün kaybedilmesi gibi senaryoların tehlike arz ettiği vurgulanmıştı.
Mayıs ayında Papa 14. Leo’nun
