Anthropic: Kendi Kendine Yapılan Yapay Zeka İçin Çok Yakındayız — RSI Yeteneğine

Çoğu dikkatin Pazartesi günü Anthropic’in revize ettiği S-1/A dosyasında ortaya çıkaran güncellenmiş finansal verilere odaklandığı (gelirin patladığı, ancak giderlerin de aynı şekilde yükseldiği) sırada, AI laboratuvarı küçük bir patlamayı daha ince ayrıntılar arasında bıraktı.

Dosya, şirketin kendiliğinden gelişme (RSI) yeteneğine sahip bir model yaratmanın eşiğinde olduğuna dair bir uyarı içeriyor gibi görünüyor.

RSI, AI’ın kendini eğitmekte o kadar başarılı hale geldiği ve bunun sonucunda AI yeteneklerinde dramatik bir hızlanma doğurduğu aşamadır. AI’dan korkanlar için RSI, geri dönüşü olmayan bir yıkımı temsil ediyor; burada AI, kendini insan kontrolünün ötesine geçecek kadar güçlü bir şeye dönüştürüyor ve hedeflerine ulaşırken yol açtığı hasara karşı kayıtsız olabilir.

AI hayranları için RSI ya da AI’ın kendini geliştirmek için güvenilir bir şekilde kullanmasının bir versiyonu, teknolojinin vaatini temsil ediyor; burada inanılmaz bir üretkenliğin, bilimsel keşfin ve daha fazlasının aracı haline geliyor.

Anthropic, RSI’nin hem bir hem de bir tehlike olduğuna inanıyor gibi görünüyor. S-1 içinde AI’ı Ar-Ge çalışmalarında kullandığını söylüyor, ancak şu şekilde uyarıyor: “AI’ı daha yetenekli AI geliştirmeye yardımcı olmak için kullanmak, özellikle ilerlemenin hızını keskin şekilde artırırsa, ciddi bir güvenlik riski de oluşturabilir. Bu, ‘kendiliğinden gelişme’ olarak adlandırılan şeye yaklaştıkça riskleri izlemek ve azaltmak için sunduğumuz planları belirleyen Sorumlu Ölçeklendirme Politikamızın kapsadığı alanlardan biri.”

RSI terimi bu yıl başlarında popüler hale geldiğinde, çoğu kişi bunun bir moda kelime ya da en iyi ihtimalle ulaşılması, tanımlanması ya da kanıtlanması çok zor bir hedef olduğunu düşünüyor.

Ancak Pazartesi günü, Anthropic Risk Faktörleri bölümüne yeni açıklamalar ekledi: 1) zaten, o sırada farkında olunmayan yetenek sıçramaları olan yeni modelleri geliştirmek için AI’ı kullandı ve 2) yakında kendi RSI tanımına ulaşabilir (aşağıdaki kalın vurgu bizim):

Wiz’in CTO’su PHP2Shell ve yaklaşan ‘vulnpocalypse’ hakkında | Equity Podcast

Ayrıca, Ar-Ge süreçlerimizi hızlandırmak için AI sistemlerine olan artan kullanımımız, modellerimizin yeteneklerinin, buna karşılık gelen güvenlik, hizalama ve önlemleri geliştirme, doğrulama ve uygulama kapasitemizden daha hızlı bir şekilde ilerlemesine yol açabilir. Bu nedenle, geçmişte geliştirme hızımızdaki önemli bir ivmelenmeyi tespit etmedik ve gelecekte de bu ivmelenmeyi, gerçekleştikten sonra tespit etmeyebiliriz.

Örneğin, iç tahminlerimiz ve gelecek modellerle ilgili beklentilerimiz, güncel modellerimiz yerine, bize yakın bir gelecekte Sorumlu Ölçeklendirme Politikamızın “AI’ya atfedilen dramatik ivmelenmiş ilerleme” tanımına karşılık gelebileceğimizi gösteriyor. Mevcut modellerimizin hiçbirini bu eşiği aşmış olarak tanımlamadık ve alttaki verileri değerlendirmeye devam ediyoruz.

Buna rağmen, Anthropic sunumda modellerinden hiçbirinin henüz bu RSI eşiğini aşmadığını ve yakın gelecekte Ar-Ge sürecinde insanları dahil etmenin umut verici olduğunu da belirtti. “Claude’ü, eğer teknik olarak mümkün hale gelirse, anlamlı bir insan gözetimi veya anlayışı olmadan, ön model nesillerini tam otonom biçimde tasarlayıp geliştirmek için güvenle kullanabileceğimizi öngörmüyoruz. Bu nedenle, Anthropic’te ön model geliştirmenin insan kontrolünde kalmasını sağlamak için Sorumlu Ölçeklendirme Politikamızda güncellemeler düşünüyoruz.”

Şüpheci olanlar, bir S-1’in hem açıklama hem de pazarlama işlevi gördüğünü ve kendisini inşa edebilecek kadar güçlü bir modele yakın olma iddialarının ikinci kategoriye düşebileceğini belirtebilir.

Buna rağmen, Claude’nin özellikle kodlama, matematik ve siber güvenlik açısından bu yıl inanılmaz bir sıçrama kaydettiğinde şüphe yok. Anthropic, RSI’nin yakın olduğunu düşünüyor ise, belki bunu kabul edip buna göre hareket etmeli — belki de buna göre düzenlemeliyiz.