Kontrollü süper zeka çağı: Antropic 'Claude Fable 5' tarafından hazırlanan alışılmadık bir oyun planı > haberler

Claude Fable 5'in ortaya çıkışı, yazılım mühendisliği ekosisteminde tektonik bir değişimin habercisi. Bu modelin basit kod tamamlamanın ötesine geçerek on milyonlarca satırdan oluşan devasa bir kod tabanını yalnızca bir günde taşıma yeteneği, bir geliştirme ekibinin iki aydan fazla sürecek bir görevi otonom olarak tamamlayabileceği düzeydedir. Stripe gibi küresel şirketlerin erken testlerinde deneyimlenen üretkenlik atılımları, yapay zekanın artık asistanların ötesinde, karmaşık yapıları anlama ve sürdürme becerisine sahip gerçek "yazılım mühendislerine" dönüşebileceğini kanıtladı. Özellikle FrontierCode gibi katı kriterlerde diğer modellerden daha iyi performans göstermesi ve kurumsal sitelerde hemen kullanılabilecek bir kalite seviyesini garanti etmesi nedeniyle sektörde olağanüstü ilgi görüyor.

Bu sürümde Antropic, 'sıralayıcı tabanlı otomatik anahtarlama' adı verilen benzersiz bir güvenlik tasarımı tekniğini tanıtıyor. Fable 5 siber güvenlik saldırılarını, biyolojik silah tasarımını, kimyasal istismarı ve rakip modellerden bilgi çıkarmaya yönelik 'damıtma' girişimlerini tespit ettiğinde, yanıtı hemen 'Opus 4.8' alt modeline çevirir. Bu, koşulsuz engellemeyle kullanıcı deneyimine zarar vermek yerine, riskli isteklerin kontrollü bir ortamda işlenmesini ve rutin görevlerin en yüksek performansla gerçekleştirilmesini sağlamaya yönelik gelişmiş bir stratejidir. Evrensel jailbreak olasılığını en aza indirmek için 1.000 saatin üzerinde harici kırmızı takım testi ve hata ödülleriyle sistem, oturumların %95'inden fazlasında sorunsuz bir kullanıcı deneyimi sunarak hem güvenli hem de verimli olmaya çalışmaktadır.

Güvenliği artırılmış Mythos 5 modeli, 'Project Glasswing' adı verilen stratejik bir çerçeve içerisinde çalışıyor. Bu modelde güvenlik önlemleri kaldırılmıştır ve yalnızca ABD hükümeti de dahil olmak üzere ulusal güvenlikle ilgili kuruluşlara ve Samsung Electronics ve SK Hynix gibi doğrulanmış ortak kuruluşlara seçici olarak sunulmaktadır. Bu amaçla Antropic, güvenlik araştırması ve savunma altyapısı inşası için en ileri yetenekleri desteklerken, teknolojinin kötüye kullanılması olasılığını engelleyen ikili bir yapıyı tamamlayan Güvenilir Erişim Programını başlattı. Bu kapalı ekosistem, otoriter ülkelerin yapay zeka teknolojisini çalma girişimlerini engeller ve sınırdaki yapay zeka modelinin güçlü yıkıcı gücünün kötü niyetli varlıklara akmasını önlemek için bir savunma hattı görevi görür.

Vision Fable 5'in yapay zeka ve bilgi çalışmaları alanındaki başarıları mevcut sınırlamaları tamamen aştı. Karmaşık bir web uygulamasının kaynak kodunu yalnızca bir görüntüye bakarak geri yükleme veya bilimsel bir makaledeki karmaşık bir grafikten kesin sayıları çıkarma yeteneği, yapay zekanın insanın görsel muhakemesini taklit etmenin ötesine geçtiği anlamına gelir. Ek olarak, finansal analiz platformunun gösterdiği neden analizi ve beklenen değer hesaplama yetenekleri, yapay zekanın danışmanlık, hukuk ve stratejik planlama gibi üst düzey profesyonel çalışmalara derinlemesine nüfuz edeceğini gösteriyor. Özellikle karmaşık oyunları ek araçların yardımı olmadan yalnızca oyun ekranı bilgilerini kullanarak temizleyen otonom görüş muhakemesi, Fable 5'in basit bir dil modelinden ziyade karmaşık düşünme gerçekleştiren bir ajana dönüştüğünü gösteren bir örnektir.

Veri politikası da bu duyurudaki önemli değişikliklerden biri. Antropic, Fable 5 ve Mythos 5'ten gelen tüm trafiği 30 gün boyunca koruyacağını ve bunu yeni saldırı tekniklerini tespit etmek ve yanlış pozitif oranlarını azaltmak için kullanacağını duyurdu. Bu, model öğrenimi için veri toplamaya yönelik bir önlem değil, yalnızca güvenli bir ekosistemi sürdürmek ve güvenlik olaylarını önlemek için alınan bir önlemdir. Ayrıca, tedavilerin geliştirilmesi gibi insanlığın kamu yararına yönelik araştırmalara Mythos düzeyindeki yetenekleri açmak için biyoloji alanında ayrı bir güven erişim programı açma planlarını duyurdular. Bu, Antropic'in güçlü teknolojiyi saklamama, şeffaf yönetim ve sorumlu erişim politikaları yoluyla teknolojinin faydalarını en üst düzeye çıkarma felsefesine bir bakış.