신화에서 일상으로: 앤트로픽의 '클로드 5'가 여는 에이전틱 AI의 시대 > K-wave Trends

Niedawno wydane modele „Claude Fable 5” i „Claude Mythos 5” to modele strategiczne oparte na tym samym silniku, ale posiadające różne poręcze zabezpieczające w zależności od przeznaczenia. Fable 5 jest przeznaczony dla zwykłych użytkowników i klientów korporacyjnych, aby każdy mógł z niego korzystać bez obaw, stosując rygorystyczne filtrowanie obszarów potencjalnie nadużyć, takich jak cyberbezpieczeństwo czy produkcja broni biologicznej. Z drugiej strony Mythos 5, który jest dostępny jako pierwszy dla ekspertów ds. bezpieczeństwa i agencji rządowych, znosi te ograniczenia, dając im dużą autonomię w analizowaniu luk w zabezpieczeniach i budowaniu zabezpieczeń z perspektywy atakującego. Antropic zbudował system multiobrony, który w przypadku wykrycia niebezpiecznego zapytania w Fable 5, podmodel „Claude Opus 4.8” natychmiast interweniuje i omija odpowiedź. Ocenia się, że jest to wysoce strategiczny wybór polegający na systematycznym blokowaniu możliwych scenariuszy nadużyć przy jednoczesnym zapewnieniu społeczeństwu wysokiej wydajności.

Wydajność pokazana przez serię Claude 5 stoi na poziomie zupełnie odbiegającym od dotychczasowych modeli AI. W szczególności osiągnięcia w dziedzinie inżynierii oprogramowania są godne uwagi, jak w przypadku firmy płatniczej Stripe, gdzie migracja bazy kodów liczącej 50 milionów linii, która miała zająć kilka miesięcy, została zakończona w zaledwie jeden dzień. Wykracza to poza proste generowanie kodu i demonstruje zdolność agenta do zrozumienia ogólnej struktury projektu, utrzymania logicznej spójności i samodzielnego rozwiązywania problemów. Dodatkowo w obszarze badań naukowych pełnią rolę „cyfrowych badaczy”, którzy wykraczają poza prostych pracowników wiedzy, przyspieszając ponad 10-krotnie proces projektowania białek lub przewyższając dotychczasowy model publikacji czasopism akademickich w złożonych badaniach genomu. Zmiany te skutkują maksymalizacją produktywności ekspertów we wszystkich obszarach wymagających specjalistycznej wiedzy, w tym w analizie finansowej, planowaniu strategicznym i przywracaniu interfejsu użytkownika za pomocą wizyjnej sztucznej inteligencji.

Po wysokiej wydajności zawsze następuje trudne zadanie „bezpieczeństwa”. Eksperci ostrzegają, że pojawienie się modelu Mythos to mocny sygnał, który wstrząsa podstawami cyberbezpieczeństwa. Dzieje się tak dlatego, że wkroczyliśmy w erę, w której sztuczna inteligencja automatycznie wykrywa, a nawet generuje exploity (kody ataku) w ciągu kilku minut, podczas gdy w przeszłości osoby atakujące musiały tracić czas i pieniądze, aby znaleźć luki w systemie. Oznacza to, że metoda „regularnego zarządzania poprawkami” nie jest już skuteczna z punktu widzenia przedsiębiorstwa, a oparty na zasadach autonomiczny system automatyzacji poprawek, pozwalający reagować na zmieniające się w czasie rzeczywistym zagrożenia, stał się niezbędną strategią przetrwania. W szczególności, ponieważ sztuczna inteligencja radykalnie zawęża różnicę między ujawnieniem luk w zabezpieczeniach a atakiem, obrońcy stają w obliczu nowej „pandemii bezpieczeństwa”, w której muszą identyfikować stale zmieniające się powierzchnie ataku i bronić się przed nimi w czasie rzeczywistym, 24 godziny na dobę.

Antropic jest świadoma tych zagrożeń i współpracuje z rządem i głównymi instytucjami finansowymi w celu ulepszenia swojego systemu obronnego poprzez inicjatywy poprawiające bezpieczeństwo, takie jak „Projekt Glasswing”. Model Mythos 5 jest oferowany w pierwszej kolejności partnerom zajmującym się bezpieczeństwem, pomagając obrońcom uzyskać „asymetryczną przewagę” poprzez wykrywanie i eliminowanie luk szybciej niż atakujący. Sam Antropic przyznaje jednak, że zabezpieczenia swojego modelu nie są doskonałe i wprowadził rygorystyczne zasady bezpieczeństwa, takie jak wymóg przechowywania danych przez 30 dni, aby zabezpieczyć się przed tzw. próbami „jailbreak”. Choć przyjmowane są strategie mające na celu zachęcenie zewnętrznych ekspertów do przyznawania nagród za błędy oraz uczynienie prób jailbreaku tak trudnymi i kosztownymi, jak to tylko możliwe, zjawisko polegające na tym, że tempo rozwoju technologicznego przewyższa szybkość budowy mechanizmów obronnych, nadal pozostaje trudnym problemem do rozwiązania.

Oczekuje się, że wprowadzenie na rynek Claude 5 będzie ważnym punktem zwrotnym w umacnianiu wartości firmy na rynku przed zbliżającą się ofertą publiczną Antropic. W ostatnim czasie Antropic dokłada wszelkich starań, aby zapewnić sobie pozycję lidera na rynku AI, odnotowując wzrost sprzedaży przewyższający konkurencję. Ponadto fakt, że punkty kontrolne nowej generacji, takie jak „Oceanus”, weszły już w fazę testów zespołu czerwonego, wyraźnie pokazuje, jak agresywnie Antropic utrzymuje cykl rozwoju, aby złapać dwie pieczenie na jednym ogniu: wydajność i bezpieczeństwo modelu. Przyszła konkurencja w zakresie sztucznej inteligencji będzie wykraczać poza proste tworzenie inteligentniejszych modeli i będzie zależała od tego, kto będzie w stanie zbudować bezpieczniejszych i bardziej niezawodnych agentów oraz zintegrować ich z podstawową infrastrukturą firmy. Wykracza to poza zwykłą konkurencję technologiczną i rozprzestrzenia się w globalną walkę o hegemonię, która decyduje o bezpieczeństwie narodowym i konkurencyjności przemysłu.