신화에서 일상으로: 앤트로픽의 '클로드 5'가 여는 에이전틱 AI의 시대 > K-wave Trends

Недавно выпущенные «Claude Fable 5» и «Claude Mythos 5» представляют собой стратегические модели, основанные на одном и том же движке, но имеющие разные защитные ограждения в зависимости от цели использования. Fable 5 предназначена для обычных пользователей и корпоративных клиентов, чтобы каждый мог использовать ее с уверенностью, применяя строгую фильтрацию к областям, которые могут быть использованы не по назначению, например, кибербезопасность или производство биологического оружия. С другой стороны, Mythos 5, который в первую очередь доступен экспертам по безопасности и правительственным учреждениям, снимает эти ограничения, предоставляя им высокую степень автономии для анализа уязвимостей и построения защиты с точки зрения злоумышленника. Antropic создала систему мультизащиты, которая, если в Fable 5 обнаруживается опасный запрос, подмодель «Claude Opus 4.8» немедленно вмешивается и обходит ответ. Это оценивается как стратегический выбор, позволяющий систематически блокировать возможные сценарии злоупотреблений, обеспечивая при этом высокую эффективность для общественности.

Производительность серии Claude 5 находится на уровне, полностью отличающемся от существующих моделей AI. В частности, примечательны достижения в области разработки программного обеспечения, как в случае с платежной компанией Stripe, где миграция базы кода из 50 миллионов строк, которая должна была занять несколько месяцев, была завершена всего за один день. Это выходит за рамки простой генерации кода и демонстрирует способность агента понимать общую структуру проекта, поддерживать логическую последовательность и самостоятельно решать проблемы. Кроме того, в области научных исследований они выполняют роль «цифровых исследователей», которые выходят за рамки простых работников умственного труда, ускоряя процесс проектирования белков более чем в 10 раз или превосходя существующую модель публикации в академических журналах в сложных исследованиях генома. Эти изменения приводят к максимизации производительности экспертов во всех областях, требующих специальных знаний, включая финансовый анализ, стратегическое планирование и восстановление пользовательского интерфейса с использованием искусственного интеллекта.

За мощной производительностью всегда следует тяжелая задача «безопасности». Эксперты предупреждают, что появление модели Mythos — сильный сигнал, расшатывающий основы кибербезопасности. Это связано с тем, что мы вступили в эпоху, когда ИИ автоматически обнаруживает и даже генерирует эксплойты (коды атак) за считанные минуты, тогда как в прошлом злоумышленникам приходилось тратить время и деньги на поиск уязвимостей системы. Это означает, что метод «обычного управления исправлениями» больше не эффективен с точки зрения предприятия, и что автономная система автоматизации исправлений на основе политик, реагирующая на угрозы, которые меняются в реальном времени, стала важной стратегией выживания. В частности, поскольку ИИ резко сокращает разрыв между обнаружением уязвимостей и атакой, защитники сталкиваются с новой «пандемией безопасности», когда им приходится выявлять и защищаться от постоянно меняющихся поверхностей атак в режиме реального времени, 24 часа в сутки.

Antropic осознает эти угрозы и работает с правительством и крупными финансовыми учреждениями над усилением своей системы защиты посредством инициатив по повышению безопасности, таких как «Проект Glasswing». Модель Mythos 5 в первую очередь предлагается партнерам по безопасности, помогая защитникам получить «асимметричное преимущество», обнаруживая и устраняя уязвимости быстрее, чем злоумышленники. Однако сама Antropic признает, что меры безопасности ее модели несовершенны, и ввела строгие политики безопасности, такие как требование о 30-дневном хранении данных, для защиты от так называемых попыток «побега из тюрьмы». Хотя принимаются стратегии, поощряющие участие внешних экспертов в поиске ошибок и максимально затрудняющие и дорогостоящие попытки взлома, явление, заключающееся в том, что скорость технологического развития опережает скорость создания защитных механизмов, по-прежнему остается трудной для решения проблемой.

Ожидается, что запуск Claude 5 станет важным поворотным моментом в укреплении стоимости компании на рынке в преддверии предстоящего IPO Antropic. В последнее время Antropic прилагает все усилия, чтобы закрепить лидерство на рынке искусственного интеллекта, фиксируя рост продаж, превосходящий конкурентов. Кроме того, тот факт, что контрольно-пропускные пункты следующего поколения, такие как Oceanus, уже вступили в стадию тестирования красной команды, ясно показывают, насколько агрессивно Antropic поддерживает цикл разработки, чтобы поймать двух зайцев одним выстрелом: производительность и безопасность модели. Будущая конкуренция в области искусственного интеллекта выйдет за рамки простого создания более умных моделей и будет определяться тем, кто сможет создать более безопасных и надежных агентов и интегрировать их в основную инфраструктуру компании. Это выходит за рамки простой технологической конкуренции и перерастает в глобальную борьбу за гегемонию, которая определяет национальную безопасность и промышленную конкурентоспособность.