신화에서 일상으로: 앤트로픽의 '클로드 5'가 여는 에이전틱 AI의 시대 > K-wave Trends

Os recém-lançados ‘Claude Fable 5’ e ‘Claude Mythos 5’ são modelos estratégicos que se baseiam no mesmo motor, mas possuem grades de segurança diferenciadas dependendo da finalidade de uso. O Fable 5 foi projetado para usuários em geral e clientes corporativos, para que qualquer pessoa possa usá-lo com confiança, aplicando filtragem rigorosa em áreas com potencial de uso indevido, como segurança cibernética ou fabricação de armas biológicas. Por outro lado, o Mythos 5, que está disponível primeiro para especialistas em segurança e agências governamentais, elimina estas restrições, dando-lhes um elevado grau de autonomia para analisar vulnerabilidades e construir defesas a partir da perspectiva de um atacante. A Antropic construiu um sistema multi-defesa que, caso uma consulta perigosa seja detectada no Fable 5, o submodelo 'Claude Opus 4.8' intervém imediatamente e contorna a resposta. Isto é avaliado como uma escolha altamente estratégica para bloquear sistematicamente possíveis cenários de abuso e, ao mesmo tempo, proporcionar um desempenho poderoso ao público.

O desempenho mostrado pela série Claude 5 está em um nível completamente diferente dos modelos de IA existentes. Em particular, as conquistas no campo da engenharia de software são notáveis, como no caso da empresa de pagamentos Stripe, onde a migração de uma base de código de 50 milhões de linhas, que se esperava levar vários meses, foi concluída em apenas um dia. Isso vai além da simples geração de código e demonstra a capacidade de um agente de compreender a estrutura geral do projeto, manter a consistência lógica e resolver problemas por conta própria. Além disso, no campo da investigação científica, estão a desempenhar o papel de “investigadores digitais” que vão além de simples trabalhadores do conhecimento, acelerando o processo de concepção de proteínas em mais de 10 vezes ou superando o modelo existente de publicação em revistas académicas na investigação complexa do genoma. Essas mudanças resultam na maximização da produtividade de especialistas humanos em todas as áreas que exigem conhecimento especializado, incluindo análise financeira, planejamento estratégico e restauração de IU usando IA de visão.

Um desempenho poderoso é sempre seguido pela pesada tarefa de ‘segurança’. Especialistas alertam que o surgimento do modelo Mythos é um forte sinal que abala os alicerces da segurança cibernética. Isto porque entrámos numa era em que a IA detecta automaticamente e até gera exploits (códigos de ataque) numa questão de minutos, enquanto no passado os atacantes humanos tinham de gastar tempo e dinheiro para encontrar vulnerabilidades no sistema. Isto significa que o método de “gestão regular de patches” já não é eficaz do ponto de vista da empresa e que um sistema autónomo de automação de patches baseado em políticas para responder a ameaças que mudam em tempo real se tornou uma estratégia de sobrevivência essencial. Em particular, à medida que a IA diminui drasticamente a distância entre a divulgação de vulnerabilidades e o ataque, os defensores enfrentam uma nova “pandemia de segurança”, onde devem identificar e defender-se contra superfícies de ataque em constante mudança em tempo real, 24 horas por dia.

A Antropic está ciente dessas ameaças e está trabalhando com o governo e as principais instituições financeiras para melhorar seu sistema de defesa através de iniciativas de melhoria de segurança, como o 'Projeto Glasswing'. O modelo Mythos 5 é oferecido primeiro aos parceiros de segurança, ajudando os defensores a obter uma “vantagem assimétrica” ao descobrir e remediar vulnerabilidades mais rapidamente do que os atacantes. No entanto, a própria Antropic admite que as salvaguardas do seu modelo não são perfeitas e introduziu políticas de segurança rigorosas, tais como um requisito de retenção de dados de 30 dias, para proteger contra as chamadas tentativas de “jailbreak”. Embora estejam a ser adoptadas estratégias para encorajar a participação de especialistas externos em recompensas de bugs e para tornar as tentativas de jailbreak tão difíceis e dispendiosas quanto possível, o fenómeno de que a velocidade do desenvolvimento tecnológico está a ultrapassar a velocidade de construção de mecanismos de defesa continua a ser um problema difícil de resolver.

Espera-se que o lançamento do Claude 5 seja um importante ponto de viragem na solidificação do valor da empresa no mercado antes do próximo IPO da Antropic. Recentemente, a Antropic tem feito todos os esforços para garantir a liderança no mercado de IA, registrando um crescimento de vendas que supera seus concorrentes. Além disso, o fato de checkpoints de próxima geração como o ‘Oceanus’ já terem entrado na fase de testes da equipe vermelha mostra claramente o quão agressiva a Antropic está mantendo um ciclo de desenvolvimento para pegar dois coelhos com uma cajadada só: desempenho e segurança do modelo. A futura competição de IA irá além da simples criação de modelos mais inteligentes e será determinada por quem consegue construir agentes mais seguros e confiáveis ​​e integrá-los na infraestrutura central de uma empresa. Isto vai além da simples competição tecnológica e está a espalhar-se numa luta global pela hegemonia que determina a segurança nacional e a competitividade industrial.