신화에서 일상으로: 앤트로픽의 '클로드 5'가 여는 에이전틱 AI의 시대 > K-wave Trends

Les récents « Claude Fable 5 » et « Claude Mythos 5 » sont des modèles stratégiques basés sur le même moteur, mais dotés de garde-corps de sécurité différenciés en fonction du but d'utilisation. Fable 5 est conçu pour les utilisateurs généraux et les entreprises afin que chacun puisse l'utiliser en toute confiance en appliquant un filtrage strict aux domaines susceptibles d'être utilisés à mauvais escient, tels que la cybersécurité ou la fabrication d'armes biologiques. D'autre part, Mythos 5, qui est d'abord disponible pour les experts en sécurité et les agences gouvernementales, lève ces restrictions, leur donnant un haut degré d'autonomie pour analyser les vulnérabilités et construire des défenses du point de vue d'un attaquant. Antropic a construit un système multi-défense qui, si une requête dangereuse est détectée dans Fable 5, le sous-modèle « Claude Opus 4.8 » intervient immédiatement et contourne la réponse. Ceci est évalué comme un choix hautement stratégique pour bloquer systématiquement d’éventuels scénarios d’abus tout en offrant des performances puissantes au public.

Les performances affichées par la série Claude 5 sont à un niveau complètement différent des modèles d'IA existants. Les réalisations dans le domaine de l'ingénierie logicielle sont particulièrement remarquables, comme dans le cas de la société de paiement Stripe, où la migration d'une base de code de 50 millions de lignes, qui devait prendre plusieurs mois, a été réalisée en une seule journée. Cela va au-delà de la simple génération de code et démontre la capacité d'un agent à comprendre la structure globale du projet, à maintenir une cohérence logique et à résoudre les problèmes par lui-même. De plus, dans le domaine de la recherche scientifique, ils jouent le rôle de « chercheurs numériques » qui vont au-delà de simples travailleurs du savoir en accélérant le processus de conception des protéines de plus de 10 fois ou en surpassant le modèle de publication dans des revues universitaires existantes dans la recherche sur le génome complexe. Ces changements permettent de maximiser la productivité des experts humains dans tous les domaines qui nécessitent des connaissances spécialisées, notamment l'analyse financière, la planification stratégique et la restauration de l'interface utilisateur à l'aide de l'IA de vision.

Une performance puissante est toujours suivie par la lourde tâche de « sécurité ». Les experts préviennent que l’émergence du modèle Mythos est un signal fort qui ébranle les fondements de la cybersécurité. En effet, nous sommes entrés dans une ère dans laquelle l’IA détecte automatiquement et même génère des exploits (codes d’attaque) en quelques minutes, alors que dans le passé, les attaquants humains devaient consacrer du temps et de l’argent pour trouver les vulnérabilités du système. Cela signifie que la méthode de « gestion régulière des correctifs » n'est plus efficace du point de vue de l'entreprise et qu'un système d'automatisation autonome des correctifs basé sur des politiques pour répondre aux menaces qui évoluent en temps réel est devenu une stratégie de survie essentielle. En particulier, alors que l’IA réduit considérablement l’écart entre la divulgation des vulnérabilités et les attaques, les défenseurs sont confrontés à une nouvelle « pandémie de sécurité » dans laquelle ils doivent identifier et se défendre contre des surfaces d’attaque en constante évolution en temps réel, 24 heures sur 24.

Antropic est conscient de ces menaces et travaille avec le gouvernement et les principales institutions financières pour améliorer son système de défense grâce à des initiatives de renforcement de la sécurité telles que le « Projet Glasswing ». Le modèle Mythos 5 est proposé en premier aux partenaires de sécurité, aidant les défenseurs à obtenir un « avantage asymétrique » en découvrant et en corrigeant les vulnérabilités plus rapidement que les attaquants. Cependant, Antropic elle-même admet que les garanties de son modèle ne sont pas parfaites et a introduit des politiques de sécurité strictes, comme une exigence de conservation des données de 30 jours, pour se prémunir contre les tentatives dites de « jailbreak ». Bien que des stratégies soient adoptées pour encourager la participation d'experts externes aux bug bounties et pour rendre les tentatives de jailbreak aussi difficiles et coûteuses que possible, le phénomène selon lequel la vitesse du développement technologique dépasse la vitesse de construction des mécanismes de défense reste toujours un problème difficile à résoudre.

Le lancement de Claude 5 devrait constituer un tournant important dans la consolidation de la valeur de l'entreprise sur le marché avant la prochaine introduction en bourse d'Antropic. Récemment, Antropic a déployé tous ses efforts pour assurer son leadership sur le marché de l'IA en enregistrant une croissance des ventes supérieure à celle de ses concurrents. De plus, le fait que les points de contrôle de nouvelle génération tels que « Oceanus » soient déjà entrés dans la phase de test de l'équipe rouge montre clairement à quel point Antropic maintient un cycle de développement agressif pour faire d'une pierre deux coups : performances et sécurité du modèle. La future concurrence en matière d'IA ira au-delà de la simple création de modèles plus intelligents et sera déterminée par celui qui sera en mesure de créer des agents plus sûrs et plus fiables et de les intégrer dans l'infrastructure de base d'une entreprise. Cela va au-delà de la simple compétition technologique et se transforme en une lutte mondiale pour l’hégémonie qui détermine la sécurité nationale et la compétitivité industrielle.