Trump veut couper Claude Fable 5 pour les étrangers – Anthropic coupe tout

Vendredi soir, vers 23h heure de Paris, Anthropic a reçu un courrier du gouvernement américain. Trois heures plus tard, ses deux modèles d’IA les plus avancés étaient hors ligne. Partout. Pour tout le monde.

Anthropic, c’est le concurrent direct d’OpenAI, la boîte derrière l’assistant Claude. Le 9 juin, elle lançait Claude Fable 5 et Claude Mythos 5, ses IA les plus puissantes à ce jour. Elles auront tenu trois jours.

Le déclencheur, c’est un jailbreak. Une entreprise cliente a réussi à contourner les garde-fous de Mythos, ces blocages censés empêcher l’IA de répondre aux demandes dangereuses. Quelqu’un a trouvé la faille, l’a fait remonter, et ça a fini sur le bureau du secrétaire au commerce Howard Lutnick.

Sa réponse : ranger ces deux modèles dans la case "contrôle des exportations", soit le même régime que les technologies militaires sensibles. Interdiction d’y donner accès à tout ressortissant étranger, où qu’il soit sur la planète, y compris les propres employés non-américains d’Anthropic.

Sauf qu’un service d’IA dans le cloud, ça ne demande pas votre passeport à l’inscription. Anthropic explique ne pas pouvoir trier ses utilisateurs par nationalité du jour au lendemain. Du coup, plutôt que de bricoler un filtre impossible, la boîte a tout coupé pour absolument tout le monde.

C’est là que ça pique. Un modèle utilisé par des centaines de millions de personnes peut s’éteindre en une nuit, sur un courrier reçu un vendredi à 17h, sans même que les motifs précis soient expliqués.

Anthropic conteste et parle d’un malentendu, tout en promettant de rétablir l’accès au plus vite. La boîte prévient surtout que si cette règle devenait la norme, plus aucune IA de pointe ne pourrait sortir aux États-Unis sans risquer le débranchement à la première faille trouvée.

Pour rappel, Fable 5 était la version grand public, déjà bridée sur la cybersécurité et, nouveauté, sur les risques d’armes biologiques ou chimiques. Mythos 5, lui, était la version sans muselière réservée aux entreprises, pensée pour repérer et exploiter des failles de sécurité à toute vitesse.

Anthropic l’avait d’ailleurs dévoilée en avril en annonçant dans la foulée qu’elle en limitait l’accès à quelques partenaires triés sur le volet. En France, Orange et le Crédit agricole étaient justement en discussion pour y goûter. À l’époque, certains accusaient déjà la boîte de faire du marketing de la peur en agitant la dangerosité de sa propre techno.

Le vrai enseignement est ailleurs. Quand votre outil tourne sur les serveurs de quelqu’un d’autre, l’interrupteur n’est jamais dans votre poche.

Source :
Le Monde

Source : korben.info