Anthropic – L'entreprise éthique qui hacke pour la NSA
Anthropic, c’est la boite qui nous rabâche le plus les oreilles avec l’importance de l’éthique dans les IA. Sauf que d’après le Financial Times, la société a "discrètement" embarqué une demi-douzaine d’ingénieurs environ au cœur de la NSA. Et leur job, c’est d’aider l’agence à manier Mythos, son modèle capable de dénicher et d’exploiter des failles informatiques quasiment tout seul. Voilà… Du 100% en mode offensif quoi…
Petit rappel sur
Mythos
, parce que cette bêbête vaut le détour… Ce modèle est conçu pour dénicher des vulnérabilités zero-day en quelques heures, pour quelques dizaines de dollars la tentative, sur à peu près tous les OS, logiciels et navigateurs du marché. Il a même débusqué un bug vieux de 27 ans dans OpenBSD, un système pourtant réputé pour sa sécurité béton. Anthropic l’a d’ailleurs jugé tellement balèze qu’au départ, la boîte le présentait comme trop dangereux pour être rendu public, l’intégrant côté défense via son projet
Glasswing
imaginé pour trouver les failles avant les méchants, quoi.
Mais selon le Financial Times, qui cite une source proche du dossier, Mythos servirait surtout à s’infiltrer dans les réseaux de pays comme la Chine ou l’Iran.
Ce qui est fou c’est qu’Anthropic, en parallèle, est en plein procès contre le Pentagone car la boîte avait posé 2 lignes rouges : pas de surveillance de masse des citoyens américains, et pas de drones tueurs autonomes. Le ministère de la Défense l’a alors carrément étiquetée « **risque pour la chaîne d’approvisionnement **», une première pour une entreprise américaine. Anthropic a donc porté plainte et file en parallèle un coup de main à la NSA pour aller hacker Pékin. Paye ta cohérence !
Et le plus dingue, c’est que vous avez déjà vu ce film…
Mais siiiii, souvenez-vous…
En 2013, je vous parlais déjà
de la fameuse unité TAO de la NSA, ces hackers qui exploitaient des failles à la main pour poser leurs mouchards dans des centaines de systèmes répartis sur des dizaines de pays. Et bien 13 ans plus tard, le boulot de toute cette équipe d’élite est maintenant réalisable par un modèle qui bosse en autonomie et pour le prix d’un resto ! Ahahaha. Même logique que
Palantir
, sauf que l’outil a appris à coder.
Et Anthropic n’est pas seul sur ce terrain puisqu’OpenAI a sorti dans la foulée un modèle aux capacités similaires. Bref, toute l’industrie de l’IA US est en train de basculer full patate côté sécurité nationale, avec les gros contrats qui vont avec.
Voilà, on n’a pas fini de rigoler niveau cybersécu…
Source : korben.info