OpenAI ajoute un "mode confinement" à ChatGPT pour bloquer les injections de prompt
ChatGPT a gagné un réglage qui ne plaira pas à tout le monde. Un "mode confinement", Lockdown Mode dans le texte, qui débranche volontairement une partie des fonctions de l’assistant pour réduire le risque de fuite de données vers l’extérieur.
L’ennemi, ici, porte un nom : l’injection de prompt. Le principe de cette attaque est plutôt vicieux, puisqu’un pirate planque des instructions dans une page web ou dans un document anodin, et qu’au moment où ChatGPT lit ce contenu pour vous répondre, il avale ces ordres cachés et les exécute sans que rien ne s’affiche à l’écran.
Ce qui inquiète OpenAI, c’est la suite. Une consigne dissimulée peut très bien ordonner à l’assistant d’aller récupérer vos informations sensibles, mots de passe ou documents personnels, avant de les renvoyer en douce vers un serveur que l’attaquant contrôle. On appelle ça l’exfiltration de données. C’est tout le scénario que le mode confinement cherche à rendre impossible, en bouclant les sorties plutôt qu’en filtrant les entrées.
Concrètement, il débranche à peu près tout ce qui relie ChatGPT au reste du web. La navigation en direct ? Coupée. Elle est ramenée au contenu déjà enregistré dans les serveurs d’OpenAI, ce qui fait qu’aucune requête ne file vers internet pendant que vous discutez.
Le ménage continue. Plus de récupération d’images depuis le web, plus de téléchargement de fichiers, plus de Deep Research, cet outil qui part compiler automatiquement des dizaines de sources, et plus d’Agent Mode, ce système qui laisse ChatGPT cliquer et agir tout seul sur des sites à votre place comme s’il était assis derrière votre clavier.
Vos propres fichiers, eux, passent toujours. Vous gardez la possibilité de téléverser images et documents à la main, et OpenAI précise que le mode ne touche ni à la mémoire de ChatGPT, ni au partage de conversations, ni à la façon dont vos échanges peuvent servir à entraîner les modèles maison.
L’activation est simple. Direction les réglages, rubrique sécurité, puis sécurité avancée, et vous basculez un interrupteur. C’est ouvert à tous les comptes personnels, y compris la version gratuite, ainsi qu’aux comptes ChatGPT Business en libre-service.
Sauf que voilà, OpenAI le précise clairement : ce mode n’est pas fait pour tout le monde. Il vise les gens et les boîtes qui manipulent des données sensibles et qui acceptent de sacrifier une partie du confort d’usage contre des garde-fous nettement plus serrés.
Et surtout, l’entreprise reconnaît la grosse limite du truc. Le mode confinement n’empêche en rien les injections de se glisser dans le contenu que ChatGPT analyse, il se contente de verrouiller les issues par lesquelles un pirate pourrait aspirer vos données une fois qu’il a pris la main. La faille de fond, elle, est toujours là.
Reconnaître publiquement qu’on pose une barrière sans régler le problème de fond, c’est honnête. Ça montre surtout que l’injection de prompt est un casse-tête que personne n’a encore su désamorcer.
Source :
TechCrunch
Source : korben.info