Chez Meta, les salariés ne veulent pas installer de logger sur leur PC pour entraîner l'IA

Les salariés de Meta devront bientôt installer un logiciel qui enregistre leurs frappes clavier, les mouvements de souris et des captures d’écran régulières sur leur poste de travail.

Le programme s’appelle Model Capability Initiative, et il doit alimenter les futurs modèles d’IA maison capables de faire du travail de bureau en autonomie. L’info a été révélée par The Register cette semaine.

Concrètement, l’outil surveille l’activité sur une liste d’applications professionnelles, dont Gmail, GChat, VCode et l’outil interne Metamate. Meta a justifié le dispositif en expliquant que ses modèles d’IA ne comprennent pas bien comment les humains utilisent un ordinateur.

Les données serviront à entraîner des agents capables de reproduire les micro-gestes que les modèles actuels galèrent à faire, comme sélectionner une option dans un menu déroulant ou enchaîner deux raccourcis clavier. Le directeur technique Andrew Bosworth a expliqué que la vision, c’est d’avoir des agents qui font le boulot pendant que les humains dirigent, relisent et corrigent les sorties.

Côté salariés, l’accueil est glacial. Un ingénieur cité par The Register résume la chose : il y a une différence entre savoir que votre travail est évalué et savoir que chaque frappe clavier peut nourrir un modèle commercial vendu à des clients externes.

L’analyste Ed Zitron, très critique sur l’IA, décrit l’ambiance interne chez Meta comme horrible et parle d’une culture de la paranoïa qui ne va pas s’arranger avec cette nouvelle couche de surveillance.

Le programme cible d’abord les employés basés aux États-Unis. En Europe, les règles sur le pistage des salariés sont beaucoup plus strictes, donc Meta évite de tester ce genre de dispositif sous les yeux de la CNIL irlandaise ou de son équivalent allemand.

Il y a aussi l’ironie évidente de la situation : Meta surveille les utilisateurs depuis quinze ans pour son ciblage publicitaire, et a collectionné les amendes RGPD au passage. Maintenant ce sont ses propres salariés qui passent sous le scanner.

En pratique, ce qui est demandé ressemble à ce que font déjà plusieurs boîtes qui entraînent des agents : il faut des jeux de données de démonstrations humaines sur des tâches réelles pour que l’IA apprenne. Sauf que voilà, Meta franchit un cap en allant chercher ces données dans l’outil quotidien de ses salariés.

Bref, chez Meta le clavier devient un jeu de données d’entraînement. Difficile d’imaginer que des ingénieurs un peu pointus acceptent ça longtemps sans râler, et on les comprend.

Source :
The Register

Source : korben.info