Ce chercheur en IA prédit 99,999999% de chances qu'on y passe tous
Bon, on va parler d’un mec qui ne fait pas dans la demi-mesure. Il s’appelle Roman Yampolskiy, il est chercheur en sécurité IA à l’Université de Louisville, et surtout il vient de balancer des chiffres qui donnent envie de tout plaquer et d’aller élever des escargots en Bourgogne. Selon lui, on a des chances quasi certaines que l’IA nous extermine. C’est le genre de prédiction ultra-précise avec six neufs après la virgule qui fait qu’on se demande s’il n’a pas inventé le chiffre du milieu pour faire plus impressionnant.
Mais attendez, c’est pas fini. Le même Yampolskiy nous annonce aussi que 99% des emplois vont disparaître d’ici 2030. Dans cinq ans quoi. Le temps de finir votre formation France Travail en reconversion professionnelle, et vous serez déjà obsolète.
Trop cool hein ?
Ces déclarations, il les a lâchées lors d’une
interview sur le podcast “The Diary of a CEO”
avec Steven Bartlett. Et j’avoue qu’entre sa barbe de prophète de l’apocalypse et ses prédictions qui font passer Nostradamus pour un optimiste, difficile de savoir si on doit rire ou commencer à creuser un bunker.
Le plus drôle dans l’histoire, c’est qu’Elon Musk, pourtant pas connu pour son optimisme débordant sur l’IA, trouve aussi que Yampolskiy exagère un chouïa. Musk estime la probabilité que l’IA nous détruise à seulement 10 à 20%. Yampolskiy considère cette estimation bien trop conservatrice, du coup, quand Elon Musk passe pour le mec raisonnable de l’histoire, on sait qu’on est dans une timeline spatio temporelle bizarre à la Rick et Morty.
D’après ce chercheur letton (non, c’est pas le mec du boys band Alliage, c’est un lituanien), même les codeurs vont y passer. On va plus avoir besoin de vous messieurs dames, car l’IA fait déjà mieux. Il explique donc tranquillement qu’avec un abonnement à 20 balles ou un modèle gratuit qui fait le boulot d’un employé, pourquoi s’embêter à embaucher des humains ? Et dans cinq ans, avec les robots humanoïdes, même les jobs physiques seront automatisés. Livreur Deliveroo ? Un robot. Caissier ? Un robot. Influenceur TikTok ? Probablement un robot aussi, et franchement j’suis pas sûr qu’on y perde au change…
Alors sa solution pour éviter l’apocalypse ? Acheter sa formation à 999$ ! Non, je déconne… Il dit juste de ne pas construire d’IA superintelligente. Point. C’est comme dire qu’il faut éviter les accidents de voiture en n’inventant pas la voiture. C’est techniquement correct, mais connaissant les humains c’est pratiquement impossible. Surtout quand toute la Silicon Valley court après l’AGI comme des gamins après le marchand de glaces (ou pire, comme le marchand de glaces après des gamins… glauuuque).
Le concept du
p(doom)
qu’il défend, c’est la probabilité que l’IA nous élimine une fois qu’elle atteint la superintelligence. La plupart des chercheurs placent ça entre 5 et 50%, mais Yampolskiy va beaucoup plus loin avec ses estimations apocalyptiques… C’est sûr que le gars ne joue pas dans la même ligue que moi niveau pessimisme…
Bill Gates, de son côté, pense que certains métiers survivront tels que les codeurs, les experts en énergie et les biologistes. Yampolskiy n’est pas d’accord, et affirme que l’IA est déjà meilleure pour créer des prompts pour d’autres IA que n’importe quel humain. Même le prompt engineering, le job du futur qu’on nous vendait y’a six mois, est déjà obsolète.
Mais le plus flippant dans son discours, c’est quand il explique qu’avant on pouvait se reconvertir quand un job était automatisé, mais que si TOUS les jobs sont automatisés, il n’y aura plus de plan B possible…
Et pendant ce temps, Anthropic avoue ne pas comprendre comment leurs propres modèles d’IA fonctionnent, OpenAI semble prioriser les produits qui brillent plutôt que la sécurité, et les labos d’IA se plaignent de manquer de données de qualité pour entraîner leurs modèles. On construit donc des trucs qu’on ne comprend pas, qu’on ne contrôle pas, et qui selon certains vont nous remplacer/exterminer.
Gloups…
Le seul espoir d’après le chercheur c’est donc de convaincre tous les acteurs du secteur qu’ils sont en train de scier la branche sur laquelle ils sont assis. Il avertit que même les créateurs de ces technologies n’apprécieront pas le résultat final. Autrement dit, même les milliardaires de la tech vont y passer
malgré leurs jolis bunkers
. Ça au moins, c’est démocratique.
Mais bon, entre nous, j’y crois pas trop à ses prédictions de l’apocalypse là… Dites vous que j’ai un radar à je-vous-dirais-pas-quoi et qu’il a parfaitement détecté des gens comme Manu Macron, Idriss Aberkane, Didier Raoult, et même Meghan Markle des mois, voire des années avant qu’ils ne deviennent “problématiques” aux yeux de tous… Alors je peux vous dire qu’après avoir vu son interview, il allume aussi mon détecteur…
Mais bon, au moins ça pousse à réfléchir sur où on va avec cette technologie, même si personnellement, je pense qu’il devrait réduire sa consommation de films catastrophe, de caféine et sortir prendre l’air de temps en temps.
Voilà donc en attendant l’apocalypse robotique, rappelez vous une chose : On ne peut pas faire confiance à des gens qui ont des beubars aussi bien entretenues. C’est trop louche.
Source : korben.info