IA : Google accélère l’inférence en supprimant Python de l’exécution des modèles

Google a dévoilé XLA Serving Engine (XSE), un moteur d’inférence destiné à exécuter des modèles d’intelligence artificielle sans interpréteur Python en production. Déjà utilisé à grande échelle dans plusieurs de ses services, il offrirait un débit deux à cinq fois supérieur à celui d’un serveur Python optimisé, tout en réduisant l’empreinte mémoire.

Source : www.lemondeinformatique.fr