Services 2023 d'Amazon AWS autour de l'intelligence artificielle

Amazon vient d'annoncer, sur sa conf pour développeur Re:invent, un renforcement de son offre d'IA pour les entreprises. J'en profite pour faire une synthèse de ce qui existe chez Amazon autour de l'IA.

1. Briques techno dans le Cloud

Le cloud d'Amazon AWS, est le centre de gravité de la stratégie d'IA d'Amazon: parmi les milliers de services offerts, figurent, depuis des années, de nombreux services utilisés par les entreprises pour entraîner leurs modèles et faire tourner leurs applications de machine learning.

Cela inclut depuis mai 2023, aussi des services liés à l'IA générative qui permettent, par exemple, de faire tourner les modèles Claude d'Anthropic, d'AI21 Labs, de Stability AI (génération d'image), Titan (un LLM Amazon) et, probablement, en 2024, un nouveau LLM Amazon baptisé Olympus qui afficherait 2000 milliards de paramètres (ce qui en ferait un des plus grands au monde, devant les 175 milliards de paramètres de Bloom ou de GPT 3.5).

2. Q, le chatbot payant qui assiste les clients d'AWS

Le Q d'Amazon est un chatbot payant ($20/mois) qui aide les clients d'AWS à s'y retrouver dans le magma de services d'AWS.

Q serait capable non seulement d'aider aux choix des services d'AWS les plus adaptés à la problématique technique du client, mais aussi d'analyser le fonctionnement des applications AWS du client pour aider à les optimiser d'un point de vue technique et à faire diminuer les factures.

Q serait aussi capable de faire migrer certaines applications d'une version d'un language vers une version plus récente.

Il est surprenant de faire payer un support client assuré par un chatbot. Mais, pour avoir touché à AWS juste pour installer un simple taggage server side (l'API conversion de Facebook Ads), j'ai constaté 3 choses: 1/ On peut vite se retrouver avec des factures importantes parce que l'on a "créé des instances" alors qu'on ne les utilise pas ! 2/ Il est difficile d'avoir une vision précise sur tous les services AWS que l'on a créés 3/ Il est difficile d'optimiser les coûts très élevés.

Dans ce contexte, on comprend qu'un chatbot support client payant, puisse faire sens.

3. Code Whisperer: l'assistant de codage

C'est l'équivalent de Copilot chez Microsoft et de la partie génération/amélioration de code de ChatGPT

4. Microprocesseurs dédiés à l'IA

Amazon a présenté de nouvelles versions des microprocesseurs "Trainium" et Graviton, destinés à l'entrainement des modèles et à la mise en production des apps reposant sur ces modèles.

5. Investissement dans Anthropic

Amazon a pris une participation à plusieurs centaines de millions dans Anthropic.

6. Alexa

Les applications, enceintes et objets connectés liés à Alexa, sont remplis d'IA également.

7. L'IA sur la marketplace d'Amazon

Evidemment, le machine learning est abondamment utilisé sur le site d'ecommerce, tant pour de la recommandation, de la classification de produit, de la détection de fraude, de la prévision des ventes, de l'optimisation logistique, etc...