re:Invent, jour 2 : AWS met le paquet sur l’IA générative

Comme chaque année, re:Invent, la conférence annuelle d’Amazon Web Services (AWS), est l’occasion d’une profusion de nouveaux services et de fonctionnalités additionnelles. C’était annoncé : 2023 serait sous le signe de l’IA générative.

Paul Santus, Fondateur de TerraCloud et adhérent au SPN nous propose dans cet article un récapitulatif des possibilités qui s’offrent à vous avec l’IA.

Les fonctionnalités aujourd’hui visent trois domaines : l’expérience des développeurs, la relation client, et la possibilité pour les entreprises de créer leurs propres services s’appuyant sur l’IA générative.

L’IA au service des développeurs

Le « copilote » d’AWS pour les développeurs, Code Whisperer, s’enrichit :

Enfin ! L’outil fait désormais des suggestions quand on utilise les langages d’Infrastructure-as-Code, dont Terraform et CloudFormation, la solution maison d’AWS. Ça va faire gagner un temps précieux !

La fonctionnalité de détection de failles de sécurité dans le code a été enrichie avec des suggestions de remédiation. Plus d’excuses pour une mauvaise qualité de code 🙂

Parlez-vous la CLI ? (comprenez « Command-Line Interface », outil très apprécié des admin systèmes qui peuvent faire des opérations avancées sur Linux avec une simple ligne de commande… et craint par beaucoup d’autres !). Amazon publie « CodeWhisperer for command-line » qui permet de faire de l’auto-complétion intelligente ! 

Parlez-vous la CLI ? (comprenez « Command-Line Interface », outil très apprécié des admin systèmes qui peuvent faire des opérations avancées sur Linux avec une simple ligne de commande… et craint par beaucoup d’autres !). Amazon publie « CodeWhisperer for command-line » qui permet de faire de l’auto-complétion intelligente ! 

Amazon propose un nouveau service, Amazon Q, qui permet une expérience conversationnelle au sein de l’environnement de dev. Là les possibilités sont impressionnantes : de l’explication de code à la génération de fonctionnalités complètes (on peut alimenter l’outil avec l’ensemble du projet pour lui donner le contexte), en passant par le refactoring, par exemple pour mettre à jour une application depuis Java 8 jusqu’à une version récente !

Enfin, avec Amazon Q, AWS intègre l’IA générative au sein de la Console de gestion AWS, à de nombreux endroits : choix de type d’instance, analyse d’incidents, recherche dans les logs en langage naturel.

L’IA au service de la relation-client

A peine l’appel terminé, l’IA génère une synthèse de la raison de l’appel.
Amazon Lex, l’agent conversationnel d’Amazon capable de discerner l’intention d’un client et de collecter des données pour lui apporter une solution (évoqué dans mon billet ici) est désormais capable de comprendre une phrase comme : « Je veux changer mon billet de train ainsi que celui de mes deux enfants » et d’en déduire qu’il y a trois billets à mettre jour.
Lex est aussi capable de chercher une réponse dans la base de connaissance de l’entreprise et de répondre en langage naturel.
Imaginez qu’un client appelle un vendeur. Celui-ci va retrouver les données du client dans divers systèmes (celui qui gère son panier, celui qui gère la préparation des commandes, celui qui gère le paiement, etc.). L’IA va pouvoir rassembler et unifier ces données dans une vue unique pour l’agent.

Enfin « l’omnicanalité » de la solution est désormais renforcée puisqu’une entreprise pourra désormais proposer à ses clients de passer d’un échange en « chat » à un échange audio voir vidéo, comme si vous intégriez Teams à votre site web !

L’IA à portée de main pour la création de vos produits

En avril dernier, AWS annonçait en preview un service permettant d’intégrer facilement des modèles d’IA générative, comme Llama de Facebook, Claude d’Anthropic ou les modèles de Hugging Face, dans une application par une simple API.

Le service est considérablement enrichi, permettant désormais de mettre en oeuvre aisément :

de la « Retrieval Augmented Generation » : cette fonctionnalité permet d’alimenter le prompt transmis au modèle d’IA avec des données issues de la base de connaissance de l’entreprise.
du « Fine-Tuning » qui consiste à re-entraîner un modèle avec des données labellisées (par ex. {« question »: « Offrez-vous des réductions », « réponse »: « Oui, les soldes de janvier et juillet permettent de bénéficier de réductions »}), pour le rendre beaucoup plus précis
du « pré-entraînement continu », qui alimente le modèle avec des données non-labellisées.

Toutes ces techniques permettent de rendre ces modèles de langages plus pertinents sur un contexte donné. AWS, en tant qu’opérateur du service, garantit l’étanchéité des données qui sont transmises pour ces customisations.

Suivez TerraCloud pour rester au courant de l’actualité tech !