L’IA générative s’installe à tous les étages chez Datadog

Datadog réunissait ses utilisateurs et partenaires lors de sa conférence annuelle DASH organisée les 2 et 3 août à San Francisco. Deux annonces ont retenu notre attention.

D’un côté, la plateforme de Datadog prend désormais en charge le monitoring et la résolution de problèmes des applications d’IA générative.

Bien que ces fonctionnalités émergentes soient très prometteuses, leur déploiement dans des applications destinées aux clients pose de nombreux problèmes, notamment en termes de coût, de disponibilité et de précision. Datadog annonce donc un large ensemble de fonctionnalités d’observabilité de l’IA générative pour déployer en production des applications basées sur les grands modèles de langages (LLM).

De plus, Datadog lance également en version bêta une solution complète, LLM Observability, qui rassemble des données provenant d’applications, de modèles et d’autres intégrations.

Autre annonce : Datadog lance Bits, un assistant IA pour aider les ingénieurs à rapidement résoudre les problèmes applicatifs. L’assistant IA apprend à partir des données d’observabilité d’une organisation et répond aux questions via une interface conversationnelle.

Bits AI peut répondre à des questions en langage naturel, déboguer et résoudre les problèmes au niveau du code, mais aussi suggérer des corrections de code que les développeurs peuvent appliquer en quelques clics et construire automatiquement des tests unitaires pour les corrections.