New Relic (NYSE : NEWR), la plateforme d’observabilité tout-en-un pour tous les ingénieurs, annonce la première capacité MLOps en son genre qui permet aux équipes d'ingénieurs de monitorer les applications basées sur OpenAI GPT ou ses APIs. Avec seulement deux lignes de code, ces équipes peuvent réaliser le monitoring des requêtes de complétion OpenAI tout en faisant le suivi des performances et des métriques de coût en temps réel dans une seule et même vue, grâce à New Relic. Cette nouveauté permet à New Relic d'ingérer les données brutes d'OpenAI pour accélérer l'innovation et les objectifs commerciaux des entreprises en les aidant à exploiter toute la puissance des technologies émergentes de l'OpenIA comme ChatGPT tout en prenant en compte et en pondérant les coûts associés. Cette intégration élargit le catalogue de données prises en charge par et étend l'accès de New Relic à un plus grand nombre de développeurs. En outre, en s'inscrivant pour obtenir un compte New Relic gratuit, les ingénieurs peuvent rapidement déployer le quickstart OpenAI de New Relic Instant Observability et accéder gratuitement à cette capacité qui ne nécessite qu'une configuration minimale.
« Nous sommes vraiment dans une période palpitante pour les entreprises qui adoptent GPT et construisent les applications modernes développées sur l'apprentissage machine et l'IA. L'observabilité change la donne et aide les entreprises à extraire de la valeur de GPT. Nous donnons à chaque ingénieur utilisant GPT et ses APIs les moyens d'effectuer le monitoring des coûts et des performances avec une configuration simple et sans frais supplémentaires. Tout cela reste dans l'alignement de notre mission visant à placer toute la puissance de l'observabilité entre les mains de tous les ingénieurs »
-Manav Khurana, Directeur de la croissance (CGO) et Directeur général de l'observabilité
Les entreprises dans le monde entier adoptent GPT pour stimuler les tickets d'assistance et les logs de chats en direct, développer le contenu et les images et accélérer les recherches sémantiques. Le monitoring de New Relic pour OpenAI est rapide, simple d'utilisation et libère en temps réel toutes les métriques qui peuvent aider les ingénieurs à optimiser l'utilisation, réduire les coûts et obtenir de meilleurs résultats. La nouvelle capacité propose aux ingénieurs :
- Un démarrage gratuit : l'accès à New Relic Instant Observability et à notre solution unique en son genre de monitoring GPT prête à l'emploi est offert sans frais supplémentaires aux utilisateurs Full Platform de New Relic.
- Une installation simple : avec seulement deux lignes de code, les utilisateurs peuvent importer le module de monitoring de la bibliothèque nr_openai_monitor et automatiquement générer un dashboard qui affiche différentes métriques de performances GPT essentielles.
- Le monitoring des coûts : les coûts d’utilisation du modèle Davinci d'OpenAI peuvent s'accumuler rapidement et rendre les opérations à l'échelle difficiles. New Relic permet aux équipes d'ingénieurs de suivre en temps réel les coûts de leur utilisation de GPT.
- L'optimisation des performances : New Relic apporte aux équipes d'ingénieurs les informations sur le temps de réponse moyen et d'autres métriques de performances clés relatives aux requêtes GPT, ce qui permet aux ingénieurs d'optimiser leur utilisation des données et d'assurer les meilleurs temps de réponse possible.
- Analyse des invités et des réponses : New Relic fournit des informations précieuses sur l'utilisation, le débit et l'efficacité de GPT afin d'aider les équipes d'ingénieurs à obtenir de meilleurs résultats de leurs modèles ML.
L'intégration d'OpenAI GPT avec New Relic est incluse sans coût supplémentaire pour les utilisateurs de la plateforme de New Relic. Elle prend en charge toutes les versions actuelles d'OpenAI GPT, y compris la version récente GPT-4. Pour de plus amples informations sur la façon de configurer New Relic MLOps ou d'intégrer les applications GPT dans votre infrastructure d'observabilité,consulter la documentation ici ou lire le blog post.
Pour vous inscrire à un compte gratuit pour toujours, consultez la page https://newrelic.com/signup.