- Weltweit erste MLOps-Lösung, die Entwickler:innen die Überwachung von OpenAI GPT ermöglicht
- Neue KI-Lösungen wie ChatGPT können so noch effizienter eingesetzt werden
- Der Einstieg ist kostenlos und erfordert nur ein minimales Setup
- New Relic unterstützt alle aktuellen OpenAI GPT-Versionen, einschließlich der kürzlich veröffentlichten GPT-4
Observability-Anbieter New Relic führt die branchenweit erste OpenAI GPT-Observability-Applikation ein und damit die erste MLOps-Lösung überhaupt, die Entwickler:innen die Überwachung von OpenAI GPT ermöglicht. Damit unterstützt New Relic alle aktuellen OpenAI GPT-Versionen, einschließlich der kürzlich veröffentlichten GPT-4
Mit nur zwei Codezeilen können Entwicklungsteams OpenAI-Completion Queries überwachen und gleichzeitig Leistungs- und Kostenmetriken in Echtzeit in einer einzigen Ansicht mit New Relic verfolgen. Mit der neuen Integration trägt New Relic der immer stärker werdenden Entwicklung von KI-Lösungen wie ChatGPT Rechnung: Sie soll Unternehmen dabei helfen, die Leistung neuer KI-Technologien noch besser für sich nutzbar zu machen, um Entwicklung und die Erreichung von Geschäftszielen zu beschleunigen. IT-Ingenieur:innen können den OpenAI-Schnellstart von New Relic Instant Observability kostenlos und mit minimalem Setup-Aufwand nutzen, indem sie sich für ein dauerhaft kostenloses New Relic-Konto anmelden.
„Dies ist eine aufregende Zeit für Unternehmen, die GPT und andere moderne Anwendungen, die mit generativer Intelligenz entwickelt sind, nutzen", sagt Manav Khurana, Chief Growth Officer und GM Observability bei New Relic. „Observability ist ein Wegbereiter, wenn es darum geht, Unternehmen bei der Nutzung von GPT zu unterstützen. Wir machen es möglich, dass Entwickler:innen, die GPT nutzen, ihre Ausgaben und Leistung einfach und kostenlos überwachen können. Damit werden wir unserem erklärten Ziel gerecht: Die großen Möglichkeiten von Observability in die Hände eines jeden Ingenieurs und jeder einzelnen Ingenieurin zu legen."
Unternehmen auf der ganzen Welt setzen GPT ein, um Helpdesk-Tickets und Live-Chat-Protokolle zu überwachen, Inhalte und Bilder zu entwickeln oder semantische Suchen zu beschleunigen. New Relic’s Monitoring für OpenAI ist schnell, einfach zu bedienen und liefert Echtzeit-Metriken, die Ingenieur:innenteams helfen können, die Nutzung zu optimieren, Kosten zu reduzieren und bessere Ergebnisse zu erzielen.
Die wichtigsten Funktionen und Fakten im Detail:
- Kostenfreier Zugang: Der Zugang zu New Relic Instant Observability und der sofort einsatzbereiten GPT-Observabilty-Lösung ist der erste seiner Art und ohne zusätzliche Kosten für alle Nutzer:innen der vollen New Relic Plattform enthalten.
- Einfache Installation: Mit zwei Zeilen Code können Anwender:innen das Monitor-Modul aus der nr_openai_monitor-Library importieren und automatisch ein Dashboard generieren, das eine Vielzahl von wichtigen GPT-Leistungsmetriken anzeigt.
- Monitoring-Kosten: Die Nutzung des Davinci-Modells von OpenAI kann Kosten verursachen, die sich schnell summieren können und den Betrieb so im großen Maßstab erschweren. New Relic bietet Entwicklungsteams einen Echtzeit-Kostenüberblick ihrer GPT-Nutzung.
- Verbesserte Leistung: New Relic gibt den Entwicklungsteams einen Einblick in die durchschnittliche Response-Zeit und andere wichtige Leistungsmetriken rundum GPT-Anfragen, so dass Ingenieur:innen die Nutzung optimieren und bestmögliche Antwortzeiten sicherstellen können.
- Analyse von Prompts und Antworten: New Relic liefert wertvolle Informationen über die Nutzung, die Geschwindigkeit und die Effektivität von GPT, um den Entwicklungsteams zu helfen, bessere Ergebnisse mit ihren ML-Modellen zu erzielen.
Die OpenAI GPT-Integration von New Relic ist für Nutzer der New Relic Plattform ohne zusätzliche Kosten enthalten. New Relic unterstützt alle aktuellen OpenAI GPT-Versionen, einschließlich der kürzlich veröffentlichten GPT-4. Weitere Informationen zur Einrichtung von New Relic MLOps oder zur Integration von GPT-Anwendungen in die Observability-Infrastruktur finden Sie hier in der New Relic-Dokumentation oder in diesem Blog-Beitrag.