Neues Tool unterstützt Unternehmen bei der Auswahl der optimalen KI-Technologie
Künstliche Intelligenz (KI) hält immer stärkeren Einzug in die Arbeitswelt.
Microsoft, Google und sogar das konservative Business-Netzwerk LinkedIn bringen KI-assistierte Produkte auf den Markt. Doch wie erkennt man eigentlich den Unterschied zwischen einer guten und einer schlechten KI?
Das amerikanische Unternehmen Datadog hat eine Lösung dafür: Ihr KI-Überwachungs-Tool namens LLM Obs (LLM steht für "Large Language Model") soll dabei helfen, die Qualität von KI-Modellen zu beurteilen und zu vergleichen.
Das Handelsblatt war zu Besuch in der Datadog-Firmenzentrale in New York und berichtet von einem Unternehmen, das bereits mit knapp 30 Milliarden Dollar bewertet wird. Gegründet wurde das Unternehmen von Oliver Pomel und Alexis Lê-Quôc im Jahr 2010.
Datadog bietet seinen Kunden Dashboards als virtuelle Übersicht über alle im Einsatz befindlichen Cloud-Dienste. Damit können Programmierer Serverauslastungen, Datenströme und Sicherheitsrisiken im Blick behalten. Doch nun will das Unternehmen noch einen Schritt weitergehen und auch die Qualität von KI-Modellen überwachen.
Das KI-Überwachungs-Tool LLM Obs befindet sich derzeit noch in der Beta-Phase und wird von ausgewählten Firmenkunden getestet. Es analysiert die Leistung, Qualität, Kosten und weitere Größen von KI-Modellen, um mögliche Probleme schnell zu erkennen und zu beheben.
So können Unternehmen effizienter mit Zeit und Ressourcen umgehen. Datadog-Produktchef Yrieix Garnier betont die Wichtigkeit der Kostenkontrolle bei KI-Modellen. In einer Welt, in der täglich neue KI-Modelle auf den Markt kommen, ist es für Unternehmen entscheidend, die besten und kosteneffizientesten Modelle auszuwählen. Das Unternehmen Datadog ist hierbei offen für Kooperationen und hat die Preise für ihr Programm noch nicht festgelegt.
Datadog-Chef Junaid Ahmed vergleicht das Potenzial seines KI-Überwachungs-Tools mit einem großen Möbelhändler. Dieser könnte zum Beispiel verschiedene KI-Modelle auf seiner Webseite einsetzen und mit LLM Obs deren Leistung bei verschiedenen Anwendungsfällen vergleichen. So könnten Unternehmen gezielt die passenden Modelle für ihre individuellen Bedürfnisse auswählen.
Das KI-Angebot von Unternehmen wie OpenAI, Anthropic, Cohere, Google und Open-Source-Modellen ist laut Ahmed erst der Anfang. In der Zukunft werde es ein ganzes Universum an verschiedenen KI-Modellen geben, die sich möglicherweise auch ergänzen.
Um den Überblick in dieser Welt zu behalten, sei es wichtig zu wissen, wie gut die eingesetzten Modelle funktionieren. Genau hier setzt das Tool von Datadog an und soll Unternehmen dabei unterstützen, sinnvollere Antworten von ihren KIs zu erhalten.
Das Projekt steckt noch in den Anfängen, doch Datadog sieht großes Potenzial in der KI-Überwachung. Im besten Fall könnten Programme wie LLM Obs dazu beitragen, dass KIs noch effektiver und effizienter eingesetzt werden können. In Zukunft könnte die Überwachung von KIs sogar zu einem wichtigen Geschäftsfeld für Unternehmen wie Datadog werden.