Im Vortrag "Garbage In, Gold Out: Azure AI räumt auf, FinOps hält den Geldspeicher zusammen" wird anhand eines Kundenprojekts von Bechtle gezeigt, wie mit KI fehlende Produktinformationen (insbesondere Gewicht und Versandklasse) effizient angereichert werden können. Die technische Lösung basiert auf einem Embedding-Modell mit Azure OpenAI, welches automatisch und verlässlich Daten ergänzt. Zudem werden die wirtschaftlichen Aspekte, speziell FinOps und Kostenkontrolle, thematisiert. Durch einen proaktiven Umgang mit Cloud-Ausgaben und transparenter Kostenüberwachung lassen sich böse Überraschungen vermeiden und Mehrwerte gezielt nutzen.
Der Vortrag startet mit einer Herausforderung eines Bechtle-Kunden aus dem Bereich E-Commerce: Über eine halbe Million Produkte sind zu pflegen, doch viele davon haben unvollständige Datensätze, vor allem bezüglich Gewicht und Versandklasse. Das sorgt für verzögerte Listungen und Umsatzverluste, da Produkte nicht verkauft werden können, wenn sie nicht korrekt im Shop gelistet sind. Klassische, manuelle Pflege wäre äußerst zeitaufwändig – je nach Annahme Jahre oder Jahrzehnte für eine einzelne Person.
Die Lösung: Mithilfe von Künstlicher Intelligenz, konkret einem Embedding-Modell auf der Azure OpenAI-Plattform, werden fehlende Werte automatisiert angereichert. Die Architektur beinhaltet Schnittstellen vom ERP-System zur KI sowie zurück und nutzt Zwischenschritte zur Datenvor- und -nachbearbeitung. Besonders wichtig ist der Einsatz eines Confidence Scores: Ist das KI-Modell sich bei einer Ergänzung unsicher, wird der entsprechende Artikel zur manuellen Prüfung vorgelegt (Human-in-the-Loop-Ansatz). Das Modell erfasst komplexe Produktzusammenhänge selbstständig, lernt und sortiert Produkte nach gemeinsamen Eigenschaften.
Die Resultate sind beeindruckend: Eine Hitrate von über 90% bezüglich korrekter Klassifizierung im Vergleich zu 60% bei manueller Pflege. Mitarbeitende werden signifikant von Routinetätigkeiten entlastet.
Im zweiten Teil des Vortrags wird auf Kostenseite (FinOps) eingegangen und warum ein aktives Monitoring und Kostenmanagement in Cloud-KI-Projekten essenziell ist. Die technische Konsumation (z.B. API-Tokens) wird token-basiert abgerechnet und kann bei mangelnder Kontrolle schnell hohe Rechnungsbeträge verursachen. Auch andere Unternehmensbereiche wie Ingenieure müssen zunehmend Verantwortung für ihre Cloud-Ausgaben übernehmen. Durch Dashboards, Alerts, Tagging und gezielte Optimierung der Architektur lässt sich Kontrolle ausüben und aus jeder Investition das Optimum holen. Eine bemerkenswerte Beobachtung ist, dass nicht immer das KI-Modell, sondern häufig angebundene Datenbankdienste den Hauptkostenfaktor darstellen. Abschließend wird zur bewussten Nutzung, regelmäßigen Kostenkontrolle und Verantwortungsübernahme aufgerufen.
