Flexera logo
Image: FinOps für KI: 8 Schritte zur Verwaltung von KI-Kosten und – Ressourcen

Es ist kein Geheimnis, dass die KI, insbesondere die generative KI, das technische Wunderkind der Gegenwart ist. Die potenziellen Vorteile sind enorm, auch wenn viele davon noch nicht voll ausgeschöpft werden. Branchenübergreifend scheinen die Anwendungsfälle für KI grenzenlos zu sein – oft fühlt sich KI wie ein Hammer an, der nach Nägeln sucht. Es ist jedoch wichtig, die richtige Größe des Hammers zu bestimmen und festzustellen, ob der Nagel wirklich ein Nagel ist.

Angesichts der vielversprechenden Möglichkeiten von KI experimentieren Unternehmen häufig mit verschiedenen Anwendungsfällen, was zu einer übermäßigen Bereitstellung von Ressourcen und folglich zu unnötigen Ausgaben führen kann. Aufgrund der Dynamik, mit der KI- Modelle trainiert und verwendet werden, ist der Ressourcenverbrauch schwer vorherzusagen und zu kontrollieren. Jeder neue Datensatz könnte zu einem Durchbruch führen – oder eine saftige Rechnung bedeuten.

Wenn Unternehmen ihre Cloud- Präsenz ausbauen, werden die Notwendigkeit und der Wunsch nach Kostenkontrolle und -optimierung immer dringlicher. Der experimentelle Charakter von KI kann diesen Zielen zuwiderlaufen, sodass Transparenz, Verantwortlichkeit und Optimierung wichtiger denn je sind. Wie andere Cloud-Services sind auch KI-Angebote in der Regel leicht zu nutzen – und noch leichter zu überlasten, was zu überhöhten Rechnungen führt.

Hier kommt FinOps ins Spiel. FinOps- Praktiken und -Prozesse sind beim derzeitigen Reifegrad in den meisten Unternehmen wahrscheinlich schon vorhanden, und wenn nicht, dann sind sie in naher Zukunft auf dem Radar. Obwohl sich KI von herkömmlichen Cloud-basierten Workloads unterscheidet, gelten die zentralen FinOps Prinzipien weiterhin. Um die KI- Kosten wirklich zu optimieren, benötigen Sie einen Einblick in die Ressourcennutzung, die Möglichkeit, diese Nutzung (und die Kosten) den entsprechenden Parteien zuzuordnen, und Möglichkeiten zur Optimierung auf der Grundlage der beobachteten Daten. Zum Glück bietet FinOps den Rahmen dafür.

KI-Kosten Schrittweise verwalten

Die Verwaltung der KI-Kosten erfolgt parallel zur Verwaltung anderer Cloud- Kosten, was vorteilhaft ist, da viele Unternehmen bereits über entsprechende Prozesse verfügen. Um Ihre KI-Kosten zu kontrollieren und zu optimieren, sollten Sie sicherstellen, dass Sie über die folgenden Elemente verfügen:

Schritt 1: IT-Visibility
Transparenz ist der Schlüssel. Die Möglichkeit, alle im gesamten Unternehmen genutzten Ressourcen in Bezug auf den KI- Ressourcenverbrauch zu sehen, ist die Grundlage für alles, was danach kommt. Einige PaaS-KI-Angebote bieten nur eine eingeschränkte Transparenz, da die Gebühren als ein einziger Posten erscheinen können.

Schritt 2: Zurechenbarkeit
Sobald Sie wissen, was genutzt wird, ist der nächste Schritt, zu wissen, wer es nutzt. Die Identifizierung der für den Ressourcenverbrauch verantwortlichen Benutzer oder Gruppen kann eine mögliche Übernutzung oder Ineffizienz aufdecken.

Schritt 3: Governance
Die Zurechenbarkeit wird durch Governance gestärkt. Die Begeisterung für das Potenzial von KI kann zu Experimenten führen, die eine übermäßige Nutzung und übermäßige Ausgaben zur Folge haben. Governance Kontrollen verhindern eine ausufernde Nutzung von KI- Ressourcen oder anderen Cloud- Ressourcen. Es ist wichtig, dass diese Governance-Kontrollen als Leitplanken und nicht als Straßensperren fungieren. Sie wollen zwar nicht die Bemühungen gutwilliger Benutzer unterdrücken, aber Sie wollen sie auf einem verantwortungsvollen Weg halten (aus der Perspektive der finanziellen Belastung).

Schritt 4: Kennzeichnung
Taggin, tagging und noch mehr tagging. Wenn Ressourcen entsprechend gekennzeichnet sind, können sie dem richtigen Benutzer, Team, Projekt, der richtigen Anwendung, Geschäftseinheit usw. zugeordnet werden. Die Kennzeichnung verbessert die Sichtbarkeit und Verantwortlichkeit und hilft, Bereiche mit potenziellen Mehrausgaben zu identifizieren. Die Möglichkeiten für das Tagging von PaaS-KI-Ressourcen sind jedoch nicht so robust wie bei IaaS-Ressourcen, so dass die Möglichkeit, granulare Tags zu erhalten, möglicherweise nicht gegeben ist.

Schritt 5: Budgets und zugehörige Alerts
Legen Sie Budgets und Alerts fest, um zu verhindern, dass die Automatisierung Amok läuft und es zu einer „unbewussten Überbelegung“ kommt. Stellen Sie sicher, dass Sie über Budgets für Teams verfügen, die KI-Dienste nutzen, sowie über Warnmeldungen, die ausgelöst werden, wenn die KI-Ausgaben diese Budgets tendenziell überschreiten. Kennzeichnung, Rechenschaftspflicht und Governance können zu detaillierteren Budgets für einzelne Teams, Geschäftsbereiche usw. beitragen. Nutzungsdaten und – muster können zeigen, dass eine Geschäftseinheit viel mehr Ressourcen verbraucht als andere, aber die Daten können dies als akzeptabel bestätigen, und die Budgets für diese Gruppe können entsprechend angepasst werden.

Schritt 6: Optimierung
Mit der Transparenz der KI- Ressourcennutzung und der Verantwortlichkeit können Sie nun optimieren. Wenn KI-Dienste in Anspruch genommen werden (und nicht über die Cloud-Infrastruktur, auf der diese Dienste laufen), gilt das Konzept der „Unterauslastung“ nicht im herkömmlichen Sinne. Das bedeutet, dass Ressourcen genutzt werden, wenn sie angefordert werden, und nicht untätig auf die Ausführung einer Aufgabe warten. Daher ist es wichtig zu bewerten, ob die verbrauchten Ressourcen einen angemessenen ROI erbringen. Hier müssen Unternehmen ein Gleichgewicht finden – nur weil man ein weiteres Dokument zur Indizierung hinzufügen kann, heißt das nicht, dass man es auch tun sollte. Optimierung bedeutet, Daten sinnvoll zu nutzen, um die Schulungszeit zu verkürzen und bei Bedarf zu reduzieren. Die Optimierung ist eine ungenaue Wissenschaft, bei der die Entscheidungsschwelle in jedem Unternehmen anders ist. Es gibt nicht die eine goldene Metrik, die für alle Anwendungsfälle gilt. Der Trick besteht darin, herauszufinden, was Ihre goldene Metrik ist, und diese bei Ihren Optimierungsentscheidungen zu nutzen.

Schritt 7: Betriebsmodell
Die letzte Phase des FinOps-Rahmens ist der Betrieb – die Festlegung von Strategien zur Optimierung der Ressourcen und die Verfeinerung der Arbeitsabläufe zur Umsetzung dieser Strategien. Dieselben Grundsätze gelten auch für das KI- Ressourcenmanagement. In dieser Phase können Sie Prozesse verfeinern oder neue Prozesse erstellen, um das in den früheren Phasen Gelernte umzusetzen, damit diese Lektionen genutzt werden können und nicht neu gelernt werden müssen.

Schritt 8: Fortlaufende Optimierung
Die Phasen des FinOps-Frameworks sind nicht ohne Grund kreisförmig – die Optimierung ist ein fortlaufender Prozess, der nie abgeschlossen ist. Auch wenn es mit der Zeit einfacher wird, ist bei echter Kostenoptimierung, ob durch KI oder anderweitig, eine Ziellinie in Sicht, die nie überschritten wird.

Abschließende Bemerkungen

Wie bei anderen Cloud-Ressourcen sind Transparenz und Verantwortlichkeit für die Optimierung der KI-Nutzung unerlässlich. Auch wenn bei der Art und Weise, wie KI- Dienste angeboten und genutzt werden, Lücken bestehen, bietet das FinOps-Framework eine solide Grundlage für die KI-Optimierung. Der Schlüssel ist die Anpassung des Frameworks, um diese Lücken zu schließen und sicherzustellen, dass die KI-Kostenoptimierung ein Teil Ihrer gesamten, umfassenden FinOps- Praxis ist. Lesen Sie mehr im Flexera- Blog über die Anpassung Ihrer FinOps- Strategie.