In dieser Folge von Masters of Data gehen Adam White und David Girvin auf die neu eingeführten Compliance-Apps von Sumo Logic für Claude, ChatGPT und LiteLLM ein und erklären, warum Ihr IT-Team aufmerksam sein sollte, bevor die Token-Rechnung kommt. Wir zeigen auf, wie Unternehmen die Ära des „KI-Schwarzen Lochs“ in der Schatten-IT hinter sich lassen und tatsächlich sehen können, wer was nutzt, was es kostet und ob das Ganze überhaupt etwas bewirkt. Von Uber, das sein jährliches KI-Budget in wenigen Monaten aufgebraucht hat, bis hin zu Microsoft, dessen KI-Kosten die Personalkosten übersteigen – wir nutzen einige aufschlussreiche Beispiele aus der Praxis, um für einen genehmigten und beobachtbaren KI-Einsatz zu plädieren. Diese Folge ist ein Muss für IT-Führungskräfte, Security-Teams, Verantwortliche für KI-Programme und alle, deren Job mittlerweile die Formulierung „Zeig mir den ROI“ beinhaltet.
0:00 — Einführungen
0:33 — Themenübersicht: Claude, ChatGPT, LiteLLM & Compliance-Apps
1:03 — LiteLLM-, OpenAI- & Claude-Compliance-Apps erklärt
2:19 — Was die Compliance-Apps tatsächlich abdecken (Ausgaben, Identität, Zugriff, Geoblocking)
3:56 — KI als Schatten-IT vs. genehmigte Unternehmenswerkzeuge
5:38 — LLM-Beobachtbarkeit, PII-Filterung und das Agenten-Sichtbarkeitsproblem
7:09 — IT in der Defensive: Produktivität vs. Sicherheit – ein Balanceakt
8:07 — Die Rolle des VP of AI und der unternehmensübergreifende Brückenbau
9:17 — Token-Verbrennung, ROI-Quantifizierung und Compliance-Apps als erster Schritt
11:36 — Die Token-Verbrennungs-Mitarbeiterbeurteilung bei Meta: eine warnende Geschichte
12:41 — Enablement, Claude Code und strukturierte agentenbasierte Entwicklung
13:31 — Verwaltung von 20.000 virtuellen Entwicklern: Es gelten die gleichen Regeln
13:45 — Reaktionen von Entwicklern auf KI: Skeptiker vs. Power-User
14:37 — QA als anhaltender Engpass bei der agentenbasierten Codierung
15:24 — Explodierende KI-Ausgaben in der Praxis: Ubers KI-Budgetgeschichte für 2026
16:16 — Lohnt sich das Verbrennen der Token wirklich? Innovation vs. ROI
17:59 — Jagd nach dem Aktienkurs vs. nach echten Produktivitätsgewinnen
19:11 — Microsofts KI-Kosten übersteigen die Personalkosten; Compliance-Apps als Leitplanken
21:41 — Wiedereinstellung von Junior-Entwicklern nach übermäßiger Automatisierung; Überkorrekturen am Markt
22:43 — Zukünftige Einstellungsstufen: agentisch unterstützte Senior-Entwickler & Token-Budgets
24:14 — Aufbau einer guten internen KI-Strategie: leicht zu erreichende Ziele und Automatisierung der Übergabe
26:26 — ROI-Nachweis für Vorstände; Mobot & benutzerdefinierte Dashboards in Sumo Logic
27:38 — Erwartungen an AGI vs. Realität; kreative Denker als größte Gewinner der KI
28:45 — Plugins, Fähigkeiten & Definition von „Erfolg“ mit KI
30:10 — Genehmigter KI-Einsatz zur Steigerung der Produktivität (Beispiel Tabellenkalkulation)
32:59 — Remote-Steuerung mit Claude Code, Sprachdiktierfunktion & asynchrone agentenbasierte Arbeit
33:56 — claude.md-Kontextladetipp & persistenter Projektkontext
35:07 — Zusammenfassung: Sich in der sich ständig weiterentwickelnden digitalen Landschaft zurechtfinden