{"id":77678,"date":"2026-07-09T11:22:49","date_gmt":"2026-07-09T19:22:49","guid":{"rendered":"https:\/\/www.sumologic.com\/blog\/llm-observability-nutzung-von-ki-zur-ueberwachung-von-systemen-und-der-ki-nutzung"},"modified":"2026-07-31T14:54:40","modified_gmt":"2026-07-31T22:54:40","slug":"llm-observability-monitor-ai","status":"publish","type":"blog","link":"https:\/\/www.sumologic.com\/de\/blog\/llm-observability-monitor-ai","title":{"rendered":"LLM-Observability: Nutzung von KI zur \u00dcberwachung von Systemen und der KI-Nutzung"},"content":{"rendered":"\n
\n
\n
\n
\n
\"\"<\/figure>\n<\/div>\n\n\n

<\/p>\n\n\n\n

Ihre Protokolle enthalten bereits die Antwort auf die meisten Vorf\u00e4lle. Das Problem war nie ein Mangel an Daten. Es ist die Zeit, die ein Mensch ben\u00f6tigt, um Tausende von Protokollzeilen durchzulesen, sie mit einem Metrik-Spitzenwert zu korrelieren und herauszufinden, was tats\u00e4chlich kaputtgegangen ist.<\/p>\n\n\n\n

Gro\u00dfe Sprachmodelle ver\u00e4ndern das auf beiden Seiten der Gleichung. Sie k\u00f6nnen die Telemetriedaten f\u00fcr Sie auslesen und Rohdaten schneller in eine Antwort umwandeln, als es ein Mensch k\u00f6nnte. Und zunehmend m\u00fcssen Sie diese Daten auch direkt im Auge behalten: Ihre Teams nutzen t\u00e4glich Tools wie Claude und ChatGPT, und diese Nutzung generiert eigene Telemetriedaten, API-Aufrufe, Datenzugriffe usw., \u00fcber die die meisten Organisationen keinerlei Einblick haben.<\/p>\n\n\n\n

LLM-Observability nutzt LLMs zur \u00dcberwachung und Fehlerbehebung Ihrer Systeme und bietet Ihnen so einen echten Einblick in die tats\u00e4chliche Nutzung durch Ihre Organisation.<\/p>\n\n\n\n

Der eigentliche Flaschenhals: Interpretation, nicht Sammlung<\/h2>\n\n\n\n

Die meisten Observability-Stacks sind gut im Sammeln von Daten. Sie erhalten Metriken, Ereignisse, Protokolle und Traces von jedem Dienst. Der Engpass zeigt sich weiter unten im Prozess, wenn ein Bereitschaftsingenieur um zwei Uhr morgens diese Rohdaten in eine Antwort umwandeln muss.<\/p>\n\n\n\n

Hier verdienen sich LLMs ihren Platz im Stack. Sie sind genau in der Aufgabe gut, die Ingenieurteams stundenlang besch\u00e4ftigt: unstrukturierte Texte lesen, Muster erkennen und diese in einfacher Sprache erkl\u00e4ren.<\/p>\n\n\n\n

Wie das in der Praxis aussieht<\/h2>\n\n\n\n

Rauschen in Signal umwandeln.<\/strong> Sumo Logic’s LogReduce<\/a> gruppiert \u00e4hnliche Protokollmeldungen, sodass Tausende von Zeilen auf eine Handvoll Muster reduziert werden, die Sie tats\u00e4chlich \u00fcberblicken k\u00f6nnen. F\u00fcgt man noch ein LLM hinzu, werden diese Muster zu Zusammenfassungen in einfacher Sprache anstatt zu regex-f\u00f6rmigen Clustern.<\/p>\n\n\n\n

Fragen in Abfragen umwandeln.<\/strong>Sie wissen, was Sie fragen m\u00f6chten. Sie erinnern sich nicht immer an die genaue Abfragesyntax. Der Query Agent von Sumo Logic<\/a> \u00fcbersetzt eine nat\u00fcrlichsprachliche Frage direkt in eine pr\u00e4zise Abfrage, sodass Sie Ihre Zeit mit der Interpretation der Ergebnisse verbringen, anstatt Syntaxfehler zu beheben.<\/p>\n\n\n\n

Verfassen des Vorfallberichts.<\/strong>Wenn eine Warnung ausgel\u00f6st wird, erhalten Sie nicht nur einen Ausschlag in einem Diagramm. Sumo Logics Mobot<\/a> fasst fragmentierte Warnmeldungen zu einer zusammenh\u00e4ngenden Geschichte zusammen: was passiert ist, was davon betroffen war und was als N\u00e4chstes \u00fcberpr\u00fcft werden sollte. Das ist der Unterschied zwischen dem Starren auf ein Dashboard und dem Lesen eines Briefings.<\/p>\n\n\n\n

Entwurf des Postmortem-Berichts.<\/strong>Sobald ein Vorfall behoben ist, muss er dennoch dokumentiert werden. Ein LLM kann den Ablauf erstellen, die ergriffenen Ma\u00dfnahmen zusammenfassen und Pr\u00e4ventionsma\u00dfnahmen vorschlagen, sodass Ihr Team seine Zeit mit der Behebung des Problems und nicht mit dem Papierkram verbringt.<\/p>\n\n\n\n

Sumo Logic brachte diese Agenten unter Dojo AI, einer Multi-Agenten-Plattform<\/a>, zusammen, die f\u00fcr Sicherheits- und Observability-Workflows entwickelt wurde. Jeder Agent hat eine Aufgabe. Sie arbeiten zusammen, wobei in jedem Schritt ein Mensch eingebunden ist, um Probleme schnell zu erkennen, zu untersuchen und zu l\u00f6sen.<\/p>\n\n\n\n

Die andere H\u00e4lfte des Problems: Auch die Art und Weise, wie Ihre Organisation LLMs einsetzt, muss beobachtbar sein.<\/h2>\n\n\n\n

Ihr Team arbeitet wahrscheinlich nicht nur mit LLMs, sondern nutzt sie auch t\u00e4glich in Tools wie Claude und ChatGPT. Diese Nutzung erzeugt ihre eigenen Telemetriedaten, und die meisten Organisationen haben keinerlei Einblick darin.<\/p>\n\n\n\n

Die Claude Compliance App<\/a> erfasst Aktivit\u00e4tsprotokolle von Claude Enterprise und der Claude Platform und bietet Ihnen so einen zentralen \u00dcberblick \u00fcber API-Nutzung, Authentifizierung, Abrechnung, Datenzugriff, Integrationen, SSO und Richtlinien\u00e4nderungen \u2013 inklusive vorkonfigurierter Dashboards und sofort einsatzbereiter Erkennungsfunktionen.<\/p>\n\n\n\n

Die ChatGPT Compliance App<\/a> leistet dasselbe f\u00fcr die Tools von OpenAI, indem sie Interaktionsmuster aufdeckt und Datenaustauschverhalten kennzeichnet, das gegen die Richtlinien verst\u00f6\u00dft, bevor es zu einem Vorfall kommt. Beide bieten Ihnen einen durchsuchbaren, mit Zeitstempeln versehenen Pr\u00fcfpfad, sodass Sie, wenn jemand fragt, wie Ihr Team diese Tools tats\u00e4chlich nutzt, eine Antwort statt einer Vermutung haben.<\/p>\n\n\n\n

Diese Sichtbarkeit ist aus demselben Grund wichtig, aus dem Ihre Servicetelemetrie wichtig ist. Was man nicht sieht, kann man nicht steuern. Ein Ingenieur, der propriet\u00e4ren Code in ein nicht verwaltetes KI-Tool einf\u00fcgt, ist genauso ein blinder Fleck wie ein nicht \u00fcberwachter Dienst. Eines davon wird in Ihren Infrastruktur-Dashboards angezeigt. Das andere wird nirgends angezeigt.<\/p>\n\n\n\n

F\u00fcr Teams, die auf dieser Nutzung aufbauend ihre eigenen LLM-gest\u00fctzten Anwendungen entwickeln, deckt Sumo Logic auch diese Ebene ab, mit Anwendungen wie OpenLLMetry<\/a> f\u00fcr benutzerdefinierte KI-Anwendungen, die Traces, Metriken und Protokolle von LLM-Aufrufen, Vektordatenbanken und KI-Agenten im Standard-OpenTelemetry-Format erfassen. Und LiteLLM<\/a> f\u00fcr Multi-Modell-Routing, das Anfragevolumen, Latenz, Token-Verbrauch und Ausgaben \u00fcber mehr als 100 Modelle hinweg f\u00fcr Teams verfolgt, die den Datenverkehr \u00fcber einen Multi-Modell-Proxy leiten.<\/p>\n\n\n\n

Was das f\u00fcr Ihr Team bedeutet<\/h2>\n\n\n\n

Sie m\u00fcssen sich nicht zwischen der Nutzung von KI zur Beobachtung Ihrer Systeme und der Beobachtung der Nutzung von KI-Tools durch Ihre Organisation entscheiden. Beides ist dieselbe Disziplin, angewendet auf einen Stack, der nun neben Ihren Diensten auch Modelle und die Personen umfasst, die diese ansto\u00dfen.<\/p>\n\n\n\n

Beginnen Sie mit der L\u00fccke, die Ihnen heute die h\u00f6chsten Kosten verursacht. Wenn Alarmm\u00fcdigkeit das Problem ist, schauen Sie sich an, wie ein LLM Ihre Triage ver\u00e4ndert. Wenn Sie im Dunkeln tappen, wie Claude oder ChatGPT in Ihrer Organisation eingesetzt werden, ist das die Transparenzl\u00fccke, die es zuerst zu schlie\u00dfen gilt.<\/p>\n\n\n\n

Das Datenvolumen wird nicht verschwinden. Entscheidend ist, wie Sie Einblick in KI-Tools erhalten und wie schnell Sie Probleme in eine Antwort umwandeln k\u00f6nnen.<\/p>\n\n\n\n

Erkunden Sie die KI-gest\u00fctzten Observability-Funktionen von Sumo Logic<\/a> oder sprechen Sie mit einem Sumo Logic-Experten<\/a> \u00fcber Ihren Stack.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div><\/section>\n","protected":false},"excerpt":{"rendered":"","protected":false},"author":376,"featured_media":76169,"template":"","meta":{"_acf_changed":false,"show_custom_date":false,"custom_date":"","featured":false,"featured_image":0,"learn_more_label":"","image_alt_text":"","learn_more_type":"","show_popup":false,"learn_more_link_file":0,"event_date":false,"event_start_date":"","event_end_date":"","place_holder_image_url":"","post_reading_time":"4","notification_enabled":false,"notification_text":"","notification_logo":"","notification_expiration_time":0,"is_enable_transparent_header":false,"selected_taxonomy_terms":{"blog-category":[257,355],"blog-tag":[],"translation_priority":[221]},"selected_primary_terms":[],"learn_more_link":[],"featured_page_list":[],"notification_enabled_post_list":[],"_gspb_post_css":"","_relevanssi_hide_post":"","_relevanssi_hide_content":"","_relevanssi_pin_for_all":"","_relevanssi_pin_keywords":"","_relevanssi_unpin_keywords":"","_relevanssi_related_keywords":"","_relevanssi_related_include_ids":"","_relevanssi_related_exclude_ids":"","_relevanssi_related_no_append":"","_relevanssi_related_not_related":"","_relevanssi_related_posts":"77705,77686,77753","_relevanssi_noindex_reason":"","inline_featured_image":false,"footnotes":""},"blog-category":[257,355],"blog-tag":[],"class_list":["post-77678","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-secops-security","blog-category-ai"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/blog\/77678","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/users\/376"}],"version-history":[{"count":2,"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/blog\/77678\/revisions"}],"predecessor-version":[{"id":77703,"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/blog\/77678\/revisions\/77703"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/media\/76169"}],"wp:attachment":[{"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/media?parent=77678"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/blog-category?post=77678"},{"taxonomy":"blog-tag","embeddable":true,"href":"https:\/\/www.sumologic.com\/de\/wp-json\/wp\/v2\/blog-tag?post=77678"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}