– Darktrace / SECURE AI (TM) unterstützt Unternehmen dabei, Künstliche Intelligenz sicher einzuführen, indem Verhalten, Absicht und Risiken über Interaktionen zwischen Menschen und KI-Agenten hinweg verstanden werden.
– Die neue Lösung überträgt die jahrzehntelange Expertise von Darktrace im Bereich verhaltensbasierter KI auf Transparenz und Kontrolle in Echtzeit über den gesamten KI-Lebenszyklus hinweg.
– Sie sichert KI-Funktionen in SaaS-Anwendungen, in Hyperscaler-Umgebungen entwickelte KI-Agenten sowie die Nutzung von Shadow AI durch Mitarbeitende ab.
– Unternehmen erhalten damit Einblick, wo KI-Systeme eingesetzt werden, auf welche Informationen und Systeme sie zugreifen können und wie sie sich im Zeitverlauf verhalten.
– Neue Darktrace-Studien zeigen zudem, dass sich mehr als drei Viertel der Cybersicherheitsverantwortlichen über die Sicherheitsimplikationen der breiten Einführung von KI-Agenten und generativen KI-Tools von Drittanbietern sorgen.
– Über einen Zeitraum von fünf Monaten hinweg beobachtete Darktrace im Durchschnitt ungewöhnliche oder anomale Datenübertragungen an generative KI-Dienste in einem Umfang von rund 4.700 Seiten pro Konto; in einzelnen Fällen lag der Umfang sogar bei mehr als 200.000 Seiten.

Darktrace (https://www.darktrace.com/?r=0), ein weltweit führender Anbieter von KI-gestützter Cybersicherheit, gibt heute die Einführung von Darktrace / SECURE AI (TM) bekannt. Das neue Produkt für verhaltensbasierte KI-Sicherheit wurde entwickelt, um Unternehmen bei der Einführung und Skalierung von Künstlicher Intelligenz zu unterstützen, indem es versteht, wie KI-Systeme sich verhalten, mit anderen Systemen und Menschen interagieren und sich im Zeitverlauf weiterentwickeln. Aufbauend auf der langjährigen Expertise von Darktrace im Bereich Behavioral AI zur Erkennung von Absichten und Abweichungen ermöglicht Darktrace / SECURE AI ein gezieltes Eingreifen, wenn KI-Systeme ungewöhnlich agieren, von ihrem vorgesehenen Verhalten abweichen, autorisierte Zugriffe überschreiten, Richtlinien verletzen oder Anzeichen von Manipulation zeigen, um nicht autorisierte Aktionen auszuführen.

Während Unternehmen den Schritt von KI-Experimenten hin zum produktiven Einsatz immer schneller vollziehen, stoßen klassische Sicherheitskontrollen bei der Absicherung dynamischer, sprachbasierter Systeme zunehmend an ihre Grenzen. Mit Darktrace / SECURE AI bringt Darktrace seinen bewährten verhaltensbasierten Ansatz in diesen Kontext ein. Anders als statische Schutzmechanismen oder rein regelbasierte Ansätze beobachtet Behavioral AI, wie generative KI- und agentische Workflows im realen Betrieb tatsächlich funktionieren. Darktrace / SECURE AI analysiert kontinuierlich KI-Interaktionen im gesamten Unternehmen – einschließlich Prompt-Sprache und Datenzugriffsmustern – um auf Basis ungewöhnlicher Aktivitäten entstehende Risiken zu erkennen, die von herkömmlichen Sicherheitstools und statischen Guardrails häufig übersehen werden.

„KI-Systeme scheitern nicht wie klassische Software – sie verändern sich, passen sich an und verhalten sich mitunter auf unerwartete Weise“, sagt Mike Beck, Chief Information Security Officer bei Darktrace. „Darktrace verfolgt seit mehr als einem Jahrzehnt einen verhaltensbasierten Ansatz, um die unstrukturierten und schwer vorhersehbaren Ökosysteme aus Menschen, Daten und Technologien in Unternehmen zu verstehen und abzusichern. Mit Darktrace / SECURE AI übertragen wir diesen Ansatz auf KI-Systeme und geben Sicherheitsteams Einblick in das, was KI tatsächlich tut – nicht nur in das, was sie laut Richtlinie tun darf. So können Unternehmen mit Vertrauen innovieren.“

Darktrace / SECURE AI bietet CISOs einen praxisnahen Ansatz zur Steuerung von KI, ohne deren Einführung auszubremsen. Das Produkt lässt sich in bestehende Security-Operations integrieren und liefert umsetzbare Erkenntnisse – sowohl für neue Standalone-Kunden als auch für Bestandskunden der Darktrace ActiveAI Security Platform (TM). Die Lösung richtet sich an Unternehmen, die KI in eingebetteten SaaS-Anwendungen, cloudbasierten Modellen sowie autonomen oder teilautonomen Agenten einsetzen, die in Low-Code- und High-Code-Entwicklungsumgebungen entstehen. Sie unterstützt Sicherheitsteams dabei, sensible Datenabflüsse zu verhindern, interne Zugriffs- und Nutzungsrichtlinien durchzusetzen und autonome KI-Aktivitäten über KI-Assistenten, Agenten sowie Entwicklungs- und Bereitstellungsprozesse hinweg zu steuern.

„Sicherheit war schon immer eine Frage des Verhaltens“, sagt Jack Stockdale, Chief Technology Officer bei Darktrace. „Mit der zunehmenden Agentenfähigkeit von KI werden Prompts zur Verhaltensebene: Sie kodieren Absicht, Kontext und nachgelagerte Aktionen. Wenn man Prompt-Sprache zur Laufzeit nicht beobachten und verstehen kann, lassen sich weder Verhaltensabweichungen noch Missbrauch oder emergentes Verhalten erkennen. KI ohne Prompt-Transparenz abzusichern ist, als würde man E-Mails schützen, ohne den Inhalt zu lesen. Prompts sind für KI das, was Netzwerkverkehr für Infrastrukturen und Identitäten für Nutzer sind.“

Die Einführung von KI ist inzwischen zu einer Priorität auf Vorstandsebene geworden. Unternehmen setzen KI-Tools in großem Maßstab ein, um Produktivität, Wachstum und Wettbewerbsfähigkeit zu steigern. Innerhalb der Darktrace-Kundenbasis nutzen bereits mehr als 70 Prozent der Organisationen generative KI-Tools. Mit zunehmender Reife des KI-Einsatzes kommen verstärkt KI-Agenten zum Einsatz, die sich in Systeme einloggen, auf Daten zugreifen und im Namen von Mitarbeitenden Aktionen ausführen können. Genehmigte Tools stellen dabei jedoch nur einen Teil des Gesamtbildes dar. Bei Kunden mit einem dominanten, freigegebenen KI-Tool nutzen 91 Prozent der Mitarbeitenden zusätzlich weitere KI-Dienste – häufig Shadow-AI-Tools. Für Sicherheitsteams fehlt damit die Transparenz darüber, welche KI-Dienste im Einsatz sind, wo sie genutzt werden und welche Daten das Unternehmen verlassen.

Dieser Verlust an Transparenz führt bereits heute zu realen geschäftlichen Risiken. Über einen Zeitraum von fünf Monaten hinweg beobachtete Darktrace ungewöhnliche oder anomale Datenübertragungen zu generativen KI-Diensten von durchschnittlich 75 MB pro Konto – das entspricht rund 4.700 Seiten an Dokumenten. In einzelnen Fällen lag der Umfang sogar bei mehr als 200.000 Seiten. Potenziell sensible Daten verlassen Unternehmen damit in großem Umfang und gelangen in KI-Umgebungen, in denen sie gespeichert, weiterverwendet oder außerhalb der organisatorischen Kontrolle wiederverwendet werden können. In den Händen von Angreifern kann bereits ein einzelner Upload für gezielte Social-Engineering-Angriffe, Identitätsmissbrauch, den Diebstahl geistigen Eigentums oder die Manipulation von KI-Agenten genutzt werden.

Einführung von Darktrace / SECURE AI

Darktrace / SECURE AI unterstützt Sicherheitsteams dabei, den Einsatz von KI im gesamten Unternehmen sicher zu ermöglichen und zu steuern. Als Teil der Darktrace ActiveAI Security Platform (TM) (https://www.darktrace.com/platform) bietet die Lösung Transparenz und Analysefunktionen für Informationen und Daten, die in generative KI-Tools, autonome Agenten, KI-Entwicklungsumgebungen und Shadow-AI-Dienste eingebracht oder daraus bezogen werden. Unternehmen erhalten so ein klares Verständnis darüber, wo KI-Systeme eingesetzt werden, auf welche Ressourcen sie zugreifen können und wie sie sich im Zeitverlauf verhalten.

Mit Darktrace / SECURE AI können Sicherheitsteams:

– den Einsatz generativer KI in Echtzeit überwachen und steuern – über unternehmensweite KI-Assistenten, Low-Code- und High-Code-Umgebungen sowie SaaS-Plattformen hinweg. Dies umfasst Transparenz über Prompts, Sitzungen und Modellantworten in Tools wie ChatGPT Enterprise und Microsoft Copilot, eingebettete KI-Funktionen in Anwendungen wie Salesforce oder Microsoft 365, Low-Code-Agenten-Builder wie Microsoft Copilot Studio sowie High-Code-KI-Entwicklungsplattformen wie Amazon Bedrock. Durch das Verständnis der Entwicklung von Prompts und Konversationen lassen sich sensible Datenabflüsse, ungewöhnliches Prompt-Verhalten und Manipulationsversuche erkennen.
– KI-Agenten und deren Zugriffsrechte nachverfolgen und kontrollieren, indem aktive Agenten über Cloud-Plattformen, interne Systeme und Drittumgebungen hinweg automatisch identifiziert werden. Die Lösung kartiert, auf welche Systeme und Daten diese Agenten zugreifen können, und überwacht ihre Interaktionen mit anderen Diensten – einschließlich Model-Context-Protocol-(MCP)-Servern. So lassen sich überprivilegierte Agenten, unerwartete Interaktionen sowie Anzeichen von Missbrauch oder Verhaltensabweichungen erkennen und unsichere oder nicht autorisierte Aktionen unterbinden.
– KI-Risiken in Entwicklung und Betrieb bewerten, indem Transparenz über KI-Identitäten, Berechtigungen und Zugriffe in Low-Code-Tools, SaaS-Plattformen, Hyperscaler-Umgebungen und internen Entwicklungsumgebungen geschaffen wird. Sicherheitsteams erhalten Einblick in Konfigurationen, Berechtigungen und Datenflüsse sowie in die Anbindung von KI-Komponenten an kritische Systeme. Diese Erkenntnisse fließen direkt in die Prompt-Überwachung ein und verknüpfen die Entwicklung von KI-Systemen mit ihrem Verhalten im produktiven Einsatz. Durch die Korrelation von Identitätserstellung, Build-Ereignissen und entstehenden Agentenfähigkeiten mit den zugrunde liegenden Prompts lassen sich Risiken sowohl vor der Freigabe als auch im laufenden Betrieb erkennen.
– Shadow AI erkennen und steuern, indem nicht genehmigte KI-Tools, unerlaubte Agentenentwicklungen und unerwartete KI-bezogene Aktivitäten im gesamten Unternehmen identifiziert werden. So wird sichtbar, wo unkontrollierte KI-Nutzung entsteht, wie Daten zu externen KI-Diensten fließen und wann genehmigte Tools auf riskante oder inkonsistente Weise eingesetzt werden. Durch die Korrelation von Nutzeraktivitäten mit Cloud-, Netzwerk- und Endpoint-Daten können Sicherheitsteams nicht freigegebene Tools eindämmen, Richtlinien durchsetzen und Mitarbeitende frühzeitig auf genehmigte KI-Dienste lenken.

Laut dem heute veröffentlichten State of AI Cybersecurity Report 2026 (https://www.darktrace.com/resource/the-state-of-ai-cybersecurity-2026) von Darktrace sorgen sich mehr als drei Viertel der befragten Cybersicherheitsverantwortlichen über die Sicherheitsimplikationen von KI-Agenten (76 Prozent) und generativen KI-Tools von Drittanbietern (ebenfalls 76 Prozent). Als größte Risiken nennen sie sensible Datenabflüsse und regulatorische Anforderungen. Nahezu die Hälfte der Führungskräfte im Bereich IT-Sicherheit (47 Prozent) gibt an, sehr oder äußerst besorgt zu sein – ein deutliches Zeichen dafür, wie schnell KI-Risiken zu einer zentralen Sicherheitspriorität werden.

Weitere Informationen

– Registrieren Sie sich für den Darktrace Innovation Launch (https://www.darktrace.com/event-hub/secure-ai-adoption-without-compromise) am 3. Februar 2026 und erfahren Sie mehr über die neuesten Innovationen im Bereich KI-Sicherheit.
– Den State of AI Cybersecurity Report 2026 (https://www.darktrace.com/resource/the-state-of-ai-cybersecurity-2026) sowie die zugehörige Pressemitteilung mit den wichtigsten Ergebnissen finden Sie hier (https://www.darktrace.com/news/over-three-quarters-of-security-professionals-concerned-about-ai-agent-risk-new-darktrace-report-finds).
– Erfahren Sie, wie Sie Ihr Unternehmen auf eine sichere KI-Einführung vorbereiten können – mit dem Secure AI Readiness Program (https://www.darktrace.com/secure-ai-readiness-program-signup) von Darktrace.

Über Darktrace

Darktrace ist ein weltweit führendes Unternehmen im Bereich KI-gestützter Cybersicherheit. Gegründet 2013, schützt die firmeneigene KI-Plattform Unternehmen vor unbekannten Bedrohungen – in Echtzeit und über alle digitalen Bereiche hinweg: Netzwerk, Cloud, E-Mail, Endpunkte und mehr. Die Darktrace ActiveAI Security Platform (TM) ermöglicht proaktive Cyber-Resilienz, Frühwarnungen und autonome Reaktionen. Innovationen aus den Darktrace-Forschungsteams in Cambridge (UK) und Den Haag (NL) führten zu über 200 Patentanmeldungen. Mit mehr als 2.300 Mitarbeitenden schützt Darktrace fast 10.000 Kunden weltweit.

Mehr Informationen unter: www.darktrace.com

Pressekontakt:

PIABO Communications
Lukas Pfeiffer
darktrace@piabo.net

Original-Content von: Darktrace, übermittelt durch news aktuell

  itsecurity, k-nstliche-intelligenz