IBM stellt eine branchenweit einzigartige Lösung zur einheitlichen Steuerung von KI-Sicherheit und Governance vor. Mit der Integration von watsonx.governance und Guardium AI Security ermöglicht IBM Unternehmen, agentenbasierte und generative KI-Systeme sicher, gesetzeskonform und transparent zu betreiben.
Foto: IBM
Foto: IBM
Suja Viswesan, Vice President, Security and Runtime Products bei IBM
Foto: IBM
Ritika Gunnar, General Manager, Data and AI bei IBM
Mit der rasanten Ausbreitung von KI-Agenten in Unternehmensprozessen wachsen auch die Anforderungen an Sicherheit und Regulierung. IBM reagiert auf diese Herausforderung mit einer wegweisenden Lösung: einer einheitlichen Plattform, die Sicherheit und Governance in einem KI-Ökosystem vereint. Ziel ist es, Unternehmen in die Lage zu versetzen, Risiken frühzeitig zu erkennen, Vorschriften einzuhalten und Vertrauen in autonome Systeme zu stärken.
„KI-Agenten werden die Produktivität von Unternehmen revolutionieren, aber genau diese Vorteile können auch eine Herausforderung darstellen“, erklärt Ritika Gunnar, General Manager, Data and AI bei IBM. „Wenn diese autonomen Systeme nicht ordnungsgemäß geregelt oder gesichert sind, kann dies schwerwiegende Folgen haben.“
IBM kombiniert mit seiner neuen Softwarelösung erstmals die Fähigkeiten von watsonx.governance und Guardium AI Security, um die Sicherheits- und Governance-Risiken im Zusammenhang mit agentenbasierter KI zentral zu verwalten. Die Integration bietet Unternehmen die Möglichkeit, ihre KI-Systeme auf Basis von zwölf Rahmenwerken – darunter der EU AI Act und ISO 42001 – regelkonform zu validieren.
Zudem erkennt Guardium AI Security mithilfe von AllTrue.ai neue KI-Anwendungsfälle in Cloud-, Code- und Embedded-Umgebungen. Im Falle erkannter Bedrohungen werden automatisierte Governance-Workflows über watsonx.governance aktiviert – ein entscheidender Schritt für den Schutz dezentraler Systeme.
Ein Highlight der Lösung ist das automatisierte Red Teaming in Guardium AI Security. Unternehmen können damit Schwachstellen und Fehlkonfigurationen in KI-Anwendungen aufdecken, darunter Risiken wie Code-Injektionen, Datenlecks oder die Offenlegung sensibler Informationen.
Zudem können Organisationen benutzerdefinierte Sicherheitsrichtlinien festlegen, um sowohl Eingabe- als auch Ausgabeprompts kontinuierlich zu überprüfen. Diese Funktionen sind bereits verfügbar, die vollständige Integration in watsonx.governance folgt im Laufe des Jahres.
„Die Zukunft der KI hängt davon ab, wie erfolgreich wir sie heute sichern. Die Einbettung von Sicherheit von Anfang an ist für den Schutz von Daten, die Einhaltung von Compliance-Vorgaben und den Aufbau von dauerhaftem Vertrauen unerlässlich“, betont Suja Viswesan, Vice President, Security and Runtime Products bei IBM.
Watsonx.governance ermöglicht nun eine durchgehende Überwachung von KI-Agenten – von der Entwicklung bis zur Nutzung. Mit Hilfe integrierter Bewertungsknoten lassen sich Metriken wie Antwort- und Kontextrelevanz sowie Genauigkeit messen. Für Ende Juni sind weitere Funktionen geplant, darunter Risikobewertungen beim Agenten-Onboarding, Audit-Trails sowie ein umfassender Agenten-Tool-Katalog.
Mit den Compliance Accelerators stellt IBM seinen Kunden eine umfangreiche Sammlung vorinstallierter Regelwerke und Standards zur Verfügung. Diese decken globale Vorschriften wie den EU AI Act, SR 11-7 der US-Notenbank oder das NYC Local Law 144 ab. Auch internationale Normen wie ISO/IEC 42001 und das NIST AI Risk Management Framework sind enthalten – eine wertvolle Unterstützung zur Umsetzung individueller KI-Strategien.
Ergänzend bietet IBM Consulting Cybersecurity Services maßgeschneiderte Unterstützung bei der sicheren Skalierung von KI. Die neuen Services helfen Unternehmen, Risiken in ihren KI-Anwendungen aufzudecken und „Secure-by-Design“-Ansätze umzusetzen. Kunden wie Nationwide Building Society und e& setzen bereits auf dieses Know-how.
