KI ist in aller Munde, aber nicht in allen Prozessen. Unternehmen zögern und kommen über Pilotprojekte oft nicht hinaus. Häufiger Grund: Es fehlt an Vertrauen. Vertrauen in die Verlässlichkeit der Ergebnisse, in den Datenschutz, die IT-Sicherheit, Unvoreingenommenheit (Bias) und potenziellen Missbrauch. Abhilfe schafft ein umfassendes, skalierbares KI-Qualitätsmanagement, das möglichst automatisiert arbeitet.

Foto: Cognizant Andreas Golze, CEO bei Cognizant DACH Der Einsatz von KI kann vielen Unternehmen unbestritten deutliche Produktivitätsgewinne und Kosteneinsparungen bringen. Gerade Endanwender sind aber vorsichtig, wenn es darum geht, der KI sensible Daten anzuvertrauen. Auch neigt KI zu Halluzinationen. So sind in der Vergangenheit schon Fälle vor Gericht bekanntgeworden, bei denen eine KI zurate gezogene Urteile frei erfunden hatte und der Anwalt kläglich gescheitert ist.

Ein zentrales Thema ist deshalb: Wie vertrauenswürdig und sicher ist KI, wenn sie tief in betriebliche Abläufe eingebettet ist? In der von Cognizant beauftragten Forrester Consulting-Studie AI Quality Assurance zeigt sich ein differenziertes Bild: 

Lediglich 57 Prozent der Personen, die beruflich viel mit Datenanalyse und KI-Technologie arbeiten, vertrauen den Ergebnissen von KI-Systemen vollständig. Bei Produktmanagern und Software-Entwicklern ist es nur ein Drittel und auch bei Entscheidungsträgern nur 3 von 10. Das bedeutet, die Mehrheit der Personen, die KI anwenden können und sollen, hat ein „Trust-Gap“ ‒ ein Vertrauensproblem. 

Das bezieht sich aber nicht nur auf die Ergebnisse an sich, sondern auch darauf, ob die Daten, die man einer KI übergibt, auch sicher sind und nicht abfließen, Hacker sich nicht in die KI einnisten können, die KI auch entsprechend den ethischen Vorgaben handelt und sich diese Grundlage (der Bias) nicht im laufenden Betrieb durch automatisiertes Selbstlernen verschiebt. 

79 Prozent der Studienteilnehmer sehen deshalb einen direkten Zusammenhang zwischen dem Vertrauen auf KI und einer aktiven Qualitätssicherung.

Trust-Gap schließen: Qualitätsmanagement aufbauen

Dieses Vertrauen lässt sich nur gewinnen, wenn die eingesetzte KI und die Daten dafür einer umfassenden und möglichst automatisierten Qualitätskontrolle unterzogen werden ‒ nicht nur einmal, sondern kontinuierlich. Das fängt bei der Datenqualität an, beispielsweise, ob die Inhalte vollständig, aktuell und valide sind. Denn eine KI operiert immer auf Daten und wenn diese fehler- oder lückenhaft sind, sind es auch die Ergebnisse. Da 52 Prozent der Befragten KI zur Unterstützung von Entscheidungsprozessen einsetzen möchten, ist eine robuste Qualitätssicherung der zugrunde liegenden Daten entscheidend, um Leistungsfähigkeit, Zuverlässigkeit und Genauigkeit sicherzustellen.

Die Qualitätskontrolle muss aber auch sicherstellen, dass Daten nicht von den eigenen Systemen an Dritte abfließen und sich die KI außerdem an gesetzliche Vorgaben wie den EU AI Act und die DSGVO hält. Es ist wichtig, Verantwortlichkeiten für den Schutz des enormen Datenschatzes zu etablieren. Man muss beispielsweise gewährleisten, dass HR-Daten auch nur von HR-Mitarbeitenden abgefragt werden können. 

Neben diesen Datenschutz und Sicherheitsbedenken, ist es für knapp die Hälfte der Unternehmen wichtig, den ROI durch den KI-Einsatz zu steigern. 

KI wird in Unternehmen häufig nur manuell geprüft

Bedeutsam sind ebenfalls automatische Qualitätskontrollen beim KI-Model-Design, dem Training und der Entwicklung, in den Testläufen und natürlich auch die Überwachung im laufenden Betrieb. Dennoch sind bei den Befragten aus Unternehmen, die regelmäßige Tests durchführen, lediglich 15 bis 29 Prozent der Prüfungen überwiegend automatisiert. Das heißt, vielfach finden Qualitätskontrollen vollständig oder teilweise manuell statt, was zeitaufwendig, fehlerträchtig und kostenintensiv ist. Letztlich behindert das den breiten Einsatz von KI, weil eine deutliche Skalierung mit vielen manuellen Qualitätskontrollen nur durch massiven Personaleinsatz möglich wäre. 

Aber nicht nur die mangelnde Automatisierung fordert Unternehmen beim Qualitätsmanagement von KI heraus. In der Hälfte der Fälle fehlt eine organisationsweite KI-Governance-Strategie. Nicht selten spielt auch mangelndes Know-how wie auch fehlende Erklärbarkeit ‒ also wie die KI zu ihren Ergebnissen kommt ‒ eine Rolle. Durch die rasante Entwicklung beim Einsatz von KI legen Verantwortliche häufig auch einen stärkeren Fokus auf ein möglichst schnelles Ausrollen von KI-Systemen, was viele Ressourcen bindet, die bei der Qualitätskontrolle fehlen.

Fehlende KI-Qualitätskontrolle hat direkte Folgen

Die Folgen mangelnder Qualitätskontrolle sind direkt spürbar, insbesondere, wenn die KI-Systeme direkt mit Kunden interagieren. Schlimmer als Strafzahlungen bei Verstößen gegen Regularien ‒ obwohl das auch vorkommt ‒, sind enttäuschte Kunden, verpasste Business-Opportunities und letztlich auch eine sinkende Produktivität, weil die Ergebnisse der KI mehr Arbeit machen, als Aufwand einzusparen. 

Stärkerer Fokus auf Qualität zahlt sich aus

Das alles zeigt: Ohne KI-Qualitätsmanagement ist der Trust-Gap nicht zu überwinden. Und bleibt die Lücke bestehen, verhindert das den breiten erfolgreichen Einsatz von KI. Organisationen, die bereits eine KI-Qualitätsmanagement-Strategie implementiert haben, ziehen daraus einen massiven Nutzen, wie die Studie beweist.

Angesichts knapper Fachkräfte und Ressourcen sollten Unternehmen nach Partnern Ausschau halten, die über ein passendes Toolset und Frameworks verfügen und das passende Prozess-Know-how, technische Fachwissen und Beratungsdienstleistungen anbieten können. So lässt sich KI qualitativ auf eine neue Vertrauensstufe heben und damit dauerhaft gewinnbringend einsetzen.