Ein KI-Bot als Ministerin? Albaniens Vorstoß sorgt für Schlagzeilen – und wirft grundsätzliche Fragen auf. Künstliche Intelligenz kann Prozesse objektiver und konsistenter machen, doch sie bleibt immer ein Spiegel menschlicher Entscheidungen und Werte. Die Verantwortung aber liegt am Ende nie bei der Maschine, sondern bei den Menschen.

Foto: Pegasystems Peter van der Putten, Director AI Lab and Lead Scientist bei Pegasystems Albanien hat angekündigt, künftig einen KI-Bot als „Ministerin“ für die Vergabe öffentlicher Aufträge einzusetzen, um Korruption zu bekämpfen. Diese Ankündigung muss wohl eher als Provokation verstanden werden denn als ernst gemeintes Vorhaben. Zunächst einmal entscheidet eine Ministerin natürlich über weit mehr als nur Beschaffungsvorschläge: Sie legt die Politik ihres Ressorts fest, treibt Innovationen voran oder entscheidet in Personalangelegenheiten. 

Warum KI nie wirklich objektiv sein kann

Darüber hinaus gibt es aber auch noch einen weiteren Einwand. Der Einsatz des Bots wird damit begründet, dass er „objektiver“ sei. Um diese Behauptung einzuordnen, muss man sich die Worte des Technikhistorikers Melvin Kranzberg in Erinnerung rufen: „Technologie ist weder gut noch böse, noch ist sie neutral“. Das gilt auch für KI-Bots. Sie sind keine Zauberei, sondern werden von Menschen anhand bestimmter expliziter Regeln und Logik, Prompt-Anweisungen oder Trainingsdaten entwickelt. Alle diese Design-Entscheidungen führen zu einem Bot, der nicht objektiv sein kann – weil er von vornherein die von Menschen festgelegten Richtlinien und Werte enthält.

Ist das schlecht? Nicht, solange man mit diesen Regeln und Richtlinien einverstanden und sich auch einiger unerwünschter Verzerrungen bewusst ist, die sich möglicherweise eingeschlichen haben. Nur in einer perfekten Welt würde die ordnungsgemäße Anwendung von Papierrichtlinien faire Bewertungen gewährleisten und genau dasselbe gilt für automatisierte Systeme. Mit ihnen kann man aber zumindest eine konsistentere Anwendung garantieren. 

Die Systeme sind aber alles andere als wertfrei, objektiv und neutral. Und da sie automatisiert sind und auch in großem Umfang Schaden anrichten können, müssen sie noch höheren Standards unterliegen als Menschen. Wenn sie diese Hürden nimmt, kann eine KI-gesteuerte Beschaffung sicherlich ein Segen sein und viele private und öffentliche Organisationen sind auch schon auf dem Weg, die Beschaffung datengesteuerter, transparenter und überprüfbarer zu gestalten. Und Transparenz ist auch unbedingt erforderlich, insbesondere bei stärker KI-gesteuerten Systemen.

Verantwortung bleibt immer menschlich

Das bedeutet aber auch, dass sich Menschen niemals hinter einer KI oder einem automatisierten System verstecken können. Als Eigentümer eines solchen Systems werden sie für die Empfehlungen, die es gibt, oder die Entscheidungen, die es trifft, immer verantwortlich gemacht. Insbesondere bei öffentlichen Dienstleistungen und Entscheidungen wird es wichtig sein, dass es Möglichkeiten gibt, Einspruch einzulegen, Bürgern und Unternehmen Gerechtigkeit widerfahren zu lassen, aber auch Feedback zu geben, um die Fehler, Störungen oder unerwünschten Nebenwirkungen zu beseitigen, die Systeme immer enthalten.  ​