Künstliche Intelligenz mit Verantwortung: ​​​​​​​Braucht KI eine digitale Identität?

Mit der fortschreitenden Verbreitung künstlicher Intelligenz in Unternehmen übernimmt sie zunehmend Aufgaben, die früher ausschließlich menschlichen Nutzern vorbehalten waren. Von der Datenanalyse über Entscheidungsunterstützung bis hin zur vollständigen Prozesssteuerung zeigt sich die Effizienz und Präzision, mit der KI arbeitet. Doch je autonomer KI agiert, desto drängender stellt sich eine grundlegende Frage: Sollte sie, ähnlich wie ein technischer Benutzer, über eine eigene digitale Identität verfügen? Und wie können Unternehmen sicherstellen, dass die Integration von KI-Systemen mit ihren Werten, Prozessen und Vorgaben im Einklang steht?

Identity and Access Management (IAM) bildet seit jeher die Grundlage für die Verwaltung von Benutzern in digitalen Systemen. Es regelt, wer auf welche Daten zugreifen darf, und welche Aktionen autorisiert sind. Eine KI, die etwa in einem Grossunternehmen Eingangsrechnungen prüft und freigibt, benötigt Zugriff auf eine Vielzahl sensibler Daten wie Lieferanteninformationen, Budgets und ERP-Systeme. Doch dieser Zugriff soll streng limitiert bleiben. Die Herausforderung besteht darin, die Autonomie der KI zu unterstützen, ohne die Kontrolle über sensible Informationen zu verlieren.

Was KI von einem klassischen technischen Benutzer unterscheidet, ist ihre Fähigkeit, autonom zu agieren. Während technische Benutzer in festen Regeln operieren, trifft KI Entscheidungen auf Basis von Algorithmen und selbstlernenden Modellen. Eine KI, die Rechnungen prüft, gleicht etwa Beträge mit Budgets ab, erkennt Unregelmäßigkeiten und entscheidet eigenständig, ob eine Zahlung freigegeben wird. Doch was passiert, wenn die KI einen Fehler macht? Um solche Szenarien abzufedern, ist es unerlässlich, dass jede Handlung der KI dokumentiert und nachvollziehbar ist. Compliance-Vorgaben und Audits machen es unabdingbar, dass die Entscheidungslogik der KI jederzeit belegt werden kann. Warum wurde eine Rechnung freigegeben? Welche Daten lagen der Analyse zugrunde? Ohne solche Transparenz würde die Arbeit der KI in einer Blackbox enden – ein No-Go für jedes moderne Unternehmen.

Noch spannender wird die Frage nach der Verantwortung. Bisher wird davon ausgegangen, dass die Betreiber einer KI für deren Handlungen haften. Damit bleibt die KI ein Werkzeug, das immer im Auftrag einer natürlichen Person oder Organisation agiert. Doch was, wenn KI-Systeme künftig wie „digitale Angestellte“ betrachtet werden, die unabhängig handeln und Verantwortung für ihre Entscheidungen tragen? Ein solches Szenario würde nicht nur rechtliche Rahmen sprengen, sondern auch ethische und philosophische Diskussionen auslösen. Würde eine KI dann wie eine juristische Person behandelt werden? Wird man Parallelen zu selbstfahrenden Autos und deren KI ziehen müssen? Und könnte die KI für ihre „Fehler“ haftbar gemacht werden?

Die Einführung einer eigenen digitalen Identität für KI könnte nicht nur Sicherheit und Transparenz erhöhen, sondern auch einen strukturierten Onboarding-Prozess erforderlich machen. Unternehmen müssten künftig KI-Engines ähnlich wie neue Mitarbeitende in die Organisation integrieren. Dazu gehört nicht nur die technische Anbindung, sondern auch die Einführung in die Werte und Gepflogenheiten des Unternehmens, etwa durch die Vermittlung des Codes of Conduct (CoC). KI müsste lernen, Entscheidungen im Einklang mit den unternehmensinternen Richtlinien zu treffen – sei es in Bezug auf ethische Standards, regulatorische Anforderungen oder kulturelle Werte. Der Gedanke mag zunächst ungewohnt klingen, doch eine KI, die mit den Prinzipien und Erwartungen eines Unternehmens vertraut gemacht wird, könnte langfristig nicht nur effizienter, sondern auch vertrauenswürdiger agieren.

Ein anschauliches Beispiel aus der Praxis verdeutlicht die Tragweite dieser Überlegungen. In einem internationalen Grossunternehmen übernimmt eine KI die Prüfung von Eingangsrechnungen. Sie analysiert die Rechnung, gleicht sie mit Bestelldaten ab, bewertet mögliche Risiken und trifft die finale Entscheidung, ob eine Zahlung ausgelöst wird. Vielleicht löst die KI die Zahlung auch gleich aus oder unterzeichnet eine Bestellung mit einer eigenen digitalen Signatur? Die Effizienz ist auf jeden Fall beeindruckend, doch die Herausforderung bleibt: Die KI darf nur auf die Daten zugreifen, die für ihre Aufgabe erforderlich sind. Gleichzeitig müssen ihre Entscheidungen vollständig dokumentiert werden, um im Fall von Unregelmässigkeiten nachvollziehbar zu bleiben. Und während die KI autonom handelt, trägt letztlich eine natürliche Person oder das Unternehmen als Ganzes die Verantwortung.

Das Onboarding einer KI würde in diesem Szenario sicherstellen, dass sie nicht nur technisch integriert, sondern auch in die Governance des Unternehmens eingebettet ist. Durch diesen Ansatz kann das Unternehmen garantieren, dass KI nicht isoliert agiert, sondern als Erweiterung der organisatorischen Identität wahrgenommen wird.