Wir alle kennen diese Filme. Roboter, die Chaos anrichten und die Zügel der Zivilisation an sich reißen. Als Science-Fiction-Fan habe ich viele Geschichten über künstliche Intelligenz gelesen, die in der einen oder anderen Form zum Ausdruck kommt. Es ist interessant, dass die meisten dieser Geschichten zwei Seiten der binären Charaktere darstellen. Die eine Seite ist wohlwollend und bringt der Menschheit Fortschritt und Wohlstand; die andere ist eine bösartige Kraft, die die Existenz der Gesellschaft bedroht.
Angesichts der vielen Diskussionen um ChatGPT, Googles Bard, Microsofts Bing AI und andere ist das Thema, wie sich künstliche Intelligenz (KI) auf die Welt auswirken wird, in den Vordergrund gerückt. Ähnlich wie damals, als Deep Blue Kasparow im Schach besiegte, erinnert diese Diskussion einmal mehr daran, dass die Technologie das Informationszeitalter nicht Schritt für Schritt durchläuft – sie macht große Sprünge. Doch die jüngsten Fortschritte im Bereich der KI sind lediglich die neueste Version des maschinellen Lernens und der Technologiemodellierung, die in den letzten Jahren ganze Branchen – vom Gesundheitswesen bis zum Finanzsektor – verändert haben. Trotz der Schlagzeilen, die die KI macht, gibt es jedoch zweifellos Risiken im Zusammenhang mit ihrer Entwicklung und ihrem Einsatz, die Risikomanager unbedingt im Blick behalten müssen.
Die gute Nachricht ist, dass die Arbeit an der Festlegung von Ansätzen bereits in vollem Gange ist. Das NIST hat am 30. März das „Trustworthy and Responsible AI Resource Center“ ins Leben gerufen. Diese neue Initiative wird die Umsetzung des im Januar dieses Jahres veröffentlichten NIST-Rahmenwerks zum KI-Risikomanagement sowie die internationale Abstimmung darauf erleichtern. Eine weitere Quelle ist die vom US-Energieministerium veröffentlichte „AI Risk Management Playbook“ (AIRMMP). Dies ist jedoch nur die Spitze des Eisbergs der neu entstehenden Leitlinien zu KI-Risiken. Das Thema Risiken bei KI und maschinellem Lernen wurde bereits in einer Vielzahl wissenschaftlicher Studien behandelt und wird auch weiterhin Gegenstand der Forschung sein, da ständig neue Modelle und Techniken entstehen.
Aus Sicht des GRC/integrierten Risikomanagements (IRM) gibt es bei KI-Risiken mehrere grundlegende Berührungspunkte. Zum Beispiel:
- Richtlinien und Standards: Richtlinien und Standards bilden das Fundament für Unternehmensführung und Compliance. Der Einsatz jeglicher Art von KI muss in den Unternehmensrichtlinien geregelt sein, um Kontrollanforderungen festzulegen.
- Sicherheitsmaßnahmen: KI-Systeme können ebenso wie jedes andere Computersystem anfällig für Cyberangriffe sein. Wird ein KI-System gehackt, kann dies dazu führen, dass sensible Daten gestohlen, manipuliert oder sogar zerstört werden. Böswillige Akteure könnten KI auch dazu nutzen, Angriffe zu starten, beispielsweise durch die Erstellung von Deepfakes zur Verbreitung von Desinformation oder zur Manipulation der Finanzmärkte.
- Compliance und Risikobewertungen: Höchstwahrscheinlich decken Ihre Bewertungsprozesse viele Bereiche ab – von regulatorischen Anforderungen bis hin zur Einhaltung interner Kontrollvorschriften. Die Liste der zu berücksichtigenden Themen wird immer länger. Die oben genannten Rahmenwerke sind hervorragende Ausgangspunkte, um einfache Fragen einzubeziehen und so potenzielle Anwendungsmöglichkeiten für maschinelles Lernen und KI zu identifizieren, um der Konkurrenz einen Schritt voraus zu sein.
- Daten-Governance: Ein Teil des IRM besteht darin, zu verstehen, wie Daten innerhalb der Organisation fließen. Daten-Governance betrifft zunächst zwar vor allem den Datenschutz, muss jedoch zunehmend alle Arten von Daten sowie deren Nutzung berücksichtigen. Dies sollte mittlerweile auch den Einsatz von maschinellem Lernen oder KI umfassen, um sicherzustellen, dass diese Maßnahmen im Hinblick auf Risiken wie Voreingenommenheit überwacht werden.
Während Unternehmen darüber nachdenken, wie KI ihre Geschäftsziele voranbringen kann, müssen sich die Teams für Risiko, Compliance und Sicherheit auf das Unvermeidliche vorbereiten. Einerseits ist das nichts Neues – diese Bereiche waren schon früher mit technologischen Fortschritten konfrontiert. Andererseits handelt es sich hier um etwas völlig Neues. Das Kuriose an der KI ist, dass man sie tatsächlich fragen kann, welches Risiko sie darstellt. Mir fällt kein anderes Risiko ein, das die Frage „Welches Risiko stellst du dar?“ beantworten kann.
Wie mir ChatGPT sagte:
Zwar hat KI das Potenzial, ganze Branchen zu revolutionieren und das Leben der Menschen zu verbessern, doch sind mit ihrer Entwicklung und ihrem Einsatz auch Risiken verbunden. Zu diesen Risiken zählen Voreingenommenheit, Sicherheitsrisiken, Arbeitslosigkeit, Autonomie und mangelnde Rechenschaftspflicht. Angesichts der fortschreitenden Entwicklung der KI ist es wichtig, dass wir uns dieser Risiken bewusst sind und Maßnahmen zu ihrer Minderung ergreifen. Dazu gehört die Entwicklung transparenter, rechenschaftspflichtiger und ethischer KI-Systeme sowie die Gewährleistung, dass der Mensch die Kontrolle über KI-Systeme behält.
Das hätte ich selbst nicht besser sagen können.
Weitere Informationen finden Sie im Bericht von IDC über die aktuellen Anforderungen an das Risikomanagement.
