KI und Ethik: Die Balance zwischen Fortschritt und Verantwortung

Mehr als nur Technik: Warum KI auch ein ethisches Thema ist

Künstliche Intelligenz (KI) revolutioniert die Arbeitswelt in den verschiedensten Branchen und verbessert die Effizienz maßgeblich. Spätestens die Veröffentlichung von ChatGPT durch OpenAI im Jahr 2022 markierte den entscheidenden Wendepunkt für die Technologie. Ihre Fähigkeiten, die von Textgenerierung bis Coding reichen, eröffnen zahlreiche Möglichkeiten und machen KI in fast allen Bereichen einsetzbar.

Dies gilt auch für die Finanzbranche. Gerade hier kann die Technologie für langfristige Effizienz, Sicherheit und Kundenorientierung eine wichtige Rolle spielen und beispielsweise im Rahmen des Risk Managements, der Kundeninteraktion oder zur Automatisierung von Prozessen behilflich sein.

Doch mit der zunehmenden Leistungsfähigkeit, Verfügbarkeit und Einsetzbarkeit von KI kommen auch Risiken, die es zu beachten gilt.

Die menschengemachten Systeme bringen Probleme mit sich, die von Verzerrungen über Generierung falscher Inhalte bis hin zu gesellschaftlichen Auswirkungen wie Arbeitsplatzverlusten reichen. Dies kann verheerende Auswirkungen für das menschliche Leben als auch Unternehmen haben.

Das Beispiel zeigt deutlich auf, dass ein verantwortungsvoller Einsatz von KI unter Beachtung ethischer Standards sowie einem moralischen Kompass und einem tiefgehenden Verständnis für die Technologie zunehmend entscheidend ist.

Die mangelnde Aufmerksamkeit für diesen Bereich kann nicht nur Kunden, sondern auch Unternehmen mit Reputations- und rechtlichen Risiken sowie hohen finanziellen Strafen belasten.

Um Herr der Lage zu bleiben, sollten Unternehmen daher frühzeitig beginnen, ethische Fragestellungen in ihren Diskurs und in ihre Strategien aufzunehmen.

Black Box, Bias und Verantwortung: Die ethischen Baustellen der KI

Die potenziellen Probleme und ethischen Bedenken im Zusammenhang von künstlicher Intelligenz betreffen verschiedene Bereiche, die miteinander verbunden sind.

Einige prägnante Themen wie mangelnde Transparenz und Erklärbarkeit, Bias und Diskriminierung, Sicherheitsrisiken, soziale Ungleichheit sowie Verantwortung und Haftung werden daher im Folgenden noch einmal genauer beleuchtet.

Transparenz und Erklärbarkeit: KI-Modelle sind sogenannte „Black Boxes“. Es ist oft unklar, wie genau Entscheidungen zustande kommen, was die Nachvollziehbarkeit und das Vertrauen in die Systeme erschwert.

Bias und Diskriminierung: KI-Systeme können bestehende Vorurteile aus den Trainingsdaten übernehmen und verstärken. Das führt zu diskriminierenden Entscheidungen, zum Beispiel bei Bewerbungsverfahren oder der Kreditvergabe.

Sicherheitsrisiken: Künstliche Intelligenz kann zum Erstellen von Deepfakes oder zur automatisierten Verbreitung von Fake News genutzt werden, was demokratische Prozesse gefährden und für manipulative oder kriminelle Zwecke eingesetzt werden kann. Wenn KI-Systeme zu viel Entscheidungsgewalt erhalten, kann darüber hinaus die menschliche Autonomie untergraben werden.

Soziale Ungleichheit: Automatisierung durch künstliche Intelligenz kann viele Arbeitsplätze ersetzen. Ebenso kann der ungleiche Zugang zu künstlicher Intelligenz soziale Ungerechtigkeiten verschärfen.

Verantwortung und Haftung: Wenn eine KI eine fehlerhafte Entscheidung trifft, ist oft unklar, wer die Verantwortung trägt: der Entwickler, der Betreiber oder das System selbst?

Diese Herausforderungen verdeutlichen, dass der verantwortungsvolle Umgang mit künstlicher Intelligenz nicht nur eine technische, sondern vor allem eine ethische und gesellschaftliche Aufgabe ist, die klare Leitlinien, Transparenz und interdisziplinäre Zusammenarbeit erfordert.

Grundprinzipien der KI-Ethik und ihre regulatorische Umsetzung

KI-Ethik ist ein multidisziplinäres Fachgebiet. Es untersucht Grundsätze, die dabei helfen, Richtiges und Falsches zu unterscheiden sowie positive Auswirklungen von künstlicher Intelligenz bei gleichzeitiger Reduktion von Risiken und negativen Folgen zu fördern.

Wie künstliche Intelligenz arbeitet, hängt maßgeblich davon ab, wie sie konzipiert, programmiert, trainiert, angepasst und eingesetzt wird. Die ethische Auseinandersetzung mit KI zielt darauf ab, ein Rahmenwerk aus ethischen Prinzipien und Richtlinien zu etablieren, die alle Phasen im Lebenszyklus eines KI-Systems berücksichtigt.

Unternehmen, Regierungen sowie Forscherinnen und Forscher haben bereits begonnen verschiedene Rahmenwerke für den Umgang mit künstlicher Intelligenz zu entwickeln, um den Bedenken rund um künstliche Intelligenz entgegenzutreten. Häufig werden hierbei als Grundlage die sieben ethischen Prinzipien der EU-Kommission/OCED/EU High-Level Expert Group on AI zitiert, die im Folgenden dargestellt sind:

• Menschliches Handeln​ und ​Aufsicht​ haben Vorrang​: KI-Systeme sollen den Menschen unterstützen, nicht ersetzen. Grundrechte dürfen nicht verletzt werden.
• Technische ​Robustheit und ​Sicherheit: Künstliche Intelligenz muss sicher, zuverlässig und resilient sein​.
• Verantwortlichkeit: Es muss klar sein, wer für die Handlungen und Entscheidungen eines KI-Systems verantwortlich ist.
• Vielfalt, Nicht-diskriminierung​ und Fairness: Künstliche Intelligenz darf niemanden benachteiligen​. Fairness in der Entwicklung und Anwendung ist essenziell.
• Transparenz: KI-Entscheidungen sollen nachvollziehbar und erklärbar sein.
• Gesellschaftliches ​und ökologisches Wohlergehen​: Künstliche Intelligenz sollte dem Gemeinwohl dienen, soziale und ökologische Nachhaltigkeit fördern und nicht nur wirtschaftlichen Interessen folgen.
• Privatsphäre und ​Datenschutz: Der Schutz persönlicher Daten und die Achtung der Privatsphäre müssen bei der Entwicklung und Nutzung von künstlicher Intelligenz gewährleistet sein.

Auch der 2024 in Kraft getretene EU AI Act greift die genannten ethischen Prinzipien auf und übersetzt sie in rechtsverbindliche Regelwerke.

Durch die Einteilung von KI-Systemen in vier Risikokategorien (siehe Abbildung), werden Sicherheit, die Einhaltung von Menschenrechten und gesellschaftlichem Wohlergehen sichergestellt.

Die für bestimmte Systeme erlassenen Transparenz- und Dokumentationspflichten stellen die Nachvollziehbarkeit und Durchsicht sicher. Darüber hinaus verweist der AI Act auf die DSGVO und verlangt, dass KI-Systeme datenschutzkonform gestaltet und betrieben werden.

Fazit: Governance als Schlüssel zu vertrauenswürdiger künstlicher Intelligenz

Um künstliche Intelligenz im Sinne der ethischen Grundsätze und Werte einer Organisation sowie der Erwartung der Stakeholder einzuführen und/oder zu betreiben, ist ein Governance-Programm elementar.

Dies ermöglicht die Überwachung des KI-Lebenszyklus durch interne Richtlinien und Prozesse. Dazu sollten klare Rollen und Verantwortlichkeiten für alle beteiligten Personen festgelegt werden.

Gleichzeitig sollten alle Akteure entlang des gesamten KI-Lebenszyklus für eine verantwortungsvolle Entwicklung und Nutzung sensibilisiert und geschult werden. Um einen strukturierten und sicheren Einsatz von künstlicher Intelligenz zu gewährleisten, sollten Prozesse etabliert werden, die den Aufbau, die Verwaltung, die Überwachung sowie die Kommunikation rund um KI-Systeme und deren potenzielle Risiken regeln.

Ergänzend dazu können geeignete Werkzeuge zum Einsatz kommen, die darauf abzielen, die Leistungsfähigkeit und Vertrauenswürdigkeit der künstlichen Intelligenz über ihren gesamten Lebenszyklus hinweg kontinuierlich zu verbessern.

Zusammengefasst bedeutet dies: Wenn Unternehmen künstliche Intelligenz als unterstützendes Werkzeug begreifen, das auf ethischen Prinzipien basiert und den Menschen in den Mittelpunkt stellt, kann ihr Einsatz nachhaltig, sicher und vertrauenswürdig gestaltet werden.

Ein ganzheitliches Governance-Programm bildet dabei das Fundament für eine verantwortungsvolle und zukunftsorientierte KI-Strategie.