Die Risiken von Künstlicher Intelligenz: Eine kritische Betrachtung

Datenqualität und Verzerrungen

Ein zentrales Problem bei der Nutzung von KI ist die Qualität der zugrunde liegenden Daten. Der Grundsatz "Garbage in, garbage out" gilt hier in besonderem Maße: Wenn die Daten, mit denen KI-Modelle trainiert werden, fehlerhaft oder verzerrt sind, sind auch die Ergebnisse unzuverlässig und potenziell schädlich[8][9]. Ein prominentes Beispiel ist der algorithmische Bias, bei dem KI-Systeme bestehende Vorurteile in den Daten übernehmen und verstärken können. Dies kann zu diskriminierenden Entscheidungen führen, etwa bei der Kreditvergabe oder im Personalwesen[10].

Neben der Qualität der Daten selbst besteht eine zusätzliche Herausforderung darin, wie diese Daten verarbeitet und interpretiert werden. Algorithmische Verzerrungen entstehen oft unbeabsichtigt, wenn KI-Systeme auf historischen Datensätzen trainiert werden, die bestehende gesellschaftliche Ungleichheiten und Vorurteile widerspiegeln. Wenngleich die Daten auf den ersten Blick neutral erscheinen, können subtile Verzerrungen tief in den Modellen verankert werden. Dadurch verstärken KI-Systeme bestehende Ungerechtigkeiten und tragen dazu bei, dass Diskriminierungen fortbestehen, anstatt sie zu beseitigen.

Datensicherheit und Privatsphäre

Die Integration von KI in Datenverarbeitungssysteme birgt erhebliche Sicherheitsrisiken. Angriffe auf KI-Systeme können zu Datenlecks führen, bei denen sensible Informationen gestohlen werden[1]. Zudem besteht das Risiko, dass KI-Algorithmen selbst missbraucht werden, um persönliche Daten zu manipulieren oder unautorisiert zu nutzen[1][2]. Die Einhaltung von Datenschutzbestimmungen wie der DSGVO ist daher unerlässlich, um die Privatsphäre der Nutzer zu schützen[14].

Mit der zunehmenden Vernetzung von KI-Systemen, wie in Smart Cities oder dem Internet of Things (IoT), wird das Risiko von Datenschutzverletzungen noch weiter erhöht. Angriffe auf solche miteinander verbundenen Systeme könnten weitreichende Folgen haben und zu massiven Sicherheitslücken führen, die nicht nur einzelne Personen, sondern ganze Infrastrukturen betreffen. Dies macht eine sorgfältige Regulierung und ständige Überwachung solcher Systeme unverzichtbar.

Fehlende Transparenz und Erklärbarkeit

Viele KI-Systeme operieren als "Black Boxes", deren Entscheidungsprozesse für Außenstehende schwer nachvollziehbar sind. Diese Intransparenz erschwert es, Fehler zu identifizieren und zu korrigieren[10]. Die mangelnde Erklärbarkeit von KI-Entscheidungen kann in kritischen Bereichen wie dem Gesundheitswesen oder der Justiz schwerwiegende Folgen haben[12].

Obwohl in den letzten Jahren erhebliche Fortschritte im Bereich „explainable AI“ (XAI) gemacht wurden, bleibt die Erklärbarkeit vieler komplexer KI-Systeme weiterhin problematisch. Selbst für Experten kann es schwierig sein, die Entscheidungsprozesse solcher Systeme vollständig nachzuvollziehen. Diese mangelnde Erklärbarkeit kann dazu führen, dass KI-Systeme als „Black Boxes“ angesehen werden, deren Ergebnisse blind vertraut wird, ohne sie kritisch zu hinterfragen. Das Vertrauen in diese Systeme ohne eine klare Erklärung ihrer Funktionsweise birgt erhebliche Risiken, besonders in sicherheitskritischen Bereichen wie der Medizin oder dem Finanzsektor.

Mögliche Desinformation

Ein weiteres Risiko besteht in der Verbreitung von Fehlinformationen durch KI-generierte Inhalte. Insbesondere im Kontext von Wahlen und politischer Meinungsbildung kann dies erhebliche Auswirkungen auf das Weltgeschehen haben[5]. Die Fähigkeit von KI, täuschend echte Inhalte zu erstellen, erhöht die Gefahr von Deepfakes und anderen Formen der Desinformation[4].

Der AI Act der Europäischen Union

Die Europäische Union arbeitet derzeit an der Einführung des sogenannten AI Act, einem umfassenden Regelwerk zur Regulierung von Künstlicher Intelligenz (KI). Dieses Gesetz zielt darauf ab, die Risiken von KI-Systemen zu minimieren und gleichzeitig Innovationen zu fördern. Der AI Act klassifiziert KI-Systeme nach ihrem Risikopotenzial und legt strenge Anforderungen für Hochrisikoanwendungen fest, während andere Anwendungen weniger strengen Regeln unterliegen[16][18].

Ein besonderer Fokus liegt auf Hochrisikoanwendungen, die direkten Einfluss auf Grundrechte oder die Sicherheit von Menschen haben. Dazu zählen etwa KI-Systeme in der Strafjustiz, der medizinischen Diagnose oder im Finanzwesen. Für diese Anwendungen gelten strenge Auflagen, die sicherstellen sollen, dass die Systeme transparent und nachvollziehbar arbeiten[21][22]. Eine der zentralen Forderungen des AI Acts ist die Etablierung von menschlicher Aufsicht. Dies bedeutet, dass Menschen in Entscheidungsprozesse eingebunden werden müssen, insbesondere bei Hochrisiko-KI-Systemen[17][20].
Die Gefahr, dass die menschliche Aufsicht bei Hochrisiko-KI-Systemen zur Alibi-Funktion wird, ist nicht zu unterschätzen.

Eine Herausforderung besteht jedoch in der menschlichen Aufsicht selbst. Oftmals fehlt es den menschlichen Entscheidern an ausreichendem Verständnis für die Funktionsweise der KI-Systeme, oder sie neigen dazu, sich auf die Empfehlungen der KI zu verlassen, ohne diese kritisch zu hinterfragen[20]. Dies kann dazu führen, dass die formale Beteiligung von Menschen eher eine Alibifunktion erfüllt, während die tatsächliche Verantwortung für Entscheidungen de facto an die KI-Systeme abgegeben wird. Insbesondere in Bereichen wie dem Personalwesen oder der Medizin, wo KI zunehmend eingesetzt wird, wird gefordert, dass Menschen die endgültigen Entscheidungen treffen. Doch diese Regelung könnte sich als problematisch erweisen, da die menschliche Beteiligung oft nur pro forma ist und die komplexen Algorithmen schwer zu hinterfragen sind[17][19].

Eine weitere Sorge betrifft die Frage der Verantwortlichkeit. Wer haftet, wenn ein KI-System eine Fehlentscheidung trifft – der Entwickler, der Betreiber oder der Mensch, der die endgültige Entscheidung treffen sollte? Der AI Act versucht, diese Grauzonen zu klären, doch es bleibt abzuwarten, wie wirksam diese Regelungen in der Praxis sein werden[25]. Kritiker befürchten, dass ohne ausreichend tiefes Verständnis und Schulung der menschlichen Entscheider die eigentliche Aufsicht über KI-Systeme lückenhaft bleibt und eine tatsächliche Kontrolle über die Technologie nur schwer zu gewährleisten ist[17][20].

Der AI Act steht damit vor einer heiklen Gratwanderung: Einerseits soll er die Innovationskraft Europas im Bereich der Künstlichen Intelligenz nicht behindern, andererseits muss er sicherstellen, dass KI-Systeme sicher, fair und transparent bleiben. Eine der großen Herausforderungen wird es sein, eine Balance zwischen Förderung von Innovation und Schutz der Grundrechte zu finden, ohne dabei in der Praxis die Regulierung in Bürokratie oder formalistische Aufsicht abgleiten zu lassen[21][23].

Schlussfolgerung

Die Nutzung von KI bringt zweifellos viele Vorteile mit sich, doch die damit verbundenen Risiken dürfen nicht ignoriert werden. Es bedarf eines verantwortungsvollen Umgangs mit dieser Technologie sowie strenger Regulierungen, um ihre negativen Auswirkungen zu minimieren. Nur durch eine sorgfältige Abwägung von Chancen und Risiken kann KI zu einem Werkzeug werden, das der Gesellschaft als Ganzes zugutekommt.

Herangezogene Quellen

[1] www.congruity360.com/blog/ai-data-policy-risks-you-should-know/
[2] www.readynez.com/en/blog/the-power-of-artificial-intelligence-in-data-analysis/
[3] www.hiig.de/en/events/conference-shifting-ai-controversies/
[4] ruepoint.com/2024/01/05/ai-trends-in-2024-challenges-and-changes/
[5] www.brookings.edu/events/2024-election-promise-and-perils-of-ai/
[6] www.simplilearn.com/challenges-of-artificial-intelligence-article
[7] www.linkedin.com/pulse/historical-examples-ai-safety-ethical-failures-from-past-williams
[8] research.aimultiple.com/data-quality-ai/
[9] versium.com/blog/ais-achilles-heel-the-consequence-of-bad-data
[10] www.pickl.ai/blog/13-biggest-ai-failures-a-look-at-the-pitfalls-of-artificial-intelligence/
[11] www.infocepts.ai/blog/top-data-and-ai-breakthroughs-and-controversies-of-2024/
[12] www.restack.io/p/explainable-ai-answer-error-analysis-cat-ai
[13] www.weforum.org/agenda/2024/01/artificial-intelligence-themes-davos-2024/
[14] www.aepd.es/en/prensa-y-comunicacion/blog/artificial-intelligence-accuracy-principle-in-processing-activity
[15] https://www.cio.com/article/190888/5-famous-analytics-and-ai-disasters.html
[16] digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai  
[17] www.tandfonline.com/doi/full/10.1080/17579961.2023.2245683  
[18] cms.law/en/int/publication/eu-ai-act  
[19] timelex.eu/en/blog/ai-liability-eu  
[20] link.springer.com/article/10.1007/s00146-023-01777-z  
[21] pcg.io/insights/between-innovation-and-regulation-the-eu-ai-act/  
[22] www.aoshearman.com/en/insights/ao-shearman-on-data/ai-act-published-in-eu-official-journal-to-enter-into-force-on-1-august-2024  
[23] thechoice.escp.eu/tomorrow-choices/how-europes-ai-act-could-affect-innovation-and-competitiveness/  
[24] wilmerhale.com/en/insights/blogs/wilmerhale-privacy-and-cybersecurity-law/20240717-what-are-highrisk-ai-systems-within-the-meaning-of-the-eus-ai-act-and-what-requirements-apply-to-them  
[25] accesspartnership.com/accountability-in-the-eu-ai-act-who-is-responsible-for-decisions-made-by-ai/