KI und Grundrechte

Durch die grundlegenden Veränderungen der Arbeitsformen und Interaktion mit Maschinen könnte laut Expertenschätzungen die Anwendung von Künstlicher Intelligenz die jährlichen Wachstumsraten bis zum Jahr 2035 verdoppeln und fortschrittliche kognitive Technologien könnten die Arbeitsproduktivität innerhalb dieses Zeitraums steigern, beispielsweise in der Technologie-, Medien- und Telekommunikationsbranche ^[1].  KI beeinflusst aber nicht nur die Industrie und die Wirtschaft, sondern auch unseren Alltag, die Gesellschaft und das politische System. Diese Auswirkungen auf alle Bereiche unseres Lebens stoßen auf breites, öffentliches Interesse und sind Gegenstand der aktuellen Debatte.

Was ist Künstliche Intelligenz?

Obwohl Entscheidungsträger zunehmend unter dem Druck stehen, die Chancen von KI zu nutzen und deren Risiken abzuschwächen, gibt es derzeit keine einheitliche Definition des Begriffs. Ein Grund für die Vielzahl der unterschiedlichen Interpretationen und Definitionen ist, dass es grundsätzlich schwierig ist, die Bedeutung von "Intelligenz" zu erfassen. Folglich ist auch der Begriff "Künstliche Intelligenz" schwer zu definieren. In diesem Abschnitt legen wir unser konzeptionelles Verständnis von Künstlicher Intelligenz dar.

Im Allgemeinen wird KI als von Maschinen ausgehende Intelligenz definiert, im Gegensatz zur natürlichen Intelligenz von Menschen und Tieren^[2]. Im Rahmen dieses Beitrags wird sie allgemein als System oder Anwendung verstanden, die intelligentes Verhalten zeigt, indem sie ihre Umgebung analysiert und mit einem gewissen Grad an Autonomie Maßnahmen ergreift, um bestimmte Ziele zu erreichen ^[3].

Häufig werden auch die Begriffe Maschinelles Lernen (ML) und KI austauschbar verwendet. Mit Abbildung 1 wollen wir daher veranschaulichen, wie diese und andere Konzepte zusammenhängen. Zu erkennen ist, dass KI eher im Hinblick auf die wahrgenommene Intelligenz eines synthetischen Systems (Maschine) definiert wird, während maschinelles Lernen und damit auch neuronale Netze usw. sich mehr auf die Werkzeuge (mathematisch und algorithmisch) beziehen, die ein solches Verhalten ermöglichen. Algorithmen sind dabei lediglich die Schritte, die unternommen werden müssen, um ein festgelegtes Ziel zu erreichen, von der Eingabe der Daten bis zu den daraus abgeleiteten Ausgaben. Viele der im Rahmen des Maschinellen Lernens entwickelten Methoden verwenden leistungsstarke und komplexe Algorithmen, um Probleme zu lösen. In den letzten fünf Jahrzehnten der Forschung und Entwicklung hat Künstliche Intelligenz enorme Fortschritte gemacht: von klassischen Expertensystemen mit regelbasierten Methoden über statistische Konzepte bis hin zu neueren Trends in tiefen, neuronalen Netzen innerhalb des maschinellen Lernens.

Abbildung 1: Beziehung zwischen den Konzepten Künstliche Intelligenz, Maschinelles Lernen und weiteren Begriffen in diesem Bereich^[4]

KI-basierte Systeme können rein softwarebasiert sein und in der virtuellen Welt agieren, Bildanalysesoftware, Suchmaschinen, Sprach- und Gesichtserkennungssysteme), oder in Hardware eingebettet sein (z. B. hochentwickelte Roboter, autonome Autos, Drohnen oder IoT-Anwendungen.

Die Realisierbarkeit solcher Anwendungen lässt sich durch zwei Hauptfaktoren erklären:

• Die stetige Verbesserung spezieller Hardware^[5] und Algorithmen, die große Datensätze nutzen.
• Den starken Anstieg an qualitativ hochwertigen, kompakten Daten. Dies beinhaltet strukturierte (Transaktions-, Prozessdaten usw.) und komplexe Datensätze (wie Bilder, Audio- oder Videodateien).

Dieser starke Anstieg der Datenmenge und -qualität hat sowohl die jüngsten Ansätze datengestützter Methoden vorangetrieben als auch davon profitiert, dass sich KI nicht mehr auf das Expertenwissen von Menschen bei der Definition von Regeln und Heuristiken stützt, sondern „lernt“, allein aus den Daten die richtigen Schlussfolgerungen zu ziehen.

Die wichtigste Erkenntnis dieses Ansatzes ist die Annahme, dass menschliche Erfahrungen und Fachwissen auch aus Daten extrahiert werden können. In der Regel wird dies mit großen Datenmengen (Big Data) erreicht, die alle notwendigen und extrahierbaren Eigenschaften enthalten, die erforderlich sind, um die Kenntnisse zu erlernen, die menschliche Experten haben. Daten, insbesondere Big Data, werden daher als Schlüsselfaktor angesehen.

Die Anwendung von KI in verschiedenen Sektoren

Es gibt Unterschiede zwischen den Branchen in Bezug auf den Umfang der heutigen und zukünftigen Nutzung von KI. Die Unternehmensgröße sowie eine starke Komplexität der Betriebsabläufe korrelieren oft mit einem höheren Grad an KI-Integration. Ebenso sind ein hoher Anteil an gut ausgebildeten Mitarbeitern und ein starker Wettbewerb innerhalb einer Branche Faktoren, welche die Anwendung und Integration von KI fördern ^[6].  So weisen beispielsweise die Automobil- und Telekommunikationsindustrie vergleichsweise hohe Aktivitäten in diesem Bereich auf ^[7]. 

Zudem existieren auch innerhalb der verschiedenen Branchen Unterschiede zwischen großen, global agierenden Unternehmen und kleinen bzw. mittleren Unternehmen (KMU). Obwohl KMU bei der Entwicklung von KI-Technologien in der Regel keine führende Position einnehmen, haben sie zumindest theoretisch Vorteile bei deren Anwendung und Integration. Während in großen Unternehmen strukturelle Veränderungen oft länger dauern, ist der Aufwand für kleine und mittlere Unternehmen bei der Einführung neuer Systeme oft geringer ^[8].  Im Vergleich zu Großunternehmen nutzen KMU jedoch derzeit noch relativ selten KI ^[9]. 

Wie wirkt sich der Einsatz von KI auf die Grundrechte aus?

Ungeachtet der Unterschiede zwischen den Branchen bietet KI allgemein Chancen für Unternehmen, die Wirtschaft insgesamt und den öffentlichen Sektor. Angesichts der wirtschaftlichen Möglichkeiten ist es daher unerlässlich, ihre Auswirkungen auf die Grundrechte zu analysieren. Insbesondere wenn KI die menschliche Entscheidungsfindung ersetzt (und nicht nur unterstützt), können ethische und grundrechtliche Herausforderungen entstehen.

Grundrechte sind eine vielfältige Gruppe von Rechten, die ein hohes Maß an Schutz erfordern. Die Europäische Charta der Grundrechte unterteilt diese Rechte in sechs Kategorien. Die folgende Liste nennt einige Beispiele, inwiefern KI einen positiven oder negativen Einfluss auf diese Rechte darstellen kann. Die Liste ist beispielhaft und stellt keinen Anspruch auf Vollständigkeit.

1. Würde: Diese Kategorie umfasst beispielsweise die Würde des Menschen und das Recht auf Leben. KI könnte insbesondere dann Konsequenzen in Bezug auf diese Menschenrechte (sowohl positiv als auch negativ) hervorrufen, wenn sie im Rahmen der Gesundheitsfürsorge eingesetzt wird. Es gibt schon heute viele KI basierte Systeme, die bei der Prävention und Diagnose von Krankheiten^[10] oder bei der Pflege unterstützen. Beim Einsatz solcher Systeme muss nicht nur auf Haftungsfragen geachtet werden, sondern auch sorgfältig zwischen medizinischen Vorteilen und Persönlichkeitsrechten abgewogen werden ^[11].
2. Freiheit: Dazu gehören das Recht auf Gedanken- und Meinungsfreiheit, das Recht auf Achtung des Privatlebens und das Recht auf Schutz personenbezogener Daten (Artikel 6-19). Davon stehen vor allem die beiden letztgenannten Rechte oft im Mittelpunkt der Debatte, da KI die Verwendung großer Datenmengen, sowohl personenbezogener also auch nicht-personenbezogener, erfordert.
3. Gleichheit: Alle Menschen sind vor dem Gesetz gleich und kein Bürger darf aus Gründen wie Geschlecht, Rasse, Alter oder ethnischer Herkunft diskriminiert werden (Artikel 20-26). Dies ist die Kategorie der Grundrechte, die häufig als gefährdet eingestuft wird. So könnten beispielsweise durch algorithmische Entscheidungen in einer Vielzahl von Sektoren Verzerrungen entstehen, die zu einer Beeinträchtigung des Rechts auf Nichtdiskriminierung führen könnten. In Amerika wurde zum Beispiel ein Algorithmus entwickelt, der die Wahrscheinlichkeit von Straffälligkeit berechnen und somit die Verurteilung zu Haftstrafen unterstützten soll. Der Algorithmus wies allerdings eine Verzerrung gegen Menschen afroamerikanischer Abstammung auf ^[12].
4. Solidarität: Dazu gehören unterschiedliche Rechte wie das Recht auf soziale Sicherheit, faire Arbeitsbedingungen und Umweltschutz (Artikel 27-38). Zum Beispiel wird kontrovers diskutiert, ob KI zu zunehmender Arbeitslosigkeit führen und somit das Solidaritätsprinzip auf die Probe stellen könnte (Artikel 34)^[13]. In Bezug auf Umweltschutz hingegen gibt es eine Vielzahl an KI Anwendungen, die einen positiven Beitrag leisten können. Zum Beispiel schaffte es Google mit deren Hilfe, die Energiebilanz seiner Datenzentren um 40% zu reduzieren^[14].    
5. Bürgerrechte: Jeder Bürger der Europäischen Union besitzt ein Wahlrecht, das Recht auf eine gute Verwaltung und das Recht, sich im EU-Gebiet frei zu bewegen und aufzuhalten (Artikel 39-46). Insbesondere im Hinblick auf eine gute Verwaltung könnte KI einen positiven Effekt auf die Effizienzsteigerung der öffentlichen Verwaltungen haben. Beispielsweise könnte deren Einsatz bei Anliegen wie Firmenzulassung oder Fördermittelbeantragung zukünftig Behördengänge überflüssig machen. In Bezug auf das Recht einer freien, direkten und geheimen Wahl (Artikel 39) stellt KI allerdings zunehmend ein Risiko dar, da durch KI-gestützte Systeme Falschinformationen verbreitet werden können, um Wähler zu manipulieren. Diese Praktiken wurden beispielsweise bei den Europawahlen im Mai 2019 aufgedeckt^[15].   
6. Justizielle Rechte: Die Charta besagt, dass jeder das Recht auf einen wirksamen Rechtsbehelf, das Recht auf ein faires Verfahren und das Recht auf Verteidigung hat (Artikel 47-50). In der Justiz verwendete KI könnte Bedenken in Bezug auf das Recht auf ein faires Verfahren hervorrufen (z.B. wenn derartige Systeme Verzerrungen enthalten).

Ein Beispiel für den Einsatz von KI in öffentlichen Institutionen ist die Anwendung der Gesichtserkennungstechnologie für Strafverfolgungszwecke. Die KI-gesteuerte Gesichtserkennung kann helfen, Terrorverdächtige im öffentlichen Raum zu identifizieren, und wurde bereits in Großbritannien getestet^[16]. Gesichtserkennungskameras scannen dabei öffentliche Plätze (beispielsweise Flughäfen) und vergleichen die gescannten Gesichter mit denen auf einer Überwachungsliste. Die Technologie wird in der Regel von externen Unternehmen entwickelt, da die Strafverfolgungsbehörden selten über die Kapazitäten und das Know-how verfügen, derartige Systeme selbst zu konstruieren. Wenn die Einführung und Anwendung dieser Technologie erfolgt ist, könnte sie sich positiv auf das Recht auf Sicherheit auswirken. Andererseits könnten auch negative Effekte auf das Recht auf Privatsphäre und/oder Diskriminierung auftreten. Daher müssen Schutzmaßnahmen getroffen werden, wie z.B. ein Kontrollmechanismus bei jeder angezeigten Übereinstimmung durch die Software und die Einbeziehung von Datenschutzbeauftragten. Zudem muss dafür gesorgt werden, dass es strenge Richtlinien gibt, wer Zugang zu dem System hat und zu welchem Zweck es benutzt wird.

Rechtliche Rahmenbedingungen für KI in Bezug auf die Grundrechte

Wie das Beispiel der Strafverfolgung im vorherigen Abschnitt gezeigt hat, bietet der Einsatz von KI nicht nur Chancen, sondern auch Risiken. Daher sind Gesetzgeber und Industrie angehalten, angemessene Rahmenbedingungen zu schaffen, unter denen die Vorteile genutzt und Risiken minimiert werden können. Obwohl es bisher keine Gesetze gibt, die KI explizit regeln (mit Ausnahme der DSGVO, wie unten gezeigt), sind in den letzten Jahren viele nicht-legislative Initiativen auf nationaler und internationaler Ebene entstanden. Darüber hinaus haben auch private Akteure Selbstregulierungsmaßnahmen ergriffen.

Die wichtigste Rechtsvorschrift bezüglich der Regulierung von Künstlicher Intelligenz ist die Datenschutz-Grundverordnung (DSGVO). Sie regelt unter anderem die zu beachtenden Pflichten bei der Datenverarbeitung und die Rechte der betroffenen Person bei der Nutzung personenbezogener Daten. Die DSGVO findet somit Anwendung, wenn KI mit personenbezogenen Daten gespeist wird, wenn sie diese verwendet oder wenn sie als Grundlage für Entscheidungen dienen. Einige der in der DSGVO verankerten Grundsätze, wie zum Beispiel das Recht auf Erklärung, das Verbot der Diskriminierung und das Prinzip der Zweckbindung sind daher für die Regulierung von KI relevant.

Neben den Bestimmungen der DSGVO gibt es auch einige Selbstregulierungsinitiativen der Industrie. “The Partnership on AI to Benefit People and Society” vereint beispielsweise große Technologieunternehmen, Wissenschaftler, Forscher und zivilgesellschaftliche Organisationen. Gemeinsam werden Best Practices entwickelt und das Verständnis von KI in der Gesellschaft gefördert. Die Partner der Organisation stellen sicher, dass der Einsatz von KI durch Fairness, Transparenz und Verantwortlichkeit gekennzeichnet ist. Mitglieder der Partnerschaft sind beispielsweise Amazon, Apple, Facebook und Google sowie Human Rights Watch und MIT Media Lab^[17].

Schlussfolgerungen und Zukunftsperspektiven

Wie gezeigt wurde, gibt es keine allgemein anerkannte Definition von KI, Big Data und verwandten Begriffen, was Debatten erschwert. Zudem dürfte die Anwendung von KI in naher Zukunft zunehmen, allerdings in unterschiedlichem Maße je nach Branche, Region und Unternehmensgröße. Die derzeitige und künftige Nutzung wird voraussichtlich sowohl negative als auch positive Auswirkungen auf die Grundrechte haben. Da bislang ein umfassender Rechtsrahmen fehlt, sind die politischen Maßnahmen der EU und deren Mitgliedstaaten sowie die nichtstaatlichen Initiativen zu ethischen und rechtlichen Auswirkungen von KI stark gestiegen.

Diese Komplexität, gepaart mit der disruptiven Kraft, die von KI ausgehen kann, macht es schwer, das Gleichgewicht zu finden zwischen der Nutzung der wirtschaftlichen Chancen und der Minderung der Risiken im Hinblick auf die Grundrechte. Momentan werden schon in verschiedenen Bereichen mathematische Modelle entwickelt, um KI transparenter zu machen. Um diesen Drahtseilakt allerdings langfristig zu bewältigen, ist kontinuierliche, interdisziplinäre Forschung nötig. Das stellt sicher, dass Herausforderungen und Chancen unvoreingenommen und evidenzbasiert untersucht werden.

Darüber hinaus ist ein entsprechender Rechtsrahmen für die Anwendung von KI mit Grundrechte-Relevanz erstrebenswert. Hierbei ist ein agiler Ansatz nötig, bei dem die Regulierung kollaborativ, iterativ, maßgeschneidert und ergebnisorientiert gestaltet wird^[18]. Dies stellt sicher, dass durch legislative Maßnahmen die Bürger vor Grundrechtsverletzungen geschützt werden, ohne dass Unternehmen bei der Entwicklung von KI-basierten Innovationen gehemmt werden.

Wir von Deloitte Deutschland unterstützen Kunden dabei, die Vorteile Künstlicher Intelligenz (KI) zu nutzen, und untersuchen gleichzeitig, wie Gesellschaft und Regierung mit den ethischen und rechtlichen Herausforderungen umgehen können. Das beinhaltet Deloitte’s Unterstützung des öffentlichen Sektors in Sachen KI und Digitalisierung durch das Deloitte Economic Consulting Team. Es beinhaltet auch die Zusammenarbeit mit Unternehmen bei der Erstellung von Strategien für einen ethischen Umgang mit KI im Sinne einer Corporate Digital Responsibility und die Beteiligung an Diskussionsforen, um auf die ethischen Dimensionen von KI aufmerksam zu machen. Bei diesen und allen anderen Bemühungen gewährleisten wir einen multidisziplinären Ansatz, indem wir unsere wirtschaftliche, rechtliche und technologische Expertise bündeln. 

Quellen

[1] Deloitte (2019). Artificial Intelligence Studie: So schafft AI Mehrwert im TMT-Sektor. https://www2.deloitte.com/de/de/pages/technology-media-and-telecommunications/articles/artificial-intelligence-tmt.html

[2] Poole, David; Mackworth, Alan; Goebel, Randy (1998). Computational Intelligence: A Logical Approach. New York: Oxford University Press. ISBN 978-0-19-510270-3.

[3] Diese Definition wurde in der Mitteilung der Europäischen Kommission Künstliche Intelligenz für Europa verwendet, http://ec.europa.eu/newsroom/dae/document.cfm?doc_id=51625

[4] KI ist ein Oberbegriff, der Aspekte klassischer Expertensysteme, statistischer Modellierung und maschinellen Lernens umfasst. Es gibt Überschneidungen innerhalb einiger dieser Bereiche und alle tragen zum Aufbau einer künstlichen Intelligenz bei.

[5] Zum Beispiel GPU und TPU

[6] Deloitte (2019). KI-Studie 2019: Wie nutzen Unternehmen Künstliche Intelligenz?, verfügbar unter:  https://www2.deloitte.com/de/de/pages/technology-media-and-telecommunications/articles/ki-studie-2019.html

[7] Siehe zum Beispiel: Fraunhofer Allianz Big Data (2017). Zukunftsmarkt Künstliche Intelligenz – Potenziale und Anwendungen: https://www.iais.fraunhofer.de/content/dam/bigdata/de/documents/Publikationen/KI-Potenzialanalyse_2017.pdf

[8] Woodhams, Mark (2018). AI: The intelligent future for small businesses. Verfügbar unter: http://www.smeweb.com/2018/03/01/ai-intelligent-future-small-businesses/ /)

[9] Tyagi, Chhavi (2018). Is it time for SMEs to engage with Artificial Intelligence?  In: The Economic Times, verfügbar unter: https://economictimes.indiatimes.com/small-biz/security-tech/technology/is-it-time-for-smes-to-engage-with-artificial-intelligence/articleshow/64803780.cms

[10] Es wurden zum Beispiel KI Systeme entwickelt, die Lungenkrebs diagnostizieren können, siehe: Liang et al. (2019): Evaluation and accurate diagnoses of pediatric diseases using artificial intelligence, in: Nature Medicine 2019, Nr. 25, S. 433–438.

[11] Lernende Systeme im Gesundheitswesen, Acatech 2019. Verfügbar unter: https://www.acatech.de/wp-content/uploads/2019/07/AG6_Bericht_23062019.pdf

[12] ProPublica Studie “Machine Bias”. Verfügbar unter: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

[13] Siehe zum Beispiel: Petropoulos, G. (2018) The Impact of Artificial Intelligence on Employment. Verfügbar unter: https://bruegel.org/wp-content/uploads/2018/07/Impact-of-AI-Petroupoulos.pdf

[14] Safty-first AI for autonomous data center cooling and industrial control: https://www.blog.google/inside-google/infrastructure/safety-first-ai-autonomous-data-center-cooling-and-industrial-control/

[15] Siehe: Gemeinsame Mitteilung an das europäische Parlament, den europäischen Rat, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und des Ausschusses der Regionen, Bericht über die Umsetzung des Aktionsplans gegen Desinformation, 14.06.2019.

[16] Walson, Richard (2017) Face recognition tested to monitor terrorist suspects. Verfügbar unter: https://www.bbc.com/news/uk-40675918

[17] The Partnership on AI to benefit People and Society (2019). Verfügbar unter: https://www.partnershiponai.org/partners/

[18] The future of regulation (2018). Verfügbar unter: https://www2.deloitte.com/global/en/insights/industry/public-sector/future-of-regulation/regulating-emerging-technology.html  

Ihre Autoren

Dr. Carolin Möller
Manager - Risk Advisory
camoeller@deloitte.de
+49 151 58076678

Dr. Rahul Swaminathan
Manager - Consulting
rahswaminathan@deloitte.de
+49 151 58070447