09.09.2020

Regulierung von Künstlicher Intelligenz auf EU-Ebene - Gefahren und Chancen auf dem Weg in eine digitale Zukunft

Die Europäische Kommission hat Anfang dieses Jahres eine ambitionierte Digitalstrategie vorgestellt, die die EU zu einem unabhängigen, globalen Vorreiter machen soll. Die Regulierung der Künstlichen Intelligenz (KI) nimmt darin eine zentrale Rolle ein. In diesem Zusammenhang werden viele rechtliche Fragen aufgeworfen, deren Beantwortung derzeit äußerst schwierig ist. 

 

KI – Was ist das überhaupt? 

Als KI-Systeme werden im Wesentlichen statistische Prozesse bezeichnet, die sich vielfältiger, häufig miteinander kombinierter Algorithmen mit ihren jeweiligen Stärken, Schwächen und Anwendungsgebieten bedienen. Besonders faszinierend ist, dass KI-Technologien ihre Ergebnisse durch Lernprozesse verbessern und ihre Abläufe zu einem gewissen Grad automatisieren können. Im Zentrum der Entwicklung stehen seit einigen Jahren die sog. „künstlichen neuronalen Netze“, die dem Vorbild biologischer Nervensysteme folgen. Diese Netze sind lernfähig und können durch Dateneingabe und gewünschte Ausgangswerte trainiert werden, was in der Fachwelt als „Deep Learning“ bezeichnet wird. Hierzu werden Daten in hoher Quantität und Qualität benötigt. 

 

Anwendungsbereiche 

Die Anwendungsbereiche solcher KI-Systeme sind unheimlich vielfältig.  Relevanz haben sie vor allem in Bereichen wie Logistik, Marketing, Forschung & Entwicklung und Sicherheit. Darüber hinaus sind KI-Systeme von großer wissenschaftlicher, wirtschaftlicher, militärischer und damit politischer Bedeutung. 

 

Ethikleitlinien 

Als Reaktion auf das steigende Misstrauen innerhalb der Bevölkerung richtete die EU-Kommission eine Hochrangige Expertengruppe für Künstliche Intelligenz ein, die im April 2019 „Ethikleitlinien für eine vertrauenswürdige KI“ vorlegte. Die sieben Kernforderungen lauten wie folgt:

■Vorrang menschlichen Handelns und menschliche Aufsicht 

■Technische Robustheit und Sicherheit 

■Datenschutz und Datenqualitätsmanagement 

■ Nichtdiskriminierung und Fairness 

■Gesellschaftliches und ökologisches Wohlergehen 

■Rechenschaftspflicht 

 

Rechtliche Problematiken 

Auch die Kommission erkennt beim Einsatz von KI Risiken für materielle und immaterielle Güter. Besondere Bedenken bestehen aus ihrer Sich vor allem in den Bereichen Sicherheit und Gesundheit. In immaterieller Hinsicht sind insbesondere Rechtsgüter wie die Privatsphäre, Meinungsfreiheit und Menschenwürde bei falscher Herangehensweise in Gefahr. 

So besteht z.B. die Gefahr, dass die Technologie unter Verstoß gegen die Datenschutz- und andere europarechtliche Vorschriften von staatlichen Behörden oder anderen Stellen zur Massenüberwachung genutzt werden könnte. Es ist möglich, dass Daten von Personen gezielt zurückverfolgt und de-anonymisiert werden, wodurch neue Risiken für den Schutz personenbezogener Daten entstehen. Zu beachten ist außerdem, dass Vorurteile und diskriminierende Verhaltensweisen, die auch bei Menschen aufträten, durch KI-Systeme eine viel größere Wirkung entfalten könnten. 

Darüber hinaus bestehen große Sicherheitsrisiken, wenn fehleranfällige KI in Produkte und Dienstleistungen wie z.B. autonomes Fahren eingebettet werden. Davon abgesehen ist es aus rechtlicher Sicht höchst problematisch gewisse Entscheidungen, die eine KI in Gefahrensituationen treffen muss im Vorhinein zu bestimmen. 

 

Regulierungsvorschläge 

Um dem entgegenzuwirken, wird von der EU-Kommission zur Regulierung von künstlicher Intelligenz vorgeschlagen, vorab eine Konformitätsbewertung mit Schlüsselanforderungen für hochriskante KI-Systeme vorzunehmen. 

Angesichts der Komplexität vieler KI-Systeme und den damit verbundenen Schwierigkeiten, die Einhaltung der geltenden Vorschriften wirksam zu überprüfen und durchzusetzen, schlägt die Kommission vor, die Aufbewahrung von Aufzeichnungen über die Programmierung des Algorithmus und die verwendeten Daten vorzuschreiben. 

Zudem nennt die Kommission die proaktive Bereitstellung angemessener Informationen über den Einsatz hochriskanter KI-Systeme. Hierzu gehören insbesondere Angaben über Zweck, Fähigkeiten und Grenzen des Systems sowie der Bedingungen, unter denen davon ausgegangen werden kann, dass es bestimmungsgemäß funktioniert. Darüber hinaus soll das erwartete Maß an Genauigkeit bei der Erreichung des angegebenen Zwecks angegeben werden. 

Von enormer Wichtigkeit ist es nach Ansicht der EU-Kommission auch, den Bürger klar und deutlich darauf hinzuweisen, wenn er mit einem KI-System interagiert. Die bereits bestehenden entsprechenden Vorschriften des Datenschutzrechtes (insbesondere Art. 13 Abs. 2 lit. f DS-GVO45) sind möglicherweise nicht ausreichend. 

Bei Hochrisikoanwendungen soll der Mensch weiterhin eine entscheidende Mitwirkungsmöglichkeit haben. Dies kann unter anderem durch Vorabeinschränkungen des Systems geschehen. 

Die Kommission erkennt weiterhin, dass die Erfassung und Auswertung biometrischer Daten zum Zwecke der Fernidentifikation z.B. durch Gesichtserkennung im öffentlichen Raum besondere Risiken in Bezug auf die Achtung der Grundrechte birgt. Nach den geltenden Datenschutzvorschriften und der Grundrechtecharta dürfe KI nur dann für die Zwecke der biometrischen Fernidentifikation eingesetzt werden, wenn der betreffende Einsatz hinreichend begründet und verhältnismäßig ist.

 

Ausblick 

Um Bedenken im Zusammenhang mit der Nutzung von KI Rechnung zu tragen, will die Kommission zukünftig eine breit angelegte europäische Debatte über die besonderen Umstände einleiten, die bestimmte Nutzungen rechtfertigen könnten. Außerdem will sei eine Diskussion über gemeinsame Sicherheitsvorkehrungen eröffnen. 

Es dürfte weiterhin sehr interessant bleiben, die zukünftige Entwicklung von KI in technischer und rechtlicher Hinsicht zu beobachten. 

Bei weiteren Fragen steht Ihnen Rechtsanwalt Hans Christian Freier als Fachanwalt für Informationstechnologie (Fachanwalt IT-Recht) bei der Kanzlei Pinkvoss, Dahlmann & Partner mbB, Bergstraße 94, 58095 Hagen, Tel.: 02331/9167-0, E-Mail: www.pd.partner.de zur Verfügung.

 
PINKVOSS DAHLMANN & PARTNER | Photos by www.steur.de | Design und Webservice by bense.com | Impressum | Datenschutzerklärung | Sitemap | Suche