Zum Inhalt springen

umwelt.nrw

Hauptinhalt

06.11.2019
Fachtagung "Verbraucherschutz digital: Faire Spielregeln für Künstliche Intelligenz"

Verbraucherschutzministerin Ursula Heinen-Esser: Transparenz, Datenschutz und klare Kennzeichnung sind unabdingbar für den Einsatz Künstlicher Intelligenz

Die Digitalisierung bestimmt zunehmend unseren Alltag: Digitale Assistenten unterstützen im smarten Zuhause, Chatbots beraten im Kundendienst und Roboadvisor treffen die Vorauswahl bei der Geldanlage. Für Verbraucherinnen und Verbraucher sind solche Angebote oftmals nützlich, meist jedoch vollkommen intransparent. Um über Chancen und Risiken dieser Technologien zu diskutieren, lädt Verbraucherschutzministerin Ursula Heinen-Esser heute (6. November 2019) zur Fachtagung "Verbraucherschutz digital: Faire Spielregeln für Künstliche Intelligenz" nach Köln und fordert Transparenz, Datenschutz und eine klare Kennzeichnung ein.

"Nordrhein-Westfalen ist ein bedeutender Standort bei der Entwicklung und der Anwendung Künstlicher Intelligenz. Damit die Technologien dauerhaft erfolgreich etabliert werden können, ist es zwingend erforderlich, auch ethisch-rechtliche Aspekte bei der Entwicklung von algorithmenbasierten Produkten und Dienstleistungen zu berücksichtigen", erklärt Verbraucherschutzministerin Ursula Heinen-Esser zur Konferenz. An der Fachtagung nehmen circa 100 Expertinnen und Experten aus Forschung, Wirtschaft, Digitalgesellschaft und Verbraucherschutz faire Spielregeln für Künstliche Intelligenz teil.

Eine zentrale Forderung von Ministerin Heinen-Esser ist die Kennzeichnung und verbrauchergerechte Information: "Jede und jeder muss erkennen können, ob algorithmenbasierte Entscheidungsprozesse zum Beispiel die Produktauswahl bestimmen. Wie und auf Basis welcher Informationen funktionieren algorithmische Systeme? Eine einfache und verständliche Kennzeichnung mithilfe eines Piktogramms ist wünschenswert und rechtlich umsetzbar." Auf den ersten Blick müsse außerdem erkennbar sein, welche Datenkategorien zu welchem Zweck verwendet wurden.

Darüber hinaus fordert die Ministerin, Haftungsregelungen auf den Prüfstand zu stellen. Aufgrund der Zunahme der Komplexität algorithmischer und selbstlernender Systeme bedürfe es einer kritischen Überprüfung des Haftungsrechtes. Denkbar sei beispielsweise, dass ein Algorithmus fehlerhaft Versicherungstarife berechnet oder nur Angebote mit erhöhten Preisen darstellt. Möglicherweise stellt auch der Pflegeroboter eine falsche Dosierung der zu verabreichenden Medikamente zusammen oder es geschieht ein Unfall beim autonomen Fahren.

"Bei diesen Forderungen stehen die Fachkolleginnen und Fachkollegen in den Ländern an meiner Seite. Auf der diesjährigen Verbraucherschutzministerkonferenz in Mainz haben wir entsprechende Beschlüsse auf den Weg gebracht und an die Bundesregierung adressiert. Erfreulicher Etappen-Erfolg ist, dass die von der Bundesregierung eingesetzte Datenethikkommission mit ihrem aktuellen Gutachten ,Digitale Entwicklung verantwortungsvoll gestalten' viele dieser Fragestellungen aufgegriffen hat und konkrete Umsetzungsempfehlungen für den Bundesgesetzgeber gibt", so die Ministerin.

Ein Beispiel aus dem Gutachten ist der Anwendungsbereich von Telematiktarifen bei Versicherungen: Mit diesem Thema hat sich Nordrhein-Westfalen gemeinsam mit Bayern, Hessen, Rheinland-Pfalz, Sachsen und dem Saarland intensiv in einer Projektgruppe der Verbraucherschutzministerkonferenz befasst, dabei insbesondere die Bereiche der Berufsunfähigkeits-, Privaten Krankenversicherungen und der Kfz-Haftpflichtversicherung analysiert. Bisher haben Telematiktarife im Versicherungsbereich in Deutschland nur einen kleinen Marktanteil, allerdings mit steigender Tendenz.

Hier fordert das Gutachten der Datenethikkommission, dass die Verwendung von Daten zur personalisierten Risikoabschätzung an enge Voraussetzungen geknüpft werden. Die Datenverarbeitung dürfe nicht den Kern privater Lebensführung betreffen und es müsse ein klarer ursächlicher Zusammenhang zwischen Daten und Risiko vorliegen. Ursula Heinen-Esser: "Gerade bei Telematiktarifen in der Krankenversicherung ist es erforderlich, dass Verbraucherinnen und Verbraucher vor einer zunehmend digitalisierten Erhebung sensibler Gesundheitsdaten geschützt werden."

Das Verbraucherschutzministerium setzt das Thema Künstliche Intelligenz und Algorithmen weiter auf seine Agenda. Bereits am 18. November 2019 findet gemeinsam mit dem Verbraucherzentrale Bundesverband und der Landesvertretung Nordrhein-Westfalen bei der Europäischen Union ein Fachgespräch zur Algorithmen-Kontrolle in Brüssel statt. Dort wird unter anderem das Erfordernis einer Nachjustierung der Datenschutzgrundverordnung thematisiert, um automatisierte Prozesse zur Vorbereitung menschlicher Entscheidungen sicher und transparent zu machen. Dabei wird auch diskutiert, welche Schritte die Europäische Union hinsichtlich der Regulierung von Algorithmen im Rahmen einer europaweiten weiten KI-Strategie unternehmen sollte.