„Mensch, Moral, Maschine – digitale Ethik, Algorithmen und künstliche Intelligenz“ – unter diesem Titel hat der BVDW am Montag ein Diskussionspapier veröffentlicht. Darin macht der Bundesverband auf den Einsatz neuer Technologien wie künstlicher Intelligenz (KI) aufmerksam und welche Konsequenzen sich darauf für die Gesellschaft ergeben. Auf den 51 Seiten befasst sich Leitautor Dr. Wolfgang Gründinger mit seinen Experten „praxisorientiert mit Grundsatzfragen digitaler Ethik“. Dazu zählen unter anderem Constanze Osei-Becker (Facebook), Marina Grigorian (Telefónica), Anna-Verena Naether (Google), Dr. Wolfgang Ries (Fujitsu) und Sebastian Schwiening (BMW).
Diagnose wird immer der Arzt stellen
Eines der wichtigen Ergebnisse ist aus Sicht des BVDW folgendes: „Algorithmische Entscheidungen müssen gerichtlich überprüfbar sein.“ Als Beispiel führen sie die Anwendung in der Medizin an. Demnach müsse eine zeitgemäße Definition der ärztlichen Sorgfaltspflicht die Anwendung von KI umfassen, wenn diese eine nachgewiesenen Nutzung beinhaltet. Daraus folgert das Expertenteam, dass Ärzte ihre Sorgfaltspflicht verletzen würden, „wenn sie in bestimmten Bereichen, in denen der Nutzen einer KI-Technologie nachgewiesen wurde, auf dessen Einsatz verzichten“.
„Hier soll der Arzt natürlich nicht durch eine Software ersetzt werden – ganz im Gegenteil. Es ist eine wertvolle Hilfestellung“, sagt dazu Dr. Wolfgang Faisst von SAP SE, der stellvertretender Vorsitzender des BVDW-Ressorts Digitale Transformation und Internet of Things ist. Die Diagnose werde immer ein Arzt stellen, so Faisst. „Wenn KI aber nachweislich dazu beiträgt, dass diese Diagnose präziser ist als ohne ihren Einsatz, wäre es aus Sicht des Behandelnden fahrlässig, diese Möglichkeit nicht zu nutzen.“
Auch aus Marketer-Sicht relevant
Anhand von zahlreichen für die Praxis relevanten Fragen spielen die Autoren die Vor- und Nachteile neuer digitaler Technologien durch, darunter „Wie soll sich ein automatisiertes Auto in einer unlösbaren Unfallsituation entscheiden?“, „Führt die Augmentierung der eigenen Umgebung zu einem Verlust der Privatsphäre?“, „Welchen Wert hat menschliche Arbeit, wenn Roboter immer mehr Arbeitsplätze vernichten?“ oder „Filterblasen, Fake News, Manipulation: Beschädigen soziale Medien die Demokratie?“.
Dort wird dann beispielsweise über die Gefahren gesprochen, die von sozialen Medien wie Twitter (Stichwort Fake News) und Facebook (Manipulation der Nutzer durch Microtargeting mittels Dark Ads) ausgehen, aber auch über die wissenschaftlich nicht haltbare Relevanz der Filterblasen, in denen Menschen ihre Nachrichten auf Grundlage eines Algorithmus erhalten und der – rein theoretisch – manipuliert werden könnte. Die Autoren kommen in diesem Bereich zu folgendem Fazit:
Medien, Wirtschaft, Staat und Zivilgesellschaft sollten intensiv daran arbeiten, die Kompetenzen der Bevölkerung in allen Altersgruppen im reflektierten Umgang mit digitalen Medien und sozialen Netzwerken zu stärken. Die Medien selbst müssen stärker in die eigene Qualitätssicherung investieren und Sorgfalt vor Schnelligkeit und Klickzahlen setzen.
Im Kapitel „Was sollen wir tun?“ lehnt der BVDW einen zentralisierten Algorithmen-TÜV ab, da eine Vorabprüfung einzelner Algorithmen weder praktikabel noch zielführend sei. Sie fordern dagegen: „Die Behörden müssen mit den notwendigen Kompetenzen und Ressourcen ausgestattet werden, um auch für komplexe algorithmische Systeme eine entsprechende Aufsicht zu gewährleisten.“ Dabei spiele auch die Anti-Diskriminierungsstelle des Bundes eine Rolle, so die Autoren, die ihre „Beratungs- und Forschungsleistung künftig verstärkt der Gleichbehandlung in der digitalen Welt widmen sollte“.
Umfangreiches Schwerpunktpapier mit vielen Experten
Darüber hinaus könne man sich bei strittigen Entscheidungen auf eine Ex-Post-Prüfung durch die Gerichte beschränken. Um verschiedene Systeme nach Grad an Aufsicht zu einzuteilen, bietet sich eine Klassifizierung an, so die Schlussfolgerung des Papiers. Ein weiterer Punkt ist die Förderung der KI-Forschung. Dort müsse an den Forschungsbedingungen gearbeitet werden, ebenfalls sollte die aktuelle KI-Strategie der Bundesregierung entschlossen umgesetzt und europäisch koordiniert werden. Vorangetrieben werden müssten unter anderem:
- Verzahnung von Forschung und praktischer Implementierung
- Ausbau von Forschungsschwerpunkten wie technische Datenschutzverfahren und sozial-ethische Fragen sowie
- Ausbau von Forschungsdatenbanken
- Implementierung von Maßnahmen zur Sicherheit der Datenqualität
Das Autorenteam schließt ihre Ausarbeitung mit einer Art Appell: „Die Folgen der Technologie sind abhängig davon, was wir daraus als Gesellschaft machen.“ KI brauche eine kluge, vorausschauende Regulierung. Nicht aber, „weil sonst Roboter die Weltherrschaft an sich reißen, sondern weil Menschen bösartig, fahrlässig oder unbedacht mit Maschinen umgehen.“ Der Mensch sei verantwortlich für sein Tun und Lassen, und damit eben auch für seine Maschinen.
Das Papier finden Sie hier in voller Länge.
tb