291054 Seminar: "Rechtsfragen der Digitalisierung" (BS) (SoSe 2019)

Rechtsfragen der Digitalisierung:
Von Big Data zu Künstlicher Intelligenz
Die Digitalisierung verändert die Gesellschaft rasant. Schon jetzt entscheiden Computer, wer einen
Kredit bekommt, wann die Polizei ausrückt und wieviel der Bürger an Steuern zahlt. Am Horizont
winken virtuelle Realitäten und Roboter, die den Menschen von allen lästigen Tätigkeiten
entlasten. Den großen Verheißungen stehen freilich nicht minder große Ängste gegenüber. Euphorie
trifft schnell auf Dystopie: Wenn Maschinen entscheiden, versteht der Einzelne nicht mehr,
weshalb er keinen Kredit erhält oder als Arbeitnehmer negativ bewertet wird – es droht die „black
box society“. Auch scheinen Gemeinwesen und jeder Einzelne gefährdet durch nie dagewesene
Möglichkeiten der Überwachung (Social Scoring) und algorithmischen Manipulation (Cambridge
Analytica). Das Seminar analysiert, welche Rolle rechtliche Regelungen in dieser Entwicklung
spielen oder spielen könn(t)en.
In einem ersten Teil des Seminars soll versucht werden, wesentliche Strukturen der digitalen Gesellschaft
herauszuarbeiten. Zunächst sollen die Interessenlagen und Rechtspositionen von Unternehmen
und Nutzern erarbeitet werden. Sodann soll gefragt werden, welche speziellen Herausforderungen
durch jüngste Neuerungen wie künstliche Intelligenz und intelligente Systeme
entstehen: Sollten Roboter als Rechtspersonen anerkannt werden? Wie schützt das Recht den
Einzelnen vor der Diskriminierung durch künstliche Intelligenz?
Im zweiten Teil stehen gegenwärtig diskutierte Problemfälle im Vordergrund. Dabei interessiert
zum einen, welche Auswirkungen datengetriebene Anwendungen auf den Verbraucher haben
(Profilbildung, Scoring und individualisierte Preisbildung). Auch soll beleuchtet werden, wie digitale
Prozesse die gesellschaftliche Meinungsbildung beeinflussen, ob für die Auswahl von Nachrichten,
als Instrument gezielter Manipulation politischer Ansichten oder Herabwürdigung inopportunen
Gedankenguts und seiner Vertreter. Schließlich sollen Beispiele staatlichen Algorithmeneinsatzes
kritisch beleuchtet werden, etwa wenn zur Vorbeugung von Straftaten „predictive policing“
eingesetzt wird oder Verwaltungsentscheidungen vollständig automatisiert ergehen (etwa:
§§ 35a VwVfG, 31a SGB X, 155 Abs. 4 AO). Ziel ist es, die relevante Problemkonstellation zu
verstehen, herauszuarbeiten, wo geltendes Recht auf Grenzen stößt und gegebenenfalls über
alternative Regulierungsmöglichkeiten nachzudenken.
Das Seminar findet als Blockveranstaltung an zwei Tagen gegen Semesterende nach Absprache
mit den TeilnehmerInnen statt.
Vorbesprechungstermin: Mittwoch, den 3.4.2019 um 16 Uhr. Der Raum für die Vorbesprechung
wird noch bekannt gegeben.
Leistungsnachweis: Folgende Leistungsnachweise können erworben werden: Seminarschein;
Großer Grundlagenschein; Schlüsselqualifikation. Für alle Leistungsnachweise sind erforderlich:
Schriftliches Seminarreferat, mündlicher Vortrag und aktive Teilnahme an allen Tagen des
Blockseminars.
Das Seminarreferat ist spätestens bis Freitag zwei Wochen vor dem Seminarwochenende als
gedrucktes Exemplar am Lehrstuhl abzugeben. Zusätzlich ist die Arbeit (inklusive Gliederung und
Literaturverzeichnis) als Word-Datei per E-Mail (an: sekretariat.wischmeyer@uni-bielefeld.de)
einzusenden, damit sie unter allen SeminarteilnehmerInnen zur Vorbereitung verteilt werden
kann.
Formalia: Die Seminararbeit sollte ca. 70.000 Zeichen (einschließlich Fußnoten, ohne Literaturverzeichnis
und Gliederung) umfassen.
Allgemeine Literatur zur Einführung (Literaturhinweise zu den Themen werden in der Vorbesprechung
gegeben):
Rechtliche Aspekte
Marion Albers, Datenschutzrecht, in: Ehlers/Fehling/Pünder (Hrsg.), Besonderes Verwaltungsrecht, Bd. 2,
2. Aufl. 2013, § 62.
Jan-Philipp Albrecht, Das neue EU-Datenschutzrecht – von der Richtlinie zur Verordnung, CR 2016,
S. 88–98.
Hans Peter Bull, Fehlentwicklungen im Datenschutz am Beispiel der Videoüberwachung: JZ 72 (2017),
S. 797–806.
Wolfgang Hoffmann-Riem, Rechtliche Rahmenbedingungen für und regulative Herausforderungen durch
Big Data, in: ders. (Hrsg.), Big Data - Regulative Herausforderungen, 2018, S. 11–80.
Nikolaus Marsch, Das europäische Datenschutzgrundrecht. Grundlagen – Dimensionen – Verflechtungen,
2018, Kap. 1.
Winfried Veil, Die Datenschutz-Grundverordnung: des Kaisers neue Kleider. Der gefährliche Irrweg des
alten wie des neuen Datenschutzrechts, NVwZ 2018, S. 686–696.
Thomas Wischmeyer, Regulierung intelligenter Systeme, Archiv des öffentlichen Rechts 143 (2018), S. 1–
66.
Technische Aspekte:
M.I. Jordan/T.M. Mitchell, Machine learning: Trends, perspectives and prospects, 349 Science 2015, 255,
S. 255-260, verfügbar unter http://science.sciencemag.org/content/349/6245/255.
Vishal Maini/Samer Sabri, Machine Learning for Humans, London 2017, S. 16-29; 55-61; 68-80, verfügbar
unter https://www.dropbox.com/s/e38nil1dnl7481q/machine_learning.pdf?dl=0.
Andrew Ng, What Artificial Intelligence Can and Can’t Do Right Now, Harvard Business Review (9. November
2016), https://hbr.org/2016/11/what-artificial-intelligence-can-and-cant-do-right-now
The Royal Society, Machine learning: the power and promise of computers that learn by example, 2017,
https://royalsociety.org/topics-policy/projects/machine-learning/
Themen
Teil 1: Das Ökosystem der digitalen Gesellschaft
Data is the new oil – Daten als Ressource für Wirtschaft und Forschung
1. Datenbasierte Geschäftsmodelle
2. Personenbezogene Daten in der Forschung
3. „Dateneigentum“ und Datenzugangsrechte an nicht-personenbezogenen Daten
Take back control – Datensouveränität des Einzelnen
4. Das Einwilligungsparadigma der Datenschutz-Grundverordnung (DS-GVO): Grundlagen und
Grenzen
5. Daten als nicht-monetäre Gegenleistung für digitale Dienste
6. Autonomie durch Technologie? – Privacy by design und Privacy Enhancing Technologies
Macht und Ohnmacht im „onlife“ – Herausforderungen durch
Big Data und künstliche Intelligenz
7. Verhaltenssteuerung durch Algorithmen
8. Granularisierung der Menschenwürde
9. Zur Transparenz intelligenter Systeme
10. Schutz vor Diskriminierung durch künstliche Intelligenz
Vom Terminator zum Staubsaugerroboter
11. Die Rechtspersönlichkeit „autonomer“ Systeme
12. Haftungsmodelle für autonome Systeme
13. Datenschutz im „Smart Home“
Teil 2: Anwendungsbeispiele
The Scored Society – Der Verbraucher in Zahlen
14. Consumer Profiling und Consumer Scoring
15. Risikobasierte Preise und Personal Pricing
Fake News und Hate Speech - Demokratie und Meinungsbildung in der Datengesellschaft
16. Meinungsbildung und Netzkontrolle durch Algorithmen
17. Wahlbeeinflussung – Filterblasen und Social Bots
18. Die Durchsetzung von Persönlichkeitsrechten auf digitalen Plattformen
Der algorithmische Staat – datenbasierte Technologien im öffentlichen Sektor
19. Entscheidungsassistenten in der Justiz
20. Automatisierte Verwaltungsentscheidungen
21. Predictive Policing