Veranstaltung: | Diskussionspapier Digitale Ethik |
---|---|
Antragsteller*in: | BAG Christ*innen (dort beschlossen am: 09.04.2016) |
Status: | Eingereicht |
Eingereicht: | 02.11.2016, 09:48 |
A2: Digitale Ethik Überlegungen aus christlich-grüner Sicht
Antragstext
Bundesarbeitsgemeinschaft Christ*innen
bei B90/DIE GRÜNEN
„Digitale Ethik“ - Überlegungen aus christlicher-grüner Sicht[1]
Ich sitze oder stehe auf, so weißt du es; du verstehst meine Gedanken von ferne.
(Ps 139, 2)[2]
Inhalt
1. Einleitung
1.1. Digitalisierung und grüne Werte
1.2. Religiöse Sprachspiele
2. Identität – Menschenbild im digitalen Wandel – „Wer bin ich?“
2.1. Autonomie – Selbstbestimmung
2.2. Freiheit
2.3. Privatheit - Geheimnis
2.4. Entgrenzung
3. „Wer ist mein Nächster?“
3.1. Kommunikation
3.2. Gemeinschaft
4. „Was ist Wahrheit?“
4.1. Das Wissen der Welt
4.2. Big Data: Der gläserne Mensch
4.3. Leben in der Filterbubble
5. Macht – Verantwortung „Wer regiert?“
5.1. Chancen und Risiken
5.2. Aufklärung - Regeln
5.3. Kontrolle - Transparenz
6. Fazit
1. Einleitung
Durch die rasant voranschreitende Digitalisierung sehen wir uns Veränderungen in
den Bereichen Arbeit, Industrie und Wirtschaft, in unseren sozialen Beziehungen,
im Medien-und Kulturbereich, Wissenschaft, Gesundheit, Bildung, Recht, Verkehr,
Innere Sicherheit, Außenpolitik, Ethik ausgesetzt. Diese längst nicht
erschöpfende Aufzählung zeigt, dass die Digitalisierung Auswirkungen auf
sämtliche Lebens- und Gesellschaftsbereiche zeitigt und sie neu gestaltet.
Unsere Überzeugung ist, dass sich damit nicht nur technische, sondern auch
ethische Fragen auftun.
Dabei haben wir längst die Kinderkrankheiten überwunden, und nicht mehr das ob,
sondern das wie der Gestaltung der digitalen Welt beschäftigt uns, und schon
längst nicht mehr das vermeintlich „schlechte Benehmen“, das Menschen, die neue
Techniken nützen, nachgesagt wird oder die vermeintlichen Gefahren für Denken,
Schreiben, Lesen für uns selbst oder andere.
Die massenhafte Ausspähung persönlichster Daten und der Kommunikation durch NSA
und BND, das Phishing von Kontozugängen und persönlichen Daten durch Kriminelle,
beschäftigen uns, aber auch die ganz legalen, kaum bekannten Mechanismen in den
Algorithmen der Internetgiganten (Tracking, Scoring, Taxierung und Online-
Profiling) verändern das Konzept von Privatsphäre.
Sowohl im Gebrauch und Missbrauch von Daten und der Diskriminierung von Nutzern
aber auch auf der Ebene des einzelnen Nutzers sehen wir bedenkliche
Entwicklungen: Selbstoptimierungswahn, Tendenzen zur Selbstentblößung, Burnout
durch die ständige Verfügbarkeit, und durch die unbarmherzige Beschleunigung der
Kommunikation, aber auch Hatespeech und Shit Storms sind da nur Stichworte.
Wie paradiesisch ist diese neue Welt, in der sich der Mensch scheinbar um nichts
anderes mehr kümmern muss als um das Herunterladen der richtigen Apps? Welchen
Preis muss er für diese neue Wirklichkeit bezahlen? Und wann kommt der Punkt, an
dem das Internet den Menschen bestimmt und nicht mehr umgekehrt? Es sind die
altbekannten großen Fragen der Ethik, die uns hier bewegen: „die vom Verhältnis
von Freiheit und Verantwortung, von Recht und Rücksicht, von Eigentum und
Verpflichtung.“[3]
„Eine ethische Vermessung des digitalen Wandels“[4] oder vielleicht sogar eine
Digitale Ethik sind dringend nötig. Wir wollen diese ethische Vermessung und
Kartierung der digitalen Welt wagen.
1.1. Digitalisierung und grüne Werte[5]
„Die Digitalisierung, Automatisierung und Vernetzung unserer Welt führt zu einem
Umbruch. Wir GRÜNE wollen den digitalen Wandel unserer Gesellschaft gestalten
und nutzen. Für mehr Demokratie und Gerechtigkeit, für größere Freiheit und für
eine lebenswerte und nachhaltige Welt. Deutschland ist dabei den digitalen
Wandel zu verschlafen. Wir kämpfen für neue Offenheit und für Freiräume gerade
da, wo es nur noch um den kommerziellen Wert oder die staatliche Kontrolle von
Daten und Informationen geht. Wir stellen uns gegen diese Durchdringung aller
Lebenssphären durch eine kapitalistische Verwertungslogik und eine ausufernde
Massenüberwachung und stellen die Selbstbestimmung in den Mittelpunkt.
Ökologie, Gerechtigkeit, Freiheit und Demokratie sind vier Grundwerte grüner
Politik. Sie sind das Fundament unserer politischen Arbeit und bieten
Orientierung – vor allem in Zeiten von tiefgreifenden Veränderungen. Aktuell
erleben wir einen rasanten technologischen Umbruch durch die Digitalisierung,
Vernetzung und Automatisierung. Dieser berührt all unsere Lebensbereiche. Er
wandelt die Art, wie wir kommunizieren, arbeiten, zusammenleben und unser
politisches Gemeinwesen gestalten. Er stellt uns vor neue Herausforderungen,
birgt zweifellos Chancen aber auch Risiken. Schwarzmalerei und die Rückkehr ins
Analoge sind genauso fehl am Platz wie unkritische Technikgläubigkeit. Der
Umbruchprozess vollzieht sich nicht von heute auf morgen, sondern wird uns über
die kommenden Jahrzehnte begleiten. Darum wollen wir gespiegelt an unseren
Grundwerten die Auswirkung von einer rapiden Digitalisierung und einer
zunehmenden Automatisierung und Vernetzung weiterdenken und aus heutiger Sicht
grüne Angebote entwerfen.“
1.2. Religiöse Sprachspiele[6]
Wir wundern uns als BAG Christinnen oft über die Begrifflichkeiten in dieser
neuen Welt, die uns so seltsam bekannt vorkommen, weil sie sich ganz und gar
anlehnen an christliche Terminologien: Da ist von der Netzgemeinde die Rede, von
den „Apple“-Jüngerinnen und -Jüngern und die Vision ist die einer umfassenden
weltweiten Gemeinschaft, in der alle alles wissen, jedenfalls potenziell. Das
Internet ist die technische Erfüllung der pfingstlichen Erfahrung, jeder kann
jeden verstehen und mit ihm kommunizieren.
Was christliche Theologie bisher im Reich Gottes erwartet hatte, ein
Friedensreich, das keine Grenzen mehr kennt, scheint zumindest als Zielvision
mittlerweile menschlich machbar. Das Attribut der Allwissenheit hatte die
Theologie bisher Gott vorbehalten, jetzt liegt sie bei Google. „Gott weiß alles,
Google noch mehr.“
Die Errungenschaften des Internets (früher world-wide-web, noch früher
Cyberspace genannt) mit seiner Macht, jede und jeden auf der Welt miteinander zu
vernetzen, Wissen kostenlos für jeden verfügbar zu machen, Menschen zu
mobilisieren, sind unbestritten, aber die kritischen Entwicklungen auf unsere
Konzepte von Privatheit und Privatsphäre sind zu hinterfragen. Verloren wir
unsere Unschuld, weil wir zu viel wissen wollten und sind wir schon längst aus
dem Paradies vertrieben? Es begann mit dem Apple...
2. Identität – Menschenbild im digitalen Wandel „Wer bin ich?“
Seht, da ist der Mensch! (Joh. 19,5)
Welchen Preis müssen wir für diese neue Wirklichkeit bezahlen? Sind es nur die
Daten, die wir täglich im Web hinterlassen? Oder ist es auch ein Angriff auf
unsere Selbstbestimmung, wenn daraus jene "Big Data" hochgerechnet werden, auf
die Firmen und staatliche Stellen so gerne zugreifen möchten? Und wann kommt der
Punkt, an dem Algorithmen uns Menschen bestimmen und nicht mehr umgekehrt?
Gerne würden wir das ganze Thema unter dem Blickwinkel eines positiven
Menschenbildes betrachten, denn im Kern ist das Menschenbild in sozialen
Netzwerken ein positives Menschenbild. Googles Motto ist „Don´t be evil!“, aber
allein Google speichert jeden Tag tausendmal so viele Daten, wie alle Werke der
US Kongressbibliothek enthalten, darunter 31 Millionen Bücher.[7] Mit der
Vermarktung dieser Daten verdient Google Milliarden.
Dabei steht Big Data „als Sammelbegriff für solch massive Datenmengen, die mit
herkömmlichen Speicherungs- und Analysewerkzeugen nicht mehr zu bewältigen ist
und in Terabytes oder Petabytes gemessen werden…. Der Preis, den der Einzelne
für die Errungenschaften einer digitalisierten Welt zahlen muss, ist die
Datafizierung seiner Privatsphäre. Damit verbunden ist die Einschränkung seiner
Entscheidungs- und Handlungsfreiheit. So können IT-Unternehmen ihre Kunden
tracken, scoren, taxieren und deren zukünftiges Verhalten bzw. Befinden
prognostizieren…. Durch Big Data werden schützenswerte Daten erfasst, die sich
in folgende Gruppen unterscheiden lassen:
- mentale Daten wie Einstellungen und Gefühle
- Basis-Nutzerdaten wie E-Mail, Telefonkontakte, Browserverhalten
- Daten des privaten, häuslichen Lebens
- Bewegungsdaten
- beziehungsbezogene Daten
- Konsumdaten
- Daten zu Gesundheit und Körper
- Daten über Arbeitsleistung und
- biometrische, mimische und kinesische Daten“[8]
Wenn private Firmen, wie Facebook, Google oder auch Krankenversicherungen und
staatliche Einrichtungen, wie Geheimdienste all dies erfassen, und einer Person
zuordnen können, gerät die grundgesetzlich garantierte Menschenwürde unter die
Räder der Vermarktung und Überwachung? Wie verändert sich unser Menschenbild,
wenn es von jedem einzelnen Individuum einen digitalen Schatten gibt? Wieso
haben wir es zugelassen als kapitalisierbare Datenpuzzle gehandelt zu werden?
Machen sich Menschen verdächtig, wenn sie versuchen, dieser Logik zu entkommen?
Diesen Fragen wollen wir in den nächsten Abschnitten nachgehen.
2.1. Autonomie – Selbstbestimmung
Wie steht es um die Kategorien von Freiheit, Autonomie, Selbstbestimmung? Sind
das (schon längst) überholte, vielleicht schon immer illusorische Kategorien
oder müssen sie „nur“ neu gedacht werden? Gibt es Einschränkungen der Handlungs-
und Entscheidungsfreiheit, wenn alles durch Google und Co. kontrolliert wird?
Führt das Wissen darüber zu Normierung und Selbstzensur? Kann man noch von
Freiwilligkeit sprechen? Und wird das „Internet der Dinge“ irgendwann
verhindern, dass wir uns auch mal „unvernünftig“ verhalten? „Was ist, und diese
Frage hatte nicht zuletzt Stephen Hawking gestellt, wenn die Algorithmen
erkennen, dass unsere Lebensweise und damit auch die Menschen an sich nicht
„optimal“ agieren?“[9] Ist es eine Zukunftsvision, dass der Kühlschrank erkennt,
dass bereits das dritte Bier am Abend getrunken wird, oder mit der Payback-
Karte an der Kasse die Stange Zigarette erfasst wird und dies an die
Krankenversicherung meldet, oder schon längst alptraumhafte Realität?
Jeder, der sich im Internet bewegt, der bloggt, in sozialen Netzwerken Inhalte
postet, muss sich mit der Frage der digitalen Selbstbestimmung beschäftigen,
spätestens wenn er Fotos postet, auf dem andere abgebildet sind, und die sich
unter Umständen auf ihr Recht am eigenen Bild berufen. Das gedankenlose Posten
von Urlaubsfotos kann dazu führen, dass zuhause die Wohnung von Einbrechern leer
geräumt wird oder ein Facebook-Eintrag kann die Einreise in die USA verhindern.
So hatte z.B. eine junge Frau in einer Facebook-Unterhaltung angekündigt, dass
sie auch auf die Kinder der Besuchs-Familie aufpassen könnte und sie zur Schule
fahren könnte. Dafür hatte sie aber nicht das für Au-Pair vorgeschriebene
Visum.[10]
Wir müssen aufpassen, dass es Selbstbestimmung auch im Digitalen Raum gibt, denn
„Big-Data-Strukturen und digitalisierte Umwelten betreffen die
Entwicklungschancen von Menschen. Handlungsfähigkeit als besonderes Merkmal des
Menschen als Geschöpf Gottes, die Fähigkeit des Menschen, als Antwort auf das
befreiende Handeln Gottes sich selbst eine dem entsprechende Freiheitsordnung zu
geben, … sind Hinweis auf die säkulare und christliche Überzeugung, dass die
verantwortliche Freiheit des Menschen seine Personenmitte ausmacht. Die
Unverfügbarkeit dieser Personmitte – das ist die zwar abstrakte, aber zentrale
Maßgabe christlicher Sozialethik.“[11]
2.2. Freiheit
„Sehet aber zu, dass diese eure Freiheit nicht gerate zum Anstoß der
Schwachen!!“ (1.Kor. 8, 9)
Medien sind nach christlichem Verständnis und Überzeugung als Instrumente der
Freiheit und neuer Wahlmöglichkeiten zu verstehen.[12] Auch digitale Medien
haben dazu beigetragen, Unrechtsherrschaft zu benennen, Menschen zu befreien vom
Joch der Knechtschaft. Aber dies ist nur die eine Seite der Medaille. Die
Enthüllungen von Whistleblowern wie Edward Snowden oder Julian Assange haben
offenbart, dass das Internet geholfen hat, die Kontrolle zu perfektionieren,
anstatt Freiheit zu befördern. Auch der Blogger Sascha Lobo bekennt ernüchtert:
„Das Internet ist nicht das, wofür ich es so lange gehalten habe. Ich glaubte,
es sei das perfekte Medium der Demokratie und der Selbstbefreiung. Der
Spähskandal und der Kontrollwahn der Konzerne haben alles geändert… Was so viele
für ein Instrument der Freiheit hielten, wird aufs Effektivste für das exakte
Gegenteil benutzt.“[13]
Der Generalverdacht, dem sich jeder Bürger ausgesetzt sieht, durch die
anlasslose Vorratsdatenspeicherung angeblich eingeführt zur Aufdeckung von
Kriminalität und Terrorismus, hat zur Folge, dass Freiheiten eingeschränkt
werden. Und dies nicht nur durch andere, sondern auch durch sich selbst:
„Menschen, die sich überwacht fühlen, schränken ihre freie Meinungsäußerung ein.
Dies bezeichnet man als Chilling-Effekt.“[14]
Das Gesetz zur Vorratsdatenspeicherung ist am 18.12.2015 in Kraft getreten und
bis Juni 2017 von den Telefon- und Internetanbietern umzusetzen. Es besagt, dass
zehn Wochen lang anlasslos gespeichert wird, wer mit wem in Verbindung gestanden
hat, oder das Internet genutzt hat. Bei Nutzung von Handy und SMS wird zudem
auch der Standort vier Wochen lang gespeichert. Wenn nacheinander die
Frauenärztin, die Mutter, und die Telefonseelsorge angerufen werden, lässt dies
Rückschlüsse auf Allerpersönlichstes zu. Die Wirksamkeit bei der Kriminalitäts-
und Terrorismusbekämpfung ist bisher durch nichts bewiesen. Kriminelle und
Terroristen weichen auf andere Kommunikationsmöglichkeiten aus oder nutzen
Umgehungsstrategien wie Prepaid-Handykarten. Terroristische Akte konnten in
unseren EU-Nachbarländern, die längst Vorratsdatenspeicherung einsetzen, nicht
verhindert werden.
Auch z.B. die Vernetzung von Gesundheitsdaten mit Versicherern kann zur Folge
haben, schmackhaft gemacht mit Prämien für besonders gesundheitsbewusstes
Verhalten, dass wir uns verabschieden von unserem alten System der Solidarität
im Gesundheitswesen, dass eine Wahlfreiheit bei den Versicherungen ausgehebelt
wird und unterschiedliche Preise für bestimmte Profile angeboten werden.
Längst nicht allen Nutzern ist bekannt, dass Onlinekaufhäuser unterschiedliche
Preise für ein und dieselbe Ware anzeigen, je nachdem, ob man ein Android- oder
ein Applegerät benutzt. Oder dass inzwischen Algorithmen, die viele Faktoren und
zum Beispiel den Wohnort mit einbeziehen, darüber entscheiden, ob man einen
Kredit bekommt. Dies greift unmittelbar in die Lebensgestaltung ein.
2.3. Privatheit – Geheimnis
Wer ein Geheimnis preisgibt, der verliert das Vertrauen und wird nie mehr einen
treuen Freund finden. Wunden kann man verbinden, Scheltworte kann man sühnen;
aber wenn man ein Geheimnis preisgibt, ist's ganz aus. (Sir. 27,17.23-24)
„Ich habe doch nichts zu verbergen!“ Diese unbedacht ausgesprochenen Worte
zeigen eine große Naivität. Jeder hat etwas zu verbergen. Nicht umsonst gibt es
Schweigepflichten bei Anwälten und Ärzten, Informantenschutz bei Journalisten,
das Beichtgeheimnis bei Seelsorgern.
Diese Sorglosigkeit treibt erstaunliche Blüten, wenn Menschen Privates
freiwillig preisgeben auf sozialen Netzwerken. Via Facebook und Twitter geht der
Trend immer mehr zum Selbstmarketing. Natürlich wird geschönt, und die Jagd nach
dem perfekten Moment und seiner Abbildung, verhindert manchmal das direkte
Erleben. Jeder Moment des privaten Lebens wird „geteilt“. Die Privatsphäre wird
geopfert für ein paar Likes auf Facebook. „Wenn du meinst, Privatsphäre ist
egal, nur weil du nichts zu verbergen hast, kannst du genauso behaupten
Redefreiheit ist egal, nur weil du nichts zu sagen hast.“[15]
Die wenigsten wissen, dass Google für jeden angemeldeten Nutzer eine Art
Reisetagebuch führt: „So werden mit den aktivierten Ortungsdiensten nicht nur
besuchte Reiseziele erfasst, sondern auch welche Kneipen besucht wurden, in
welchem Hotel man eingecheckt hat und an welchem Flughafen man gelandet ist.
Auch wie lange man sich dort aufgehalten hat und in welcher Reihenfolge, wird
demnach in einer Art Zeitleiste sichtbar.“[16]
Die Selbstvermessung mithilfe von Fitnessarmbändern, die die Daten an die
Anbieter weiterschicken, gilt als chic und wird zum Tool der Selbstoptimierung.
Auch wenn diese Gesundheits-Apps einen für den Gesundheitsstatus nachweisbaren
Nutzen haben, wissen wir doch nicht, wofür diese Daten sonst noch benutzt
werden.
Das Hacken von Handys ist mittels kleiner Programme möglich. Die Besitzer*innen
des Handys können durch die Kameras jederzeit beobachtet werden. Ebenso wenig
stellt das Einhacken in die SMS-Funktion und in die Adressbücher ein Problem
dar.Big Brother von 1984 ist längst Realität.
Regimes bedienen sich Spyware, die von deutschen Firmen geliefert wird. Zum
Beispiel an Bahrain, dort lesen staatliche Stellen Emails mit, steuern
Mikrophone und Webcams fern. Saif Radawis Identität wurde zum Beispiel durch
Yahoo verraten. Die Menschenrechtsorganisation Amnesty International hat vor
Gericht nachgewiesen, dass sie staatlicherseits überwacht werden. China blockt
Google und Facebook, um die Vernetzung von Regimekritikern zu verhindern. Die
Aufzählung ist nur eine Auswahl, aber beliebig erweiterbar. Das Weiterleben
regimekritischer Texte im Internet ist dabei nur ein schwacher Trost für die
Ermordeten und Inhaftierten.[17]
Gilt dies noch: „der Wert des Privaten ist eng verknüpft mit den Werten der
Autonomie und Freiheit und somit wesentlich für unser
Demokratieverständnis.“[18]
In Dave Eggers utopischen Bestseller „The Circle“ wird das Gegenteil so benannt:
„Geheimnisse sind Lügen.“ und „Alles Private ist Diebstahl.“[19]
2.4. Entgrenzung
Lobt Gott, denn er tut Wunder, seine Macht hat keine Grenzen! (Ps 150,2)
Das Internet wird oft als ein virtueller Ort, an dem Menschen miteinander in
Kontakt treten und Informationen austauschen, verstanden. Dies geschieht über
nationale, Kontinentgrenzen, Zeitzonen und sogar über Sprachgrenzen mittels
Übersetzungstools hinweg. Das Netz ist weltumspannend und zeitüberdauernd.
Auch hier gibt es Kehrseite: die Möglichkeit zur ständigen Kommunikation, birgt
inhärent einen Zwang zu ständiger Erreichbarkeit und Verfügbarkeit, einer
unbarmherzigen Beschleunigung der Kommunikation, Verwischung von Arbeits- und
Frei-Zeiten. Droht das digitale Burn-Out aufgrund des sozialen Drucks "Du bist
doch online, warum hast du nicht reagiert?"
Eine weitere Form der Entgrenzung ist die Möglichkeit zu „ewigem Leben“ im Netz.
Informationen und Profile überdauern auch den Tod des Einzelnen. Es gibt
digitale Traueranzeigen und Kondolenzseiten. Einmal geteilte Inhalte sind
aufgrund viraler Effekte nicht mehr rückholbar. Inzwischen kann man in den
Facebook-Einstellungen angeben, wer im Falle des Todes das Profil löschen kann.
Wir werden lernen müssen, (selbst-) verantwortlich mit dem neuen Medium
umzugehen. Medienkompetenz, aber auch technische Lösungen sind vonnöten.
3. „Wer ist mein Nächster?“
Der Schriftgelehrte aber wollte sich selbst rechtfertigen und sprach zu Jesus:
Wer ist denn mein Nächster? (Luk 10, 29)
Netzkultur ist eine Kultur des Teilens und Mitteilens: Demokratiebewegungen,
Freundschaftsnetze, Interessens- und Betroffenengruppen, und Diskussionsforen
führen Menschen mit den gleichen Interessen zusammen, die sich sonst vielleicht
nie getroffen hätten.
Online-Petitionen, auf lokaler, nationaler und weltweiter Ebene und
Solidaritätskampagnen erfreuen sich großer Beliebtheit und hoher Schlagkraft.
Der traurige Fall des ertrunkenen Aylan Kurdi, dessen Foto in Windeseile über
die sozialen Netzwerke millionenfach geteilt wurde, bewirkte unter anderem, dass
Menschen mobilisiert wurden, eine große Welle von Hilfsbereitschaft ausgelöst
und Grenzen geöffnet wurden.
Allerdings wird inzwischen schon fast erwartet, dass man sich unmittelbar bei
Katastrophen, Terrorakten in den sozialen Netzwerken äußert. Sich nicht zu
identifizieren per Hashtag wie #jesuisParis wird inzwischen beinahe als
Herzlosigkeit empfunden.
3.1. Kommunikation
Sein Mund ist voll Fluchens, Falschheit und Trugs; seine Zunge richtet Mühe und
Arbeit an. (Psalm 10,7)
Grundsätzlich gilt: mit den neuen Medien ist die Kommunikation vervielfacht
worden. 43% der deutschen Onliner nutzen soziale Netzwerke.[20] Auch wenn
dezentrale soziale Netzwerke existieren, haben diese aber kaum Nutzer*innen,
Netzwerkeffekte treiben zu Facebook und Twitter. Manche fühlen sich bereits
gedrängt, einen Facebook-Account anzulegen, um nicht abgehängt zu werden.
Interessant für Facebook-Verächter ist übrigens die Telefonbuchfunktion bei
Facebook: durch die nur mit einem Klick vorzunehmende Funktion wird das
Telefonbuch eines Facebook-Nutzers ausgelesen, und hat zur Folge, dass von
Personen, die bisher noch nicht in Facebook waren, ein Profil vorbereitet wird.
Mehr Wahlmöglichkeiten und der schriftliche Charakter bedeuten aber auch mehr
Verantwortung für das Geäußerte. Sehr schnell werden Äußerungen skandalisiert
und sind nicht mehr zurückholbar. Der Stammtisch reicht inzwischen um die ganze
Welt. Und inzwischen ist nicht mehr nur Widerspruch von ein paar
Stammtischbrüdern und -schwestern auszuhalten, sondern es kann einem ein
vielstimmiger Shitstorm entgegenwehen.
Die Administratoren von Facebook und Kommentarseiten von Tageszeitungen oder
Blogs sind gezwungen, ständig wachsam darauf zu achten, dass minimale Standards
eingehalten werden. Dies gelingt nicht immer. Hetze und Hasspostings
(Hatespeech) nehmen überhand. Betroffene gehören meist zu bestimmten Gruppen:
Feminist*innen, Menschen mit queeren Lebensentwürfen, Musliminnen und Muslime,
oder auch Grüne Politiker*innen. Straftatbestände wie Nötigung und Beleidigung,
Aufruf zu Gewalt, Bedrohung sind keine Seltenheit. Auch wenn die Policy von
Facebook Gebote vorsieht im Stile der biblischen 10 Gebote „Du wirst nicht …“,
ist es schwierig, Löschungen durchzusetzen. In der Folge ziehen sich viele
zurück, um nicht weiter Zielscheibe zu sein. Da bedarf es Empowerment-
Strategien, mit dieser Art von Angriffen umzugehen. Manche lassen die Kommentare
von anderen sichten, oder versuchen sich gezielt mit den Personen auseinander zu
setzen, gegebenenfalls sogar zurückzutrollen, was aber sehr zeitaufwendig und
kräftezehrend ist. Das Ausschöpfen des rechtlichen Rahmens ist unbedingt
notwendig, dafür braucht es eine Qualifizierung der Polizeibehörden.
3.2. Gemeinschaft
Alle aber, die gläubig geworden waren, hatten alle Dinge gemeinsam.
(Apg. 2,44)
Wie schon angesprochen, die Gemeinschaft, Kommunikation und Vernetzung ist
global geworden. Jeder ist mit jedem irgendwie verbunden. Dies kann der
Völkerverständigung dienen oder auch Familienverbindungen über Ozeane hinweg via
Skype aufrechterhalten. Aber auch auf der Flucht verlorene Kinder konnten über
Suchaufrufe über die sozialen Netzwerke wiedergefunden werden.
Jeder muss sich klar werden: Wo findet Gemeinschaft und Begegnung statt? In
meinen Whats-App-Gruppen oder doch in der WG-Küche? Wenn ich mehr als 1000
Facebook-Freunde habe, wie stark sind diese Beziehungen? Wie findet Begegnung
statt? Was lässt sich digital, was nur real kommunizieren?
Die körperliche Begegnung, die Berührung kann die digitale Begegnung nicht
ersetzen, aber in Gang setzen. Dating- und Partnerportale erfreuen sich trotz
teils großer Vorbehalte großer Beliebtheit, ersetzen aber nicht das persönliche
Aufeinandertreffen, das dann manchmal Überraschungen bereithalten kann.
4. Was ist Wahrheit?
Was ist Wahrheit? (Joh 18,38)
Gemeinschaftsprojekte wie Wikipedia, Online-Bibliotheken, Internet-Tutorials,
Sprachlern-Apps und Fernunterricht via Skype usw. bieten Wissen der Welt und
Wissensvermittlung für alle. Google bietet auf jede Frage eine Antwort. Durch
die Digitalisierung wird Inklusion in bisher nicht gekanntem Ausmaß möglich.
Sehbehinderte Menschen können sich Texte vorlesen lassen. Übersetzungsprogramme
helfen beim Lesen fremdsprachlicher Nachrichten. Aber auch dies: Urheberrechte
müssen im Zuge der Digitalisierung neu gefasst und angepasst werden.
Doktorarbeiten werden gemeinschaftlich auf Plagiate hin untersucht.[21]
Demokratische Teilhabe und zunehmende Transparenz sind möglich: mit
Transparenzregeln für öffentliche Unternehmen, durch Ausschreibungspflichten,
Veröffentlichung des Abstimmungsverhalten in Parlamenten, Offenlegung von
Lobbyismus, Informationsfreiheitssatzungen in kommunalen Verwaltungen…
Andererseits übernehmen zunehmend Computerprogramme die Entscheidung, was wahr
ist. Schon jetzt können Wettervorhersagen und Nachrichten vollautomatisiert
verfasst und verbreitet werden. Ein EU-Forschungsprojekt namens „Pheme“
entwickelt zum Beispiel Methoden, um den Wahrheitsgehalt von Online-
Informationen auf automatische Weise zu überprüfen. Können wir den Algorithmen
Verantwortung und ethische Entscheidungskompetenz beibringen? Wer trägt die
Verantwortung, wenn Abläufe automatisiert werden?
Wie stehen wir dazu, dass Algorithmen die Wahrscheinlichkeit von
Verhaltensweisen berechnen und unter Umständen Menschen bald schon vor dem
Begehen eines Verbrechens verhaftet werden? So wird bei den Landeskriminalämtern
bereits Software zur Vorhersage von Verbrechen erprobt.[22] Das sind Fragen, auf
die wir Antworten finden müssen.
4.1. Das Wissen der Welt
Wem gehören die Daten der Welt? Wem gehören meine Daten? Wer macht die Regeln?
Und wie kann man die Einhaltung der Regeln einfordern? Wie können global
agierende Konzerne auf Standards verpflichtet werden?
Bisher verstecken sich die großen Vier Amazon, Google, Facebook, Apple, aber
natürlich auch weitere Internetplayer hinter den unterschiedlichen nationalen
Bestimmungen.
Welcher Umfang an Datenschutz ist gewünscht und realistisch? Könnten
Datensammlungen auch Positives bewirken, um zum Beispiel nachhaltigere
Lebensweisen zu erreichen? Stichworte sind hier: Data for good? Oder Share
Economy. Auch die Möglichkeit der Visualisierung großer Datenmengen hilft
nachhaltige Politik zu gestalten, zum Beispiel bei der Verdeutlichung von
Klimamodellen.
4.2. Big Data: Der gläserne Mensch
Ich sitze oder stehe, so weißt du es. Ich gehe oder liege, so bist du um mich
und siehst all meine Wege. Wohin soll ich gehen vor deinem Geist und wohin soll
ich fliehen vor deinem Angesicht? (Ps 139,2.3.7)
Beim ehemaligen Google Chairman hörte sich das so an: „Wir wissen, wo du bist.
Wir wissen, wo du warst. Wir wissen mehr oder weniger, worüber du
nachdenkst.“[23]
Zum Beispiel ermöglicht die sogenannte UID (Unique Identification) bei Facebook
das sogenannte Tracking: durch sie kann Facebook das verwendete Gerät
wiedererkennen, die Zuordnung auch von Nicht-Facebook-Nutzern ist möglich zum
Beispiel über den Like-Button auf Homepages. Sobald man sich anmeldet, gibt es
eine automatische Zuordnung, alle Daten werden miteinander verknüpft. Dies
geschieht natürlich zu einem Zweck: passgenaue personalisierte Werbung.
Verdiente Facebook damit im Jahr 2009 noch 764 Millionen Dollar, waren es 2014
schon 11,4 Milliarden Dollar, bei Google waren es 59 Milliarden Dollar.[24]
Der US-Marktführer der Datenhändler Axicom besitzt mittlerweile Dossiers von
rund 700 Millionen Menschen, davon 44 Millionen Deutsche, die bis zu 3000
Einzelinformationen je Person umfassen.[25]
Unsere persönlichen Daten werden zum Rohstoff. Viele Daten geben wir
„freiwillig“ oder manchmal auch eher unfreiwillig in Form einer Einwilligung in
völlig unübersichtlichen AGBs preis an die Datenkraken Amazon, Google, Facebook,
Apple.
Ab Frühjahr 2015 klärte die Webserie Do Not Track unterstützt vom Fernsehsender
Arte über die Überwachung im Internet sowie mögliche Gegenmaßnahmen auf.[26]
Laut Stanford-Studie reichen siebzig Likes bei Facebook, damit ein Computer
bessere Vorhersagen über die Persönlichkeit eines Nutzers treffen kann als
dessen Freunde. Bei 150 Likes übertrifft die Maschine sogar
Familienmitglieder.[27]
Wir stellen wieder die Frage: Sind wir noch Herr unserer Daten und unseres
Lebens? Oder werden wir nur noch als Rohstofflieferanten gesehen, knapp
zusammenfassbar mit einem „Score des Lebens: 672 Followers, 1673 Clubcard
Punkte; 60 590 000 Kalorien konsumiert 92% positive Ebay-Punkte, 184 Tinder
Matches, 76 928 km gelaufen - RIP“.[28]
4.3. Leben in der Filterbubble
Da sprach Nathan zu David: Du bist der Mann! (2. Sam. 12,7)
Was passiert, wenn man widerspruchslos im der eigenen kleinen Blase lebt, können
wir schon exemplarisch im Alten Testament nachlesen. Der große König und Dichter
brauchte einen weisen Mann, der ihn auf sein Fehlverhalten hinweist. Selber
konnte er es gar nicht mehr wahrnehmen. Das Gleiche passiert, wenn wir uns von
Google immer noch besser passende Suchergebnisse präsentieren lassen, die uns
permanent selbst bestätigen. Man spricht hier vom „Lock-in“. Algorithmen der
Suchmaschinen entscheiden zunehmend, was wir finden, wissen, denken. Man kann
von einer zunehmenden Perspektivenverengung sprechen, in totalitären Systemen
wäre es ein probates Mittel zur Manipulation. Freundeskreise in Facebook
verwandeln sich zunehmend in solche Filterbubbles. Man umgibt sich nur noch mit
Personen, die die gleichen Werte und Überzeugungen vertreten. Facebook-Tools wie
#unfriendme helfen dabei, Menschen auszusortieren, wenn sie zum Beispiel Pegida,
AFD oder Helene Fischer geliked haben.
5. Macht – Verantwortung
Der Preisträger des Friedenspreises des Deutschen Buchhandels von 2014 Jaron
Lanier warnt: „Springer Chef Martin Döpfner hat in der FAZ vor Googles Allmacht
gewarnt. Den Kampf gegen den Datenmonopolisten kann kein Staat mehr
gewinnen.“[29]
Die Politik lässt derzeit Konzerne gewähren. Demokratische Kontrolle findet
bisher nicht statt. Aber Verantwortung haben letztlich alle: Politik, Wirtschaft
und jeder Einzelne. Es braucht mehr Diskurs darüber und auch eine Verständigung,
zum Beispiel über die Universalität von Menschenrechten. Der Begriff der
informationellen Selbstbestimmung aus dem wegweisenden Urteil des
Bundesverfassungsgerichts zur Volkszählung 1983, muss sich in den nationalen und
internationalen Gesetzen wiederfinden. Datenschutz ist ein europäisches
Grundrecht und muss durchgesetzt werden.
„Mächtige Unternehmen müssen daran erinnert werden, dass sie nur bestehen
können, weil sie von der Gesellschaft unterstützt werden.[30]
5.1. Chancen und Risiken
Wir sehen uns einem Dilemma ausgesetzt, das Papst Franziskus so benennt: „Das
technokratische Paradigma ist nämlich heute so dominant geworden, dass es sehr
schwierig ist, auf seine Mittel zu verzichten, und noch schwieriger, sie zu
gebrauchen, ohne von ihrer Logik beherrscht zu werden.“[31]
Zwar sind laut Digital-Index noch rund 16,5 Millionen Deutschen nie im Internet,
aber auch diese kommen unweigerlich mit der digitalen Welt in Berührung.
Angefangen beim neuen Personalausweis und der elektronischen Gesundheitskarte
aber zunehmend auch über die Integration in Alltagsgegenstände (Internet der
Dinge). Die virtuelle und die physische Welt verschmelzen immer mehr
miteinander. Ein Leben außerhalb des Digitalen ist in Zukunft nicht mehr
denkbar.[32]
Alles was bisher gesagt wurde, betrifft insbesondere auch einen besonders
verwundbaren Personenkreis, nämlich Kinder und Heranwachsende. Sie wachsen zwar
ganz selbstverständlich mit den neuen Medien auf (digital natives), mit nicht zu
unterschätzenden Effekten auf ihre Persönlichkeitsentwicklung, sind aber noch
anderen Gefahren ausgesetzt, wie z.B. unerwünschte Kontaktaufnahme durch Fremde
in Chatrooms. Zudem ist die Suchtgefahr wohl noch stärker ausgeprägt. Spezielle
Filtertechniken, Internetsperren, sichere Kinderseiten, Bildungsprogramme in der
Schule in Medienkompetenz und Begleitung durch kompetente und interessierte
Erziehungsberechtigte sind vonnöten.[33]
Allein die jetzt schon eingetretenen Veränderungen in der Arbeitswelt lösen
Ängste aus.Den Arbeitsort Betrieb gibt es für viele bald nicht mehr, es
entstehen immer mehr Heimarbeitsplätze, die nur über einen digitalen Zugang
funktionieren werden. Gibt es Datenschutz für Arbeitnehmer? Führt die immer
weitergehende Digitalisierung der Arbeitsorganisation der Arbeit zu einer
Entmündigung des ausführenden Mitarbeiters? Allein die Protokollierung der
Bewegungsdaten in einem Betrieb durch die Zugangskontrolleinheiten können
Datenschutzprobleme aufwerfen.
Die Kommunikation von Mensch und Maschine wird zukünftig immer mehr abgelöst
durch Maschine-Maschine-Kommunikation. Da tun sich ethische Probleme auf: wer
ist verantwortlich, wenn etwas schief geht? Und da muss man noch nicht einmal
die sich rasant fortentwickelnde Kriegstechnik (vollautomatische Drohnen)
betrachten, es reicht die Vorstellung, dass ein selbstfahrendes Fahrzeug Unfälle
verursacht.
5.2. Aufklärung – Regeln
Die digitale Welt braucht gemeinsame Werte und Regeln.
Verbraucher*innen müssen in die Lage versetzt werden, selbst digitale
Selbstverteidigungsmaßnahmen zu ergreifen: das Wissen über die Erstellung
sicherer Passwörter, Verschlüsselung der Emails und SMS, wie man seine IP
Adresse verbergen kann, dass es Alternativen für Suchmaschinen und Filehosting
gibt, wie man automatisch Cookies löscht, oder dass man OpenSource-Dienste
nutzt. Guter Datenschutz bei einem Unternehmen muss als Vorteil bei
Konsumentscheidungen wahrgenommen werden. Dazu braucht es Aufklärungskampagnen.
Hilfreich bei der Suche nach Auswegen aus dem digitalen Overkill kann es auch
sein, sich hin und wieder auf alte Formen der Selbstbeschränkung zu besinnen,
zum Beispiel ein „Digitales Fasten“ oder auch die Formulierung von 10 Digitalen
Geboten:
Du brauchst dich nicht vereinnahmen lassen.
Du sollst keine Unwahrheiten verbreiten.
Du darfst den netzfreien Tag heiligen.
Du musst ein Datentestament machen.
Du sollst nicht töten.
Du brauchst keine schwachen Beziehungen eingehen.
Du sollst nicht illegal downloaden.
Du darfst nicht digitalen Rufmord betreiben.
Du hast Verantwortung für persönliche Daten anderer.
Du gestaltest die Gesellschaft, wenn du dich im Netz bewegst.[34]
Grimm/Krah fordern, um das Konzept der Privatheit weiterhin aufrecht zu
erhalten, eine „digitale Privatheitskompetenz“, die mehrere Kompetenzen umfassen
muss: unter anderem die Reflexionsfähigkeit, warum private Daten als
schützenswert einzustufen sind (ethische Kompetenz), das Wissen, wer private
Daten zu welchem Zweck erhebt, verarbeitet, und weitergibt (strukturelle
Kompetenz), die Abschätzung der Folgen, die sich aus der Veröffentlichung
privater Daten ergeben (Risikokompetenz), das Wissen über mögliche
Schutzmaßnahmen (Handlungskompetenz), die Befähigung über Machtaspekte der
Digitalisierung zu reflektieren (systemische Analyse und politisches Wissen).
Das ist eine umfassende und erschöpfende Herausforderung, die wir meistern
müssen.
5.3. Kontrolle – Transparenz
Daten sind das neue Gold, Grenzen bei der Verwertung setzt nur der Datenschutz.
Dieser muss deutlich verbessert werden: jeder muss nachvollziehen können, wer
wann welche Daten zu welchem Zweck erhebt. Ein Beispiel: Es wird geschätzt, dass
dreiviertel der Apps auf Smartphones bezogen auf den Datenschutz rechtswidrig
sind, aber die Datenschutz-Behörden sind unterfinanziert und chronisch personell
unterbesetzt.[35] Nicht nachvollziehbar ist, warum ein Taschenlampen-App auf die
Kontakte einer Nutzer*in zugreift.
„Die neuen Kommunikationsmöglichkeiten des digitalen Zeitalters sind für sich
genommen nicht zum Schaden der Menschheit. Dass sich aber damit auch
Infrastrukturen der Vorhersage und eine bedenkliche Datenökonomie aufbauen, muss
die Ethik stören. Der digitale Wandels muss daher politisch gestaltet
werden.“[36]
Ein Meilenstein wird die 2018 in Kraft tretende und von der Grünen
Europafraktion maßgeblich vorangetriebene EU-Datenschutzreform sein:
Einheitliches Recht für die ganze EU: Klare Grundprinzipien, Zukunftstaugliche
Definitionen, Informationspflichten und Transparenz, Recht auf Vergessen,
Widerspruchsmöglichkeiten, Datenportabilität und Zugang, Datenschutz in
Drittstaaten, datenschutzkonforme Technikgestaltung, weniger Bürokratie, One-
Stop-Shop: ein Ansprechpartner für ganz Europa, und wirksame Sanktionen.[37]
6. Fazit
„Digital ist das neue Normal. 51 Millionen Menschen in Deutschland haben ein
Smartphone, 54 Millionen Menschen shoppen online, 43% der deutschen
Onliner*innen nutzen soziale Netzwerke.“[38] Noch gibt es Menschen, die an der
neuen Technik nicht partizipieren können oder wollen. Wir wollen sie nicht
vergessen.
Mit der Digitalisierung müssen wir leben, es reicht nicht, nur darüber zu reden,
sondern es ist eine breite Verankerung auch in der Partei notwendig. Man muss
bei der Aufstellung von Forderungen unterscheiden zwischen öffentlichen und
privaten Daten. Leider werden viele nützliche Ansätze zum Beispiel im
Gesundheitswesen durch die massenhafte Überwachung beschädigt. Es gibt viele
gute soziale Kontakte und Bewegungen im Onlinebereich, demgegenüber steht eine
gewisse Technikskepsis. Es gibt aber nicht mehr die Online- und die Offline-
Welt. Daher braucht es eine differenzierte Debatte. Bisher noch nicht erwähnt
wurde das immense Potenzial durch die Erosion der bisherigen Großunternehmen.
Wozu brauchen wir überhaupt Banken? Energieversorger? Dezentralisierung wird
durch die Digitalisierung möglich; ein nachhaltiger Lebensstil kann befördert
werden. Wir Grünen können unsere Werte relativ 1 zu 1 ins Digitale
übersetzen.[39]
„Das Internet ist kaputt, die Idee der digitalen Vernetzung ist es nicht.“[40]
Wir als Politiker*innen auf dem Handlungsfeld der Netz- und Medienpolitik müssen
dafür einzutreten, dass es gelingt Datenschutz und Digitalisierung zu
vereinbaren, denn die Zeit drängt. Jetzt werden die Grundsatzentscheidungen für
die kommenden 30 Jahre getroffen. Dafür ist es zum einen nötig, die grüne
Debatte zu verbreitern und dies so schnell und kompetent wie möglich zu tun, und
zum anderen unsere grünen Werte Authenzität, Transparenz, Partizipation,
Nachhaltigkeit in die Wagschale zu werfen.
Die drei weltverändernden Prozesse Digitalisierung, Vernetzung und
Automatisierung passieren in jedem Moment, das dürfen wir nicht verschlafen.
Malte Spitz fasste es in seinem Abschluss-Statement der Grünen
Digitalkonferenz[41] so zusammen:
1. Wir müssen soziale und technische Innovationen zusammendenken.
2. Auf die Herausforderungen durch Hyperindividualisierung und die Tendenz zu
Entsolidarisierung müssen wir Antworten finden.
3. Dazu ist es nötig, Fragen der Ethik zu stellen.
4. Um dabei nicht in Fatalismus zu verfallen, müssen wir Geschichten erzählen
vom guten Leben in Zeiten der Digitalisierung.
Erstentwurf vorgestellt bei der BAG-Sitzung am 09.04.2016 in Berlin
Verfasst von Kerstin Täubner-Benicke, Am Mühleich 2, 82319 Starnberg
[1] Das Papier ist eine Ausarbeitung des durch Kerstin Täubner-Benicke und
Thorsten Maruschke angebotenen Workshops „Ende der Unschuld“ auf dem Grünen
Digitalisierungskongress in Bielefeld (18./19.09.2015). Großer Dank geht dabei
an unseren Referenten Dr. Ole Wintermann (bloggt u.a. bei www.netzpiloten.de)
für seine wertvollen Impulse.
[2] Die angeführten Bibelzitate sind notwendigerweise aus dem Zusammenhang
gerissen, und dienen vor allem dazu, Sachverhalte zuzuspitzen, zu
veranschaulichen und sollen keine theologische Auseinandersetzung darstellen.
[3] zitiert nach Wolfgang Lünenbürger-Reidenbach: Einleitung zum Lesebuch zur
Vorbereitung auf das Schwerpunktthema „Kommunikation des Evangeliums in der
digitalen Gesellschaft“ der EKD.
[4] Alexander Filipović in Die Datafizierung der Welt; Communicatio Socialis 48.
Jg. 2015, H.1.
[5] Exzerpt aus dem gleichnamigen Konzeptpapier von Malte Spitz/Michael Kellner
zum Digitalisierungskongress.
[6] Begriff aus Johanna Haberer: Digitale Theologie, Kösel-Verlag 2015.
[7] Weber in Datafiziert in der Süddeutschen Zeitung vom 25./26.4.2015.
[8] Zitiert aus Petra Grimm/Hans Krah: Ende der Privatheit? Eine Sicht der
Medien- und Kommunikationswissenschaft.
[9] Ole Wintermann auf dem Blog www.netzpiloten.de vom 19.4.2015.
[10] Dorothea Grass in Ohne Visum kein Au-pair in der Süddeutschen Zeitung vom
12.8.2015.
[11] Filipović ebda.
[12] Impulspapier: Das Netz als sozialer Raum: Kommunikation und Gemeinschaft im
digitalen Zeitalter. Evangelisch-Lutherische Kirche in Bayern, München 2015.
[13] Sascha Lobo in Frankfurter Allgemeine 11.1.2014.
[14] Zitiert aus „Ihr Telefon wird überwacht“; Faltblatt von digitalcourage.
Stand 5/2015.
[15] Der Ausspruch wird Edward Snowden zugeschrieben.
[17] Informationen von Amnesty International Deutschland beim
Digitalisierungskongress Bielefeld 18./19.09.2015.
[18] Aus Petra Grimm/Hans Krah ebda.
[19] Dave Eggers: The Circle; Kiepenheuer & Witsch 2014.
[20] Digitalisierung und du. Hrsg. Vom Bundesministerium für Wirtschaft und
Energie. März 2016.
[21] Vergleiche http://de.vroniplag.wikia.com/
[23] Eric Schmidt im Interview mit James Bennet (The Atlantic) beim "Second
Annual Washington Ideas Forum" am 1. Oktober 2010 in The Atlantic.
[24] nach Christopher Lauer Die universale Volksrepublik Frankfurter Allgemeine
19.4.2015.
[25] aus Die Datenschutzreform der Europäischen Union, hrsg. v. Jan Philipp
Albrecht MdEP, Mai 2015.
[27] Simon Hurtz in der Süddeutschen Zeitung vom 17.9.2015.
[28] Weber in Datafiziert in der Süddeutschen Zeitung vom 25./26.4.2015.
[29] zitiert nach Jaron Lanier Frankfurter Allgemeine vom 24.4.2014.
[30] Jaron Lanier ebda.
[31] Papst Franziskus in Laudato Si: 108
[32] Nach Felicitas Koch, EKD Lesebuch
[33] Kathrin Passig: Ein Touchpad ist nun mal leichter zu bedienen als der
Schließmuskel.
[34] aus Johanna Haberer: Digitale Theologie. München 2015.
[35] zitiert nach Büschemann: Digitaler Sisyphos in Süddeutsche Zeitung vom
19.9.2015.
[36] Filipović in Die Datafizierung der Welt.
[37] Ausführlich dargestellt in Die Datenschutzreform der Europäischen Union.
Hrsg. J.P. Albrecht .
[38] Aus Digitalisierung und du. Wie sich unser Leben verändert. Hrsg.
Bundesministerium für Wirtschaft und Energie. März 2016.
[39] Statement von Ole Wintermann beim Workshop Ende der Unschuld beim
Digitalisierungskongress 18./19.9.2015.
[40] Sascha Lobo ebda.
[41] Malte Spitz in Bielefeld 18./19.09.2015.
Kommentare