Unvorhergesehene Nebenwirkungen der digitalen Gesellschaft

Von Prof. Dr. Katharina A. Zweig (TU Kaiserslautern)

Digitale Technologien haben etwas Faszinierendes an sich: sie machen Kommunikation jederzeit möglich, füllen jede wache Minute mit neuen, bunten Inhalten, und erlauben uns, unsere Meinungen mit Millionen zu teilen. Aber manchmal erzeugen neue Technologien auch unvorhergesehene Nebenwirkungen - im Guten wie im Schlechten.

Die digitale Verarbeitung von Daten

In Schweden scheint beispielsweise eine bargeldlose Zukunft in greifbarer Nähe zu sein. Vorhersagbare Folgen sind Einsparungen in Millionenhöhe, die sonst für Sicherheitstransporte, die Produktion und die Entsorgung von Münzen und Geldscheinen aufgewendet werden müssen, aber auch der damit zusammenhängende Wegfall von Arbeitsplätzen. Und was könnten weitere, unvorhergesehene Nebenwirkungen sein? Es gibt Studien, die zeigen, dass Menschen mehr oder teurere Dinge kaufen und damit mehr Geld ausgeben, wenn sie mit der Karte zahlen. Werden wir daher Kreditkarten entwickeln müssen, die sich physisch je nach Kontostand verändern? Wie wäre es beispielsweise mit einer Kreditkartenhülle, die den Druck auf die Karte so verändert, dass es umso schwerer ist, die Karte zu zücken, umso niedriger der Kontostand ist? Welche anderen Punkte müssen berücksichtigt werden, um die bargeldlose Zukunft ohne ungewollte Nebenwirkungen zu implementieren und kann das prinzipiell schon vor der Einführung eines solchen Systems vorhergesagt werden?

Natürlich sind solche Fragen der Technikfolgeabschätzung nicht prinzipiell neu. Die Erbauung von Eisenbahnverbindungen führte zu den absonderlichsten Unkenrufen, wie sich die neuen Höchstgeschwindigkeiten auf den menschlichen Körper auswirken würden - und nichts davon ist eingetreten. Was aber neu ist, ist die massive, digitale Verarbeitung von Daten, denn diese ist für den Menschen ganz prinzipiell nur wenig nachvollziehbar. Wie würden Sie beispielsweise das datenschutzrechliche Risiko für eine Bekannte oder einen Bekannten bewerten, wenn Sie ihm oder ihr einen Online-Artikel weiterleiten, und zwar direkt über die Seite des Online-Magazins? Schließlich enthält die reine Emailadresse doch herzlich wenig Information, oder etwa nicht?

Nichtmitglieder teilen auch Daten

2011 begannen wir eine Studie darüber, wieviel eigentlich eine soziale Netzwerkplattform über Nichtmitglieder wissen kann, denn viele dieser Plattformen fragen ihre Mitglieder nach deren Emailadressbüchern. Vordergründig geschieht dies, um es den Mitgliedern zu erleichtern, alte Bekannte auf der Plattform wiederzufinden; daneben ist es aber auch im Interesse der jeweiligen Plattform, es dem Mitglied zu erleichtern, Nichtmitglieder möglichst einfach dazu zu ermuntern, der Plattform ebenfalls beizutreten.

Wir wollten herausfinden, ob die reine Information, dass ein Mitglied ein Nichtmitglied kennt, auch etwas darüber verrät, mit wem dieses Nichtmitglied bekannt sein könnte. Auch wenn diese Frage zuerst absurd klingt, gab es doch Anhaltspunkte, dass so etwas möglich sein könnte: In den 2010er Jahren wurde es immer klarer, dass zumindest die Mitglieder selbst ausspähbar sind. Zum Beispiel haben amerikanische Kollegen gezeigt, dass es bei männlichen Homosexuellen möglich ist, diese Neigung zu erraten, wenn genügend ihrer Facebook-Freunde das offen berichten (bei Frauen war das nicht so leicht möglich). Aber würde das reine Verbindungsmuster von Mitgliedern untereinander und zu Nichtmitgliedern ausreichen, um Aussagen über mögliche Bekanntschaften zwischen diesen Nichtmitgliedern zu treffen? Und ja, tatsächlich, dies ist möglich und zwar zu einem erschreckend hohen Anteil und auch mit relativ einfachen Mitteln.

Zudem muss man sagen, dass die sozialen Netzwerkplattformen eben nicht nur das reine Verbindungsmuster kennen, sondern über ihre Mitglieder noch viele weitere Informationen haben, wie zum Beispiel das Alter, den Beruf oder den Standort. Mit dieser Erkenntnis wird klar: Wenn man über ein Online-Magazin einen Artikel an Freunde weiterleitet, dann ist das erheblich mehr Information, als im ersten Moment gedacht. Die Plattform weiß ja, welche Artikel Sie gerne lesen und welche Anzeigen bei Ihnen erfolgreich waren - und diese Vorlieben werden mit hoher Wahrscheinlichkeit auch bei Ihren guten Bekannten zu finden sein. Damit haben Sie also dem Magazin nicht nur die reine Emailadresse Ihres Bekannten mitgeteilt, sondern eben auch, dass dies ein Bekannter von Ihnen ist. Ob irgendeine Plattform diese Information momentan nutzt, ist unklar. Der Punkt ist der, dass wir Menschen nur wenig Verständnis davon haben, welche Art von Information all diese Systeme über uns sammeln können oder darüber, in welcher Weise sie dann miteinander verknüpft werden, um neue Informationen zu gewinnen.

Was IT-Systeme alles vermögen

Das fundamental Neue an den digitalen Technologien ist also, dass wir hier informationsverarbeitenden Maschinen gegenüberstehen, die keine Information vergessen, die mit riesigen Datenmengen hantieren können, und die beliebige Informationen, solange sie digital gespeichert sind, zusammenführen können. Menschen sind vergesslich, können nicht beliebige Datenmengen jonglieren, und sie auch nicht in beliebiger Form miteinander verknüpfen. Daher fällt es uns als Menschen oft schwer, zu verstehen, was IT-Systeme alles vermögen. Auf der anderen Seite sind auch menschliche Reaktionen auf IT-Systeme nicht vollständig vorhersehbar, wie wir am Beispiel einer bargeldlosen Zukunft gesehen haben. Trotzdem ist es notwendig, dass wir nicht erst mit den Risiken und Nebenwirkungen eines neuen IT-Systems umgehen, wenn es schon eingeführt ist.

An der TU Kaiserslautern bilden wir daher in einem deutschlandweit einzigartigen Studiengang namens "Sozioinformatik" Studierende darin aus, den Menschen, seine Handlungsweise und die dahinterliegenden Beweggründe zu verstehen, um besser vorhersagen zu können, wie ein neues IT-System angenommen werden wird und welche positiven oder negativen Nebenwirkungen auftreten könnten. Wir hoffen, dass es damit bei der Einführung neuer, großer IT-Systeme bald heißen wird:

"Zu den Risiken und Nebenwirkungen Ihres IT-Systems befragen Sie bitte Ihren Sozioinformatiker oder Sozioinformatikerin."

P.S.: Und noch bevor der Blogeintrag veröffentlicht wurde, wurde der Inhalt schon von der Realität überholt. Laut SpiegelOnline wurde vom australischen Verbraucherschutz-Portal "Finder" eine Handtasche entwickelt, die sich in bestimmten Situationen gar nicht mehr öffnen lässt, um einen Kaufrausch zu vermeiden. Sozioinformatik in Aktion!

Zur Person

Prof. Dr. Katharina Anna Zweig ist Professorin für Graphentheorie und Analyse komplexer Netzwerke an der TU Kaiserslautern. Sie promovierte im Jahr 2007 an der Universität Tübingen. Im September 2013 wurde Sie von der Gesellschaft für Informatik (GI) zum Junior-Fellow ernannt.

 

Mehr zu Prof. Dr. Katharina Anna Zweig

Zum Studiengang Sozioinformatik an der TU Kaiserslautern