Algorithmen sind überall

Vielleicht verstellen all die Filme, die wir gesehen und all die Geschichten, die wir gelesen haben, uns ein wenig den Blick. Wir nutzen bislang weder selbstfahrende Autos, noch Roboterbutler oder Skynet. Doch wir kommunizieren immer häufiger mit Chatbots, machen uns Übersetzungsprogramme zunutze oder die Gesichtserkennung zur Entsperrung des Handys. Überall dort und an vielen anderen Stellen sind KI-Verfahren im Spiel, auch wenn das nicht unbedingt auffällt. Und sie beeinflussen das gesellschaftliche Leben durchaus.

In den sozialen Medien und den digitalen Suchmaschinen bestimmen lernende Algorithmen, wem welche Nachrichten angezeigt werden und welche Werbung eingespielt wird. Sie bestimmen, welche Personen uns auf Datings-Websites und welche Filme uns auf Streaming-Plattformen vorgeschlagen werden. Je nach Land oder Unternehmen bestimmen sie, wer zu einem Bewerbungsgespräch eingeladen wird, wer einen Studienplatz bekommt und wessen Kreditanfrage genehmigt wird oder nicht.

Auch in der Wissenschaft, beim Militär und an der Börse sind zahlreiche solcher Helferlein im Einsatz, um in großen Datenmengen brauchbare Informationen zu finden.

Die Vor- und Nachteile der smarten Welt  

Einerseits bieten diese Verfahren großartige Möglichkeiten, Zusammenhänge zu entdecken, die sonst im Durcheinander der Welt verborgen blieben, Möglichkeiten, sich Informationen zu beschaffen und Gleichgesinnte zu finden. Andererseits stehen die Algorithmen der sozialen Medien im Verdacht, einseitige Meinungsbildung (die sogenannten Filterblasen) und Radikalisierung zu befördern. Denn sie sind darauf ausgerichtet, die Nutzer und Nutzerinnen möglichst lange auf den jeweiligen Medien zu halten, sei es um möglichst viele Daten zu erfassen, oder um Werbeplätze zu versteigern. Und dieses Ziel ist mit überraschenden, radikalen und schockierenden Inhalten leichter zu erreichen als mit sachlicher Information.

Algorithmen zur automatisierten Entscheidungsfindung stehen auch im Verdacht, ohnehin benachteiligte Gruppen weiter zu benachteiligen, weil sie die in der Gesellschaft vorhanden Einseitigkeiten, die sich in ihren Trainingsdaten spiegeln, übernehmen.

Zudem können KI-gestützte Deep Fakes, am Computer erzeugte fotorealistische Bilder, Verwirrung stiften. Doch lernende Algorithmen sind auch im Einsatz, um kriminelle und unerwünschte Inhalte zu entdecken und herauszufiltern und Einseitigkeiten in Entscheidungen zu erkennen.

Manche Filmstudios und Verlage lassen inzwischen die Chancen, die ein Film oder Buch haben könnte, von Algorithmen berechnen. So beeinflussen diese, welche Filme und Bücher entstehen. Auch im Bildungssystem sind immer mehr Programme im Angebot, die versprechen, individuell auf die Bedürfnisse der Lernenden einzugehen. Auch sie haben Einfluss darauf, wie und was gelernt wird.

Darüber hinaus werden erste Roboter zur Unterstützung alter und kranker Menschen eingesetzt, und es wird intensiv gearbeitet an autonomen Fahrzeugen, die genau genommen ebenfalls zu den Robotern gehören. Sollten sie auf den Markt kommen, würden auch sie die Gesellschaft deutlich beeinflussen.

Nationale Unterschiede

In verschiedenen Ländern stellen sich die gesellschaftlichen Auswirkungen der KI unterschiedlich dar, unter anderem abhängig von den geltenden Datenschutzregeln und den Zielen des Staates. Die Stadt Barcelona etwa versucht, mithilfe intelligenter Datenauswertung effizienter, umweltschonender und demokratischer zu werden und hat dazu Modelle entwickelt, wie die gesammelten Daten im Besitz der Allgemeinheit bleiben können, statt lediglich von privaten Unternehmen genutzt zu werden.

Viel Luft nach oben

Algorithmen, die in großen Datenmengen Muster finden, die man verwenden kann, um Prognosen abzugeben und Entscheidungen zu automatisieren, beeinflussen die Gesellschaft massiv. Daher wird mit Hochdruck an einer politischen Regulierung gearbeitet. Sie soll gewährleisten, das Potential dieser Technik zu nutzen und weiterzuentwickeln, aber auch dazu beitragen, unerwünschte Nebenwirkungen zu beherrschen. Die Europäische Union hat sich auf die Fahnen geschrieben, bei der Weiterentwicklung der KI neben dem wirtschaftlichen Nutzen Menschenrechte, Datenschutz und Selbstbestimmung in den Vordergrund zu stellen.

Die Möglichkeiten, KI-basierte Verfahren zu verwenden, um neue Formen von Demokratie und Mitbestimmung zu entwickeln, sind aber sicher noch nicht ausgereizt.

AlgorithmWatch beobachtet Systeme automatisierter Entscheidungsfindung und deren Auswirkungen auf die Gesellschaft.