Ob beim Kauf im Online-Shop, beim Joggen mit einem digitalen Fitnessarmband, beim Chat in den sozialen Medien – wir hinterlassen im Netz jede Menge Daten-Spuren, sozusagen unseren elektronischen Fingerabdruck. Versandhändler nutzen dies zum Beispiel, um uns passende Kaufempfehlungen zu geben. Diese erstellen sie mithilfe von Algorithmen. Doch welche Daten kommen bei diesen komplexen Rechenvorgängen wirklich zum Einsatz? „Das wissen wir nicht“, sagt Professorin Katharina Anna Zweig von der TU Kaiserslautern, die den Lehrstuhl für Graphentheorie und Analyse komplexer Netzwerke innehat und schon lange zu Algorithmen forscht. Solche Berechnungen können für den Einzelnen schwerwiegende Folgen haben. Denkbar ist zum Beispiel, dass Krankenkassen in nicht allzu ferner Zukunft höhere Beiträge einfordern, weil die Daten der Versicherten auf ein ungesundes Leben schließen lassen.

Die Berechnungen der Algorithmen können zudem auf falschen Datensätzen beruhen – mit drastischen Konsequenzen –, wie Zweig an einem Beispiel erläutert: „In den Geheimdienst-Papieren von Edward Snowden gab es einen Bericht über Datenforscher, die sich sicher waren, einen Algorithmus gefunden zu haben, mit dessen Hilfe sie Kuriere für Terroristen aufspüren können.“ Bei einer Person, die dabei ihr Interesse geweckt hatte, gab es eine große Übereinstimmung mit den zugrunde gelegten Vorgaben. Die beiden Informatiker waren sich sicher, einen Terroristen identifiziert zu haben. „Leider haben sie nicht gründlich recherchiert“, berichtet Zweig weiter. „Bei der Person handelte es sich um einen Journalisten, der für den arabischen Fernsehsender Al-Jazeera arbeitet und viel über Terrorismus berichtet.“

Doch was sagen Bewegungsprofile von Mobilfunkbetreibern, der letzte Bücherkauf beim Versandhändler, die Kontakte in den sozialen Medien und der Kontostand wirklich über eine Person aus? Die chinesische Regierung plant in den kommenden Jahren, die eigene Bevölkerung anhand solcher Daten zu überwachen, um regimekritische Personen sozial ins Abseits zu befördern. Ferner könnten soziale Medien solche Daten nutzen, um mit ihren Algorithmen Meinungen zu steuern. Bei Wahlkämpfen könnten sie beispielsweise gezielt einen Kandidaten unterstützen.

In den USA gibt es bereits heute Rechenverfahren, die voraussagen sollen, ob ein Mensch ein Verbrechen begeht. „Dabei spielen Daten zum sozialen Umfeld oder zur familiären Situation eine Rolle“, so die Informatikerin. Auch hierbei ist unklar, welche genauen Daten diese Algorithmen nutzen. Sicher ist nur, dass solche Daten in den falschen Händen für Schaden sorgen können. In Kriegsgebieten kommen beispielsweise mehr und mehr bewaffnete Drohnen zum Einsatz. „Hier ist aber nach wie vor der Mensch gefragt. Es kann nicht sein, dass ein Rechenverfahren künftig über Leben und Tod entscheiden soll“, sagt Zweig.

Algorithmen bestimmen längst unseren Alltag, haben Einfluss auf unsere Meinung – und gestalten so auch unsere Zukunft. Gemeinsam mit der Philosophin Lorena Jaume-Palasí sowie den Journalisten Lorenz Matzat und Matthias Spielkamp hat Zweig die Plattform „AlgorithmWatch“ gegründet, um darüber zu informieren. Zweig forscht schon lange an Algorithmen und Datennetzwerken. Als Expertin wird sie regelmäßig von verschiedenen Einrichtungen um Rat gefragt, etwa vom Bundesministerium für Bildung und Forschung, vom Bundesministerium für Umwelt, Naturschutz, Bau und Reaktorsicherheit, aber auch von verschiedenen Landesmedienanstalten und Medien.

© TU Kaiserslautern

Ein Team von Experten, ähnlich wie Wirtschaftsprüfer, könnte die Codes prüfen und für gut oder aber schlecht befinden.

Prof. Katharina Zweig

Die Forscherin und ihre Mitstreiter wollen nun eine Diskussion in der Öffentlichkeit anregen. „Wir wollen die Diskussion erden, denn auf der einen Seite sehen wir Alarmisten, die am liebsten die Zeit zurückdrehen würden, und auf der anderen Seite herrscht eine Hilflosigkeit gegenüber den vermeintlich unkontrollierbaren Algorithmen“, sagt die Professorin. Sie möchten daher die Bevölkerung sensibilisieren, sich mit diesem Thema auseinanderzusetzen und nach Lösungen zu suchen, wie man besser mit den Algorithmen umgehen soll. Das Thema sei zwar schon in den Medien, viele Bücher dazu seien schon geschrieben. Bislang fehle hierbei aber noch die breite Diskussion in der Öffentlichkeit. Dies möchte Zweig mit ihrer Plattform ändern. „Wir wollen nicht, dass Unternehmen den Code ihrer Algorithmen per Gesetz der Öffentlichkeit Preis geben, diese oft gehörte Forderung ist nicht zielführend und zudem schädlich, oft übrigens sowohl für Nutzer als auch für Firmen“, erklärt Zweig. Langfristig schwebt der Informatikerin und ihrem Team eine Art Algorithmen-TÜV vor, wie er vom österreichischen Rechtswissenschaftler Viktor Mayer-Schönberger vorgeschlagen wurde. „Ein Team von Experten, ähnlich wie Wirtschaftsprüfer, könnte die Codes prüfen und für gut oder aber schlecht befinden.“ Vertrauenswürdige Rechenverfahren erhielten schließlich ein Siegel und der Kunde würde sehen, dass er nichts zu befürchten habe.
So könnte es für uns alle in naher Zukunft vielleicht heißen: Bei Risiken und Nebenwirkungen Ihres Lieblingsalgorithmus fragen Sie Ihren nächstgelegenen Algorithmiker oder den Algorithmen-TÜV.