TechStage
Logo Qwant

Ein Angebot von

Künstliche Intelligenz macht Nutzer zu „digitalen Sklaven“

Bild: Google DeepMind

von  //  Twitter Google+

Eine Gruppe Wissenschaftler warnt in einem Artikel vor den Gefahren von Künstlicher Intelligenz. Sie könne unter anderem das Verhalten von Nutzern im großen Stil steuern und zu Kontrollverlust führen.

In einem auf Spektrum veröffentlichten Artikel warnt eine Gruppe von Wissenschaftlern davor, dass Künstliche Intelligenz große Gefahren birgt. Beispielsweise ist die Rede von Kontrollverslust von Nutzern und davon, dass sie in „digitale Sklaven“ verwandelt werden können. Zu den Wissenschaftlern gehören unter anderem Gerd Gigerenzer, Direktor am Max­ Planck­ Institut für Bildungsforschung, und Dirk Helbing, Professor für Computational Social Science der ETH Zürich.

In Ihrem „Appell zur Sicherung von Freiheit und Demokratie“ geht es beispielsweise um die fortschreitende Digitalisierung, die Ihnen zufolge zu einer fremdgesteuerten und totalitären Gesellschaft führt. Dies hätte unter anderem damit zu tun, dass Firmen immer mehr Daten über ihre Kunden sammeln, die dann durch Algorithmen automatisch ausgewertet werden. So können Nutzer dem Bericht zufolge auch manipuliert werden.

Die Forscher sprechen in diesem Zusammenhang davon, dass Algorithmen schon heute wüssten, was wir denken und fühlen – uns teils besser als unsere eigenen Freunde und die Familie kennen. Auf diese Weise werden wir immer mehr ferngesteuert, denken die Wissenschaftler und sprechen in diesem Zusammenhang von „Nudging“ – der Beeinflussung von Bürgern, indem diese im großen Maßstab zu gesünderem oder umweltfreundlicherem Verhalten „angestupst“ werden.

Dieses „digitale Zepter“ könnten sich früher oder später auch Kriminelle und Extremisten zunutze machen, sagen die Wissenschaftler und sehen „vorprogrammierte Katastrophen“. Die Beeinflussung durch Verbrecher könne auch passieren, ohne dass dies bemerkt würde. Schließlich seine fast alle Unternehmen und Einrichtungen seien schon gehackt worden – darunter auch Pentagon, Weißes Haus und Bundestag.

Als ein weiteres Problem nennen die Wissenschaftler die „Aushöhlung des Systems von innen“, da sich Suchalgorithmen und Empfehlungssysteme beeinflussen lassen. Regierungen beispielsweise sollen eventuell Zugriff auf eigene Steuerungsparameter haben, Unternehmen hingegen durch den Kauf von Wortkombinationen Ergebnislisten im Web manipulieren können. Den Wissenschaftlern zufolge wird dieses Problem durch Google und seinen großen Marktanteil von knapp 90 Prozent in Europa verschärft. Das Unternehmen könnte so die Öffentlichkeit maßgeblich beeinflussen, was einer Fernsteuerung von Europa vom Silicon Valley aus gleichkäme.

SpektrumDigitale Demokratie statt Datendiktatur
Heise onlineDigital-Manifest: Wissenschaftler warnen vor Künstlicher Intelligenz

Einloggen, um Kommentare zu schreiben

Anzeige