Social Scoring in Deutschland mit Hilfe einer KI Massenüberwachung

Das tägliche Verhalten wird kontinuierlich überwacht und bewertet. Diese Bewertung beeinflusst, ob Sie einen Kredit erhalten, wohin Sie reisen oder bestimmte Dienstleistungen nutzen dürfen. Klingt nach Science-Fiction? In China ist dies bereits Realität. Auch in der EU werden immer mehr Angebote digitaler und KI in der EU bedeutsamer. Der Einsatz von KI-Systemen wird von Jahr zu Jahr auch für Behörden und Politik immer wichtiger.

Was ist Social Scoring?

Social Scoring, auch bekannt als Sozialkredit-System, ist ein Konzept, bei dem das Verhalten von Bürgern überwacht und anhand verschiedener Kriterien bewertet wird. In China beispielsweise wird für jeden Bürger ein individueller Verhaltenswert ermittelt, der sich auf verschiedene Lebensbereiche auswirken kann. Dieses System zielt darauf ab, durch Überwachung und öffentlich einsehbare Punktestände die Bürger zu mehr “Aufrichtigkeit” im sozialen Verhalten zu erziehen und Straftaten zu minimieren. 1984 von George Orwell lässt grüßen.

Der Einsatz von KI in Social-Scoring-Systemen

Künstliche Intelligenz (KI) spielt eine zentrale Rolle bei der Umsetzung von Social-Scoring-Systemen. Durch den Einsatz von KI können riesige Datenmengen analysiert und ausgewertet werden, um Verhaltensmuster von Personen zu erkennen und entsprechende Bewertungen vorzunehmen. Dies ermöglicht eine nahezu lückenlose Überwachung und Bewertung des individuellen Verhaltens.

In China werden beispielsweise verschiedene Social-Scoring-Systeme getestet, die das Verhalten der Einwohner beurteilen. Per Gesichtserkennung im öffentlichen Raum und Videoüberwachung können Zugänge zu bestimmten Stadtbereichen, Ämtern und öffentlichen Transportmöglichkeiten automatisch erteilt werden. Möglich wird dieses durch die Vergabe einer individuellen ID pro  Einwohner. Mit dieser ID können dann weitere digitale IDs, wie Führerschein, Medizinakte, Bankkonto, Personalakte und auch Soziale Netzwerke verbunden werden. Die unterschiedlichen staatlichen KI-Anwendungen greifen auf diese ID`s zu, lesen den jeweiligen Score aus und reagieren je nach Score unterschiedlich und individuell. 

Per Gesichtserkennung, einer Videoüberwachung an öffentlichen Plätzen und einem im System hinterlegten digitalen Passbild kann ein Einwohner Z. B. an einer Tür oder Schranke ermittelt werden. Beim Arzt kann die ID direkt beim Vorzeigen der digitalen Patienten-ID identifiziert werden und bei Kreditvergabe können die Banken auf die gesamten ID´s zugreifen und entscheiden, ob die Person ein Kredit erhält oder über das eigene Geld verfügen kann.  All das befindet sich aktuell im Test und teils wurden einzelne Funktionen schon während Corona ausgiebig getestet.

Gesetzliche Regelungen in der EU zu Sozialkreditsystem

In der Europäischen Union gibt es Bestrebungen, den Einsatz von KI per „KI-Gesetz“ einzuschränken. Mit einer KI-Verordnung sollen neue Regeln für den Umgang mit künstlicher Intelligenz eingeführt und diese strenger reguliert werden.

Die EU-Kommission hat ein Gesetz vorgeschlagen, das bestimmte Anwendungen von KI, wie beispielsweise Social Scoring, für Unternehmen verbieten soll. Ziel ist es, sicherzustellen, dass KI-Systeme transparent, nachvollziehbar und nicht diskriminierend sind. Ein wichtiger Aspekt in dem Gesetz ist dabei allerdings, dass die KI-Systeme von Menschen überwacht und nicht nur rein von Technologien gesteuert werden sollen. Mit anderen Worten ein Scoring, wie z. B. bei der Schufa wäre durch KI möglich, sofern es unter „menschlicher Kontrolle“ steht.

Insgesamt ist die EU sehr daran interessiert die sogenannte EU-ID einzuführen. Alle staatlichen Institutionen arbeiten fieberhaft an digitalen Lösungen, wie zum Beispiel der „Digitale Euro“ und die elektronische Patientenakte (ePA) in Deutschland, die digitale Personalakte, digitaler Führerschein und vieles mehr.

Ob menschliche oder technische Überwachung – Künstliche Intelligenz wird hier auf jeden Fall zum Einsatz kommen und Überwachung bleibt Überwachung. Für den Bürger werden mit hohem Marketingbudget veranschlagte Kampagnen geplant, in denen nur positive Vorteilsargumentationen aufgeführt werden.

Potenzielle Auswirkungen und Bedenken

Die Einführung eines Social-Scoring-Systems in Deutschland würde erhebliche, ethische und datenschutzrechtliche Fragen aufwerfen. Es besteht die Gefahr, dass solche Systeme zu einer umfassenden Überwachung führen und die Privatsphäre der Bürger massiv einschränken. Nicht nur Polizei und andere Sicherheitsbehörden sollen Zugriff auf diese Daten erhalten und somit gegen den Bürgeranwenden. Zudem könnten sie diskriminierende Praktiken fördern und soziale Ungleichheiten verstärken.

In Deutschland werden von der Politik aber immer wieder Gründe wie Geldwäsche, Extremismus und Sicherheit so in den Vordergrund gestellt, dass immer weitere Gesetze beschlossen werden und so über den datenschutzrechtlichen Fragen stehen.

In China wird das Sozialkredit-System von einigen Kritikern bereits als Ausdruck der technologischen Innovation gesehen, die global exportiert werden könnte. 

Fazit: Ist Social Scoring in Deutschland denkbar?

Angesichts der aktuellen gesetzlichen Regelungen und der kritischen Haltung gegenüber umfassender Überwachung erscheint die Einführung eines Social-Scoring-Systems in Deutschland derzeit noch nicht wahrscheinlich. Dennoch ist es wichtig, wachsam zu bleiben und die Entwicklungen im Bereich der Künstlichen Intelligenz, deren Anwendungen und allen digitalen Angeboten kritisch zu hinterfragen, um den Schutz der individuellen Freiheitsrechte zu gewährleisten.

Die hohen technischen Anforderungen und Systeme, die für die Nutzung von KI für Gesichts-, Verhalten- und Emotionserkennung und weiteren Überprüfungen und Bewertungen benötigt werden, sind immens. Auch dafür müssen weiter Sondervermögen aufgesetzt und weitere Gesetze geschaffen werden. Noch wird ein Scoring nicht offiziell erwähnt aber die Weichen werden im Hintergrund gestellt.