China erfindet den digitalen totalitären Staat
The Economist – Die beunruhigenden Auswirkungen des Social-Credit Projekts
Der Roman von Gary Shteyngart aus dem Jahr 2010 mit dem Titel „Super Sad True Love Story“ spielt in der nahen Zukunft, wo der chinesische Yuan die Weltwährung darstellt und alle Menschen einen „Apparat“ mit der RateMe Plus Technologie um ihren Hals tragen. Persönliche Details werden öffentlich auf allgegenwärtigen „Credit Poles“ angezeigt, das sind Säulen an Straßenecken mit „kleinen LED-Anzeigen, die dein Credit-Ranking registrieren, wenn man an ihnen vorbei geht.“ Der Protagonist wird folgendermaßen zusammengefasst:
„LENNY ABRAMOV. Durchschnittseinkommen über 5 Jahre, $289.420 Yuan – fix … Aktueller Blutdruck: 120 / 70, Blutgruppe 0 … 39 Jahre alt, geschätzte Lebensdauer 83 Jahre … Beschwerden: hohes Cholesterin, Deppressionen … Konsumentenprofil: Heterosexuell, unsportlich, nicht-mobil, nicht-religiös … Sexuelle Vorlieben: leistungsschwache Asiaten/Koreaner … Kindesmissbrauchsindikator: Ein … Letzte Käufe: Gebundenes, gedrucktes, nicht-gestreamtes Medienartefakt“ (d.h. Buch)
Der Roman ist eine fiktive Dystopie über die Zerstörung der Privatsphäre. Chinas kommunistische Partei könnte bereits auf dem Weg sein, dies im realen Leben umzusetzen. Dort wird etwas geplant, was das „Social-Credit System“ genannt wird. Dieses zielt darauf ab, nicht nur die finanzielle Kreditwürdigkeit der Bürger zu erfassen, wie es überall geschieht, sondern auch ihr soziales und möglicherweise auch politisches Verhalten. Es ist noch nicht klar, wie umfangreich das System sein wird, noch, ob es überhaupt funktionieren wird oder wie weit es der Kritik widerstehen wird, die von den staatlich kontrollierten Medien artikuliert wird. Doch ein Entwurf ist fertiggestellt und einige der Bausteine sind bereits vorhanden. Die frühen Anzeichen deuten darauf hin, dass China eines der ehrgeizigsten Experimente für die digitale soziale Kontrolle der ganzen Welt startet.
Das Pilotprojekt im Kreis Suining in der Provinz Jiangsu nördlich von Shanghai könnte Hinweise darauf geben, was ein solches System in der Praxis bedeuten könnte. Ab den Jahr 2010 verlieh die örtliche Regierung den Menschen Punkte für gutes Verhalten (z.B. für das Erhalten einer Staatsauszeichnung von irgendeiner Art) und nahm sie ihnen auch wieder ab, wegen kleinerer Verkehrsdelikte bis hin zu „illegalem Hilfeersuchen an höhere Beamte“. Diejenigen mit den meisten Punkten waren berechtigt für Belohnungen wie einer schnellen Beförderung bei der Arbeit oder dem Überspringen der Schlange im öffentlichen Wohnungswesen.
Das Projekt war ein Misserfolg. Die Daten, auf denen es basierte, waren lückenhaft. Mitten in einem öffentlichen Gegenschlag kritisierte ein Bericht in der China Youth Daily, eine staatliche Zeitung, das System. Darin hieß es, dass „politische“ Daten (wie Petitionen) nicht hätten inkludiert werden sollen, und erklärte, dass „das Volk die Regierungsangestellten beurteilen sollte, und stattdessen hat die Regierung das Volk beurteilt.“ Eine weitere staatliche Zeitung, die Beijing Times, verglich das Projekt sogar mit den „Guter Bürger“-Zertifikaten, die von Japan während der Besetzung Chinas im Zweiten Weltkrieg ausgestellt wurden.
Doch die Partei und die Regierung scheinen unerschrocken zu sein und geben Gliederungspläne für das Social-Credit-System und noch detailliertere Leitlinien in diesem Jahr heraus. Etwa 30 lokale Regierungen sammeln Daten, die es unterstützen würden. Der Plan scheint sehr ehrgeizig zu sein und darauf explizit abzuzielen, das Verhalten einer ganzen Gesellschaft zu beeinflussen. Bis 2020, sagen chinesische Beamte, wird es „den Vertrauenswürdigen erlauben, überall unter dem Himmel zu wandern, während es für Diskreditierte schwer sein wird, auch nur einen einzigen Schritt zu machen“.
Das Projekt ist eine Antwort auf die größten Probleme der Partei: Der Zusammenbruch des Vertrauens in öffentliche Institutionen und die Notwendigkeit, die wechselnden Ansichten und Interessen der chinesischen Bevölkerung zu verfolgen (ohne sie an Wahlen teilnehmen zu lassen). Es versucht, Informationen über die Ehrlichkeit von einfachen Bürgern, Beamten und Unternehmen gleichermaßen zu sammeln.
Eine Frage des Vertrauens
Trotz des jahrelangen Wirtschaftswachstums ist die Unzufriedenheit des Volkes aufgrund der weit verbreitenden Korruption stärker geworden. Eine Reihe von Skandalen über alles Mögliche von minderwertigen Wohnungen bis hin zu abgelaufenen Impfstoffen führte zu öffentlichen Zynismus über Unternehmen und die Fähigkeit der Regierung zur Durchsetzung von Regeln. Die Social-Credit Wertung zielt darauf ab, das zu ändern, indem man hart gegen die korrupten Beamten und Unternehmen vorgeht, die das chinesische Leben plagen. Und es zielt darauf ab, die öffentliche Meinung genauer zu verfolgen. In einer Gesellschaft, in der es nur wenige Arten der freien Meinungsäußerung gibt, könnte Big Data paradoxerweise dazu beitragen, dass Institutionen stärker zur Rechenschaft gezogen werden können.
Doch es könnte auch die Schnüffelei und soziale Kontrolle erheblich erhöhen. In anderen Ländern gab es bereits viele Schreckensgeschichten über Big Data, das zu Big Brother wurde. Die meisten haben sich als falsch erwiesen. Doch China ist anders. Es ist ein Ein-Parteien-Staat mit wenig Kontrolle der Macht, hat eine Tradition der sozialen Kontrolle und mit Präsident Xi Jinping einen Führer, der noch anfälliger für Autoritarismus ist als seine unmittelbaren Vorgänger. Das Ausmaß der Social-Credit Wertung wird davon abhängen was die Regierung beabsichtigt, ob die Technologie funktioniert und wie die Partei auf öffentliche Anliegen reagieren wird.
Beginnen wir mit der Absicht. Die „Planungsumrisse“, die im Jahr 2014 veröffentlicht wurden, besagten, dass die Regierung „hohe Aufmerksamkeit für die Errichtung eines Social-Credit-Systems aufwendet“ — was nahelegt, dass dieses Projekt die Handschrift von Mr. Xi und Li Keqiang, dem Premierminister, trägt. Social-Credit, so wurde erklärt, „ist ein wichtiger Bestandteil … des soziologischen Regierungssystems“: Mit anderen Worten, es ist ein integraler Bestandteil dessen, womit die Regierung Macht ausübt.
Das Papier hat nicht gezeigt, wie das System funktionieren würde, war aber offen genug, um seine Ziele darzulegen. Sie lauten: Das Vertrauen in die Regierung stärken durch Effizienzsteigerung mittels Big Data; hart gegen Unternehmen vorgehen, die schummeln und unsichere Waren verkaufen; und „um zu ermutigen, Vertrauen zu haben und gleichzeitig den Vertrauensbruch zu bestrafen … durch die gesamte Gesellschaft“. Social-Credit, so heißt es, wäre „eine wichtige Grundlage, um … eine harmonische sozialistische Gesellschaft zu erschaffen.“
Man will einen kennenlernen
Ein solches Denken steht im Einklang mit der Geschichte der Partei, die bürokratische Werkzeuge dazu benutzt, um die Freiheit einzuschränken und um in die Privatsphäre im Namen der Freiheit einzudringen. Fast jeder besitzt ein Hukou-Dokument (Haushaltsregistrierung), das bestimmt, wo Bürger öffentliche Dienste in Anspruch nehmen können. Die meisten Leute hatten einmal eine Dang’an (persönliche Akte) mit Details über Schul- und Arbeitsberichte und Gehaltsdetails. Beide Kontrollen wurden gelockert, vor allem die Dang’an. Aber beide existieren noch.
Immer mehr Menschen in der Regierung, in staatlichen Firmen und Universitäten sind verpflichtet, ihre Pässe „zur sicheren Aufbewahrung“ abzugeben. Inhaber von Pässen in einigen Teilen der rastlosen Regionen in Xinjang und Tibet wurden ebenfalls dazu aufgefordert, ihre Pässe der Polizei auszuhändigen.
Strafen und Belohnungen für das Verhalten sind mit den Regierungsaktivitäten verwebt. Die Ein- (jetzt Zwei-)Kind-Politik ist noch immer das extreme Beispiel dafür, wie ein vermeintliches Allgemeinwohl auf den privaten Interessen herum trampeln kann. Doch das ist nicht das Einzige. Das Gesetz zur Altenpflege aus dem Jahr 2013 schreibt allen Erwachsenen Kindern bei Androhung auf Geldstrafen oder Gefängnis vor, dass sie ihre Eltern „oft“ besuchen, wenn diese über 60 Jahre alt sind. (Das Gericht definiert, was als „oft“ gilt.) Einige Leute wurden nach dem Gesetz schon gestraft, und ein Beamter sagte, dass ihre Straftaten auf ihre Dang’an übertragen werden könnten, obwohl es kein Zeichen dafür gibt, dass dies geschehen ist.
China hat „ein administratives Belohnungssystem“, in dem 100.000e Menschen jedes Jahr Ehrungen und Titel wie „hervorragender Kader“, „geistig fortgeschrittene Person“ und „zivilisiertes Dorf“ erhalten. Die Gewinner erhalten Geld, eine höhere Pension, eine bessere Gesundheitsversicherung und das Recht, die Schlange für den öffentlichen Wohnbau zu überspringen. Das Ehrensystem wird von der Führung geschätzt. Im letzten Jahr haben alle sieben Mitglieder des höchsten Entscheidungsgremiums des Landes, der Ständige Ausschuss des Politbüros, an der Preisverleihung des National Model Working Programms teilgenommen.
Die gesamtheitliche Überwachung, zunehmend von der digitalen Art, ist eine zentrale Säule der chinesischen kommunistischen Herrschaft. Ein System der Block-für-Block-Überwachung, genannt „Grid Management“ wird in einigen Teilen des Landes eingerichtet: Die Polizei und Freiwillige überwachen Gruppen von ein paar hundert Leuten, angeblich um sicherzustellen, dass der Müll eingesammelt und Streitigkeiten gelöst werden. Es ist ein Teil der Tradition der Selbstkontrolle, die bis auf die Song-Dynastie im 11. Jahrhundert zurückgeht.
Neuere Formen der Überwachung beinhalten die allgegenwärtige Nutzung von CCTV-Kameras. Im Jahr 2009 hatte China 2,7 Millionen davon; mittlerweile könnten sie die USA überholt haben als das Land mit den meisten CCTV-Kameras. Laut Jack Ma, dem Chef von Alibaba, Chinas größter Internetfirma, hat die Heimatstadt der Firma, Hangzhou, mehr Überwachungskameras als New York City, eine etwas größere Stadt.
Da die Internet-Nutzung gestiegen ist (siehe Grafik), sind auch Chinas umfassende Kontrollen im Cyberspace gestiegen — von der Great Firewall, einem System, welches den Zugriff auf 10.000e Webseiten blockiert (darunter Economist.com); bis zum Golden Shield, einem umfangreichen Online-Überwachungssystem; und die Great Cannon, einem Werkzeug um feindliche Webseiten anzugreifen. Chinas Cyber-Zensoren können Internet- oder Social-Media-Accounts einfrieren, wenn ihre Benutzer Nachrichten verschicken, die sensible Begriffe wie „Tibetische Unabhängigkeit“ oder „Tiananmen-Massaker“ enthalten.
Das Ausmaß der Datensammel-Bemühungen deutet darauf hin, dass es das langfristige Ziel ist, alle Transaktionen, besuchte Webseiten und abgeschickte Nachrichten von allen 700 Millionen chinesischen Internet-Nutzern zu verfolgen. Das wäre zwar sehr ehrgeizig, aber wahrscheinlich nicht unmöglich. Laut geleakten Dokumenten kann die amerikanische NSA 42 Billionen Internet-Datensätze pro Monat und 5 Billionen Handy-Standorte pro Tag verarbeiten.
Damit eine derartige Überwachung funktioniert, muss die Regierung die Besitzer von Geräten mit den digitalen Abdrücken, die sie hinterlassen, in Einklang bringen. Also verlangen Gesetze, die im Jahr 2012 und 2016 verabschiedet wurden, dass Internet-Unternehmen die Klarnamen und andere persönliche Informationen ihrer Kunden aufbewahren. Aber es gibt eine Menge Fake-Registrierungen. Und es ist unklar, wie die Zensoren planen, mit virtuellen privaten Netzwerken (VPNs) umzugehen, die die IP-Adresse eines Benutzers verschleiern.
Wer ist unartig, wer ist artig
Das aufkommende Social-Credit-System baut auf dieser Geschichte der Überwachung und Kontrolle des Privatlebens der Menschen auf. Listen sind zentral für dieses Projekt: Man benötigt Identitätslisten, um die gesammelten Daten ordnen zu können. Und Listen sind eine chinesische Spezialität. Die chinesische Tourismusbehörde hat eine No-Fly Liste für Reisende mit schlechtem Benehmen, denen es verboten werden kann, für bis zu 10 Jahre ins Ausland zu reisen. Die Cyberspace-Verwaltung hat eine „weiße Liste“ von privilegierten Medienunternehmen, die ihre Artikel an andere Medien weiterkaufen dürfen. Und so weiter.
Die Liste im Mittelpunkt des Social-Credit-Systems wird die „Urteils-Schuldner-Liste“ genannt, auf der jeder angeführt ist, der sich einer gerichtlichen Anordnung widersetzt hat. Wenn sich zwei Menschen oder Unternehmen in einem Vertragsstreit befinden, oder wenn sich Paare über eine Scheidung oder die Kinderbetreuung streiten, können die Parteien zu einem Zivilgericht für eine Urteilsentscheidung gehen. Wenn der Verlierer dann mit den Zahlungen säumig ist, wird er oder sie auf diese Liste gesetzt. Die Namen der Täter werden auf einer elektronischen Werbetafel vor den Gerichtshäusern gezeigt. Laut dem Obersten Gerichtshof befanden sich mit Ende 2015 3,1 Millionen Schuldner auf dieser Liste.
Alle Länder haben Probleme, zivilrechtliche Urteile bei Finanzdelikten durchzusetzen, so dass die Liste nicht ungewöhnlich aussieht. Aber das ist sie. Sie ist außergewöhnlich lang und wird Dutzenden Regierungsbehörden und Parteiorganisationen zur Verfügung gestellt, die alle ihre eigenen Sanktionen auf die Schuldner anwenden können. Leute, die auf dieser Liste stehen, können davon abgehalten werden Flug-, Hochgeschwindigkeitszug- oder Bahntickets der ersten oder der Business-Klasse zu erwerben; ein Haus zu kaufen oder zu bauen; oder ihre Kinder in einer teuren, kostenpflichtigen Schule einzuschreiben. Es gibt Einschränkungen für die Täter, die sich der Partei oder der Armee anschließen wollen, sowie auf Ehren und Titel. Wenn der säumige Zahler ein Unternehmen ist, darf es keine Aktien und Anleihen ausstellen, es darf keine Investitionen aus dem Ausland annehmen und bekommt keine Regierungsaufträge. Bis August 2016 wurden die Schuldner etwa 5 Millionen mal davon abgehalten, ein Flugticket zu kaufen. Das geht weit über die üblichen Gesetzesvollstreckungen hinaus.
Sünden mit chinesischen Eigenschaften
Vom auf-die-Schwarze-Liste-setzen von säumigen Schuldnern könnte das System noch ein wenig erweitert werden, zum Beispiel um Firmen zu verfolgen, die vergiftete Milch verkaufen oder schäbige Häuser bauen. Doch die Richtlinien, die im Mai und September herausgegeben wurden, deuten darauf hin, dass es noch viel weiter gehen könnte. Sie nennen die Schuldner-Liste „eine wichtige Komponente der Social-Credit Information“, was bedeutet, dass sie ein Teil eines größeren Systems ist und dass Finanzvergehen nur eine Kategorie von Fehlverhalten darstellen. Andere Arten des „nicht-vertrauenswürdigen Verhaltens“, die Aufmerksamkeit verdienen, sind: „Verhalten, welches die normale soziale Ordnung ernsthaft untergräbt … untergräbt schwerwiegend die Ordnung von Transaktionen im Cyberspace“, sowie „das Versammeln, um die soziale Ordnung zu stören sowie die nationalen Verteidigungsinteressen zu gefährden“. Derart breite Kategorien implizieren, dass das System dazu verwendet werden könnte, Dissens, Meinungsäußerungen und wahrgenommene Bedrohungen für die Sicherheit zu bewerten und zu bestrafen.
Obwohl es nicht klar formuliert ist, könnten die Richtlinien angesichts dessen den Staat in die Lage versetzen, seine vielen Datenbanken zu integrieren: Die Hukou und Dang’an von jedem, Informationen der elektronischen Überwachung, die Touristen-Schwarzliste, das nationale Modell-Arbeiter-Programm und noch mehr. Sogar Regulierungen für Videospiele, die im Dezember veröffentlicht wurden, besagen, dass Firmen und Spieler, die gegen die Regeln verstoßen, auf die Schwarze Liste gesetzt werden und in die Social-Credit-Datenbank eingeschrieben werden könnten. Im schlimmsten Fall könnte das Social-Credit-Projekt zu einem 360-Grad-Panoptikum der digitalen Überwachung werden.
Das könnte nach Panikmache klingen. Immerhin besitzen Google, Facebook, Datenmakler und Marketingfirmen in westlichen Ländern — sogar amerikanische Präsidentschaftswahlkampagnen — riesige Mengen an personenbezogenen Daten, ohne den bürgerlichen Freiheiten schwerwiegende Schäden zuzufügen, zumindest bis jetzt nicht.
Doch China behandelt persönliche Informationen anders als der Westen. In Demokratien beschränken die Gesetze, was die Unternehmen damit machen dürfen und inwieweit die Regierung diese Daten in ihre Finger bekommen darf. Solche Schutzvorrichtungen sind überall mangelhaft. Doch in China existieren sie gar nicht. Das nationale Sicherheitsgesetz und das neue Cybersicherheitsgesetz verleihen der Regierung uneingeschränkten Zugriff auf so gut wie alle persönlichen Daten. Bürgerrechtler, die protestieren könnten, werden zunehmend ins Gefängnis gesteckt. Und, laut dem amerikanischen Congressional Research Service, gehorchen die Firmen, die über diese Daten verfügen, wie Alibaba, Baidu (die größte chinesische Suchmaschine) und Tencent (eine beliebte Social-Messaging-App) routinemäßig den Datenforderungen der Regierung.
Big-Data-Systeme in Demokratien sind nicht für die soziale Kontrolle konzipiert. Jenes von China wäre das explizit. Und weil seine Führer das Interesse der Partei und jenes der Gesellschaft für das Gleiche erachten, können die Instrumente der sozialen Kontrolle für politische Zwecke verwendet werden. Anfang dieses Jahres, zum Beispiel, fragte die Partei bei der China Electronics Technology Group — einer der größten Auftragnehmer des Militärs, an, ob sie eine Software entwickeln könnten, die die Terrorgefahr voraussagen könnte, basierend auf den beruflichen Aufzeichnungen des Volkes, ihren finanziellen Hintergründen, ihren Konsumgewohnheiten, ihren Hobbies und den Daten von Überwachungskameras. Die Sichtung von Daten, um nach Terroristen zu suchen, kann sich leicht in die Suche nach Dissidenten verwandeln. Es ist bezeichnend, dass westliche Geheimdienste versucht haben, Data-Mining-System dafür zu nutzen, um einzelne Terroristen zu identifizieren, aber wegen eines Übermaß an Falschmeldungen daran gescheitert sind.
Kann also ein riesiges Social-Credit-System funktionieren? Die Chinesen stehen vor zwei großen technischen Hürden: Die der Datenqualität und die der Empfindlichkeit der Instrumente, um sie zu analysieren. Big-Data-Systeme sind überall — wie der Versuch des britischen National Health Service, eine landesweite medizinische Datenbank zu erschaffen — über das Problem gestolpert, wie man verhindern kann, dass falsche Informationen einem die Datengrundlage verwässern (was auch das Suining-Experiment unterminiert hat). Probleme mit falschen Daten wären in einem Land mit 1,3 Milliarden Menschen noch belastender. Große Datenschätze würden auch große Anreize für Cyber-Kriminelle darstellen, um Informationen zu stehlen oder zu verändern.
Wie die Daten analysiert werden, wäre gleichermaßen problematisch. Das Merkmal des Social-Credit-Systems, das die meiste Aufmerksamkeit erzeugt und die Leute alarmiert hat, ist die Idee, den Leuten für soziale und politische Aktivitäten „Credit-Scores“ (Punkte) zu verleihen. Hier scheint das Modell dafür die amerikanische Marketing-Branche zu sein. Die Unternehmen erarbeiten die Credit-Scores, die das Konsumverhalten der Leute basierend auf Dingen wie die Arbeitsplatzsicherheit, Gesundheitsrisiken und Jugendkriminalität vorhersagen. Doch die Fehler sind reichlich vorhanden. Das World Privacy Forum, eine NGO, sagt, dass Credit-Scores auf Hunderten Datenpunkten basieren, die über keine Standards für Genauigkeit, Transparenz oder Vollständigkeit verfügen. Wie der Bericht schlussfolgerte: „Fehlerraten und falsches Auslesen werden ein großes Problem.“ Müll rein, Müll raus.
Was kann schon schiefgehen?
Die Regierung ist sich dieser Schwierigkeiten bewusst. Sie erlaubte eine ungewöhnliche Anzahl an Diskussionen darüber in den staatlichen Medien, was darauf hindeuten könnte, dass man einmal das Gewässer testen möchte, bevor man entscheidet, wie tief man hineinspringen will. Ein kürzlicher hochrangiger „Social-Credit-Gipfel“ in Shanghai sprach zum Beispiel darüber, wie Scores überprüft und Fehler behoben werden können; viele argumentierten dafür, dass die gesetzlichen Schutzmaßnahmen verbessert werden müssen. Zhang Zheng, der Leiter des China Credit Research Center an der Beijing University, sagte, dass mehrere Probleme ungelöst bleiben und dass die Regierung im Zaum gehalten werden müsse.
Ein Kommentar in der Beijing Times beschwerte sich über Pläne, jene Menschen zu bestrafen, die ihre Stromrechnungen nicht dadurch bezahlen, indem sie ihre Auslandsreisen einschränken oder sich Kredit bei der Bank aufnehmen. „Ich habe mich nie gegen die Einrichtung und Verbesserung eines Credit-Informationssystems ausgesprochen“, schrieb der Autor, Yang Gengshen. „Ich bin nur dagegen, den Credit dafür zu verwenden, um die Macht der Mächtigen auszubauen und weiterhin den Raum für Bürgerrechte einzuschränken.“
Vieles über das Social-Credit System bleibt unklar. Die Regierung hat sich noch nicht dafür entschieden, ob sie das System hauptsächlich dafür einsetzen wollen, um Gauner zu erkennen oder ob man voll in Richtung Big Brother gehen will. Es ist unklar, wieviele der Informaionen, die es enthält, in das System integriert werden sollten. Die Überwachungstechnologie ist überwiegend ungetestet bei der Größe von China. Und die Fragmentierung der chinesischen Geheimdienste müsste überwunden werden.
Aber die Regierung erschafft die Kapazität für ein Regime mit langen Tentakeln zur sozialen Kontrolle. Viele der Elemente sind bereit: Die Datenbanken, die digitale Überwachung, das System der Belohnung und Bestrafung, und der Wir-wissen-es-am-Besten Paternalismus. Was bleibt, ist die Stücke zusammenzusetzen. Wenn dies geschehen ist, dann hätte China den weltweit ersten digitalen totalitären Staat errichtet. Wie ein anderer Charakter in „Super Sad True Love Story“ an einen Freund schreibt: „Dies ist, was passiert, wenn man nur eine Partei hat und in einem Polizeistaat lebt.“