Fiktion vs. Realität: Leben wir in unseren Träumen?

von Mar­tin Bäckert

Men­schen brauchen Fik­tio­nen und Träume. Jed­er von uns macht sich seine eigene Vorstel­lung davon, was zukün­ftig alles geschehen kann und wird. Dabei sind Zukun­ft und Gegen­wart, Fik­tion und Real­ität klar vor­einan­der trennbar—oder? In dieser dre­it­eili­gen Rei­he „Fik­tion vs. Real­ität“ schauen wir uns das Ver­hält­nis von unser­er Vorstel­lungskraft und der uns umgeben­den Real­ität etwas genauer an.

Teil 1: Fiktionale Realität—Chinas Black Mirror

Eine Frau sucht verzweifelt nach ein­er neuen Woh­nung. Doch sobald sie eine ansprechende für sich gefun­den hat, wird sie abgewiesen. Der Grund: Zu wenig Likes auf ihrem Social Media Account. Die Woh­nung ist für die Mit­glieder der Gesellschaft reserviert, die einen Score von 4,5 (von 5) haben, sie hat “nur“ einen von 4,2. Was wie eine neue, dystopis­che Entwick­lung auf dem gegen­wär­ti­gen Woh­nungs­markt klingt, ist in eine kurze Szene aus der Folge Nose­dive (auf dt. „Abgestürzt“) der US-amerikanis­chen Serie Black Mir­ror. Die im Okto­ber 2016 aus­ges­trahlte Episode führt uns durch eine Welt, in der fast alle Bere­iche des alltäglichen Lebens durch ein Social Cred­it Sys­tem bes­timmt wer­den. Das Sys­tem ist dabei eine kon­se­quente Verknüp­fung von Social Media Accounts, wie wir sie aus unserem Leben ken­nen, mit öffentlichen und staatlichen Insti­tu­tio­nen. In Nose­dive bew­erten also zunächst User andere User in ein­er Skala von 1 bis 5 Ster­nen, was einen durch­schnit­tlichen Wert gener­iert. Pikan­ter­weise wer­den neben Bilder und Videos auch men­schliche Inter­ak­tio­nen bew­ertet, was in Black Mir­ror zu über­wiegend rou­tinierten und ober­fläch­lichen Lebensstilen führt. Kaum ein­er will angesichts eines möglichen Scoresver­lustes auf­fall­en, aneck­en oder gar rebel­lieren, denn der gener­ierte Durch­schnittswert ist direkt mit gesellschaftlichen Priv­i­legien verknüpft. Fällt der Score unter 4,0, fall­en neben gesellschaftlich­er Anerken­nung beispiel­sweise auch der Platz im Pre­mi­um-Flieger und die Reservierung eines schnelleren Miet­wa­gens weg. Doch das eigentlich Beängsti­gende an dem Social Cred­it Sys­tem aus Nose­dive ist, dass sein Zus­tandekom­men und seine Abläufe nicht trans­par­ent sind. Kein­er kann und will wis­sen, wer die Ver­ant­wor­tung für die Regeln hat, an die sich alle hal­ten müssen.

Doch das eigentlich Beängsti­gende an dem Social Cred­it Sys­tem aus Nose­dive ist, dass sein Zus­tandekom­men und seine Abläufe nicht trans­par­ent sind. Kein­er kann und will wis­sen, wer die Ver­ant­wor­tung für die Regeln hat, an die sich alle hal­ten müssen.

Eine dystopis­che Fik­tion zeich­nen uns da die Mach­er von Black Mir­ror. Doch irgend­wie lässt einen das Gefühl nicht los, dass diese Fik­tion gar nicht so weit weg von unserem All­t­ag ist. Sie Real­ität wer­den kön­nte. Zu sehr spie­len die Serien­mach­er mit uns ver­traut­en All­t­agsphänome­nen, über­spitzen sie, zeigen uns ihre Absur­dität auf—es ist ein Marken­ze­ichen der Serie. Und tat­säch­lich: Geht man diesem Gefühl nach, fällt der Blick schnell auf die gegen­wär­tige poli­tis­che Lage in Chi­na.

Chi­nas “soziale“ Sys­teme brauchen vor allem eines: Dat­en von Menschen

Dort wur­den in manchen Regio­nen bere­its seit 2014 einige Sozial Cred­it Sys­teme etabliert. Ab 2020—also bere­its näch­stes Jahr!—soll dann eine gesamt­staatliche Lösung fol­gen. Aktuellen Schätzun­gen zufolge gibt es in Chi­na bere­its ca. 70 unter­schiedliche Social Cred­it Sys­teme. Das wohl bekan­nteste unter ihnen ist “Sesame Cred­it“ und gehört zum chi­ne­sis­chen Onlinekonz­ern Aliba­ba, der dort eine ähn­liche Monopol­stel­lung innehat, wie bei uns Ama­zon. Die wichtig­ste Ressource bei allen Sys­te­men: Dat­en von Men­schen. Egal ob chi­ne­sis­che Regierung oder Onlinekonz­ern Aliba­ba, jed­er möchte so viele Dat­en wie möglich über jede einzelne Per­son erheben, um so den jew­eils dahin­ter­ste­hen­den Algo­rith­mus zu per­fek­tion­ieren. Dabei greifen die Akteure sowohl auf pri­vatwirtschaftliche als auch staatliche Daten­banken zurück.

Die wichtig­ste Ressource bei allen Sys­te­men: Dat­en von Men­schen. Egal ob chi­ne­sis­che Regierung oder Onlinekonz­ern Aliba­ba, jed­er möchte so viele Dat­en wie möglich über jede einzelne Per­son erheben, um so den jew­eils dahin­ter­ste­hen­den Algo­rith­mus zu per­fek­tion­ieren. Dabei greifen die Akteure sowohl auf pri­vatwirtschaftliche als auch staatliche Daten­banken zurück.

Die konkreten Auswirkun­gen für die Betrof­fe­nen kön­nen dabei ganz unter­schiedlich aus­fall­en, je nach­dem ob das Sys­tem einen treuen Staats­bürg­er oder einen treuen Kon­sumenten her­vor­brin­gen will. Dabei wer­den diejeni­gen, die sich unhin­ter­fragt an die Vor­gaben hal­ten, in sämtlichen Bere­ichen des Lebens (Job, Fam­i­lie, Kred­itwürdigkeit) bevorzugt und belohnt. Tut man dies nicht, dro­hen ungle­ich­er Behand­lung und Bestra­fun­gen, die bis hin zum Ver­bot von Eheschließun­gen reichen kön­nen. Den­noch zeigt sich in Chi­na bish­er kein nen­nenswert­er Wider­stand gegen solche Social Cred­it Sys­teme. Ein Grund dafür ist das bewusste Ein­set­zen von Gam­i­fi­ca­tion, also spielerisch­er Ele­mente, die pos­i­tive Emo­tio­nen und Aufmerk­samkeit fördern. Schein­bar spie­lend leicht errech­net sich der per­sön­liche Score, der sich durch aktive und vor allem kor­rek­te Teil­habe am Sys­tem verbessern lässt. An ähn­liche Beloh­nungssys­teme von Pay­back und Co. sind auch wir bere­its gewöh­nt. Ist der chi­ne­sis­che Weg also unumgänglich und wird er früher oder später auch uns erreichen?

In Zeit­en, in denen Algo­rith­men und Kün­stliche Intel­li­gen­zen immer effizien­ter und tech­nis­che Fik­tio­nen immer schneller Real­ität wer­den, müssen wir uns fra­gen, welche Zukun­ft wir wollen

Aktuell ist noch nicht abzuse­hen, was für ein Social Cred­it Sys­tem kom­mendes Jahr in Chi­na einge­führt wer­den soll. Black Mir­rors Nose­dive zeigt uns jedoch in bemerkenswert­er Art und Weise auf, wie nah Fik­tion und Real­ität beieinan­der liegen kön­nen. In Zeit­en, in denen Algo­rith­men und Kün­stliche Intel­li­gen­zen immer effizien­ter und tech­nis­che Fik­tio­nen immer schneller Real­ität wer­den, müssen wir uns fra­gen, welche Zukun­ft wir wollen. Es liegt uns zu hin­ter­fra­gen, wer welche Dat­en zu welchem Zweck erhebt und auswertet. Es liegt an uns, kri­tisch mit “sozialen Medi­en“, ihren Mech­a­nis­men und Wirkungsweisen umzuge­hen. Black Mir­ror liefert dazu den ersten Schritt für eine hof­fentlich langfristige Auseinan­der­set­zung und Sensibilisierung.

Bildquellen:

• Titel­bild: Raw­pix­el Ltd, Group of diverse peo­ple using smart­phones, CC BY 2.0.
• Nose­dive: Rosa Menkman at flickr, What is Contemporary.008, CC BY 2.0.