AB 24.08.2018 AUF DVD


UND BEREITS JETZT ALS VIDEO ON DEMAND

Ab 17. Mai 2018 im Kino
  • „Einer der wichtigsten Dokumentarfilme des Jahres.“
    arte TRACKS

  • „Ein Film Noir Thriller.“
    VARIETY

  • „Ein Film am Puls der Zeit.“
    SCREEN INTERNATIONAL

  • „Verstörend auf so vielen Ebenen.“
    LOS ANGELES TIMES

  • „Als wäre Frankensteins Monster außer Kontrolle geraten.“
    SCREEN INTERNATIONAL

Synopsis

THE CLEANERS enthüllt eine gigantische Schattenindustrie digitaler Zensur in Manila, dem weltweit größten Outsourcing-Standort für Content Moderation. Dort löschen zehntausende Menschen in zehn Stunden Schichten im Auftrag der großen Silicon Valley-Konzerne belastende Fotos und Videos von Facebook, YouTube, Twitter & Co. Komplexe Entscheidungen über Zensur oder Sichtbarkeit von Inhalten werden so an die „Content Moderatoren“ outgesourct. Die Kriterien und Vorgaben, nach denen sie agieren, sind eines der am besten geschützten Geheimnisse des Silicon Valleys. Die Grausamkeit und die kontinuierliche Belastung dieser traumatisierenden Arbeit verändert die Wahrnehmung und Persönlichkeit der Content Moderatoren. Doch damit nicht genug. Ihnen ist es verboten, über ihre Erfahrungen zu sprechen.

Parallel zu den Geschichten von fünf Content Moderatoren erzählt der Film von den globalen Auswirkungen der Onlinezensur und zeigt wie Fake News und Hass durch die Sozialen Netzwerke verbreitet und verstärkt werden. Die utopische Vision einer vernetzten globalen Internetgemeinde wird endgültig zum Alptraum, wenn hochrangige ehemalige Mitarbeiter der Sozialen Netzwerke Einblicke in die Funktionsweisen und Mechanismen der Plattformen geben. Durch gezielte Verstärkung und Vervielfältigung jeglicher Art von Emotionen, werden die Plattformen zu gefährlichen Brandbeschleunigern, die soziale, politische und gesellschaftliche Konflikte anheizen und die drohende Spaltung unserer Gesellschaft vorantreiben.

Trailer

  • Space
  • Space
  • Space
  • Space
  • Space
  • Space
  • Space
  • Space
  • Space

Statements

Director's note von Hans Block & Moritz Riesewick

YOU CANNOT SEE WHAT YOU CANNOT SEE

Unter dem Label Laokoon realisieren wir, Hans Block und Moritz Riesewieck, zusammen mit Künstler*innen und Wissenschaftler*innen unterschiedlicher Disziplinen Theaterinszenierungen, Hörspiele, Dokumentarfilme und Essays. LAOKOON, von griech. laós [Krieger] und koeo [schauen], ist der Name eines trojanischen Priesters. Er sieht als erster den Betrug und die Gefahr, die das hölzerne Pferd in sich verbirgt.

In unseren Arbeiten machen wir uns dieses Sehen zu eigen und enthüllen die trojanischen Pferde unserer Zeit - etwa den vermeintlichen Fortschritt und zivilisatorischen Gewinn, den die rasante Digitalisierung verspricht. Wir schauen dem geschenkten Gaul ins Maul: erweitern den Blick für die Ambivalenzen, die Ideologien und gesellschaftlichen Entscheidungen, die hinter jeder technologischen Frage stecken.

In unserem ersten Dokumentarfilm, THE CLEANERS, ist es der doppelte Boden der „sauberen“ Internetplattformen, die Milliarden von Menschen jeden Tag nutzen. Denn die Oberflächenreinlichkeit von Facebook, Instagram & Co. hat einen hohen Preis: die versteckte Ausbeutung tausender junger Arbeiter*innen in Entwicklungsländern und die Eliminierung kritischen Denkens im digitalen Raum.

Die sozialen Medien entwickeln sich in rasanter Geschwindigkeit zur digitalen Öffentlichkeit. Weit über Urlaubsbilder und Katzenvideos hinaus gehend, werden hier politische Konflikte ausgetragen, in Echtzeit Menschenrechtsverletzungen dokumentiert, Kunst und Satire verbreitet und soziale Bewegungen organisiert. Immer mehr Teile des gesellschaftlichen Lebens werden auf die digitalen Plattformen verlegt. Wer oder was hier nicht vorkommt, ist für Milliarden von Menschen schlichtweg nicht existent. Meist erfahren wir Nutzer gar nicht, was uns vorenthalten wird. Oft sind es kritische Stimmen, die durch die undurchsichtigen Löschentscheidungen zum Verstummen gebracht werden. Zugleich missbrauchen Populisten und Terroristen die Plattformen, um neue Anhänger zu rekrutieren und gegen Minderheiten zu hetzen.

VERSTECKTE INDUSTRIE

Zum ersten Mal ist es uns gelungen, jenen Menschen eine Stimme zu geben, die unter diesem Druck über Verbleib oder Verschwinden von Inhalten auf den sozialen Plattformen entscheiden. Aber der Weg dahin war nicht leicht: Facebook, Twitter und Co. beauftragen für die „digitale Säuberung“ Dienstleistungsunternehmen in Manila, die Tausende von Angestellten mit Codewörtern, Einschüchterungen und Repressalien vom Sprechen über ihre Auftraggeber abhalten. Als wir nach monatelanger Recherche endlich mit den jungen Arbeiter*innen in Kontakt kamen, waren wir überrascht, wie stolz viele auf ihre Arbeit als Content Moderators sind. Manche empfinden sogar eine christliche Pflicht, gegen das ‘Böse’ im World Wide Web zu kämpfen und die sozialen Plattformen, wie sie es nennen, “gesund” zu halten. Die Unternehmen missbrauchen das religiöse Bewusstsein der jungen Arbeiter*innen und ihren Willen, sich für die Sünder*innen dieser Welt zu opfern. Falls sie dann aufgrund dieser Arbeit schwer traumatisiert sind, wird das oft als Kollateralschaden akzeptiert. Die Symptome, die viele der Content Moderators zeigen, ähneln denen von Soldaten, die vom Kriegseinsatz zurückkehren. Doch während der militärische Dienst gesellschaftlich hoch angesehen ist, müssen die Content Moderators unsichtbar bleiben. In den meisten Fällen dürfen nicht mal ihre Familien erfahren, was sie jeden Tag zu sehen bekommen. Umso größer war bei vielen von ihnen das Bedürfnis, uns und der Welt zu zeigen, welch ungeheuer wichtige und herausfordernde, belastende Arbeit sie täglich leisten: welche Fotos sie moderieren, welche Videos in ihrer Erinnerung geblieben sind und auch welche Bilder leider nicht mehr verschwinden. Viele von ihnen konnten zum ersten Mal das Unbeschreibliche, das sie täglich auf den Bildschirmen zu sehen bekommen haben, mit uns teilen, verbalisieren und auch loswerden. Psychologinnen der University of the Philippines und eines Berliner Traumazentrums haben uns beim Umgang mit den traumatischen Erfahrungen der Content Moderators beraten.

Was wir mit unserem Film zu enthüllen versuchen, sind aber nicht nur die Konsequenzen, die tausende von Menschen in der Dritten Welt erleiden, um unser Seelenheil zu schützen. Es sind auch die ideologischen Zusammenhänge, etwa zwischen einer Politik des ‘social cleansing’, die weltweit wieder salonfähig wird (der Präsident der Philippinen hat die Wahl mit dem Versprechen gewonnen, die Gesellschaft zu säubern), und dem Auftrag an die Content Moderatoren, die Plattformen “gesund” zu halten. Wie viel Normierung wollen wir in den sozialen Medien, die immer mehr die Rolle einer digitalen Ö ffentlichkeit einnehmen, akzeptieren? Wie viel Platz bleibt für Grauzonen, für Andersheit, für Minderheiten, wenn viele der Content Moderators ihrer Arbeit mit missionarischem Eifer nachgehen und sich zum Ziel setzen, alles Sündhafte zu bekämpfen? Innerhalb weniger Sekunden wird entschieden, ob ein Post online bleiben darf (“ignore”), oder ob er gelöscht wird (“delete”). Im Zweifelsfall entscheidet das Bauchgefühl. Nur ein geringer Prozentsatz der Entscheidungen, die die Content Moderators im Sekundentakt treffen, werden von Vorarbeiter*innen kontrolliert. “Denk nicht zu viel nach” ist eine der ersten Regeln, die ein Content Moderator lernt. So wird offensichtlich, warum Inhalte regelmäßig verschwinden...

SOZIALE SÄUBERUNG

Wir wollen mit unserem Film eine längst überfällige Debatte lostreten: Knapp 15 Jahre nach ihrer Erfindung haben sich soziale Netzwerke zu einem gleichermaßen mächtigen wie gefährlichen Instrument entwickelt, das imstande ist, Gesellschaften zu spalten, Minderheiten auszugrenzen und Genozide zu befördern. Wir wollen vor Augen führen, wohin wir steuern, wenn wir die Verantwortung für die digitale Öffentlichkeit Privatunternehmen überlassen, die Wut und kollektive Empörung zu Geld machen, und deshalb trotz aller Lippenbekenntnisse keinerlei ernsthafte Anstrengung dagegen betreiben.

Wir wollen zeigen, dass es kein Zufall ist, wenn weltweit eine Politik auf dem Vormarsch ist, die einfach beseitigen oder ausgrenzen lässt, wer oder was “stört”, anstatt sich der zugrunde liegenden Probleme anzunehmen. Es ist eine Ideologie, die analog wie digital weltweit an Zustimmung gewinnt und die wir stoppen sollten, bevor es zu spät ist. Die Bequemlichkeit, alle Verantwortung ‘outzusourcen’, können wir uns nicht länger leisten. Die Entscheidung über Demokratie und Meinungsfreiheit darf nicht nur zwei Optionen kennen: ‚Löschen’ oder ‘Ignorieren’.

Producer's note von Christian Beetz

Als wir Mitte Mai 2016 den Themenvorschlag der zwei Debutregisseure Hans Block und Moritz Riesewieck zu THE CLEANERS auf den Tisch bekommen haben, war uns schnell klar, dass dieses Thema aufgrund der Relevanz und der Exklusivität außergewöhnliches Potenzial hat. Wir können hier auf filmische Art eine der großen Gegenwartsfragen für ein breites Publikum erzählen: Wie funktionieren soziale Netzwerke eigentlich? Wer entscheidet darüber, was wir in den sozialen Medien zu sehen bekommen – und was nicht? Und welchen Einfluss haben soziale Netzwerke auf unser gesellschaftliches Zusammenleben?

Wir sind sofort in die aufwändigen Recherchen eingestiegen und haben innerhalb von nur 1,5 Jahren den ersten großen Dokumentarfilm zu sozialen Netzwerken produziert. Ende Januar hat der Film schließlich auf dem Sundance Film Festival eine vieldiskutierte Weltpremiere gefeiert. Seit der Premiere sind die zwei Regisseure mit dem Film praktisch durchgängig auf Festivaltournee. Und die Reaktionen ähneln sich: volle Kinosäle, lange intensive Diskussionen – und schweigende Unternehmen.

Das Thema, das vor zwei Jahren noch hauptsächlich in der Tech-Community diskutiert wurde, ist im Mainstream angekommen. Immer neue Geschichten über den schädlichen Einfluss sozialer Netzwerke auf unsere Gesellschaften tauchen auf: Da gibt es geheime Deals der Konzerne mit autoritären Regierungen; da werden soziale Netzwerke in der Brexit-Abstimmung und im US-Wahlkampf missbraucht; nicht zuletzt sind soziale Netzwerke Plattformen für explodierenden Hass, der sich längst auf die analoge Welt übertragen hat – wie das erschütternde Beispiel der Rohingya-Verfolgung in Myanmar zeigt.

Dabei vermeidet der Film einfache Antworten: Die Digitalisierung hat in wenigen Jahren die Art, wie wir leben, arbeiten und uns informieren komplett verändert. Wir haben völlig neue Möglichkeiten, mit Menschen in Kontakt zu treten. Soziale Netzwerke werden von Minderheiten genutzt, um auf ihre Anliegen aufmerksam zu machen und geben Millionen Menschen die Möglichkeit, öffentlich wahrgenommen zu werden.

Doch diese Entwicklungen haben eine Schattenseite, die viel zu lange ignoriert wurde: Soziale Netzwerke können auf einfache Art und Weise missbraucht werden, so wie beim russischen Einfluss auf die US-Wahlen oder bei der Kampagne vor der Brexit-Abstimmung. In einer der stärksten Szenen des Films erzählt Tristan Harris, ehemaliger Design Ethiker bei Google, von den grundlegenden Mechanismen der Plattformen, die Hass und starke Emotionen verbreiten und verstärken. Pandoras Büchse ist geöffnet und die Frage ist, wie wir sie wieder geschlossen kriegen.

Die Diskussion ist mittlerweile so weit vorangetrieben, dass Facebook-Gründer Mark Zuckerberg vor einigen Wochen zum ersten Mal „einen möglichen schädlichen Einfluss sozialer Netzwerke auf unsere Gesellschaft“ eingeräumt hat – ein vor wenigen Monaten noch undenkbarer Vorgang! THE CLEANERS wird nach der erfolgreichen Festivaltour im Frühsommer in vielen Ländern in die Kinos kommen und anschließend in mehr als 30 Ländern im TV zu sehen sein.

So ist THE CLEANERS ein aktueller und wichtiger Film mit einem hochaktuellen Thema. Aber er ist auch ein Kinofilm, der vor der grandiosen Kulisse der philippinischen Metropole Manila mit starken Bildern von der Arbeit und der Mission der Content Moderatoren erzählt. Und diese Bilder und Geschichten des Films hallen nach und machen das, was gute Kinofilme macht: Sie lassen einen nicht mehr los. Sie wirken.

  • „Einer der wichtigsten Dokumentarfilme des Jahres.“
    arte TRACKS

  • „Verstörend auf so vielen Ebenen.“
    LOS ANGELES TIMES

  • „Als wäre Frankensteins Monster außer Kontrolle geraten.“
    SCREEN INTERNATIONAL

  • „Ein Film Noir Thriller.“
    VARIETY

  • „Ein Film am Puls der Zeit.“
    SCREEN INTERNATIONAL

protagonisten

  • add_circle  

      Nicole Wong
    (ehem. Vice President und Deputy General Counsel bei Google)

    „Ich habe 2004 bei Google angefangen. Für mich war es ein Privileg, den Aufbau der heutigen weltweiten Infrastruktur mitzugestalten. Es ist eine Entscheidung zu sagen, nichts geht ungeprüft online. Oder aber ich lasse das meiste zu und überprüfe nur das, was gemeldet wird. Wenn man Wert auf Meinungsvielfalt legt und eine lebendige, demokratische Plattform schaffen will, dann entscheidet man sich für die freizügigeren Standards.“

  • add_circle  

      ILLMA GORE
    (Künstlerin aus Los Angeles)

    „Im Januar 2016 malte ich ein Bild von Donald Trump mit kleinem Penis, das ich "Make America Great Again" nannte. Ich stellte es auf meine Facebookseite, wo es innerhalb von drei Tagen über 15 Millionen Mal auf allen möglichen sozialen Plattformen geteilt wurde. Meine Facebookseite wurde gesperrt, alle meine Accounts wurden gesperrt. Aber sie waren alles, was ich hatte. Also konnte ich niemandem mitteilen, was passierte. Für Facebook ist bildende Kunst in Ordnung. Man kann darin auch Pornografie sehen, aber als Kunst stellt es eine Repräsentation dar. Es ist nicht real, kein Foto, niemand, der nicht eingewilligt hätte, es ist Fiktion. Es zeigt keine Gewalt, keinen Sexualakt, sondern nur einen nackten Körper - mit Trumps Gesicht.“

  • add_circle  

      ABDULWAHAB TAHHAN
    (Mitarbeiter der NGO Airwars)

    „In Syrien hat so gut wie jeder ein Handy und ist somit auch ein Aktivist. Jeder mutmaßliche Luftangriff wird dokumentiert, dessen Folgen, die Opfer, die Zerstörungen - ob von der Koalition, Russland oder dem syrischen Regime verübt. Sie sammeln die Videos und laden sie auf ihrem Account hoch. Mein Job bei Airwars besteht darin, Informationen zu jedem mutmaßlichen Luftangriff zu sammeln.“

  • add_circle  

      KHALED BARAKEH
    (Syrischer Photograph und Künstler aus Berlin)

    „Ich fühle mich schuldig, ein Überlebender zu sein. Ich hatte diese Fotos auf meiner Facebook-Pinnwand veröffentlicht, bis Facebook sie drei Tage später entfernte. Eine Begründung gab es nicht. Ich habe vergeblich versucht, irgendwie Kontakt aufzunehmen. Um die Fotos dennoch zeigen zu können, beschloss ich, die Oberfläche der Fotos abzuschälen und das Opfer aus dem Foto zu entfernen.“

  • add_circle    

      ED LINGAO
    (Journalist des philippinischen Privatfernsehens)

    „Menschen können sehr emotional sein und lassen sich leicht von Informationsschnipseln mitreißen, die suggerieren, man hätte es verstanden. Das ist der Grund dafür, warum wir einen Trump oder einen Duterte haben, oder eine Mocha Uson. Wir laufen Gefahr, die Demokratie zu verlieren, weil wir bereit sind, sie aufzugeben.“

  • add_circle  

      ANTONIO GARCÍA MARTÍNEZ
    (ehem. Product Manager bei Facebook)

    „Facebook ist ein Technologieunternehmen, geführt von Technikern, denen es ums Produkt geht, um Infrastrukturen, Größe, Nutzererfahrung. Es ist kein Medienunternehmen. Inhalte, deren Erstellung oder Urheberschaft sind ihm egal. Wann immer Facebook damit konfrontiert wird, es trage eine Verantwortung, heißt es: "Wir betreiben nur Mathematik mit diesem Algorithmus. Ihr bekommt, was ihr wollt, und wir löschen fast nichts." Aber die politische Realität nach Trump und nach dem Brexit zeigt, dass diese Antwort nicht mehr ausreicht.“

  • add_circle  

      DAVID KAYE
    (Sonderbeauftragter der Vereinten Nationen für den Schutz der Meinungsfreiheit)

    „Wenn diese Regierungen über gewisse Kanäle die Unternehmen auffordern, eine Meinungsäußerung auf deren Plattform zu blockieren, dann werden die Unternehmen mit der Zeit dazu gedrängt, diese Entscheidungen von sich aus zu treffen. Die Unternehmen entscheiden also darüber, was rechtmäßig ist und was nicht, was gesetzwidrig und was legitim ist. Und dass diese Entscheidungen an Firmen ausgelagert werden, sollte die Menschen in demokratischen Gesellschaften beunruhigen.“

  • add_circle  

      NAY SAN LWIN
    (Blogger und Aktivist aus Myanmar)

    „Für die Menschen in Myanmar ist Facebook das Internet. Die meisten Leute wissen nicht einmal, was eine E-Mail ist. Auf Facebook verbreiten sie falsche Informationen. Postet man etwas gegen die Rohingya, wird man beliebt. Man bekommt eine Menge Likes, Kommentare und Shares. Der Post wird in einer Stunde viele tausend Mal geteilt. Und sie halten es für eine authentische Information.“

protagonisten

  • add_circle  

      Nicole Wong
    (ehem. Vice President und Deputy General Counsel bei Google)

    „Ich habe 2004 bei Google angefangen. Für mich war es ein Privileg, den Aufbau der heutigen weltweiten Infrastruktur mitzugestalten. Es ist eine Entscheidung zu sagen, nichts geht ungeprüft online. Oder aber ich lasse das meiste zu und überprüfe nur das, was gemeldet wird. Wenn man Wert auf Meinungsvielfalt legt und eine lebendige, demokratische Plattform schaffen will, dann entscheidet man sich für die freizügigeren Standards.“

  • add_circle  

      ANTONIO GARCÍA MARTÍNEZ
    (ehem. Product Manager bei Facebook)

    „Facebook ist ein Technologieunternehmen, geführt von Technikern, denen es ums Produkt geht, um Infrastrukturen, Größe, Nutzererfahrung. Es ist kein Medienunternehmen. Inhalte, deren Erstellung oder Urheberschaft sind ihm egal. Wann immer Facebook damit konfrontiert wird, es trage eine Verantwortung, heißt es: "Wir betreiben nur Mathematik mit diesem Algorithmus. Ihr bekommt, was ihr wollt, und wir löschen fast nichts." Aber die politische Realität nach Trump und nach dem Brexit zeigt, dass diese Antwort nicht mehr ausreicht.“

  • add_circle  

      DAVID KAYE
    (Sonderbeauftragter der Vereinten Nationen für den Schutz der Meinungsfreiheit)

    „Wenn diese Regierungen über gewisse Kanäle die Unternehmen auffordern, eine Meinungsäußerung auf deren Plattform zu blockieren, dann werden die Unternehmen mit der Zeit dazu gedrängt, diese Entscheidungen von sich aus zu treffen. Die Unternehmen entscheiden also darüber, was rechtmäßig ist und was nicht, was gesetzwidrig und was legitim ist. Und dass diese Entscheidungen an Firmen ausgelagert werden, sollte die Menschen in demokratischen Gesellschaften beunruhigen.“

  • add_circle  

      NAY SAN LWIN
    (Blogger und Aktivist aus Myanmar)

    „Für die Menschen in Myanmar ist Facebook das Internet. Die meisten Leute wissen nicht einmal, was eine E-Mail ist. Auf Facebook verbreiten sie falsche Informationen. Postet man etwas gegen die Rohingya, wird man beliebt. Man bekommt eine Menge Likes, Kommentare und Shares. Der Post wird in einer Stunde viele tausend Mal geteilt. Und sie halten es für eine authentische Information.“

crew

Regie:

Hans Block,
Moritz Riesewieck

Kamera:

Axel Schneppat,
Max Preiss

Schnitt:

Philipp Gromov,
Hansjörg Weissbrich,
Markus CM Schmidt

Ton:

Karsten Höfer

Musik:

John Gürtler,
Jan Miserre,
Lars Voges

Sounddesign:

Karl Gerhardt,
Laura Matissek

Mischtonmeister:

Jörg Höhne

Technische Leitung Postproduktion:

Xavier Agudo

Herstellungsleitung:

Kathrin Isberner

Filmgeschäftsführung:

Sandra Zentgraf,
Daniela Schöne

Koproduzenten:

Fernando Dias,
Mauricio Dias,
Reinhardt Beetz,
Andrea Romeo

Executive Producer:

Christopher Clements,
Julie Goldman,
Philippa Kowarsky

Producer:

Georg Tschurtschenthaler

Produzent:

Christian Beetz

  • „Ein Film am Puls der Zeit.“
    SCREEN INTERNATIONAL

  • „Verstörend auf so vielen Ebenen.“
    LOS ANGELES TIMES

  • „Als wäre Frankensteins Monster außer Kontrolle geraten.“
    SCREEN INTERNATIONAL

  • „Einer der wichtigsten Dokumentarfilme des Jahres.“
    arte TRACKS

  • „Ein Film Noir Thriller.“
    VARIETY

im kino

kinofinder

Ab der Startwoche erfährst du hier stets aktuell, in welchen Kinos "THE CLEANERS" zu sehen ist

Zum Kinofinder


Filmwecker

Mit dem FILMWECKER-Dienst von kino-zeit.de "THE CLEANERS" nicht verpassen. Einfach die gewünschte Postleitzahl eingeben und du erhältst einmalig eine Mail, sobald "THE CLEANERS" in deiner Gegend anläuft.

Zum Filmwecker

Buch

Digitale Drecksarbeit

Wie uns Facebook & Co. von dem Bösen erlösen von Moritz Riesewieck

Hunderttausende Fotos und Videos werden täglich im Internet hochgeladen. Darunter massenhaft verstörende Inhalte, voller Gewalt und Pornografie. Wie ist es möglich, dass wir als normale User kaum etwas davon sehen? Weitere Infos unter: www.dtv.de/digitaledrecksarbeit

In allen Buchhandlungen oder unter www.dtv.de

Schule

Das umfassende schulische Begleitmaterial steht Ihnen hier zum kostenfreien Download zur Verfügung.

Download Schulmaterial

Schulvorstellungen

Bei Interesse an Schulvorführungen wenden Sie sich gerne an Ihr Kino vor Ort und vereinbaren einen Termin oder wenden sich gerne direkt an uns:

farbfilm verleih GmbH
Boxhagener Str. 106
10245 Berlin

Telefon: 030-29772929
Fax: 030-29772977
Mail: dispo@farbfilm-verleih.de


  • synopsis

    THE CLEANERS enthüllt eine gigantische Schattenindustrie digitaler Zensur in Manila, dem weltweit größten Outsourcing-Standort für Content Moderation. Dort löschen zehntausende Menschen in zehn Stunden Schichten im Auftrag der großen Silicon Valley-Konzerne belastende Fotos und Videos von Facebook, YouTube, Twitter & Co. Komplexe Entscheidungen über Zensur oder Sichtbarkeit von Inhalten werden so an die „Content Moderatoren“ outgesourct. Die Kriterien und Vorgaben, nach denen sie agieren, ist eines der am besten geschützten Geheimnisse des Silicon Valleys. Die Grausamkeit und die kontinuierliche Belastung dieser traumatisierenden Arbeit verändert die Wahrnehmung und Persönlichkeit der Content Moderatoren. Doch damit nicht genug. Ihnen ist es verboten, über ihre Erfahrungen zu sprechen.

    Parallel zu den Geschichten von fünf Content Moderatoren erzählt der Film von den globalen Auswirkungen der Onlinezensur und zeigt wie Fake News und Hass durch die Sozialen Netzwerke verbreitet und verstärkt werden. Die utopische Vision einer vernetzten globalen Internetgemeinde wird endgültig zum Alptraum, wenn hochrangige ehemalige Mitarbeiter der Sozialen Netzwerke Einblicke in die Funktionsweisen und Mechanismen der Plattformen geben. Durch gezielte Verstärkung und Vervielfältigung jeglicher Art von Emotionen, werden die Plattformen zu gefährlichen Brandbeschleunigern, die soziale, politische und gesellschaftliche Konflikte anheizen und die drohende Spaltung unserer Gesellschaft vorantreiben.

  • Trailer

  • Galerie

    Space
    Space
    Space
    Space
    Space
    Space
    Space
    Space
    Space
  • statements

    Director's note von Hans Block & Moritz Riesewick

    YOU CANNOT SEE WHAT YOU CANNOT SEE

    Unter dem Label Laokoon realisieren wir, Hans Block und Moritz Riesewieck, zusammen mit Künstler*innen und Wissenschaftler*innen unterschiedlicher Disziplinen Theaterinszenierungen, Hörspiele, Dokumentarfilme und Essays. LAOKOON, von griech. laós [Krieger] und koeo [schauen], ist der Name eines trojanischen Priesters. Er sieht als erster den Betrug und die Gefahr, die das hölzerne Pferd in sich verbirgt.

    In unseren Arbeiten machen wir uns dieses Sehen zu eigen und enthüllen die trojanischen Pferde unserer Zeit - etwa den vermeintlichen Fortschritt und zivilisatorischen Gewinn, den die rasante Digitalisierung verspricht. Wir schauen dem geschenkten Gaul ins Maul: erweitern den Blick für die Ambivalenzen, die Ideologien und gesellschaftlichen Entscheidungen, die hinter jeder technologischen Frage stecken.

    In unserem ersten Dokumentarfilm, THE CLEANERS, ist es der doppelte Boden der „sauberen“ Internetplattformen, die Milliarden von Menschen jeden Tag nutzen. Denn die Oberflächenreinlichkeit von Facebook, Instagram & Co. hat einen hohen Preis: die versteckte Ausbeutung tausender junger Arbeiter*innen in Entwicklungsländern und die Eliminierung kritischen Denkens im digitalen Raum.

    Die sozialen Medien entwickeln sich in rasanter Geschwindigkeit zur digitalen Öffentlichkeit. Weit über Urlaubsbilder und Katzenvideos hinaus gehend, werden hier politische Konflikte ausgetragen, in Echtzeit Menschenrechtsverletzungen dokumentiert, Kunst und Satire verbreitet und soziale Bewegungen organisiert. Immer mehr Teile des gesellschaftlichen Lebens werden auf die digitalen Plattformen verlegt. Wer oder was hier nicht vorkommt, ist für Milliarden von Menschen schlichtweg nicht existent. Meist erfahren wir Nutzer gar nicht, was uns vorenthalten wird. Oft sind es kritische Stimmen, die durch die undurchsichtigen Löschentscheidungen zum Verstummen gebracht werden. Zugleich missbrauchen Populisten und Terroristen die Plattformen, um neue Anhänger zu rekrutieren und gegen Minderheiten zu hetzen.

    VERSTECKTE INDUSTRIE

    Zum ersten Mal ist es uns gelungen, jenen Menschen eine Stimme zu geben, die unter diesem Druck über Verbleib oder Verschwinden von Inhalten auf den sozialen Plattformen entscheiden. Aber der Weg dahin war nicht leicht: Facebook, Twitter und Co. beauftragen für die „digitale Säuberung“ Dienstleistungsunternehmen in Manila, die Tausende von Angestellten mit Codewörtern, Einschüchterungen und Repressalien vom Sprechen über ihre Auftraggeber abhalten. Als wir nach monatelanger Recherche endlich mit den jungen Arbeiter*innen in Kontakt kamen, waren wir überrascht, wie stolz viele auf ihre Arbeit als Content Moderators sind. Manche empfinden sogar eine christliche Pflicht, gegen das ‘Böse’ im World Wide Web zu kämpfen und die sozialen Plattformen, wie sie es nennen, “gesund” zu halten. Die Unternehmen missbrauchen das religiöse Bewusstsein der jungen Arbeiter*innen und ihren Willen, sich für die Sünder*innen dieser Welt zu opfern. Falls sie dann aufgrund dieser Arbeit schwer traumatisiert sind, wird das oft als Kollateralschaden akzeptiert. Die Symptome, die viele der Content Moderators zeigen, ähneln denen von Soldaten, die vom Kriegseinsatz zurückkehren. Doch während der militärische Dienst gesellschaftlich hoch angesehen ist, müssen die Content Moderators unsichtbar bleiben. In den meisten Fällen dürfen nicht mal ihre Familien erfahren, was sie jeden Tag zu sehen bekommen. Umso größer war bei vielen von ihnen das Bedürfnis, uns und der Welt zu zeigen, welch ungeheuer wichtige und herausfordernde, belastende Arbeit sie täglich leisten: welche Fotos sie moderieren, welche Videos in ihrer Erinnerung geblieben sind und auch welche Bilder leider nicht mehr verschwinden. Viele von ihnen konnten zum ersten Mal das Unbeschreibliche, das sie täglich auf den Bildschirmen zu sehen bekommen haben, mit uns teilen, verbalisieren und auch loswerden. Psychologinnen der University of the Philippines und eines Berliner Traumazentrums haben uns beim Umgang mit den traumatischen Erfahrungen der Content Moderators beraten.

    Was wir mit unserem Film zu enthüllen versuchen, sind aber nicht nur die Konsequenzen, die tausende von Menschen in der Dritten Welt erleiden, um unser Seelenheil zu schützen. Es sind auch die ideologischen Zusammenhänge, etwa zwischen einer Politik des ‘social cleansing’, die weltweit wieder salonfähig wird (der Präsident der Philippinen hat die Wahl mit dem Versprechen gewonnen, die Gesellschaft zu säubern), und dem Auftrag an die Content Moderatoren, die Plattformen “gesund” zu halten. Wie viel Normierung wollen wir in den sozialen Medien, die immer mehr die Rolle einer digitalen Ö ffentlichkeit einnehmen, akzeptieren? Wie viel Platz bleibt für Grauzonen, für Andersheit, für Minderheiten, wenn viele der Content Moderators ihrer Arbeit mit missionarischem Eifer nachgehen und sich zum Ziel setzen, alles Sündhafte zu bekämpfen? Innerhalb weniger Sekunden wird entschieden, ob ein Post online bleiben darf (“ignore”), oder ob er gelöscht wird (“delete”). Im Zweifelsfall entscheidet das Bauchgefühl. Nur ein geringer Prozentsatz der Entscheidungen, die die Content Moderators im Sekundentakt treffen, werden von Vorarbeiter*innen kontrolliert. “Denk nicht zu viel nach” ist eine der ersten Regeln, die ein Content Moderator lernt. So wird offensichtlich, warum Inhalte regelmäßig verschwinden...

    SOZIALE SÄUBERUNG

    Wir wollen mit unserem Film eine längst überfällige Debatte lostreten: Knapp 15 Jahre nach ihrer Erfindung haben sich soziale Netzwerke zu einem gleichermaßen mächtigen wie gefährlichen Instrument entwickelt, das imstande ist, Gesellschaften zu spalten, Minderheiten auszugrenzen und Genozide zu befördern. Wir wollen vor Augen führen, wohin wir steuern, wenn wir die Verantwortung für die digitale Öffentlichkeit Privatunternehmen überlassen, die Wut und kollektive Empörung zu Geld machen, und deshalb trotz aller Lippenbekenntnisse keinerlei ernsthafte Anstrengung dagegen betreiben.

    Wir wollen zeigen, dass es kein Zufall ist, wenn weltweit eine Politik auf dem Vormarsch ist, die einfach beseitigen oder ausgrenzen lässt, wer oder was “stört”, anstatt sich der zugrunde liegenden Probleme anzunehmen. Es ist eine Ideologie, die analog wie digital weltweit an Zustimmung gewinnt und die wir stoppen sollten, bevor es zu spät ist. Die Bequemlichkeit, alle Verantwortung ‘outzusourcen’, können wir uns nicht länger leisten. Die Entscheidung über Demokratie und Meinungsfreiheit darf nicht nur zwei Optionen kennen: ‚Löschen’ oder ‘Ignorieren’.

    Producer's note von Christian Beetz

    Als wir Mitte Mai 2016 den Themenvorschlag der zwei Debutregisseure Hans Block und Moritz Riesewieck zu THE CLEANERS auf den Tisch bekommen haben, war uns schnell klar, dass dieses Thema aufgrund der Relevanz und der Exklusivität außergewöhnliches Potenzial hat. Wir können hier auf filmische Art eine der großen Gegenwartsfragen für ein breites Publikum erzählen: Wie funktionieren soziale Netzwerke eigentlich? Wer entscheidet darüber, was wir in den sozialen Medien zu sehen bekommen – und was nicht? Und welchen Einfluss haben soziale Netzwerke auf unser gesellschaftliches Zusammenleben?

    Wir sind sofort in die aufwändigen Recherchen eingestiegen und haben innerhalb von nur 1,5 Jahren den ersten großen Dokumentarfilm zu sozialen Netzwerken produziert. Ende Januar hat der Film schließlich auf dem Sundance Film Festival eine vieldiskutierte Weltpremiere gefeiert. Seit der Premiere sind die zwei Regisseure mit dem Film praktisch durchgängig auf Festivaltournee. Und die Reaktionen ähneln sich: volle Kinosäle, lange intensive Diskussionen – und schweigende Unternehmen.

    Das Thema, das vor zwei Jahren noch hauptsächlich in der Tech-Community diskutiert wurde, ist im Mainstream angekommen. Immer neue Geschichten über den schädlichen Einfluss sozialer Netzwerke auf unsere Gesellschaften tauchen auf: Da gibt es geheime Deals der Konzerne mit autoritären Regierungen; da werden soziale Netzwerke in der Brexit-Abstimmung und im US-Wahlkampf missbraucht; nicht zuletzt sind soziale Netzwerke Plattformen für explodierenden Hass, der sich längst auf die analoge Welt übertragen hat – wie das erschütternde Beispiel der Rohingya-Verfolgung in Myanmar zeigt.

    Dabei vermeidet der Film einfache Antworten: Die Digitalisierung hat in wenigen Jahren die Art, wie wir leben, arbeiten und uns informieren komplett verändert. Wir haben völlig neue Möglichkeiten, mit Menschen in Kontakt zu treten. Soziale Netzwerke werden von Minderheiten genutzt, um auf ihre Anliegen aufmerksam zu machen und geben Millionen Menschen die Möglichkeit, öffentlich wahrgenommen zu werden.

    Doch diese Entwicklungen haben eine Schattenseite, die viel zu lange ignoriert wurde: Soziale Netzwerke können auf einfache Art und Weise missbraucht werden, so wie beim russischen Einfluss auf die US-Wahlen oder bei der Kampagne vor der Brexit-Abstimmung. In einer der stärksten Szenen des Films erzählt Tristan Harris, ehemaliger Design Ethiker bei Google, von den grundlegenden Mechanismen der Plattformen, die Hass und starke Emotionen verbreiten und verstärken. Pandoras Büchse ist geöffnet und die Frage ist, wie wir sie wieder geschlossen kriegen.

    Die Diskussion ist mittlerweile so weit vorangetrieben, dass Facebook-Gründer Mark Zuckerberg vor einigen Wochen zum ersten Mal „einen möglichen schädlichen Einfluss sozialer Netzwerke auf unsere Gesellschaft“ eingeräumt hat – ein vor wenigen Monaten noch undenkbarer Vorgang! THE CLEANERS wird nach der erfolgreichen Festivaltour im Frühsommer in vielen Ländern in die Kinos kommen und anschließend in mehr als 30 Ländern im TV zu sehen sein.

    So ist THE CLEANERS ein aktueller und wichtiger Film mit einem hochaktuellen Thema. Aber er ist auch ein Kinofilm, der vor der grandiosen Kulisse der philippinischen Metropole Manila mit starken Bildern von der Arbeit und der Mission der Content Moderatoren erzählt. Und diese Bilder und Geschichten des Films hallen nach und machen das, was gute Kinofilme macht: Sie lassen einen nicht mehr los. Sie wirken.

  • protagonisten

    • add_circle  

        Nicole Wong
      (ehem. Vice President und Deputy General Counsel bei Google)

      „Ich habe 2004 bei Google angefangen. Für mich war es ein Privileg, den Aufbau der heutigen weltweiten Infrastruktur mitzugestalten. Es ist eine Entscheidung zu sagen, nichts geht ungeprüft online. Oder aber ich lasse das meiste zu und überprüfe nur das, was gemeldet wird. Wenn man Wert auf Meinungsvielfalt legt und eine lebendige, demokratische Plattform schaffen will, dann entscheidet man sich für die freizügigeren Standards.“

    • add_circle  

        ANTONIO GARCÍA MARTÍNEZ
      (ehem. Product Manager bei Facebook)

      „Facebook ist ein Technologieunternehmen, geführt von Technikern, denen es ums Produkt geht, um Infrastrukturen, Größe, Nutzererfahrung. Es ist kein Medienunternehmen. Inhalte, deren Erstellung oder Urheberschaft sind ihm egal. Wann immer Facebook damit konfrontiert wird, es trage eine Verantwortung, heißt es: "Wir betreiben nur Mathematik mit diesem Algorithmus. Ihr bekommt, was ihr wollt, und wir löschen fast nichts." Aber die politische Realität nach Trump und nach dem Brexit zeigt, dass diese Antwort nicht mehr ausreicht.“

    • add_circle  

        DAVID KAYE
      (Sonderbeauftragter der Vereinten Nationen für den Schutz der Meinungsfreiheit)

      „Wenn diese Regierungen über gewisse Kanäle die Unternehmen auffordern, eine Meinungsäußerung auf deren Plattform zu blockieren, dann werden die Unternehmen mit der Zeit dazu gedrängt, diese Entscheidungen von sich aus zu treffen. Die Unternehmen entscheiden also darüber, was rechtmäßig ist und was nicht, was gesetzwidrig und was legitim ist. Und dass diese Entscheidungen an Firmen ausgelagert werden, sollte die Menschen in demokratischen Gesellschaften beunruhigen.“

    • add_circle  

        NAY SAN LWIN
      (Blogger und Aktivist aus Myanmar)

      „Für die Menschen in Myanmar ist Facebook das Internet. Die meisten Leute wissen nicht einmal, was eine E-Mail ist. Auf Facebook verbreiten sie falsche Informationen. Postet man etwas gegen die Rohingya, wird man beliebt. Man bekommt eine Menge Likes, Kommentare und Shares. Der Post wird in einer Stunde viele tausend Mal geteilt. Und sie halten es für eine authentische Information.“

  • Crew

    Regie:

    Hans Block,
    Moritz Riesewieck

    Kamera:

    Axel Schneppat,
    Max Preiss

    Schnitt:

    Philipp Gromov,
    Hansjörg Weissbrich,
    Markus CM Schmidt

    Ton:

    Karsten Höfer

    Musik:

    John Gürtler,
    Jan Miserre,
    Lars Voges

    Sounddesign:

    Karl Gerhardt,
    Laura Matissek

    Mischtonmeister:

    Jörg Höhne

    Technische Leitung Postproduktion:

    Xavier Agudo

    Herstellungsleitung:

    Kathrin Isberner

    Filmgeschäftsführung:

    Sandra Zentgraf,
    Daniela Schöne

    Koproduzenten:

    Fernando Dias,
    Mauricio Dias,
    Reinhardt Beetz,
    Andrea Romeo

    Executive Producer:

    Christopher Clements,
    Julie Goldman,
    Philippa Kowarsky

    Producer:

    Georg Tschurtschenthaler

    Produzent:

    Christian Beetz

  • im Kino

    kinofinder

    Ab der Startwoche erfährst du hier stets aktuell, in welchen Kinos "THE CLEANERS" zu sehen ist

    Zum Kinofinder


    Filmwecker

    Mit dem FILMWECKER-Dienst von kino-zeit.de "THE CLEANERS" nicht verpassen. Einfach die gewünschte Postleitzahl eingeben und du erhältst einmalig eine Mail, sobald "THE CLEANERS" in deiner Gegend anläuft.

    Zum Filmwecker

  • Buch


    Digitale Drecksarbeit

    Wie uns Facebook & Co. von dem Bösen erlösen von Moritz Riesewieck

    Hunderttausende Fotos und Videos werden täglich im Internet hochgeladen. Darunter massenhaft verstörende Inhalte, voller Gewalt und Pornografie. Wie ist es möglich, dass wir als normale User kaum etwas davon sehen? Weitere Infos unter: www.dtv.de/digitaledrecksarbeit

    In allen Buchhandlungen oder unter www.dtv.de

  • Schule

    Das umfassende schulische Begleitmaterial steht Ihnen hier zum kostenfreien Download zur Verfügung.

    Download Schulmaterial

    Schulvorstellungen

    Bei Interesse an Schulvorführungen wenden Sie sich gerne an Ihr Kino vor Ort und vereinbaren einen Termin oder wenden sich gerne direkt an uns:

    farbfilm verleih GmbH
    Boxhagener Str. 106
    10245 Berlin

    Telefon: 030-29772929
    Fax: 030-29772977
    Mail: dispo@farbfilm-verleih.de


gebrueder beetz filmproduktion präsentiert

regie Hans Block & Moritz Riesewieck     kamera Axel Schneppat, Max Preiss     schnitt Philipp Gromov, Hansjörg Weißbrich, Markus CM Schmidt     ton Karsten Höfer     Musik John Gürtler, Jan Miserre, Lars Voges     technische leitung postproduktion Xavier Agudo     herstellungsleitung Kathrin Isberner

Filmgeschäftsführung Sandra Zentgraf, Daniela Schöne     Koproduzenten Fernando Dias, Mauricio Dias, Reinhardt Beetz, Andrea Romeo     Executive Producer Christopher Clements, Julie Goldman, Philippa Kowarsky     Producer Georg Tschurtschenthaler     Produzent Christian Beetz

eine gebrueder beetz filmproduktion     In koproduktion mit Grifa Filmes und WDR, NDR, rbb, VPRO, Play TV, I Wonder Pictures     Unterstützt von Creative Europe - MEDIA Programme of the European Union, Ancine, FSA, BRDE, Film- und Medienstiftung NRW, Blue Ice Docs

In Zusammenarbeit mit ARTE, NHK, BBC, SVT, RTS, RTBF, ORF, DR, RSI, Yes Docu, YLE, VGTV, RTV, LRT, Pro Publica     im verleih von farbfilm