Technologie

Wie Instagram Essstörungen befeuert - Facebook Files in der Praxis

Stage 6
Svea Eckert, Lena Kampf
Körper in denen die Rippen zählbar sind, Arme so dünn, dass ein Daumen und Zeigefinger sie umfassen können. Abseits der Glitzerwelt von Instagram gibt es eine dunkle Seite, in der Anorexie und Bulemie gefeiert werden. Obwohl der Konzern vorgibt, dagegen vorzugehen, zeigt ein Experiment, wie der Algorithmus Betroffene tiefer hinein ziehen kann.
Es war nur ein kleines internes Experiment, das eine Facebook Angestellte eines Tages unternahm. Sie legte einen Instagram-Account an, postete wenige extrem dünne Fotos und folgte einschlägigen User:innen und Hashtags. Nach nur wenigen Tagen, ihr Fazit: Der Instagram Algorithmus schlägt (genau, wie er es sonst auch tut), weitere ähnliche Accounts vor. Sie fand eine toxische Community in der extrem Dünnsein angefeuert, gefeiert und propagiert wird. Die "Facebook Files" belegen, wie sie das Management warnte und wie am Ende nichts geschah. Denn NDR, WDR und SZ-Journalist:innen konnten mit genau diesem Experiment Monate später mit zahlreichen Testaccounts diesen Mechanismus erneut belegen.  Dieser Talk gibt Insights in die "Facebook Files", die wir seit Monaten auswerten und verbindet die Dokumente mit eigenen Experimenten und Recherchen. Über Wochen sind wir in die "Mager-Community" von Instagram eingetaucht, haben mit zahlreichen Betroffenen gesprochen, die zwischen Hilflosigkeit und Verzweiflung stehen. So erzählt uns eine Betroffene, wie ihr die Community hilft, aber sie auch tiefer in die Krankheit hineinzieht. Gleichzeitig zum Algorithmus, der immer gleiche Accounts vorschlägt, tummeln sich in dieser Community auch selbsternannte "Mager-Coaches", die versuchen Nacktfotos und Videos von den jungen Frauen zu bekommen - im Gegenzug geben sie vor beim Abnehmen zu helfen. "Kim", die selbst an Depressionen leidet und an Anorexie Nevrvosa erkrankt ist, berichtete uns, wie sehr sie von einem Coach über Wochen manipuliert wurde, ins Extreme zu hungern aber auch sich selbst zu verletzten. Als sie aussteigen wollte, drohte er ihre Nacktfotos und Videos an ihre Instagram-Freund:innen zu schicken. Facebook (heute Meta) löscht(e) zahlreicher dieser Accounts und trotzdem scheint der Milliardenkonzern hilflos zu sein. Die durch die Journalist:innen gemeldet Accounts blieben bis zur Meldung an die Pressestelle online. "Wachstum steht vor dem Wohlergehen der Nutzer:innen", so berichtet es die Whistleblowerin Frances Haugen, die sich mit mehr 1.200 Dokumenten sich an den US-Senat und den Kongress wandte. Aktuell wird der "Digital Services Act" in Europa diskutiert, mit ihm soll Big Tech, darunter auch Facebook reguliert werden. Kann das Vorhaben Erfolg haben? Dieser Talk gibt einen Deepdive ins Rabbit Hole.  

Additional information

Type Vortrag
Language German

More sessions

Pending
Technologie
Jeffrey van der Geest, Julian Moreno Motta, Casper Westhausen
Location: Arena a.l.p.h.a is an interactive installation wherein an AI captures the visitors appearance, sending their data to the natural language model GPT-3 to generate a personalised poem. This work highlights the potential of using AI to subvert the dry nature of data collection as a means to create playful and interactive art.
Pending
Technologie
Lisa Marleen Mantel & Laura Wagner
Location: Gather Town In this experimental short film, the AI protagonist utilizes the human body as a sensing device to gain an embodied understanding of its environment.
Pending
Technologie
Darija Medic
Location: Gather Town Excavations: Governance Archaeology for the Future of the Internet is a collective research project and interdisciplinary discursive online exhibition exploring historical governance practices to inform the future of online communities and Internet co-creation, developed through a cohort of 10 international art projects.
Pending
Technologie
Elena Falomo
Home Base
Location: rp Home Base Fight for the Net is a card game that wants to spark a conversation around the strategies to counteract the spread of misinformation and disinformation online. We invite the festival's public to join us to play the game and discuss the current state of public discourse online. Let’s fight for the net!
Pending
Technologie
Florian Greth, Thomas Kühn, Nora Hieronymus, Mareike Baumheuer, Rosanna Oehme, Johannes May, Paul Henri Baule
Location:Festsaal Kreuzberg Aus Elektroschrott und altem Spielzeug basteln wir mit euch ungewöhnliche Schnittstellen zwischen Mensch und Maschine. Wir erschaffen Gamecontroller, die die Welt noch nicht gesehen hat.Am Mitmach-Stand der Kreativwerkstatt Tinkertank dürft ihr erfinden, experimentieren und verrückten Ideen Wirklichkeit werden lassen.
Pending
Technologie
Ariane Krause, Corinna Schröder, Maxie Klein, Wiebke Schußmann, Lea Drimus, Jolanthe Stelzer, Sabrina Irma Rau Finizio GmbH, Gerhild Bornemann, Carla Heieck - Deutsches Zentrum für Luft- und Raumfahrt e.V. (DLR), Ilse Holbeck, Diana Heiser, Amelie Türling, Tanja Wente, Carsten Beneker, Frederik Gottemeyer, Georgia Chaniotaki , Mareike Mauerer, Thorsten Rocksch, Hanna Paulke
Location: Arena & Outdoor Würdest du Tomaten essen, die mit Nährstoffen, recycelt aus menschlichem Urin, gedüngt wurden? Was unser tägliches Geschäft mit einer ziemlich guten Idee zu tun hat kannst du auf dem Loo:topia KloMarkt erfahren.
Pending
Technologie
Salih Mahmod
Location: Makerspace Products from Dhay antiques Startup project in Mosul developed in Mosul Space programs will be presented, bells produced to UNSCO for revive Mosul spirt project that aim to rebuild heritage sites in city and small mockett for small part of the old city to be used for studying the city.