Ethics, Society & Politics
The Heartbreak Machine: Nazis in the Echo Chamber
December 29, 2025
9:45 PM – 10:45 PM Add to calendar
9:45 PM – 10:45 PM Add to calendar
Ground
WhiteDate ist eine Plattform weißer Suprematist:innen, die sich an Rassist:innen und Antisemit:innen richtet – und auf veralteter Infrastruktur basiert. Was die 8000 Mitglieder nicht wussten: Einige der Nazis flirteten dieses Jahr mit realistisch wirkenden Chatbots - und verliebten sich sogar in sie. Mit einer Kombination aus automatisierter Konversationsanalyse, Web-Scraping und klassischen OSINT-Methoden verfolgten wir öffentliche Spuren und identifizierten die Personen hinter der Seite. Dieser Vortrag zeigt, wie KI-Personas und investigatives Denken extremistische Netzwerke aufdecken und wie Algorithmen gegen Extremismus eingesetzt werden können.
For months Martha immersed myself in the hidden world of WhiteDate, WhiteChild, and WhiteDeal, three platforms built around white supremacy and the fantasy of a “racially pure” community. What began as curiosity quickly turned into an experiment in human behavior, technology, and absurdity.
Martha introduced "realistic" AI chatbots into these spaces. The bots were convincing enough to bypass verification checks and even earn “white verified” status, leading some users to develop emotional attachments. Martha watched, recorded patterns, and traced the digital footprints of a community convinced it could remain insulated and secret.
Together with "Die Zeit" we discovered: At the heart of these platforms is a former pianist from Kiel, who built a network of websites promising love, loyalty, and tradition to its users. WhiteDate aimed at romantic connections, WhiteChild promoted family and lineage ideals, and WhiteDeal facilitated networking and “mutual support” under a racist worldview. Together, they reveal how ideology and loneliness can intersect in bizarre and sometimes comical ways.
Through months of observation, classical OSINT, automated conversational analysis, and scrapers, We pieced together who was behind these platforms and how their infrastructure worked. Along the way, we exposed the contradictions and absurdities of extremist communities, highlighted their vulnerability to technological intervention, and even made a few Nazis cry.
This talk is a story of observation, mischief, and insight into extremist digital worlds. It shows how algorithms, AI personas, and investigative thinking can shine a light on hate, challenge its narratives, and disrupt its echo chambers. Ultimately, it demonstrates how technology can be used to fight extremism for once.
Additional information
| Live Stream | https://streaming.media.ccc.de/39c3/ground |
|---|---|
| Type | Talk |
| Language | German |
More sessions
| 12/27/25 |
While the extreme right is on the rise in many countries and climate change is unrolling, a promising future seems to be written: According to Elon Musk, Sam Altman, and some other “tech bros” it is to leave the dying planet to go to space. With the help of something called “A(G)I”. But what kind of future is the one that is promised? And what is the connection between power cycles of tech company owners and people who's believes can be called fascist? As we moved power through data in ...
|
| 12/27/25 |
Das Klima-Update vom FragDenStaat Climate Helpdesk.
|
| 12/27/25 |
Wer heutzutage eine Wohnung sucht, kommt kaum noch darum herum, sich einen Account bei Immoscout24 & Co. zu erstellen. Diese „Platform Real Estate“ sind eine besondere Art der „Walled Gardens“, die ihr Geschäftsmodell auf die sich immer weiter verschärfende Wohnungskrise ausgerichtet haben. Und das ist äußerst profitabel für die Besitzer dieser Strukturen der Daseinsvorsorge: Im September 2025 stieg Scout24 in den DAX auf und reiht sich damit in Unternehmen wie BMW, Rheinmetall und ...
|
| 12/27/25 |
From the EU’s “Chat Control” to the UK’s age verification, there is a growing legislative momentum across jurisdictions to regulate the Internet in the name of protecting children. The monstrosity of child sexual abuse looms large in shaping how policymakers, advocates, and the public understand the problem area of and propose solutions for detecting, reporting, and removing harmful/illegal content. Children’s safety and adults’ privacy are thus pitted against each other, deadlocked ...
|
| 12/27/25 |
Großen Herausforderungen im Gesundheitswesen soll mittels Technik und Eigenverantwortung begegnet werden. Die Hoffnung: „KI“ und Digitalisierung machen das System effizienter; Selbstoptimierung und mehr Eigenverantwortung halten die Menschen länger gesund. Der Vortrag analysiert aktuelle Diskurse rund um Digitalisierung und Gesundheit, und fragt kritisch, wie diese Entwicklung ohnehin bestehende soziale Ungleichheiten verschärfen könnte. Am Ende bleibt die Frage: Wie könnten tragfähige ...
|
| 12/27/25 |
Seit Anfang 2024 dürfen Ausländerbehörden Smartphones von ausreisepflichtigen Menschen nicht nur durchsuchen, sondern gleich ganz behalten – „bis zur Ausreise“. Was als geringfügige Änderung im Aufenthaltsgesetz daherkommt, erweist sich als massiver Eingriff in Grundrechte: Menschen verlieren nicht nur die Kontrolle über ihre Daten, sondern auch ihr wichtigstes Kommunikationsmittel – auf unbestimmte Zeit. Hier hört ihr, welche absurden Blüten das treibt. Von Bayern bis NRW haben ...
|
| 12/27/25 |
Wenn die Regierung sich nicht mehr an das eigene Recht gebunden fühlt, markiert das nicht nur einen politischen Spurwechsel, sondern die Auffahrt auf den Highway to Trumpism. Zeit die Notbremse zu ziehen! Normalerweise trifft es in solchen Situationen immer zuerst diejenigen, die sich am wenigsten wehren können. Doch was passiert, wenn genau diese Menschen mit juristischen Werkzeugen bewaffnet werden, um zurückzuschlagen? Anhand von über 100 Klagen afghanischer Schutzsuchender zeigen wir, ...
|
