Art & Beauty

Zapfenstreich

Über Algorithmen im Krieg, aber was hat die Kunst damit zutun?
Saal Zuse
Simon Weckert
Die rapide Entwicklung autonomer Waffensysteme wirft drängende ethische und rechtliche Fragen auf. Ihre Anwendung hat kann weitreichende Auswirkungen auf militärische und zivile Bereiche haben. Der Vortrag beleuchtet die Technologien hinter dieser tödlichen Autonomie und veranschaulicht, wie die Kunstfreiheit von der Industrie angeignet wird, um Überwachungs und Militärtechnologie voranzutreiben. Welche Verwantwortung haben wir als Künstler\*innen, wenn wir digitale Werkzeuge verwenden ? Müssen wir stärker denn je unser Werkzeug und die Partner hinterfragen, denen wir helfen könnten, ihre tötlichen Technologien voranzutreiben ?
Mit der raschen Entwicklung und Verbreitung von Roboterwaffen fangen Maschinen an, den Platz des Menschen auf dem Schlachtfeld einzunehmen. Einige Expertinnen aus Militär und Robotik schätzen, dass „Killerroboter" – vollständig autonome Waffen, die ganz ohne menschliches Eingreifen Ziele selektieren und angreifen können – innerhalb von 10 bis 15 Jahren entwickelt werden könnten. Aktuelle Beurteilungen des Militärs sagen aus, dass der Mensch immer eine gewisse Aufsicht über die Entscheidungen hat, tödliche Gewalt anzuwenden, jedoch lassen diese Aussagen oft die Möglichkeit offen, dass autonome Systeme eines Tages selbst die Fähigkeit haben, solche Entscheidungen aus eigener Kraft zu treffen, und somit der Mensch aus dem Entscheidungsprozess herausgenommen wird. In diesem Zusammenhang ist es wahrscheinlich, dass autonome Systeme in naher Zukunft auch in Drohnen und Systemen zum Einsatz kommen, die auf hoher See, an Land und im Weltall autonom operieren können. Und während die Drohnentechnologie als solche keine völkerrechtlichen Probleme bereitet, ist es im Falle von autonomen Waffensystemen, bei denen Entscheidungen über Leben und Tod an Maschinen delegiert werden sollen, die Technik selbst, die grundlegende ethische und (völker-)rechtliche Fragen aufwirft. Was sind die Technologien, die zur tödlichen Autonomie bei Waffensystemen beitragen oder beitragen könnten? In wieweit kann man sie als künstlich intelligente Systeme bezeichnen? Mit diesen Fragen möchte sich der Vortrag beschäftigen und auch darauf eingehen, welche Gefahren damit verbunden sind, wenn der Mensch aus dem Entscheidungsprozess über Leben und Tod herausgenommen wird. Es soll veranschaulicht werden, wie es von militärischer Seite zu dieser Entwicklung kommen konnte und welche Auswirkungen dies auf den zivilen Sektor hat. Wie sich zeigen wird, ist die Entwicklung hin zu autonomen Systemen eingebettet in einen historischen Verlauf von Kontrolle, Automatisierung und Standardisierung, welche den Höhepunkt sämtlicher militärischer Entwicklungen und Wünsche darstellt. Mit hoher Wahrscheinlichkeit werden Standards im militärischen Bereich auch in den zivilen Sektor übernommen und somit sehr schnell Fakten geschaffen. Laufen wir somit Gefahr, die Definition davon, was Autonomie in Computersystemen bedeutet, an einen kleinen Kreis von Expertinnen und Verbänden zu übergeben? Es ist an der Zeit, eine breitere Öffentlichkeit an der Diskussion der potenziellen Vorteile und Nachteile vollständig autonomer Systeme zu beteiligen und einen öffentlichen Diskurs anzustoßen, inwieweit die Zivilbevölkerung von Systemen betroffen ist, bei denen der Mensch aus dem Entscheidungsprozess herausgenommen wird. Internationale Organisationen wie „Human Rights Watch“ glauben, dass solche Waffenentwicklungen nicht mit dem internationalen humanitären Recht vereinbar sind, weil sie das Risiko zu Tod oder Verletzung von Zivilpersonen während eines bewaffneten Konfliktes erhöhen.

Additional information

Live Stream https://streaming.media.ccc.de/37c3/zuse
Type lecture
Language German

More sessions

12/27/23
Art & Beauty
Saal Zuse
Wir machen Sound Grafitti mit Echokammern, produzieren Protest-Jingles und Sprachwerkstätten. Mit diesem Beitrag möchten wir euch zwei Vorgehensweisen zu dieser Art von „Protest mit Sound als Audio Intervention" vorstellen, sowie die künstlerischen, kreativ-technischen Prozesse näher bringen und euch einladen, diese kritisch zu beäugen und zu hören, sich unserer Ideen und Verfahren zu ermächtigen und die dargestellten Formen und Ansätze nach eurem Belieben weiterzuentwickeln und ...
12/27/23
Art & Beauty
Paglen (he/him)
Saal 1
How the history of military and government PSYOPS involving mind-control, UFOs, magic, and remote-control zombies, explains the future of AI and generative media. Along the way, talk attendees will be given an enrollment code to join a specialized CTF/ARG game called CYCLOPS that explores these themes and that will run the duration of Congress.
12/27/23
Art & Beauty
Saal Zuse
OPENCOIL and the fine art of appropriating micro-mobility services for fun and debate.
12/27/23
Art & Beauty
Scott Beibin
Saal Zuse
Date/Time: 27 December 2023 - Wednesday @ 21:10 CET +++ Simulating the Acoustics of Mars for a Concert of Martian Music by Scott Beibin (aka Ptelepathetique) +++ During Mission 286 in November 2023 at the Mars Desert Research Station (MDRS), Analog Astronaut and crew artist Scott Beibin performed several concerts of original live musical compositions during a two week immersive astronaut training. +++ The concerts were played through a custom audio filter based on data gathered by the NASA Mars ...
12/28/23
Art & Beauty
Saal Zuse
What does it take to create a "wild animal"? While one might think "wildness" implies the absence of humans, in the age of the anthropocene and rapid climate change, the opposite is the case. It requires the development of an extensive, more-than-human-infrastructure. Our talk is based on artistic research into the ongoing rewilding project of the Northern bald ibis (Waldrapp), a large migratory bird, that has become extinct north of the alps in 1621 and are being released into the wild since ...
12/28/23
Art & Beauty
Robert Seidel
Saal Zuse
Exploring the transfer of Seidel's experimental films into physical spaces reveals challenges that are intensifying with advances in machine learning, dissolving the lines between original and imitation. In this more or less silent restructuring of society, artists become templates for a digitally assembled future, challenging traditional hierarchies as history collapses into the present.
12/28/23
Art & Beauty
LordSpreadpointAmiga
Saal 1
The demoscene is an underground computer art culture. The Speaker is a member of the Demoscene since the 1980ies and gives insights how it is now and how it was back in the days and how you can participate!