Metaphern prägen und beeinflussen seit jeher unser Denken und Handeln. Gleichzeitig unterstützen sie uns dabei komplexe Sachverhalte einfacher zu erschließen. Die “digitale Sozialmaschine”, die im Zentrum des Vortrags von Dr. Harald Gapski (Grimme-Institut) im Rahmen der KI-Weiterbildung vom 21. März 2024 stand, ist ein solches Metapher-Beispiel, mit dem Versuch das dahinterstehende metaphorische Konzept genauer zu identifizieren und in der kritischen Medienbildung einzusetzen.
Leben und Handeln in einer digital transformierten Lebenswelt
Unser Alltag ist von schnelllebigen und in Teilen auch fundamentalen Entwicklungsströmen geprägt. Eine wesentliche Basis dafür stellen Daten dar, die wir durch unsere Handlungen on- und offline (teilweise unbewusst) zur Verfügung stellen.
“Während die journalistischen Redaktionen in den Sendern der Massenmedien zu bestimmten Zeiten und in definierten Formaten ein für alle Empfänger gleiches Programm übermitteln, bieten Plattformen wie Facebook, Youtube oder Twitter mittels Algorithmen zusammengestellte und individualisierte Inhalte und produzieren zugleich personalisierte Datenströme. Diese Datenströme fließen in beide Richtungen und sagen viel über die ‚Empfänger‘ aus, die nun auch zu Sendern, zu Usern digitaler Kommunikationsmaschinen und zu „Digital Citizens“ (Hintz et al. 2019) geworden sind.“
Gapski, Harald: Politische Bildung in der “algorithmischen Sozialmaschine” und die neue digitale Aufklärung – In: Wochenschau. Politik und Wirtschaft unterrichten. Sek. I+II. Sonderausgabe. Lehrerheft 74 (2023) 23s, S. 58-62
Diese Daten können auf unterschiedlichste Art und Weise genutzt werden, um unseren Alltag zu erleichtern und unser Wohlbefinden zu stärken. Gleichzeitig bieten Sie aber auch die Möglichkeit, um auf unser Handeln und Denken einzuwirken. Hierbei setzt Dr. Gapski auf die “Maschinen-Metapher”, mit dem Ziel, das digitale und datengetriebene Gesellschaftsbild anschaulich und zugleich als Projektions- und Diskussionsfläche darzustellen.
Die “algorithmische Sozialmaschine”
Die Metapher der “digitalen oder algorithmischen Sozialmaschine” beleuchtet verstärkt die soziotechnische und gesellschaftliche Perspektive, die im Vergleich zu den anderen Bereichen bislang eher vernachlässigt wurde. Dabei soll das Verständnis für Einflüsse und Wirkung verschiedener Mechanismen auf das gesellschaftliche Miteinander sichtbar und nahbarer gemacht werden.
Wechselwirkungsdreieck von Individuum, Sozialem und Medialem
“Draude et al. (2021) definieren Social Machines als „soziotechnische Systeme, in denen die Prozesse sozialer Interaktion hybrid zwischen menschlichen und maschinellen Akteuren ablaufen und teilweise algorithmisiert sind“. Zentral für ein solches Maschinenmodell der Gesellschaft kann der in der klassischen Kybernetik beschriebene Dreischritt von Eingabe, Verarbeitung und Ausgabe von Informationen angenommen werden.“
Gapski, Harald: Politische Bildung in der “algorithmischen Sozialmaschine” und die neue digitale Aufklärung – In: Wochenschau. Politik und Wirtschaft unterrichten. Sek. I+II. Sonderausgabe. Lehrerheft 74 (2023) 23s, S. 58-62
Wie muss man sich so eine “digitale Sozialmaschine” nun vorstellen? Dr. Gapski beschreibt sie in einem ersten Schritt wie eine Art Fließband, bestehend aus mehreren Stationen. Beginnend mit einer Aktion, hin zur Station Daten, weiter zum Algorithmus, der schließlich in einem Output und einem Impact mündet. Um diesen Ansatz verständlicher zu machen, nutzt Dr. Gapski ein konkretes Beispiel: reCAPTCHA. Um Zugang zu seiner Seite zu erhalten (Aktion) werde ich als nutzende Person darum gebeten ein Prüfwort einzugeben oder Bilder einzuordnen (Daten). Diese werden anschließend bewertet (Algorithmus) und klassifiziert, ob ich ein Mensch bin und Zugriff auf die Seite erhalte oder nicht (Output). Wurde ich als Mensch identifiziert, erhalte ich schließlich den Zugriff (Impact).
Erste visuelle Annäherung an die “digitale Sozialmaschine”
Dieser für uns sichtbare und nachvollziehbare Prozess nennt Dr. Gapski “Behavioral Management“. Es handelt sich entsprechend um eine individuelle und für Nutzer*innen wahrnehmbare Feedbackschleife. Neben dieser individuell erfahrbaren Schleife, gibt es in der “digitalen Sozialmaschine” aber auch noch eine Schleife, die wir weniger bewusst wahrnehmen – die soziotechnische Feedbackschleife (Social Systems Engineering), die den Entwickler*innen im Hintergrund u.a. zur Datenerhebung und Klassifizierung dient.
Darstellung der algorithmischen Sozialmaschine
Fragen der kritischen Medienbildung
Durch den Einsatz von Künstlicher Intelligenz und dem damit verbundenen Machine Learning gewinnt die für uns eher unbewusste, soziotechnische Feedbackschleife noch einmal an enormer Bedeutung:
“Aus diesen gesammelten Verhaltensdaten erzeugen Algorithmen mittels Machine Learning u.a. auch Modellierungen von Personen und liefern entscheidungsrelevante Resultate durch Abgleich von Soll-/Ist-Werten, beispielsweise in Form von Scores. Je nach Höhe des Score ergeben sich Steuerungsimpulse für Ausgaben, Incentivierungen oder Sanktionierungen und weitere Anschlusskommunikationen bzw. Beeinflussungen nachfolgender Handlungen, wodurch sich eine Rückkopplungsschleife ergibt.”
Gapski, Harald: Politische Bildung in der “algorithmischen Sozialmaschine” und die neue digitale Aufklärung – In: Wochenschau. Politik und Wirtschaft unterrichten. Sek. I+II. Sonderausgabe. Lehrerheft 74 (2023) 23s, S. 58-62
Dr. Gapski unterscheidet dabei drei Ebenen: die Mikroebene, die Mesoebene und die Makroebene:
- Mikroebene: Darunter wird ein kurzfristiger Sozialmaschinenprozess verstanden. Das obig genannte reCAPTCHA-Beispiel ist beispielsweise eine solche kurzfristige Ebene, bei der sich ein Mensch mithilfe einer Aufgabe als Mensch ausweisen muss.
- Mesoebene: In diesem mittelfristigen Sozialmaschinenprozess kann man beispielsweise die automatisierte Annahme oder Ablehnung von Anträgen (z.B. für Kredite) verorten, teilweise mit diskriminierenden Konsequenzen. Entscheidungen werden durch Algorithmen ersetzt, anstatt die Fälle individuell zu betrachten und zu verhandeln.
- Makroebene: Hier wird von einem langfristigen Sozialmaschinenprozess gesprochen. Dabei kann es um die Einführung ganzer Systeme gehen, wie beispielweise „Social Credit Systems“ in China (siehe Gapski/Packard 2021) um die ‘Stabilität’ und ‘Harmonie’ des Landes zu fördern.
Doch was bedeuten diese Dimensionen für das gesellschaftliche Miteinander? In Anlehnung an die fünf Stationen des Fließbands im Rahmen der “digitalen Sozialmaschine” hat Dr. Gapski eine Reihe von Fragen aufgeworfen, die wir uns in Hinblick auf kritische Medienbildung stellen sollten:
- Aktion: Was führte mich zu dieser Aktion, was hat mich beeinflusst? Bei welcher Aktivität habe ich zuvor Daten erzeugt? Wozu sollen “meine Daten” erfasst werden? Welche Interessen stecken dahinter?
- Daten: Warum sind die Daten nicht neutral? Welche Daten gebe ich weiter und warum? Welche Daten können ggf. aus den preisgegebenen Informationen abgeleitet werden?
- Algorithmus: Wer hat Nutzen davon? Wozu dient der Algorithmus?
- Output: Wie kommt der Output zustande? Wer und wie viele sind in welcher Weise betroffen? Wie verwundbar ist die Gruppe der Betroffenen? Welche automatisch generierten Inhalte haben Wirkungen?
- Impact: Was passiert, wenn die Ergebnisse in die Gesellschaft eindringen? Wie verändert sich ggf. die Gesellschaft? Welcher Wertewandel geschieht? Wie wird mit zukünftigen Ereignissen umgegangen? Welche politischen Einflussmöglichkeiten gibt es?
Thesen und Fazit
Das metaphorische Konzept, das Dr. Gapski vorgestellt hat, bildet einen großen Schritt, um sich mögliche Auswirkungen und Konsequenzen unseres (digitalen) Handelns bewusster und visuell nahbarer zu machen. Gleichzeitig liefert es einen wertvollen Beitrag zur kritischen Medienbildung. Denn gerade heute – in einer Welt voller Echokammern, Fake News und Deep Fakes, HateSpeech und algorithmischer Diskriminierung – ist ein kritisch-reflektierter Blick auf Aktionen und Mechanismen, ebenso wie auf unseren Datenverkehr wichtiger denn je.
Vortrags-Präsentation zum Nachlesen
Die Präsentation zum Vortrag “KI und ‘digitale Sozialmaschinen’ – Metaphorische Konzepte und Modelle für eine kritische Medienbildung” von Herrn Dr. Harald Gapski finden Sie hier noch einmal zum Nachlesen.
Weiterführende Literatur und Informationsmöglichkeiten
Gapski, Harald:
Politische Bildung in der “algorithmischen Sozialmaschine” und die neue digitale Aufklärung
In: Wochenschau. Politik und Wirtschaft unterrichten. Sek. I+II. Sonderausgabe.
Lehrerheft 74 (2023) 23s
Gapski, Harald [Hrsg.]; Packard, Stephan [Hrsg.]:
Super-Scoring? Datengetriebene Sozialtechnologien als neue Bildungsherausforderung.
In: Düsseldorf – München : kopaed verlagsgmbh 2021, 263 S. –
(Schriftenreihe zur digitalen Gesellschaft NRW; 6)
Wir bedanken uns ganz herzlich bei Dr. Harald Gapski für den spannenden Vortrag und die detaillierten Einblicke in die ‘digitale Sozialmaschine’. Ebenfalls möchten wir uns bei unseren Partnern, dem Multimedia Kontor Hamburg (MMKH) und ELAN e.V., für die Zusammenarbeit bedanken. Und natürlich gilt unser Dank auch allen Teilnehmenden der Veranstaltung für das Interesse.
Literatur:
Hintz, Arne/Decik, Lina/Wahl-Jorgensen, Karin 2019: Digital citizenship in a datafied society. Medford, MA.
