Da Krisen stets auch Kommunikationskrisen mit sich ziehen, hat die OSZE fünf menschenrechtsorientierte Empfehlungen für die staatliche Politik und deren rechtliche Rahmenbedingungen erarbeitet. Aufbauend auf allgemeingültigen Prinzipien wie Transparenz, menschenrechtlicher Sorgfalt und Rechenschaftspflicht zielen die Empfehlungen darauf ab, die freie Meinungsäußerung und den Medienpluralismus im Zusammenhang mit automatisierter Content-Moderation auf Online-Plattformen auch im Krisenkontext zu gewährleisten.
Sowohl der russische Angriffskrieg auf die Ukraine als auch der Terrorangriff der Hamas gegen Israel und die Reaktion Israels darauf im Gaza-Streifen haben eine digitale Dimension; ebenso wie Naturkatastrophen, Pandemien, Klimanotstände und andere Krisen. In all diesen Situationen sind Internetplattformen wesentlich für den Zugang zu teils lebensnotwendigen Informationen, zur Mobilisierung oder etwa zur Dokumentation von Menschenrechtsverletzungen. Gleichzeitig werden sie allerdings auch für Propaganda, Gewaltanstiftung, gesellschaftliche Spaltung sowie Zensur und Überwachung genutzt.
Desinformation und verlässliche Information
Internetplattformen haben einen wesentlichen Einfluss auf die Gestaltung von unseren Kommunikationsräumen, sei es in Bezug auf Desinformation oder den Zugang zu verlässlichen Informationen. Dabei stellt sich die Frage, welche Verantwortung Staaten in der Regulierung und Kontrolle dieser zentralen Informationsräume zur Wahrung des Rechts auf freie Meinungsäußerung und Medienfreiheit haben. Insbesondere die Skalierbarkeit von Künstlicher Intelligenz (KI) beinhaltet Risken für die Online-Kommunikation sowie deren Governance – und macht ihre Regulierung umso wichtiger.
Artikel 19 des Internationalen Pakts über bürgerliche und politische Rechte fordert, dass Eingriffe in die Meinungsäußerungs- und Medienfreiheit gesetzlich vorzugeben, legitim, verhältnismäßig und notwendig sein müssen. Im Zuge der letzten Jahre – und insbesondere in Krisenkontexten – haben autoritäre Staaten digitale Informationsräume zunehmend zu kontrollieren versucht und automatisierte Content-Moderation als Waffe eingesetzt, um gesellschaftliche Freiräume zu schmälern, Lügen und Hass zu verbreiten und Meinungsvielfalt zu limitieren. Die allgegenwärtige Datenerfassung und -analyse, die dem heutigen, von Big Tech dominierten Internet zugrunde liegt, lässt sich besonders zweckdienlich für Überwachung nutzen. Autokratische Kontrolle verschärft die ohnehin bestehenden menschenrechtlichen Herausforderungen im Zusammenhang mit "information disorder" und den oft inadäquaten, inkonsistenten oder anderweitig problematischen Krisenreaktionen der Internetplattformen.
Ein demokratischer, öffentlicher Diskurs zur menschenrechtlichen Regulierung von Internetplattformen kann dazu beitragen, dass auch in Krisensituationen inklusive gesellschaftliche Kommunikationsräume bereitstehen, die einen positiven Beitrag zu Informationszugang und ‑austausch und somit zur Krisenbewältigung leisten. Bis heute gibt es allerdings kaum Staaten, die spezifische Verfahren oder Strategien für Plattform-Governance in Krisenzeiten ausgearbeitet haben. Ein menschenrechtsbasierter Ansatz erfordert klare Terminologie und Kriterien, um festzulegen, welche Umstände eine Krise darstellen, wie Krisenprotokolle zu erarbeiten und wann sie zu aktivieren sind und welche spezifischen Maßnahmen in welcher Phase und für welche Dauer vorzunehmen sind. Obwohl sich Krisen je nach Art und Kontext unterscheiden, können durch die Identifizierung von Gemeinsamkeiten und Parallelitäten allgemeine Grundsätze entwickelt werden, die verhältnismäßigere, menschenrechtsfokussierten Maßnahmen ermöglichen.
Empfehlungen von der OSZE
Folgende Empfehlungen wurden diesbezüglich von der OSZE erarbeitet:
Digital Services Act der EU
Einen ersten Schritt in Richtung eines nachhaltigen Krisenmanagements digitaler Inhalte und Plattformen beinhaltet der Digital Services Act der EU, der seit 17. Februar 2024 für die gesamte Union unmittelbar anwendbar ist. Konkret berechtigt die EU-Verordnung die Europäische Kommission dazu, sehr große Internetplattformen aufzufordern, in Krisenzeiten bestimmte Maßnahmen zu ergreifen, wie zum Beispiel die Anpassung von KI-Tools, um krisenrelevante und verlässliche Informationen prominenter anzuzeigen, oder um freiwillige Krisenprotokolle zu initiieren. Solche Protokolle sollten (1) Parameter zur Bestimmung "außergewöhnlicher Umstände" definieren, sowie (2) die Rolle der Beteiligten und zu ergreifenden Maßnahmen, und (3) ein Verfahren zur Aktivierung, und (4) zur Festlegung der Dauer der Maßnahmen. Weiters sollten die Krisenprotokolle (5) Schutzmaßnahmen zur Vermeidung negativer Auswirkungen auf die Menschenrechte festlegen sowie (6) Verfahren zur öffentlichen Berichterstattung der ergriffenen Maßnahmen, deren Dauer und Auswirkungen.
Das Jahr 2024 ist geprägt von Wahlen. Nicht nur in der EU, den USA und Indien, sondern in mehr als 75 Ländern – das betrifft die Hälfte der Weltbevölkerung – wird zur Wahlurne gerufen. Gleichzeitig ist die Welt von vielzähligen und vielfältigen Krisen erschüttert – bewaffneten Konflikten, Gesundheitskrisen, Klimanotständen. Eine Regulierung von Plattformen auf der Grundlage eines menschenrechtsbasierten Ansatzes ist dringend geboten, um Demokratie, Sicherheit und Menschenrechte nachhaltig zu garantieren. (Julia Haas, Matthias C. Kettemann, Raphael Wibmer, 3.7.2024)