REMODE
Re-Booting Content Moderation
Das REMODE Projekt entwickelt eine partizipative Risiko-Governance Methode und Toolbox für Social-Media-Plattformen. Durch die partizipative Gestaltung soll die Autonomie der Nutzer:innen verbessert, verantwortungsvolle Governance gefördert und Ansätze für 'law and ethics by design' umgesetzt werden. Damit reagiert REMODE auf die allgemeine Forderung, Nutzern stärker in die Gestaltung von Social-Media-Plattformen einzubinden.
Soziale Medien prägen unsere Erfahrungen und Welt online: wen wir treffen, welche Inhalte wir sehen, welche Informationen wir erhalten, all das wird durch Verfahren zur Moderation von Inhalten und durch Empfehlungssysteme zur Personalisierung von Inhalten bestimmt. Diese Verfahren und Systeme können die Autonomie von Nutzer:innnen einschränken und sie einer Vielzahl an Risiken aussetzen. Aktuelle politische, soziale und gesundheitliche Krisen machen die Schwächen Sozialer Medien beim Umgang mit Falschinformationen und Hassrede deutlich. Darüber hinaus können junge Menschen durch die Art und Weise, wie Inhalte personalisiert werden, zu selbstschädigendem Verhalten angeregt werden. Um Risiken wie diesen zu begegnen, bedarf es einer angemessenen Einbindung von Nutzer:innen in die Bewertung risikomindernder Maßnahmen und Gestaltungslösungen.
Jüngste Initiativen der EU, wie das Gesetz über digitale Dienste (Digital Services Act), stellen rechtliche Anforderungen an große Social-Media-Plattformen hinsichtlich der Bewertung von Risiken und der Gestaltung von Maßnahmen zur Risikominderung. So sollen Plattformen beispielweise Nutzer:innen und andere Personen, die von der Plattform beeinflusst werden, beteiligen.
Ziel von REMODE ist es, eine partizipative Risk-Governance-Methode und Werkzeuge zu entwickeln, um die Einbindung von Bürgern zu verbessern und erweitern. Die Methode basiert auf Ansätzen zur partizipativen (Technologie-)Bewertung und Gestaltung. Die enge Zusammenarbeit mit allen Stakeholdern ist für die Entwicklung und Anwendung der Methode und Werkzeuge unbedingt notwendig.
Team
Prof. Dr. Christian Djeffal (christian.djeffal(at)tum.de), Professor für Law, Science and Technology, TUM School of Social Sciences and Technology.
Daan Herpers (daan.herpers(at)tum.de), wissenschaftlicher Mitarbeiter an der Professur für Law, Science and Technology, TUM School of Social Sciences and Technology.
Was entsteht im Rahmen des Projekts?
- Eine partizipative Methode und Werkzeuge, um die Öffentlichkeit in die Bewertung und Gestaltung von Social-Media-Plattform einzubinden.
- Eine Sammlung von 'best practices' für die gemeinsame Gestaltung von Empfehlungssystemen und Verfahren für die Moderation von Inhalten in Sozialen Medien.
- Ein Überblick über mögliche Gestaltungslösungen hinsichtlich der Risiken, die mit Sozialen Medien verbunden sind.
- Multi-Stakeholder-Beteiligung bei der Entwicklung der Methode.