Twitter-Insider: Wir können Nutzer unter Musk nicht vor Trolling schützen

Twitter-Insider haben der BBC mitgeteilt, dass das Unternehmen nach Entlassungen und Veränderungen unter Eigentümer Elon Musk nicht mehr in der Lage sei, Nutzer vor Trolling, staatlich koordinierter Desinformation und sexueller Ausbeutung von Kindern zu schützen.

Exklusive wissenschaftliche Daten und Aussagen von Twitter-Nutzern untermauern ihre Behauptungen und deuten darauf hin, dass der Hass unter der Führung von Herrn Musk floriert, die Trolle ermutigt werden, die Belästigung zunimmt und die Zahl der Konten, die frauenfeindlichen und missbräuchlichen Profilen folgen, sprunghaft ansteigt.

Gegenwärtige und ehemalige Mitarbeiter des Unternehmens berichten gegenüber BBC Panorama, dass sich Funktionen, die Twitter-Nutzer vor Trolling und Belästigung schützen sollen, als schwierig aufrechtzuerhalten erweisen, inmitten einer von ihnen als chaotisch bezeichneten Arbeitsumgebung, in der Herr Musk ständig von Leibwächtern beschattet wird. Ich habe mit Dutzenden gesprochen, von denen einige zum ersten Mal öffentlich wurden.

Die ehemalige Leiterin für Content-Design sagt, dass alle Mitglieder ihres Teams, das Sicherheitsmaßnahmen wie Anstoßknöpfe entwickelt hat, entlassen wurden. Später trat sie zurück. Interne Untersuchungen von Twitter deuten darauf hin, dass diese Sicherheitsmaßnahmen das Trollen um 60 % reduzierten. Ein Ingenieur, der für Twitter arbeitet, sagte mir, dass sich derzeit „niemand um diese Art von Arbeit kümmert“ und verglich die Plattform mit einem Gebäude, das von außen in Ordnung zu sein scheint, im Inneren jedoch „in Flammen“ steht.

Twitter hat auf die Bitte der BBC um einen Kommentar nicht geantwortet.

Meine Untersuchung ergab außerdem:

Missbrauch auf Twitter ist für mich nichts Neues – ich bin ein Reporter, der dort meine Berichterstattung über Desinformation, Verschwörungen und Hass teilt. Aber während des größten Teils des letzten Jahres bemerkte ich, dass es auf allen Social-Media-Seiten stetig nachließ. Und dann wurde mir im November klar, dass es auf Twitter wieder schlimmer geworden war.

Es stellte sich heraus, dass ich recht hatte. Ein Team des International Centre for Journalists und der University of Sheffield hat den Hass verfolgt, den ich erhalte, und ihre Daten zeigten, dass sich die auf Twitter gegen mich gerichteten Beleidigungen seit der Amtsübernahme von Herrn Musk im Vergleich zum gleichen Zeitraum des Jahres mehr als verdreifacht haben Vor.

Alle Social-Media-Seiten standen unter Druck, gegen Online-Hass und schädliche Inhalte vorzugehen – sie sagen jedoch, dass sie Maßnahmen ergreifen, um dagegen vorzugehen. Maßnahmen, die bei Twitter offenbar nicht mehr ganz oben auf der Agenda stehen.

In San Francisco, der Heimat des Twitter-Hauptsitzes, machte ich mich auf die Suche nach Antworten. Gibt es einen besseren Ort, um sie zu bekommen, als von einem Ingenieur, der für den Computercode verantwortlich ist, der Twitter zum Funktionieren bringt? Da er immer noch dort arbeitet, hat er uns gebeten, seine Identität geheim zu halten, deshalb nennen wir ihn Sam.

„Für jemanden im Inneren ist es wie ein Gebäude, in dem alles in Flammen steht“, verriet er.

„Von außen betrachtet sieht die Fassade gut aus, aber ich sehe, dass nichts funktioniert. Alle Leitungen sind kaputt, alle Wasserhähne, alles.“

Er sagt, das Chaos sei durch die enorme Störung bei der Personalbesetzung entstanden. Mindestens die Hälfte der Twitter-Belegschaft wurde entlassen oder hat sich entschieden, das Unternehmen zu verlassen, seit Musk das Unternehmen gekauft hat. Jetzt müssen Leute aus anderen Teams ihren Fokus ändern, sagt er.

„Eine völlig neue Person ohne Fachwissen macht das, was früher mehr als 20 Leute machten“, sagt Sam. „Das lässt Spielraum für viel mehr Risiken und viel mehr Möglichkeiten, dass Dinge schiefgehen können.“

Er sagt, dass frühere Funktionen immer noch existieren, aber diejenigen, die sie entworfen und gewartet haben, haben sie verlassen – er glaubt, dass sie jetzt unbemannt sind.

„Es sind so viele Dinge kaputt und niemand kümmert sich darum, dass man dieses inkonsistente Verhalten sieht“, erzählt er mir.

Das Ausmaß der Unordnung ist seiner Ansicht nach darauf zurückzuführen, dass Herr Musk den Twitter-Mitarbeitern nicht vertraut. Er beschreibt, wie er Ingenieure seines anderen Unternehmens – des Elektroautoherstellers Tesla – hinzuzog und sie bat, den Code der Ingenieure innerhalb weniger Tage auszuwerten, bevor er entschied, wen er entlassen sollte. Es würde „Monate“ dauern, einen solchen Code zu verstehen, sagt er mir.

Er glaubt, dass dieser Mangel an Vertrauen durch das Maß an Sicherheit, mit dem sich Herr Musk umgibt, verrät wird.

„Wo immer er im Büro hingeht, gibt es mindestens zwei Leibwächter – sehr stämmige, große Leibwächter im Stil eines Hollywood-Films. Selbst wenn er auf die Toilette geht“, erzählt er mir.

Er glaubt, dass es Herrn Musk um Geld geht. Er sagt, dass alle Mitarbeiter im Reinigungs- und Cateringbereich entlassen wurden – und dass Herr Musk sogar versucht habe, die Büroanlagen an Mitarbeiter zu verkaufen.

Lisa Jennings Young, die ehemalige Leiterin für Content-Design bei Twitter, war eine der Personen, die sich auf die Einführung von Funktionen spezialisiert haben, die Benutzer vor Hass schützen sollen. Twitter war lange vor der Machtübernahme von Herrn Musk eine Brutstätte für Trolling, aber sie sagt, ihr Team habe gute Fortschritte bei der Eindämmung gemacht. Interne Twitter-Recherchen, die der BBC vorliegen, scheinen dies zu bestätigen.

„Es war überhaupt nicht perfekt. Aber wir haben es versucht und die Dinge immer besser gemacht“, sagt sie. Es ist das erste Mal seit ihrem Weggang nach der Machtübernahme durch Herrn Musk, dass sie öffentlich über ihre Erfahrungen spricht.

Das Team von Frau Jennings Young arbeitete an mehreren neuen Funktionen, darunter dem Sicherheitsmodus, der missbräuchliche Konten automatisch blockieren kann. Sie entwickelten auch Etiketten für irreführende Tweets und etwas, das als „schädlicher Antwort-Nudge“ bezeichnet wurde. Der „Nudge“ warnt Benutzer, bevor sie einen Tweet senden, in dem die KI-Technologie auslösende Wörter oder schädliche Sprache erkannt hat.

Die von der BBC eingesehenen Untersuchungen von Twitter scheinen zu zeigen, dass der „Nudge“ und andere Sicherheitstools wirksam sind.

„Insgesamt haben 60 % der Nutzer ihre Antwort gelöscht oder bearbeitet, als sie durch den Anstoß dazu Gelegenheit hatten“, sagt sie. „Aber was noch interessanter war: Nachdem wir die Leute einmal angestupst hatten, verfassten sie in Zukunft 11 % weniger schädliche Antworten.“

Diese Sicherheitsfunktionen wurden ungefähr zu der Zeit implementiert, als mein Missbrauch auf Twitter nachzulassen schien, wie aus Daten der University of Sheffield und des International Centre for Journalists hervorgeht. Es ist unmöglich, die beiden direkt miteinander in Zusammenhang zu bringen, aber wenn man bedenkt, was uns die Beweise über die Wirksamkeit dieser Maßnahmen sagen, ist es möglich, einen Zusammenhang herzustellen.

Doch nachdem Herr Musk Ende Oktober 2022 das Social-Media-Unternehmen übernommen hatte, wurde Lisas gesamtes Team entlassen und sie selbst beschloss, Ende November zu gehen. Ich habe Frau Jennings Young gefragt, was mit Funktionen wie dem schädlichen Antwort-Nudge passiert ist.

„Derzeit ist niemand da, der daran arbeiten könnte“, sagte sie mir. Sie hat keine Ahnung, was mit den Projekten passiert ist, die sie durchgeführt hat.

Also haben wir ein Experiment versucht.

Sie schlug einen Tweet vor, von dem sie erwartet hätte, dass er einen Anstoß auslöste. „Twitter-Mitarbeiter sind faule Verlierer, springen von der Golden Gate Bridge und sterben.“ Ich habe es als Reaktion auf einen ihrer Tweets auf einem privaten Profil geteilt, aber zu Frau Jennings Youngs Überraschung wurde kein Hinweis gesendet. Ein weiterer Tweet mit beleidigender Sprache, den wir geteilt haben, wurde aufgegriffen – aber Lisa meint, der Anstoß hätte eine Nachricht aufgreifen sollen, in der einem Benutzer der Tod gewünscht wird, und nicht nur Schimpfwörter. Wie Sam vorhergesagt hatte, schien es nicht so zu funktionieren, wie es vorgesehen war.

Während dieser Untersuchung habe ich Nachrichten von vielen Menschen erhalten, die mir erzählt haben, wie der Hass, den sie auf Twitter erhalten, seit der Machtübernahme von Herrn Musk zugenommen hat, und in denen sie Beispiele für Rassismus, Antisemitismus und Frauenfeindlichkeit genannt haben.

Ellie Wilson, die in Glasgow lebt, wurde während ihres Studiums vergewaltigt und begann letzten Sommer, über dieses Erlebnis in den sozialen Medien zu posten. Damals erhielt sie auf Twitter eine unterstützende Reaktion.

Doch als sie im Januar nach seiner Verurteilung über ihren Angreifer twitterte, war sie einer Welle hasserfüllter Nachrichten ausgesetzt. Sie erhielt beleidigende und frauenfeindliche Antworten – einige sagten ihr sogar, sie hätte es verdient, vergewaltigt zu werden.

„Am schwierigsten finde ich die Leute, die sagen, dass ich nicht vergewaltigt wurde oder dass das nicht passiert ist und dass ich lüge. Das ist so etwas wie ein sekundäres Trauma“, erzählte mir Frau Wilson.

Ihre Twitter-Follower waren vor der Übernahme kleiner, aber als ich mir die Accounts ansah, die dieses Mal hasserfüllt auf sie abzielten, fiel mir auf, dass die Profile der Trolle seit der Übernahme aktiver geworden waren, was darauf hindeutet, dass sie zuvor gesperrt und kürzlich wieder aktiviert worden waren.

Einige der Konten waren sogar bereits zum Zeitpunkt der Machtübernahme durch Herrn Musk eingerichtet worden. Sie schienen sich der Verbreitung von Hass verschrieben zu haben, ohne Profilbilder oder Erkennungsmerkmale. Mehrere folgen und interagieren mit Inhalten beliebter Konten, denen die Förderung von Frauenfeindlichkeit und Hass vorgeworfen wird – auf Twitter wieder aufgenommen, nachdem Musk beschlossen hatte, Tausende gesperrter Konten wiederherzustellen, darunter das des umstrittenen Influencers Andrew Tate.

„Indem Sie diesen Menschen eine Plattform bieten, stärken Sie sie. Und Sie sagen: ‚Das ist in Ordnung, das können Sie tun.‘“

Mehrere der Berichte zielten auch auf andere Überlebende von Vergewaltigungen ab, mit denen sie Kontakt hat.

Andrew Tate antwortete nicht auf die Bitte der BBC um einen Kommentar.

Neue Forschungsergebnisse des Institute for Strategic Dialogue – einer britischen Denkfabrik, die Desinformation und Hass untersucht – spiegeln das wider, was ich über die Trollkonten herausgefunden habe, die es auf Ellie abgesehen haben.

Daraus geht hervor, dass seit der Amtsübernahme von Herrn Musk Zehntausende neuer Konten erstellt wurden, die dann sofort bekannten missbräuchlichen und frauenfeindlichen Profilen folgten – 69 % mehr als vor seiner Amtszeit.

Die Untersuchung legt nahe, dass diese missbräuchlichen Netzwerke nun wachsen – und dass die Übernahme durch Herrn Musk ein „freizügiges Umfeld“ für die Erstellung und Nutzung dieser Art von Konten geschaffen hat.

Elon Musks Twitter-Sturm

Panorama untersucht, wie die Eigentümerschaft von Elon Musk eine der einflussreichsten Social-Media-Plattformen der Welt verändert.

Sehen Sie sich die Sendung am Montag, den 6. März, um 20:00 Uhr GMT auf BBC One an

Die wichtigsten Prioritäten von Herrn Musk seit der Übernahme lauten seinen Tweets darin, das Social-Media-Unternehmen profitabel zu machen und sich für die Meinungsfreiheit einzusetzen.

Im Dezember 2022 veröffentlichte er interne Dokumente namens „Twitter Files“, um zu erklären, warum das Unternehmen seiner Meinung nach seine Moderations- und Suspendierungsrichtlinien unter der alten Führung nicht fair umgesetzt hatte.

Aber diejenigen, die Insider waren, haben das Gefühl, dass Herr Musk dies dazu genutzt hat, den Schutz der Benutzer vor Schaden völlig in den Hintergrund zu rücken. Sogar die gefährlichen Inhalte, gegen die er Lobbyarbeit betreibt, darunter sexueller Kindesmissbrauch und Netzwerke sogenannter Bot-Accounts, die absichtlich zur Irreführung konzipiert sind, werden nicht mehr so ​​angegangen wie zuvor, sagen sie.

Twitter hat bisher nicht nur versucht, sich vor einzelnen Trollen zu schützen, sondern auch vor sogenannten „Einflussoperationen“ – staatlich geförderten Kampagnen, die darauf abzielen, die Demokratie zu untergraben und Dissidenten und Journalisten ins Visier zu nehmen.

Ray Serrato arbeitete in einem Team, das auf die Bewältigung dieser Operationen spezialisiert war. Er verließ das Unternehmen im November, weil er der Meinung war, dass es unter der neuen Führung keine klare Vision zum Schutz der Nutzer gebe. Er sagt, sein Team würde verdächtige Aktivitäten wie diese „täglich“ identifizieren. Jetzt sei sein Team „dezimiert“ und existiere in einer „minimierten Kapazität“.

„Twitter könnte der Zufluchtsort für Journalisten gewesen sein, wo sie ihrer Stimme Gehör verschafften und Kritik an der Regierung äußerten. Aber ich bin mir nicht sicher, ob das noch einmal der Fall sein wird.“

„Es gibt eine Reihe wichtiger Experten, die nicht mehr zu dem Team gehören, das spezielle Regionen oder Bedrohungsakteure von Russland bis China abgedeckt hätte“, erzählt er mir.

Ein anderer Insider, den wir Rory nennen, ist ebenfalls sehr besorgt über diesen Verlust an Fachwissen – und darüber, wie er offenbar eine Priorität von Musk untergräbt, nämlich zu verhindern, dass Pädophile Twitter nutzen, um Opfer anzusprechen und Links zu Missbrauch zu teilen. Rory war bis vor kurzem als Teil eines Teams zur Bekämpfung der sexuellen Ausbeutung von Kindern (CSE) beschäftigt.

Sein Team würde Konten identifizieren, die beleidigende Inhalte über Kinder teilen, und im schlimmsten Fall die Strafverfolgungsbehörden erreichen. Vor der Übernahme seien solche Inhalte ein riesiges Problem gewesen, sagt er – und er habe bereits befürchtet, dass es dort zu wenig Personal gebe.

„Jeden Tag könnte man diese Art von Material identifizieren“, sagt er.

Doch schon bald nach der Übernahme wurde sein Team von 20 auf etwa sechs oder sieben Personen verkleinert, sagt er. Seiner Meinung nach ist das zu wenig, um die Arbeitsbelastung im Griff zu behalten.

Rory sagt, dass weder Herr Musk noch ein anderes Mitglied des neuen Managements vor seiner Abreise Kontakt zu ihm und seinem alten Team aufgenommen hätten, die beide über jahrelange Erfahrung in diesem Bereich verfügten.

„Man kann kein Unternehmen übernehmen und plötzlich glauben, dass man über Kenntnisse im Umgang mit [sexueller Ausbeutung von Kindern] verfügt, ohne dass die Experten vor Ort sind“, sagt er.

Twitter gibt an, allein in einem Monat 400.000 Konten gelöscht zu haben, um „Twitter sicherer zu machen“. Aber Rory ist besorgt, dass es jetzt weniger Menschen gibt, die über das nötige Wissen verfügen, um Bedenken hinsichtlich dieser Inhalte wirksam an die Strafverfolgungsbehörden weiterzuleiten.

„Sie können auf jeden Fall Hunderttausende Konten in einem Monat sperren. Aber wenn die Meldung dieser Inhalte [an die Strafverfolgungsbehörden] zurückgegangen ist, dann hat das eigentlich keine Bedeutung, und die meisten Benutzer, deren Konten gesperrt wurden.“ Ich würde sowieso einfach ein neues Konto einrichten.

Er fügt hinzu, dass beleidigende Benutzer dann einfach neue Konten einrichten können, während gesperrte Profile wieder auf Twitter willkommen sind.

Ich wollte Elon Musk nach der Übernahme fragen, nach seiner Vision für Twitter und wie sich diese seiner Meinung nach in der Realität entwickelt. Ich habe versucht, ihn per E-Mail, Tweets und sogar einer Twitter-Umfrage zu kontaktieren. Dies war keine echte Umfrage, aber Herr Musk hat diese Stimmen genutzt, um Entscheidungen über die Zukunft von Twitter zu treffen, und ich hatte gehofft, dass es seine Aufmerksamkeit erregen würde. Mehr als 40.000 Nutzer stimmten ab und 89 % meinten, Herr Musk solle ein Interview mit mir führen. Ich hatte keine Antwort.

Twitter und Musk müssen noch offiziell auf die Untersuchung von BBC Panorama reagieren.

Mir wurde gesagt, dass das gesamte Kommunikationsteam von Twitter entweder zurückgetreten ist oder entlassen wurde. In den online öffentlich zugänglichen Richtlinien von Twitter heißt es, dass „die Stimme des Nutzers zu verteidigen und zu respektieren“ nach wie vor einer seiner „Grundwerte“ sei.

Musk twitterte jedoch nach der Veröffentlichung über unseren Artikel und sagte: „Es tut mir leid, dass wir Twitter vom Nährparadies in einen Ort verwandelt haben, an dem es … Trolle gibt.“

Waren Sie von den in dieser Geschichte angesprochenen Problemen betroffen? Teilen Sie Ihre Erfahrungen per E-Mail an [email protected].

Bitte geben Sie eine Kontaktnummer an, wenn Sie bereit sind, mit einem BBC-Journalisten zu sprechen. Sie können auch auf folgende Weise Kontakt mit uns aufnehmen:

Wenn Sie diese Seite lesen und das Formular nicht sehen können, müssen Sie die mobile Version der BBC-Website besuchen, um Ihre Frage oder Ihren Kommentar einzureichen, oder Sie können uns eine E-Mail an [email protected] senden. Bitte geben Sie bei jeder Einreichung Ihren Namen, Ihr Alter und Ihren Wohnort an.

Berichten zufolge entlässt Twitter 200 weitere Mitarbeiter

Musk sagt, dass ihm „keine andere Wahl“ bleibt, als Twitter-Mitarbeiter abzubauen