Googles Jigsaw kündigt Toxizität-reduzierende API, Perspective, an und verarbeitet 500M Anfragen täglich

09.02.2021 |  Von  |  Presseportal

New York (ots/PRNewswire) – Das Unternehmen veröffentlicht die dritte Ausgabe des Forschungsmagazins „The Current“, das sich mit Online-Toxizität und der Rolle von KI bei der Förderung gesunder Konversationen beschäftigt

Heute gab Jigsaw, eine Einheit innerhalb von Google, die aufkommende digitale Bedrohungen vorhersagt und bekämpft, bekannt, dass Perspective, eine kostenlose, quelloffene API, die maschinelles Lernen nutzt, um anstößige Kommentare zu erkennen, nun 500 Millionen Anfragen täglich verarbeitet und die Toxizität messbar reduziert, um Unterhaltungen im Internet in großem Umfang zu verbessern. Die dritte Ausgabe des Online-Forschungsmagazins The Current, die heute veröffentlicht wurde, geht auf das anhaltende und schädliche Problem der Online-Toxizität ein und zeigt, welche Rolle Machine-Learning-Tools wie Perspective dabei spielen können.

Perspective wurde 2017 eingeführt, um Online-Toxizität und Belästigung zu bekämpfen. Perspective bewertet Kommentare basierend auf ihrer wahrgenommenen Auswirkung auf die Konversation und hilft Plattformen, Kommentarbereiche für engagierte und produktive Konversationen offen zu halten.

„Toxizität im Internet ist ein allgegenwärtiges Problem, das sich unverhältnismäßig stark auf Randgruppen auswirkt, unabhängigen Journalismus bedroht und die Meinungsfreiheit und einen gesunden Dialog verdrängt“, sagte Jared Cohen, CEO von Jigsaw. „Unsere Partner haben gesehen, dass Perspective die Toxizität auf ihren Plattformen messbar reduziert hat und es ihnen ermöglicht hat, sicherere Räume für den Gedankenaustausch ihrer Nutzer zu schaffen. Wir verpflichten uns, mit unseren Partnern und akademischen Einrichtungen zusammenzuarbeiten, um unsere Modelle kontinuierlich zu schulen und weiterzubilden, damit sie noch besser darin werden, Toxizität zu identifizieren und gleichzeitig Voreingenommenheit zu minimieren, um gesündere Gespräche zu unterstützen.“

Jigsaw baute Perspective anhand von Modellen auf, die in Zusammenarbeit mit dem Counter Abuse Technology Team von Google entwickelt wurden, und ermöglicht nun einer Vielzahl von Plattformen die Schaffung eines sicheren Raums für den Dialog durch Mehrfachnutzung:

Feedback für Kommentatoren: Perspektive kann Kommentatoren in Echtzeit ein Feedback über die potenzielle wahrgenommene Toxizität ihrer Inhalte geben, was zu signifikanten Ergebnissen führt:

- Coral von Vox Media, eine prominente Kommentarplattform, die von Medienorganisationen auf der ganzen Welt genutzt wird, verwendet diese Funktion, um Kommentatoren die Möglichkeit zu geben, ihre Formulierungen zu ändern, bevor sie sie veröffentlichen. Eine kontrollierte Studie mit McClatchy ergab, dass 40 Prozent der Benutzer ihren Kommentar als Reaktion auf das Feedback änderten.  - OpenWeb, eine führende Plattform zur Einbindung des Publikums, die 100 Millionen aktive Nutzer pro Monat beherbergt, hat diese Funktion eingeführt, nachdem eine OpenWeb-Studie, die als Teil einer breiteren Jigsaw-Forschung durchgeführt wurde, herausgefunden hat, dass von allen Kommentatoren, die ihre Sprache bearbeitet haben, 44,7 Prozent der Kommentatoren ersetzten oder entfernten beleidigende Wörter und 7,6 Prozent entschieden sich dafür, ihren Kommentar komplett umzuschreiben. 

Hilfe für menschliche Moderatoren: Perspective dient auch dazu, menschlichen Moderatoren zu helfen, effizienter zu arbeiten und die Toxizität auf ihren Plattformen zu reduzieren:

- The New York Times built Moderator: ein Tool, das Perspective nutzt, um Kommentare für die menschliche Moderation zu priorisieren und diejenigen freizugeben, die eine manuelle Überprüfung am ehesten bestehen würden. Die Times hat die Anzahl der Artikel, die sie mit Perspective für Kommentare öffnen konnte, erhöht, um den Lesern eine größere und vielfältigere Auswahl an Artikeln zu bieten, zu denen sie Kommentare abgeben können.  - FACEIT, eine der größten europäischen Spieleplattformen, nutzt den Toxizitäts-Score von Perspective, um Verwarnungen oder Bans an Nutzer zu vergeben, die sich zur endgültigen Überprüfung an einen menschlichen Moderator wenden können. Als Ergebnis dieser Echtzeit-Moderation hat FACEIT eine 20-prozentige Reduktion von toxischen Nachrichten festgestellt. - Cofina, ein portugiesisches Medienunternehmen, war in der Lage, den Bedarf an menschlicher Moderation um 60 Prozent zu senken, wodurch ihr Team mindestens 2 Stunden pro Tag einsparen konnte, nachdem sie Perspective in ihr CMS integriert hatten, um die Kommentare in ihren Sport- und Finanzzeitungen zu moderieren. 

„Perspective API hat unsere Fähigkeit, Toxizität in unseren Kommentaren zu erkennen, erheblich verbessert. Es hat die Arbeit unseres Moderationsteams effektiver und effizienter gemacht, und seit der Implementierung des Tools konnten wir die Anzahl der Artikel, die für Kommentare offen sind, um etwa ein Drittel erhöhen.“ Marcia Loughran, Community Editor, The New York Times

„Die Zusammenarbeit mit Perspective hat es uns ermöglicht, positive Interaktionen über Hunderte von dynamischen und engagierten Communities und Dutzende von Millionen von Nutzern zu fördern. Die Lösungen sind elegant und reibungslos und unterstützen unsere Vision eines qualitativ hochwertigen Engagements mit weniger Toxizität.“ Nadav Shoval, CEO & Co-Founder OpenWeb

„Bei Coral konzentrieren wir uns darauf, die wichtige Arbeit der Moderatoren einfacher und schneller zu machen. Perspective hilft uns bei der Identifizierung von Kommentaren in mehreren Sprachen, die sofortige Aufmerksamkeit erfordern. Das Perspective-Team ist ein hervorragender Partner für diese Mission.“ Andrew Losowsky, Head of Coral von VoxMedia

„Wir haben die Perspektive in unser CMS integriert, um die Kommentare in unseren Sport- und Wirtschaftszeitungen zu moderieren. Wir haben die menschliche Moderation um 60 Prozent reduziert. Wir sparen mindestens zwei Stunden pro Tag und sind sehr zufrieden mit den Ergebnissen. Es hat auch die Qualität der Kommentare auf unseren Websites und die Interaktion mit unseren Benutzern verbessert.“ Nuno Alves, Online Technical Director, Cofina Media

„Bei FACEIT haben wir uns auf die Fahnen geschrieben, Toxizität und Belästigung im Gaming direkt anzusprechen. Da unsere Spieler-Community wächst und sich weiterentwickelt, mussten wir effektive Lösungen entwickeln, die auch im großen Maßstab funktionieren. Perspective lieferte uns das perfekte Toxizitätsmodell, das wir als Basis für den Aufbau unserer Antitoxizitäts-Engine verwendet haben.“ Maria Laura Scuri, Direktorin Business Intelligence, FACEIT

Durch seine Partnerschaften hat Jigsaw Perspective auch in neuen Sprachen trainiert, so dass das maschinelle Lernmodell besser in der Lage ist, Online-Konversationen auf globaler Ebene zu verbessern – es ist derzeit in Englisch, Spanisch, Französisch, Deutsch, Italienisch und Portugiesisch verfügbar. Zu den Partnern von Perspective gehören: El Pais, Le Monde, Cofina und einige andere Verlage, die verstehen, wie wichtig es ist, qualitativ hochwertige Konversationen auf ihren Plattformen in verschiedenen Sprachen anzubieten.

Jigsaw arbeitet auch kontinuierlich mit Partnern zusammen, um Möglichkeiten zu erforschen, um Verzerrungen beim maschinellen Lernen abzuschwächen. Bitte lesen Sie einige von Jigsaw jüngsten Forschungen hier.

Erfahren Sie mehr über Perspective und probieren Sie es in der dritten Ausgabe von The Current aus.

Pressekontakt:

Jigsaw Media
jigsawpress@google.com
Informationen zu Jigsaw
Jigsaw ist eine Einheit innerhalb von Google, die aufkommende Bedrohungen vorhersagt und ihnen entgegentritt und zukunftsweisende Forschung und Technologie entwickelt, um unsere Welt sicherer zu machen.
Logo – https://mma.prnewswire.com/media/1434331/Jigsaw_Logo.jpg

Original-Content von: Jigsaw übermittelt durch news aktuell

About news aktuell

news aktuell (Schweiz) AG ist ein Unternehmen der dpa-Gruppe mit Sitz in Zürich.

Mit den beiden starken Marken ots und renteria liefert news aktuell die entscheidenden Impulse für den Kommunikationserfolg von Unternehmen, Agenturen und Organisationen.

Alle Inhalte von news aktuell werden auch auf www.presseportal.ch veröffentlicht. Das Portal der dpa-Tochter gilt als zentrale Anlaufstelle für alle Menschen, die im Internet auf der Suche nach originären Informationen von Unternehmen und Organisationen sind.


Ihr Kommentar zu:

Googles Jigsaw kündigt Toxizität-reduzierende API, Perspective, an und verarbeitet 500M Anfragen täglich

Für die Kommentare gilt die Netiquette! Erwünscht sind weder diskriminierende bzw. beleidigende Kommentare noch solche, die zur Platzierung von Werbelinks dienen. Die Agentur belmedia GmbH behält sich vor, Kommentare ggf. nicht zu veröffentlichen.