Suchmaschinen sind eines der wichtigsten Tore der Gesellschaft zu Informationen und Menschen, aber sie sind auch Kanäle für Fehlinformationen. Ähnlich wie problematische Social-Media-Algorithmen lernen Suchmaschinen, Ihnen das zu liefern, was Sie und andere zuvor angeklickt haben. Weil die Menschen vom Sensationellen angezogen werden, kann dieser Tanz zwischen Algorithmen und der menschlichen Natur die Verbreitung von Fehlinformationen fördern.

Suchmaschinenunternehmen verdienen wie die meisten Online-Dienste nicht nur Geld, indem sie Anzeigen verkaufen, sondern auch, indem sie Benutzer verfolgen und ihre Daten durch Echtzeitgebote verkaufen. Menschen werden oft durch ihren Wunsch nach sensationellen und unterhaltsamen Nachrichten sowie Informationen, die entweder kontrovers sind oder ihre Ansichten bestätigen, zu Fehlinformationen geführt. Eine Studie ergab, dass populärere YouTube-Videos zum Thema Diabetes weniger wahrscheinlich medizinisch gültige Informationen enthalten als weniger beliebte Videos zu diesem Thema.

Anzeigengesteuerte Suchmaschinen wie Social-Media-Plattformen sind so konzipiert, dass sie das Klicken auf verlockende Links belohnen, da sie den Suchunternehmen helfen, ihre Geschäftskennzahlen zu verbessern. Als Forscher, der Such- und Empfehlungssysteme studiert, zeigen ich und meine Kollegen, dass diese gefährliche Kombination aus Unternehmensgewinnmotiv und individueller Anfälligkeit das Problem schwer zu lösen macht.

So gehen Suchergebnisse schief

Die TNW-Konferenz ist zurück, Baby!

Sichern Sie sich noch heute Ihren Platz zu super Frühbucherpreisen!

Wenn Sie auf ein Suchergebnis klicken, erfährt der Suchalgorithmus, dass der von Ihnen angeklickte Link für Ihre Suchanfrage relevant ist. Dies wird als Relevanz-Feedback bezeichnet. Dieses Feedback hilft der Suchmaschine, diesem Link für diese Suchanfrage in Zukunft ein höheres Gewicht zu geben. Wenn genügend Leute oft genug auf diesen Link klicken und so ein starkes Relevanz-Feedback geben, wird diese Website in den Suchergebnissen für diese und verwandte Suchanfragen höher angezeigt.

Menschen klicken eher auf Links, die weiter oben in der Suchergebnisliste angezeigt werden. Dadurch entsteht eine positive Feedback-Schleife – je weiter oben eine Website angezeigt wird, desto mehr Klicks, und das wiederum lässt diese Website höher steigen oder höher bleiben. Techniken zur Suchmaschinenoptimierung nutzen dieses Wissen, um die Sichtbarkeit von Websites zu erhöhen.

Dieses Fehlinformationsproblem hat zwei Aspekte: wie ein Suchalgorithmus bewertet wird und wie Menschen auf Schlagzeilen, Titel und Snippets reagieren. Suchmaschinen werden, wie die meisten Online-Dienste, anhand einer Reihe von Metriken beurteilt, von denen eine das Engagement der Benutzer ist. Es ist im besten Interesse der Suchmaschinenunternehmen, Ihnen Dinge anzubieten, die Sie lesen, ansehen oder einfach anklicken möchten. Wenn eine Suchmaschine oder ein beliebiges Empfehlungssystem eine Liste von anzuzeigenden Elementen erstellt, berechnet es daher die Wahrscheinlichkeit, dass Sie auf die Elemente klicken.

Traditionell war dies dazu gedacht, die relevantesten Informationen herauszubringen. Der Begriff der Relevanz ist jedoch unscharf geworden, da die Leute die Suche verwenden, um unterhaltsame Suchergebnisse sowie wirklich relevante Informationen zu finden.

Stellen Sie sich vor, Sie suchen einen Klavierstimmer. Wenn dir jemand ein Video zeigt, in dem eine Katze Klavier spielt, würdest du es anklicken? Viele würden es tun, auch wenn das nichts mit Klavierstimmung zu tun hat. Der Suchdienst fühlt sich durch positives Relevanz-Feedback bestätigt und erfährt, dass es in Ordnung ist, eine Katze beim Klavierspielen zu zeigen, wenn Leute nach Klavierstimmern suchen.

Tatsächlich ist es in vielen Fällen sogar besser, als die entsprechenden Ergebnisse zu zeigen. Die Leute sehen sich gerne lustige Katzenvideos an und das Suchsystem erhält mehr Klicks und mehr Benutzerinteraktion.

Dies mag harmlos erscheinen. Was also, wenn Leute von Zeit zu Zeit abgelenkt werden und auf Ergebnisse klicken, die für die Suchanfrage nicht relevant sind? Das Problem ist, dass die Leute von spannenden Bildern und sensationellen Schlagzeilen angezogen werden. Sie neigen dazu, auf Verschwörungstheorien und sensationelle Nachrichten zu klicken, nicht nur auf Katzen, die Klavier spielen, und dies mehr als auf echte Nachrichten oder relevante Informationen zu klicken.

Berühmte, aber falsche Spinnen

Im Jahr 2018 nahmen die Suchanfragen nach „neuer tödlicher Spinne” bei Google zu, nachdem ein Facebook-Beitrag behauptete, eine neue tödliche Spinne habe mehrere Menschen in mehreren Staaten getötet. Meine Kollegen und ich haben in der ersten Woche dieser Trendanfrage die Top 100 der Google-Suche nach "neue tödliche Spinne" analysiert.

Die ersten beiden Seiten der Google-Suchergebnisse für „neue tödliche Spinne” im August 2018 (schattierter Bereich) bezogen sich auf den ursprünglichen gefälschten Nachrichtenbeitrag zu diesem Thema, nicht entlarvende oder anderweitig sachliche Informationen. Chirag Shah, CC BY-ND

Es stellte sich heraus, dass diese Geschichte gefälscht war, aber die Leute, die danach suchten, waren weitgehend Fehlinformationen im Zusammenhang mit dem ursprünglichen gefälschten Beitrag ausgesetzt. Während die Leute diese Fehlinformationen weiter anklickten und teilten, stellte Google diese Seiten weiterhin ganz oben in den Suchergebnissen bereit.

Dieses Muster spannender und unbestätigter Geschichten, die auftauchen und auf die Leute klicken, setzt sich fort, wobei die Leute sich anscheinend entweder nicht um die Wahrheit kümmern oder glauben, dass die Geschichten wahr sein müssen, wenn ein vertrauenswürdiger Dienst wie die Google Suche ihnen diese Geschichten zeigt. In jüngerer Zeit hat ein widerlegter Bericht behauptet, China habe das Coronavirus aus einem Labor durchsickern lassen, aufgrund dieses Teufelskreises in Suchmaschinen an Bedeutung gewonnen.

Finde die Fehlinformationen

Um zu testen, wie gut Menschen zwischen korrekten Informationen und Fehlinformationen unterscheiden, haben wir ein einfaches Spiel namens "Google Or Not" entwickelt. Dieses Online-Spiel zeigt zwei Ergebnissätze für dieselbe Abfrage. Das Ziel ist einfach – wählen Sie das Set aus, das zuverlässig, vertrauenswürdig oder am relevantesten ist.

In Tests kann etwa die Hälfte der Nutzer den Unterschied zwischen Google-Suchergebnissen mit Fehlinformationen und solchen mit nur vertrauenswürdigen Ergebnissen nicht erkennen. Chirag Shah, CC BY-ND

Einer dieser beiden Sätze hat ein oder zwei Ergebnisse, die entweder verifiziert und als Fehlinformation oder entlarvte Geschichte bezeichnet werden. Wir haben das Spiel öffentlich zugänglich gemacht und über verschiedene Social-Media-Kanäle beworben. Insgesamt haben wir 2.100 Antworten aus über 30 Ländern gesammelt.

Als wir die Ergebnisse analysierten, stellten wir fest, dass etwa die Hälfte der Leute das Set fälschlicherweise mit ein oder zwei Fehlinformationen als vertrauenswürdig eingestuft haben. Unsere Experimente mit Hunderten anderer Benutzer über viele Iterationen haben zu ähnlichen Ergebnissen geführt. Mit anderen Worten, etwa die Hälfte der Menschen wählen Ergebnisse aus, die Verschwörungstheorien und Fake News enthalten. Da immer mehr Leute diese ungenauen und irreführenden Ergebnisse auswählen, lernen die Suchmaschinen, dass dies das ist, was die Leute wollen.

Abgesehen von zuhause Geld verdienen Fragen der Big-Tech-Regulierung und Selbstregulierung ist es wichtig, dass die Leute verstehen, wie diese Systeme funktionieren und wie sie Geld verdienen. Andernfalls werden Marktwirtschaften und die natürliche Neigung der Menschen, sich von auffälligen Links angezogen zu fühlen, den Teufelskreis am Laufen halten.

Dieser Artikel von Chirag Shah, Associate Professor of Information Science, University of Washington, wurde von The Conversation unter einer Creative Commons-Lizenz neu veröffentlicht. Lesen Sie den Originalartikel.