Trendnavigation

Trend- und Themensammlung

Die Digitalisierung verschiebt Grenzen. Die ÖFIT-Trendschau verortet und bewertet neue Themenlandschaften in der öffentlichen IT.

Asset-Herausgeber

null Empfehlungssysteme

ÖFIT-Trendschau

 

Öffentliche Informationstechnologie in der digitalisierten Gesellschaft

Trendthema 58:

Empfehlungssysteme

Stand: $dateTool.format("MMMM YYYY", $JournalArticleLocalService.getLatestArticle($groupId, $reserved-article-id.data).getCreateDate(), $locale)



 
Herausgeber:
Mike Weber
Kompetenzzentrum Öffentliche IT
Fraunhofer-Institut FOKUS
Kaiserin-Augusta-Allee 31, D-10589 Berlin
Telefon: +49 30 3463 - 7173
Telefax: + 49 30 3463 - 99 - 7173
info@oeffentliche-it.de
www.oeffentliche-it.de
www.fokus.fraunhofer.de


Autorinnen und Autoren der Gesamtausgabe:
Mike Weber, Stephan Gauch, Faruch Amini, Tristan Kaiser, Jens Tiemann, Carsten Schmoll, Lutz Henckel, Gabriele Goldacker, Petra Hoepner, Nadja Menz, Maximilian Schmidt, Michael Stemmer, Florian Weigand, Christian Welzel, Jonas Pattberg, Nicole Opiela, Florian Friederici, Jan Gottschick, Jan Dennis Gumz, Fabian Manzke, Rudolf Roth, Dorian Grosch, Maximilian Gahntz, Hannes Wünsche, Simon Sebastian Hunt, Jens Fromm


Autorinnen und Autoren einzelner Trendthemen:
Michael Rothe, Oliver Schmidt

ISBN: 978-3-9816025-2-4

$dateTool.format("MMMM yyyy", $JournalArticleLocalService.getLatestArticle($groupId, $reserved-article-id.data).getCreateDate(), $locale)

Autorinnen/Autoren:
Simon Sebastian Hunt

Bibliographische Angabe:
Simon Sebastian Hunt 2020, Empfehlungssysteme, In: Jens Fromm und Mike Weber, Hg., 2016: ÖFIT-Trendschau: Öffentliche Informationstechnologie in der digitalisierten Gesellschaft. Berlin: Kompetenzzentrum Öffentliche IT, http://www.oeffentliche-it.de/-/empfehlungssysteme


Dieses Werk ist lizenziert unter einer Creative Commons Namensnennung 3.0 Deutschland Lizenz (CC BY 3.0 DE) http://creativecommons.org/licenses/by/3.0 de/legalcode. Bedingung für die Nutzung des Werkes ist die Angabe der Namen der Autoren und Herausgeber.

Empfehlungssysteme

 

Seit den 90er Jahren werden immer komplexere Empfehlungssysteme eingesetzt, um den Nutzer:innen von Online-Diensten aus der wachsenden Menge an Informationen die jeweils relevanten zukommen zu lassen. Herkömmliche Suchfunktionen sind dieser Aufgabe immer weniger gewachsen. Einfach formuliert, sollen die Inhalte die Nutzer:innen finden. Mit diesem Ansatz gehen jedoch auch einige Probleme einher, die im Verdacht stehen, die Polarisierung der Gesellschaft zu verstärken, selbstbestimmte Meinungsbildung einzuschränken sowie extremere Einzelpositionen zu erzeugen. In der Wissenschaft und Praxis bilden sich nun verschiedene Ansätze heraus, um diese negativen Effekte einzuschränken.

Funktionsweise

Empfehlungen und klassische Suche sind sich in ihrer Funktionsweise durchaus ähnlich. Beide Vorgehensweisen versuchen, relevante Inhalte auf Basis von Daten für die Nutzer:innen zur Verfügung zu stellen. Während eine reine Suchfunktion nur mit Begriffen arbeitet, die bewusst eingegeben werden, arbeitet ein Empfehlungssystem mit Suchbegriffen, die sich zum großen Teil der Kontrolle der Anwender:innen entziehen. Bei der personalisierten Suche vermischen sich die Systeme, indem ein explizit eingegebener Suchbegriff durch für die Nutzer:innen unbekannte Parameter angereichert wird.

Derzeitige Empfehlungssysteme treffen datenbasierte Entscheidungen darüber, welche Informationen an Nutzer:innen vermittelt werden. Grob lassen sich vier Datenquellen unterscheiden:

  • Daten zu Eigenschaften von Produkten oder Inhalten,
  • Nutzerdaten, etwa aus Nutzerprofilen, also bspw. Geschlecht und Alter oder auch allgemeine Nutzeraktivität,
  • Daten über bewusste Nutzerinteraktion, bspw. Nutzerbewertungen, und
  • Daten zu Rahmeninformationen, wie z. B. Ort, Zeit, Stimmung und soziales Umfeld.

Die Daten werden mithilfe von Methoden des Machine- bzw. Deep Learning (siehe Neuronale Netze oder Denkende Maschinen) weiterverarbeitet, um möglichst passgenaue Empfehlungen zu generieren. In der Praxis werden oft mehrere Datengrundlagen gleichzeitig verwendet und die Algorithmen auf mehrere unterschiedlich gewichtete Empfehlungsziele hin optimiert. Ziele sind bspw. Verweildauer, Klickzahlen und Verkaufszahlen.

Begriffliche Verortung

Einsatzgebiete und Problematik

Gerade die Vielfalt möglicher Parameter macht den Einsatz in verschiedenen Gebieten interessant. Über Empfehlungen können Kund:innen gehalten, Kaufentscheidungen erleichtert und Interessent:innen zu Käufen motiviert werden. Für Bezahl-Streamingdienste ist neben exklusiven Angeboten besonders die Qualität ihrer Empfehlungen wichtig, um die Kund:innen zu binden. Ein Dienst, der den Nutzer:innen individuell neue und interessante Inhalte aufzeigt, schafft Mehrwerte und ist entsprechend beliebter als ein Dienst mit weniger relevanten Empfehlungen. Auch für entgeltfreie Angebote sind die Aufmerksamkeit und der Grad an Involvierung der Nutzer:innen relevant. Je länger und intensiver sich jemand mit den Angeboten auseinandersetzt, desto mehr Werbung kann gezeigt und entsprechend mehr Umsatz generiert werden.

Auch für die Meinungsbildung und den öffentlichen Diskurs spielen digitale Angebote eine immer größere Rolle. So wird vermutet, dass die Tendenz, eher eine Bestätigung der eigenen Meinungen und Wahrnehmungen zu suchen (confirmation bias), sowie die Beobachtung, dass Diskussionen in Gruppen ähnlich denkender Menschen dazu neigen, extremere Positionen zu erzeugen (Gruppenpolarisation), durch den Einsatz von Empfehlungssystemen verstärkt werden. Für Nutzer:innen steigt zudem der Aufwand, sich mit den eigenen Ansichten widersprechenden Inhalten auseinanderzusetzen, da genau diese Inhalte nicht empfohlen werden und dadurch online quasi „unsichtbar" werden, sofern nicht explizit nach ihnen gesucht wird. All dies begünstigt die Entstehung von Filterblasen. Hinzu kommt, dass Bereitsteller:innen von Informationen ihre Inhalte anpassen, damit diese von Empfehlungsmechanismen stärker beziehungsweise gezielter berücksichtigt werden. Eine abschließende Bewertung der etablierten Empfehlungssysteme ist jedoch schwierig. Die Vielfalt, die Einsatzbereiche und die Ziele bei Einsatz meist intransparenter Algorithmen erschweren eine einheitliche Betrachtung.

Algorithmische Ansätze

Es existieren verschiedene Ansätze, um die Polarisationspotenziale bei Empfehlungssystemen zu reduzieren oder sogar auszuschalten. Die Ansätze lassen sich grob in zwei Kategorien unterteilen. Zur ersten Kategorie gehören alle Ansätze, die direkt die (algorithmische) Funktionsweise von Empfehlungssystemen adressieren. Die zweite Kategorie umfasst Ansätze, bei denen das Nutzer:innenverhalten im Fokus steht. Hierbei geht es darum, die Nutzer:innen über das mögliche Entstehen von Filterblasen zu informieren oder ihnen Eingriffsmöglichkeiten bezüglich der Empfehlungsgrundlagen zu bieten. Die Ansätze schließen sich nicht gegenseitig aus und werden teils miteinander kombiniert.

Die algorithmischen Veränderungen an den Empfehlungssystemen werden mit dem Ziel vorgenommen, auch Empfehlungen zu erzeugen, die sich von den vermuteten Interessen der Nutzer:innen unterscheiden. Dieser Unterschied wird auf verschiedene Weisen ausgelegt. Einerseits wird versucht, das Empfehlungssystem direkt anzupassen.

Andererseits können die generierten Empfehlungen nachträglich anders bewertet werden. So können Empfehlungen, die aufgrund der Bewertung als wenig zutreffend ausgeschlossen wurden, zu einem gewissen Anteil nachträglich wieder mit in die Empfehlungen aufgenommen werden, um eine höhere Diversität der Inhalte zu erzeugen. Andere Ansätze berücksichtigen stattdessen Inhalte ohne eindeutige Zuordnung oder beziehen auch weit zurückliegende Nutzeraktivitäten mit ein. Auch wird versucht, einen gewissen Unterschied zwischen Nutzerprofilen abzubilden und positiv zu berücksichtigen. Manche Ansätze berücksichtigen die Beliebtheit/Bekanntheit eines Eintrages mit. Je beliebter ein Inhalt ist, desto unwahrscheinlicher soll es sein, dass er unbekannt ist. Andere Ansätze simulieren einen Informationsaustausch unter Nutzer:innen und berechnen aus der Übertragungswahrscheinlichkeit und den zugeteilten Übertragungsaufwänden die Wahrscheinlichkeit, dass Nutzer:innen Inhalte bereits kennen. Die Empfehlungen mit der Bandbreite aller möglichen Empfehlungen zu vergleichen und Empfehlungssysteme so zu trainieren, dass sie eine möglichst hohe Abdeckung erreichen, stellt einen weiteren Ansatz dar.

Themenkonjunkturen

Nutzer:innenzentrierte Ansätze

Die Nutzer:innenzentrierten Ansätze werden in informierende und dynamische Ansätze unterteilt. Bei ersteren geht es darum, mithilfe von Visualisierungen und Mitteilungen auf Filterblasen aufmerksam zu machen. Viele informierende Ansätze setzen darauf, Nutzer:innen ergänzend zu den typischen Empfehlungen weitere Inhalte anzubieten, die sonst aufgrund des Empfehlungssystems nicht sichtbar wären. Aus dem Vergleich soll ein Bewusstsein für die eigene Filterblase entstehen. Aufgrund der großen Menge an möglichen Empfehlungen wird dieser Ansatz oft auf die zuvor versteckten Themenfelder oder Genres reduziert und visuell dargestellt. So können beispielsweise bei einer individualisierten Suchanfrage eigene und fremde Treffer parallel angezeigt oder Beiträge klar politisch kategorisiert werden. Erfolgversprechend sind auch Versuche, die gesamte Empfehlungsliste als Streudiagramm auf einer nachvollziehbaren Skala darzustellen.

Die dynamischen Ansätze ermöglichen es den Nutzer:innen, verschiedene Parameter ihrer Filterblase selbst zu kontrollieren. Solche Ansätze lassen sich auch unabhängig von den Betreiber:innen der Empfehlungssysteme anwenden. Die dynamischen Ansätze reichen von speziellen Anwendungen, mit denen in sozialen Netzwerken die Personen, die für Empfehlungen mit einbezogen werden, gezielt bestimmbar sind, über Tools zur gezielten Erweiterung des eigenen Feeds um bestimmte Personen, bis hin zu Add-ons, die widerlegende Informationen zu Aussagen anzeigen, die auf der gerade besuchten Seite vorkommen.
In der Gesamtschau bleibt das Blackbox-Problem der Empfehlungen jedoch bestehen. Solange nicht klar ist, wie ein System seine Empfehlungen trifft, wird es schwierig bleiben, die Informationen, die der Empfehlung zugrunde liegen, zielgerichtet zu beeinflussen. In Kombination mit erklärbarer KI könnten hier Fortschritte erleichtert werden. Auch bleibt weiterhin die Möglichkeit für Nutzer:innen bestehen, mit Methoden des Selbstdatenschutzes wie getrennten Nutzerprofilen oder Datenminimierung die Datengrundlage der Empfehlungssysteme zu beschneiden und sich diesen so zum Teil zu entziehen.

Erfolgsaussichten

Im Kern steht das Problem, dass es ohne Empfehlungssysteme als Filter im Kontext der Informationsfülle heutiger Angebote nicht mehr geht. Entsprechend müssen Antworten auf die mit ihnen verbundenen Fragestellungen gefunden werden. Insbesondere bezüglich der gesellschaftlichen Folgen und der Wirksamkeit verschiedener Gegenmaßnahmen besteht weiterhin unabhängiger Forschungsbedarf. Die Forschung hat dabei die Herausforderung zu bewältigen, dass Vorgehensweisen algorithmischer Empfehlungssysteme und die resultierende Rezeption durch die Öffentlichkeit ein emergentes Resultat verschiedener Interaktionen und Praktiken sind. Vielfach beruhen die bisherigen Gegenmaßnahmen nur auf Annahmen, die über die Zielvorgaben in die Empfehlungen mit aufgenommen werden und anhand derer anschließend geprüft wird, inwiefern sich dieser Ansatz positiv oder negativ auf gewünschtes Nutzer:innenverhalten auswirkt. In der Praxis sind diese Bewertungsmerkmale und Funktionsweisen regelmäßig Firmengeheimnisse. Unabhängige Tests sind entsprechend aufwendig und bieten wenig finanzielle Anreize.

Zudem ist fraglich, ob die Ansätze überhaupt wettbewerbsfähig sein können, insbesondere hinsichtlich der Nutzer:innenzufriedenheit, denn sie werden voraussichtlich nur dann eingesetzt, wenn sie diese nicht negativ beeinflussen. Die neuen Ansätze könnten zum Beispiel bei Menschen Anklang finden, die auch den eigenen Vorstellungen widersprechende Ansichten bei der Meinungsbildung berücksichtigen möchten. Allerdings stellt sich die Frage, ob dieses Marktsegment allein groß genug ist.

Gleichzeitig könnten die neuen Ansätze den alten auch überlegen sein. Neue Ansätze könnten aufgrund der größeren Diversität der Empfehlungen langfristig positiveren Anklang finden und so zum Beispiel zur Kund:innenbindung beitragen. Hierbei spielt sicherlich auch das Image der Betreiber eine wichtige Rolle. Gerade marktbestimmende Internetdienste sehen sich ungern dem Ruf der Manipulation ihrer Nutzer:innen ausgesetzt. Noch komplexer ist die Situation im Kontext öffentlich rechtlicher Rundfunkanstalten. Deren gesellschaftlicher Auftrag im Rahmen des Art. 5 GG bringt eigene Anforderungen und Grenzen für den Einsatz von Empfehlungssystemen mit sich.
Auch staatliche Regulierung kann der Problematik entgegenwirken. Ausweitungen der Datenschutzbestimmungen und Garantie von Selbstdatenschutz, Best Practices für Technikgestaltung, Verpflichtungen in Hinblick auf Transparenz, wie Entscheidungen zustande kommen und welche Parameter berücksichtigt werden, und Möglichkeiten, die Parameterwerte anzupassen oder nicht zu nutzen, sowie allgemeine Regeln zum Einsatz von Empfehlungssystemen wären denkbar. In Hinblick auf die Nutzer:innen scheinen Bildungsmaßnahmen zur Stärkung digitaler Kompetenzen und Aufklärungskampagnen als Ansatz gegen Filterblasen und gesellschaftliche Polarisierung vielversprechend.

Folgenabschätzung

Möglichkeiten

  • Abbildung einer größeren Meinungsvielfalt
  • Mehr Abwechslung durch diversere Empfehlungen
  • Transparente und kontrollierbare Empfehlungen
  • Gesteigerte informationelle Selbstbestimmung

Wagnisse

  • Negative Rezeption durch Nutzer:innen
  • Balance zwischen Kontrolle und informationeller Selbstbestimmung
  • Ineffektivität der Ansätze
  • Wechselwirkungen lassen sich schwer steuern

Handlungsräume

Verständnis der Wechselwirkungen erhöhen

Aufgrund der vielen Faktoren, die mit der gesellschaftlichen Polarisierung in Zusammenhang gebracht werden, und ihrer Wechselwirkungen untereinander ergibt sich ein komplexes Gesamtbild. Um die Wirksamkeit der verschiedenen Maßnahmen bewerten zu können, besteht weiterer Forschungsbedarf.

Gestaltung der Empfehlungssysteme

Empfehlungssysteme sollten so gestaltet werden, dass sie transparentere und kontrollierbarere Empfehlungen ermöglichen.

Bewusstsein schaffen

Transparenz alleine reicht nicht aus. Es wird auch notwendig sein, Menschen zu einem bewussteren Umgang mit Informationen im Netz zu animieren.

Datenschutz und Selbstbestimmung

Empfehlungssysteme, ihre Auswirkungen und Gegenmaßnahmen stellen neue Anforderungen an den Datenschutz und das Verständnis der informationellen Selbstbestimmung.