Intransparente Algorithmen
Soziale Medien verstärken Extremismus

Social-Media-Algorith­men sind nicht auf mensch­li­che soziale Instink­te abgestimmt, die die Zusam­men­ar­beit fördern sollen, was eine Polari­sie­rung und Fake News befeu­ern kann. Das haben Forscher der Kellogg School of Manage­ment der Northwes­tern Univer­si­ty heraus­ge­fun­den. Das steht im Gegen­satz zu frühe­ren Gewohn­hei­ten, als Menschen dazu neigten, von Gleich­alt­ri­gen oder angese­he­ne­ren Indivi­du­en zu lernen, da deren Infos mit größe­rer Wahrschein­lich­keit zuver­läs­sig waren und zum Gruppen­er­folg führten.

Verstellen problemlos möglich

Eine Person, mit der wir online verbun­den sind, ist mögli­cher­wei­se nicht unbedingt kompe­tent und vertrau­ens­wür­dig. Doch das lässt sich nicht ohne weite­res feststel­len. Menschen können sich in den sozia­len Medien leicht völlig anders darstel­len als sie in Wirklich­keit sind. Dabei sind Menschen, so die Forscher, eigent­lich so gepolt, dass sie von anderen Dinge lernen wollen, die Zusam­men­ar­beit und kollek­ti­ve Problem­lö­sun­gen fördern, weshalb sie dazu neigen, mehr von Indivi­du­en zu lernen, die sie für kompe­tent halten.

Im Gegen­satz dazu wählen Social-Media-Algorith­men in der Regel Infos aus, die das Engage­ment der Nutzer steigern, um die eigenen Werbe­ein­nah­men aufzu­bes­sern. Das bedeu­tet, dass Algorith­men genau die Infos bieten, die die vorein­ge­nom­me­ne Meinun­gen der Nutzer verstär­ken. Und sie können Social-Media-Feeds mit dem übersät­ti­gen, was die Forscher als presti­ge­träch­ti­ge, Ingroup‑, morali­sche und emotio­na­le Infor­ma­tio­nen (PRIME) bezeich­nen, unabhän­gig vom Wahrheits­ge­halt der Inhalte. Infol­ge­des­sen ist es wahrschein­li­cher, dass extreme politi­sche Inhalte verstärkt werden. Hören die Nutzer keine anderen Meinun­gen, können sie ein falsches Verständ­nis der Mehrheits­mei­nung verschie­de­ner Gruppen haben.

Einblendungen genauer erklären

Um dieses Problem anzuge­hen, schlägt die Forschungs­grup­pe vor, dass Social-Media-Nutzer mehr darüber nachden­ken, wie Algorith­men funktio­nie­ren und warum bestimm­te Inhalte in ihrem Feed auftau­chen. Meta und Co geben in der Regel nicht alle Details darüber preis, wie ihre Algorith­men Inhalte auswäh­len. Aber ein Anfang könnte darin bestehen, Erklä­run­gen dafür anzubie­ten, warum einem Nutzer ein bestimm­ter Beitrag angezeigt wird. Darüber hinaus empfeh­len die Fachleu­te den Social-Media-Anbie­tern, anstatt PRIME-Infors zu bevor­zu­gen, eine Grenze dafür festzu­le­gen, wie viele sie verstär­ken und priori­sie­ren, um den Nutzern eine Vielzahl von Inhal­ten zu präsentieren.