Nieuwsalgoritmes kunnen burgers breder informeren

Steven Vanden Bussche
smartphone
Onderzoekers van UGent en imec ontwikkelden een algoritme dat mensen met een bredere waaier van nieuws in contact brengt. (Jonas Leupe (Unsplash))

Dit artikel is enkel vandaag gratis te lezen.

Wil je ons journalistiek werk ondersteunen? Word nu lid en maak Apache mee mogelijk.

“Na de verkiezing van Donald Trump in 2016 zag je zowel in Amerika als Europa de groei van extreemrechtse bewegingen”, brengt postdoctoraal onderzoeker Glen Joris van de Vakgroep Communicatiewetenschappen (mict/UGent) in herinnering. “In Oostenrijk leverde extreemrechts de bondskanselier en ook bij de Brexit speelde extreemrechts een rol."

"Om dat fenomeen te begrijpen, worden veel verklaringen gegeven. Het is enigszins makkelijk om technologie de schuld van een bepaalde uitkomst te geven. Uiteindelijk zijn het wel burgers die hun stem uitbrengen. Feit is wel dat mensen steeds selectiever zijn in hun nieuwsconsumptie en dat algoritmes daar een belangrijke rol in spelen, zeker op sociale media.”

Door de manier waarop algoritmes ontworpen zijn, dreigen gebruikers in afgescheiden informatiebubbels te belanden

De Netflix-blockbuster The Social Dilemma liet in 2020 ex-werknemers van socialemediagiganten aan het woord die onder meer uitlegden dat aanbevelings- en personalisatiesystemen slechts één doel hebben: de gebruiker zo lang mogelijk op het netwerk houden. Ze gebruiken daarvoor algoritmes die bepalen wat jij als unieke bezoeker te zien krijgt. Hoe die systemen precies werken, blijft geheim.

Schandalen en onthullingen van de afgelopen jaren toonden hoe socialemediagiganten en technologieplatformen eerder in winst geïnteresseerd zijn dan de democratie een dienst te bewijzen. Klokkenluider Frances Haugen deed vorig jaar nog een boekje open over Facebook. De voormalige productmanager op de afdeling Desinformatie legde uit hoe het algoritme berichten blijft bevoordelen die reacties opleveren, of dat nu om problematische inhoud gaat of niet. Een ‘veiliger’ algoritme zorgt immers voor minder engagement en dus ook minder advertentie-inkomsten, stelde Haugen.

Door de manier waarop die algoritmes zijn ontworpen, dreigen gebruikers bovendien in informatiebubbels te belanden. Wanneer die bubbels het niet langer eens zijn over dezelfde feiten, dreigt de samenleving steeds verder gepolariseerd te geraken.

Sociale media inspireren nieuwsmedia

Laat nu net het gebruik van gelijkaardige aanbevelings- en personalisatiealgoritmes steeds meer ingeburgerd geraken bij klassieke nieuwsmedia, ook in België en Vlaanderen. Naast het nieuws dat via sociale media op de schermen van gebruikers verschijnt, laat de Vlaamse nieuwsgebruiker zich op nieuwssites zelf ook (onbewust) leiden door systemen die artikels automatisch voor hen selecteren. Dat kan een selectie zijn op basis van leesgedrag of locatie, of op basis van een ‘meest gelezen’-ranking van de nieuwssite.

Het gebruik van aanbevelings- en personalisatiealgoritmes raakt ook ingeburgerd bij klassieke nieuwsmedia

“Dit soort commerciële algoritmes probeert vaak meer van hetzelfde aan te bieden en staat ver weg van een 'diversiteitsalgoritme' dat net nieuwsartikels over gebeurtenissen of met opinies die verder weg staan van wat je eerder zag”, zegt Judith Vermeulen, postdoctoraal onderzoeker bij de onderzoeksgroep Recht & Technologie (UGent). Zij maakte eveneens deel uit van het multidisciplinair onderzoeksteam van imec-mict-UGent.

“Wij vertrokken vanuit de idee van een filterbubbel: mensen zien enkel wat hen aanspreekt en hen kan beïnvloeden. Algoritmes zijn zo opgebouwd, vooral op sociale media, dat als je iets bekijkt, je meer van hetzelfde ziet en zelfs in een extreme hoek geduwd wordt, zeker op YouTube. Zoek je daar iets op over Trump, dan ga je snel extreemrechtse aanbevelingen krijgen. Niet alleen vanwege je zoekopdracht, maar vooral omdat die filmpjes meer aangeklikt en dus ook meer aanbevolen worden.”

Wat willen gebruikers?

In hun zoektocht naar een algoritme dat de gebruiker in contact brengt met meer divers nieuws, bekeken de onderzoekers eerst welke nieuwsselectieprincipes het meest in de smaak vallen bij gebruikers zelf.

De wetenschappers deden een test met drie soorten algoritmes. Voor het eerste algoritme vormden het leesgedrag en de interesses van een persoon de basis. Het tweede algoritme selecteerde nieuws op basis van wat vergelijkbare gebruikers lezen of interessant vinden. Het laatste algoritme draaide rond de 'geconsumeerde diversiteit'. Dat algoritme keek voornamelijk hoe artikelen van elkaar verschillen en hoe een gebruiker met een zo divers mogelijk aanbod in contact kan komen.

“De resultaten van dit onderzoek tonen aan dat het publiek geïnteresseerd is in nieuwsselectieprincipes op basis ven leesgedrag en interesses", zegt Glen Joris.

Die vaststelling vormde de basis voor de bouw van een algoritme rond het concept ‘gepersonaliseerde diversiteit’. “Het uiteindelijke doel van het diversiteitsalgoritme bleef behouden, maar er werd wel gebruik gemaakt van personalisatietechnieken die onder de meeste commerciële nieuwsalgoritmes schuilgaan en hen ook zo aantrekkelijk maken.”

De grootste uitdaging was op een autonome manier informatie uit tekst halen. “We hebben er de volle vier jaar voor nodig gehad en schakelden ook de hulp in van machine learning”, zegt Joris.

Uiteindelijk werd een algoritme gebouwd dat nieuws kiest op basis van sentiment, onderwerp en evenement. “Het was een proces met vallen en opstaan. Zo’n systeem kan zoeken op brede topics, maar heeft het moeilijker met gedetailleerde informatie. Uiteindelijk hebben we een ingewikkelde ‘kennisgraaf’ ontwikkeld die de interesses van een persoon kan linken met het onderwerp van nieuwsartikelen.”

Gepersonaliseerde diversiteit

De onderzoekers focusten zich dus op de gebruiker en vertrokken vanuit diens confirmation bias. “Mensen gaan vooral op zoek naar een bevestiging van wat ze al weten en denken. Ze prefereren bepaalde standpunten en gaan op zoek naar nieuws die bij dat standpunt aansluit. Dat doorbreken is een moeilijkheid. We kunnen wel algoritmes ontwikkelen die verschillende standpunten aanbevelen, maar gaan gebruikers daarop ingaan? Zijn mensen daarin geïnteresseerd? Kunnen we de confirmation bias overwinnen door algoritmes in te zetten?"

Onderzoek Glen Joris: 'We zagen meteen dat het algoritme effect heeft op het leesgedrag: hoe diverser het nieuws dat je aanbiedt, hoe diverser mensen lezen'

“Mensen geven de voorkeur aan standpuntdiversiteit”, zegt Glen Joris. “Ze lijken te beseffen, meer rond standpunten dan onderwerpen, dat er standpuntdiversiteit nodig is. Als je goed geïnformeerd wil worden, moet je meerdere zijden van het politieke debat kennen. Maar interesses van de persoon blijven ook heel belangrijk. Mensen willen lezen wat aansluit bij hun interesses. Dat plaatste ons voor een tegenstelling: lezers willen inzetten op diversiteit, maar ook focussen op hun interesses.”

De uitdaging lag hem dus in het verzoenen van die twee. “Stel je voor dat mensen een radicaal andere mening te zien krijgen dan de mening die ze verkiezen, zal dat ervoor zorgen dat ze het diversiteitsalgoritme niet gaan gebruiken? Het antwoord daarop is om de interesses van de persoon als middel te gebruiken om meer diversiteit aan te bieden. Het is daarom belangrijk om eerst de interesses van een persoon te bepalen en artikels aan te bieden die daarop aansluiten, en daar dan steeds verder van weggaan."

"Stel: iemand is enkel in sport en cultuur geïnteresseerd en niet in buitenlandse politiek. Dan is het zaak om via een item rond sport of cultuur de lezer toch naar die buitenlandse politiek te leiden. Op die manier kwamen we bij het concept van 'gepersonaliseerde diversiteit'."

De effectiviteit van het diversiteitsalgoritme werd tijdens verschillende experimenten uitgetest. Tijdens de coronaperiode gingen verschillende testmomenten door, waarbij mensen een eenvoudig vormgegeven nieuwssite zagen met artikelen van VRT NWS, DPG Media en Mediahuis.

“We zagen meteen dat het algoritme effect heeft op het leesgedrag", zegt Joris. "Hoe diverser het nieuws dat je aanbiedt, hoe diverser mensen lezen. Dat klinkt heel logisch, maar wat minder logisch was, is dat gebruikers dat niet zo ervaren. Dat komt omdat het algoritme niet transparant was. Enerzijds kan je niet verwachten van mensen dat ze doorhebben wat het algoritme doet, maar anderzijds denk ik dat mensen vaak niet nadenken over nieuwsdiversiteit omdat het een abstract concept is."

Mensenrechten

Het multidisciplinaire team van NewsDNA ontwikkelde niet alleen een diversiteitsalgoritme, het bekeek ook vanuit verschillende disciplines wat nieuwsdiversiteit is en welke voorwaarden nodig zijn om die diversiteit 'algoritmisch' te bevorderen. “Vanuit een juridisch perspectief is nieuwsdiversiteit in essentie belangrijk omdat mensen diverse meningen en opinies te zien moeten krijgen over zaken van algemeen belang”, zegt postdoctoraal onderzoeker Judith Vermeulen.

Onderzoeker Judith Vermeulen: 'De overheid moet er online ook voor zorgen dat mensen diverse informatie kunnen vinden en actie ondernemen als dat niet het geval is'

Ze maakte een mensenrechtelijke analyse bij het gebruik van verschillende types aanbevelingssystemen: zowel algoritmes die tot potentiële filterbubbels leiden als systemen die diversiteit in leesgedrag stimuleren.

Haar besluit: het gebruik van een diversiteitsalgoritme is te verantwoorden vanuit twee mensenrechten. “Ten eerste is er het recht op vrije meningsvorming”, verduidelijkt Judith Vermeulen. “Als algoritmes bepalen wat mensen systematisch te zien krijgen, dan kan dat mensen beïnvloeden in hoe ze meningen vormen. Afhankelijk van de informatie die mensen zien, denken ze na en ontwikkelen ze bepaalde standpunten en andere niet."

Daarnaast is er ook het recht op ontvangen van diverse informatie. “Een overheid zorgt daar al langer voor, bijvoorbeeld via het verdelen van radiofrequenties of televisiekanalen, of door middel van regelgeving die ervoor zorgt dat media op die kanalen diverse informatie publiceren."

"Nu internet even belangrijk is geworden, kunnen we de lijn doortrekken", stelt Vermeulen. "Een overheid moet er online ook voor zorgen dat mensen diverse informatie kunnen vinden en actie ondernemen als dat niet het geval is. Als overal algoritmes aan het werk zijn die mensen tonen ‘wat ze willen zien’, ook al is er meer diverse informatie, dan moeten mensen die informatie wel kunnen vinden of zien.”

Opt-in

Toch vindt Vermeulen het belangrijk dat nieuwsaanbeveling opt-in is: mensen moeten kunnen kiezen of ze het willen gebruiken of niet, ongeacht welk algoritme gebruikt wordt. “Nieuwsaanbeveling kan namelijk de vrijheid belemmeren om gedachten en opinies te vormen. Op basis van artikel 9 en 10 van het Europees Verdrag voor de Rechten van de Mens heb je het recht om die meningen te vormen op autonome wijze. Dat betekent dat je zelf kan navigeren doorheen het geheel van beschikbare informatie. In het geval van nieuwsaanbeveling is het zo dat het algoritme een selectie maakt voor jou. De gebruiker vormt dus minder autonoom zijn gedachten en opinies.”

Er is evenwel geen rechtspraak die bevestigt dat nieuwsaanbeveling een belemmering vormt voor de vrijheid van meningsvorming. “Op basis van literatuur vond ik wel dat agendasetting door de media grenst aan het toelaatbare, zelfs al is die noodzakelijk en onvermijdelijk.” Nieuwsaanbeveling gaat eigenlijk nog een stap verder en zelfs te ver.

Vermeulen is van mening dat een opt-in wel enkel noodzakelijk is wanneer algoritmes gebruikt worden om de homepage van nieuwssites te cureren. “Vooral als algoritmen worden gebruikt om de voorpagina vorm te geven, kan er beïnvloeding zijn. Andere pagina’s zijn eerder additioneel. Dls daar nieuwspersonalisatie speelt die helpt om informatie te vinden op basis van interesses, dan beïnvloedt dat gebruikers minder dan een homepage. Die is beter voor iedereen hetzelfde."

"Als het de bedoeling is om op de homepage iedere gebruikers ander nieuws aan te beleven, dan moeten mensen de keuze hebben om het algoritme niet te gebruiken. Een andere optie zou kunnen zijn dat mensen dezelfde homepage zien, maar dat ‘lees ook’-suggesties gedaan worden voor andere standpunten. Op die manier geef je mensen de keuze om te klikken. Eigenlijk is dat een vorm van nudgen: mensen worden subtiel gestimuleerd om die standpunten te consumeren, maar kiezen uiteindelijk zelf of ze op het aanbod ingaan of niet."

Verplicht invoeren?

De vraag rijst of nieuwsorganisaties en beleidsmakers het belang en de noodzaak van een diversiteitsalgoritme inzien. Want de impact op de samenleving kan groot zijn.

“Het thema van nieuwsdiversiteit staat op de agenda, zeker sinds de coronacrisis is het bij de publieke omroep en bij andere nieuwsmedia echt een issue”, zegt Glen Joris. “Het is een positieve evolutie dat zowel beleidsmakers als publieke omroepen in de Benelux aandacht besteden en werken aan smaakverbredende of diversiteitsstimulerende algoritmes.”

Glen Joris: 'Het is een positieve evolutie dat zowel beleidsmakers als publieke omroepen in de Benelux aandacht besteden en werken aan smaakverbredende of diversiteitsstimulerende algoritmes'

“In de beheersovereenkomst wordt VRT gevraagd om in te zetten op smaakverbredende algoritmes, wat eigenlijk aansluit op ons onderzoek. Maar de keuze van wat het algoritme moet doen, blijft wel heel moeilijk."

"Stel dat je een algoritme wil ontwikkelen voor meer nieuwsdiversiteit over politieke partijen. Hoe maak je de selectie? Ga je op basis van het aantal zetels aandacht besteden aan partijen, heel wiskundig afgemeten, of geef je alle partijen evenveel aandacht? Voor beide opties zijn voor- en tegenargumenten te vinden. Dit zijn wel de keuzes die je moet maken als je een algoritme ontwikkelt”, zegt Joris.

Dergelijke afwegingen gebeuren nu door nieuwsredacties, door mensen. “Redacties kiezen welke partijen of standpunten ze aandacht geven. Bij een algoritme ga je die keuze in cijfers moeten omzetten. Het ‘buikgevoel’ op redacties wordt ook al veel beïnvloed door monitoring: welk thema scoort goed. Maar een algoritme is wel dwingender."

Commerciële (sociale)mediabedrijven vinden nieuwsdiversiteit belangrijk, maar personalisatie heeft in hun algoritmes de bovenhand. Diversiteit is voor hen eerder een manier om ervoor te zorgen dat gebruikers niet gefrustreerd geraken in wat ze zien, zeggen Vermeulen en Joris. “Nieuwsdiversiteit wordt eerder in functie van personalisatie ingezet en dat is dus een andere insteek.”

Europa op mediaslagveld

Big Tech houdt zijn algoritmes geheim, maar met de Digital Services Act (DSA) is wel Europese regulering op komst. De nieuwe richtlijn vertrekt vanuit de idee dat wat offline strafbaar is, ook online strafbaar is. Er komt dus meer toezicht op Big Tech en zijn algoritmes.

“De geesten moesten rijpen om dat mogelijk te maken. Ook in de Verenigde Staten en het Verenigd Koninkrijk zie je initiatieven tot regulering die tot voor enkele jaren als onmogelijk gedacht werden”, zegt Judith Vermeulen. “Het is wachten op de definitieve tekst van de DSA, maar zeker is dat ‘very large social media’, genre Facebook, een feed zullen moeten aanbieden die niet gepersonaliseerd is."

Judith Vermeulen: 'Het is wachten op de definitieve Europese regels, maar zeker is dat ‘very large social media’ een feed zullen moeten aanbieden die niet gepersonaliseerd is'

“In eerdere versies van de tekst staat niet expliciet dat ze hun content chronologisch moeten aanbieden. Ik leid daaruit af dat Facebook nog steeds populaire content of content die veel reacties oproept, naar voor kan schuiven. Vaak is dat wel extreme content”, merkt Vermeulen op.

“Het zou wel goed zijn als mensen tegen 2024 kunnen kiezen of ze een chronologische feed willen op sociale media, of dat ze tenminste weten dat die optie er is. Er komen ook meer regels voor online politieke advertenties. De grote platformen zullen blijven, maar meer transparantie zal wel gezond zijn voor het publiek debat.”

Gebruiker aan het roer

Voor nieuwsmedia ligt Europese regulering traditioneel gevoeliger. “Vaak hebben lidstaten daarover de bevoegdheden. De sector kent ook een zekere mate van zelfregulering. Nochtans had Europa veel relancemiddelen over voor de media, maar de focus ligt op zaken als het bestrijden van desinformatie, eerder dan het stimuleren van diverse nieuwsalgoritmes. Daar ligt dus een opportuniteit. Zo zou Europa de bouw van een nieuwsaggregator kunnen stimuleren die nieuwsdiversiteit beïnvloedt."

"Een platform zoals Blendle zou diverse meningen over verschillende topics kunnen aanbieden, zodat uit het publiek debat ook een consensusopinie kan komen. Het hele idee van een publieke sfeer kadert daarin.”

De overheid stimuleert dan wel een vorm van nieuwsdiversiteit bij de publieke omroep, maar voor de commerciële media ligt het initiatief bij henzelf. De burger moet in elk geval betrokken worden. “Als we willen dat het werkt, dan is het belangrijk dat de gebruiker controle heeft”, benadrukt Vermeulen.

Glen Joris: 'We moeten mensen inzicht geven hoe algoritmes werken en naar welk doel ze leiden'

“Een diversiteitsalgoritme is een middel dan je kan helpen, maar je moet de vrijheid behouden om het te gebruiken of niet. En als je het gebruikt, moet je de vrijheid behouden bij het gebruik. Een optie zou kunnen zijn om mensen te laten switchen tussen algoritmes. Met een slider zou je kunnen aanduiden of je divers wil lezen of op basis van interesses."

Dat laatste benadrukt ook Glen Joris. “Een diversiteitsalgoritme heeft ook een manipulatieve kracht, zeker omdat het algoritme effectief is. Het kan mensen naar een vooraf bepaald ‘ideaalbeeld’ sturen zonder dat ze zich daarvan bewust zijn. Om te vermijden dat mensen niet weten dat ze diverser lezen, moeten we zeker ook nadenken over transparantie. We moeten mensen inzicht geven hoe algoritmes werken en naar welk doel ze leiden.”

Maar die transparantie is breder dan inzage in de werking van algoritmes. Het hele proces van nieuwsselectie zou ook transparanter kunnen. “Ook zonder diversiteitsalgoritme heeft de lezer er het raden naar waarom hij iets te zien krijgt. Bij een nieuwssite weet je ook niet hoe het nieuwsaanbod wordt gecureerd.”

Allicht komt er een vervolgonderzoek rond aanbevelingsalgoritmes, maar dan voor video en audio. “In plaats van te focussen op andere informatiedragers, zou het daarnaast interessant zijn om te focussen op andere diversiteitskenmerken", besluiten Vermeulen en Joris.

LEES OOK
Jan Walraven / 01-02-2018

Wat als je baas een app is?

De Brusselse taxichauffeurs betoogden tegen wat ze "de Uberisatie" van hun sector noemen. Het zet de discussie over de toekomst van arbeid opnieuw op de agenda.
wat als je baas een app is