5 minuten leestijd 5 apr. 2020
Man die letterkubussen vasthoudt

Hoe feiten van fictie te onderscheiden tijdens de COVID-19-pandemie en daarna

Door Todd Marlin

EY Global Forensic & Integrity Services Technology & Innovation Leader

Global leader in technology & Innovation, with significant experience serving the financial services industry.

Lokale contactpersoon

EY Nederland Partner Consulting, Forensics & Integrity Lead

Authentiek. Verbindt. Oplossingsgericht. Duidt belangen van in- en externe stakeholders. Creëert vertrouwen in crisis en maakt complexe zaken transparant.

5 minuten leestijd 5 apr. 2020

Nepnieuws bestaat al sinds mensenheugenis, maar de coronapandemie heeft dit probleem en de schade die het de samenleving kan berokkenen een nieuwe dimensie gegeven.

Nepnieuws - de moedwillige verspreiding van onjuiste informatie - holt het publieke vertrouwen uit, schaadt instellingen en personen en creëert verwarring bij mensen die proberen een steeds complexer wordende wereld te begrijpen.

Digitale mediabedrijven worden al lange tijd bekritiseerd omdat ze duidelijke onwaarheden niet van hun kanalen verwijderen. De druk op deze bedrijven is verder toegenomen omdat er in de VS polariserende verkiezingen voor de deur staan. Het coronavirus, dat de grootste pandemie in het sociale-mediatijdperk heeft veroorzaakt, maakt het probleem alleen maar groter.

Paniek over een dodelijke ziekte en misleidende/tegenstrijdige informatie van overheidsfunctionarissen voortkomend uit partijpolitiek hebben een vloedgolf van nepnieuws over de hele wereld veroorzaakt, zoals duidelijk wordt uit het artikel Can you trust what you read? (pdf).

Uit de 2019 Global Survey van CIGI-Ipsos komt naar voren dat 86% van de internetgebruikers minstens één keer door nepnieuws is misleid. Een onderzoek van het Massachusetts Institute of Technology (MIT) naar Twitter over de periode 2006-2017 laat zien dat nepnieuws 70% eerder wordt geretweet dan waarheidsgetrouwe verhalen, en dat de waarheid er ongeveer zes keer zo lang over doet om 1500 mensen te bereiken als onwaarheden.

Onwaarheden worden verder en sneller verspreid dan de waarheid in alle categorieën, met politiek nieuws voorop en zakelijke geruchten op de derde plaats. Mensen hebben vaak een voorkeur voor informatie die ongewoner is dan accurate verslaggeving, of die bevestigt wat ze toch al dachten.

Local Perspective IconEen lokaal perspectief

Nepnieuws veroorzaakt onrust, maar geeft de waarheid rust in crisis?

In een crisis is het herstellen van het vertrouwen belangrijk. Heldere, transparante communicatie kunnen onterechte zorgen wegnemen. Snel inzicht verkrijgen in feiten en relevante omstandigheden is cruciaal. Nepnieuws is hierin een verstorende factor. In de COVID19 crisis kan dit letterlijk levensbedreigend zijn.

De omvang en verspreiding van nepnieuws is sterk toegenomen. Uit onderzoek van MIT blijkt dat nepnieuws 70% meer wordt gedeeld dan echt nieuws. Daarmee bereikt het zes keer sneller een groep van 1500 mensen. Dit belemmert het herstel van vertrouwen en vertraagt herstel.

Twitter, Facebook en Google hebben aanpassingen doorgevoerd om deze nadelige effecten te verminderen. Hiervoor worden diverse methodieken gebruikt: algoritmes, machine learning en kunstmatige intelligentie.

Toch ontbreekt in deze aanpak telkens één cruciaal aspect, namelijk de menselijke factor. Zelfs een feitelijk juist bericht wordt door verschillende personen verschillend geïnterpreteerd. Je persoonlijke “waarheid” van een feitelijk bericht wordt gevormd door opvoeding, cultuur, religie, afkomst, opleiding, sociale omgeving, vaste overtuigingen en waarden.

Technologie helpt het verstorende effect van nepnieuws te verminderen. Maar het effectief herstellen van vertrouwen vergt aandacht voor de persoon (en persoonlijke aandacht).

 

Local contact

Michel Grummel
EY Nederland Partner Consulting, Forensics & Integrity Lead

De coronapandemie heeft een ongekende impact op de manier waarop mensen wereldwijd leven en werken. Het is dan ook niet zo verrassend dat het virus heeft geleid tot een uitbraak van nepnieuws.

Pandemie leidt tot een explosie aan nepnieuws

De coronapandemie heeft een ongekende impact op de manier waarop mensen wereldwijd leven en werken. Het is dan ook niet zo verrassend dat het virus heeft geleid tot een uitbraak van nepnieuws, waarbij mensen over de hele wereld informatie delen over alles van lockdowns tot tips voor het voorkomen van besmetting. Volgens een onderzoek van het Pew Research Center heeft bijna de helft van de Amerikanen nepnieuws over het coronavirus gelezen in uiteenlopende media, en bijna een kwart lijkt te geloven in het nepverhaal dat COVID-19 doelbewust is ontwikkeld.

Ook zakelijk leiders zijn misleid door nepnieuws over het coronavirus. Zo stuurde de medisch directeur van een Amerikaans bedrijf medewerkers een e-mail met het advies om warm water te drinken als remedie tegen het virus. De directeur had een post met dit advies gelezen die ten onrechte werd toegeschreven aan de universiteit van Stanford. De universiteit ontkende de bron te zijn van het advies, waarvan epidemiologen bevestigen dat het niet klopt. Hoewel het advies niet schadelijk was, bracht het voorval zowel het bedrijf als de directeur in verlegenheid.

Al ruim vóór de coronapandemie ondernamen veel internetbedrijven actie om nepnieuws tegen te gaan, maar deze inspanningen zijn drastisch opgeschaald. Twitter heeft zijn beleid gewijzigd en verwijdert tweets die schade of paniek kunnen veroorzaken, evenals tweets waarin ineffectieve behandelingen tegen het virus worden aanbevolen. Facebook, dat in maart 2020 aangaf dat meer dan de helft van de artikelen op zijn website het coronavirus betrof, paste zijn algoritmes aan om officiële berichten een hogere positie te geven en valse content te verwijderen. Google verbood coronagerelateerde apps in de appstore en advertenties van mensen die proberen om van de pandemie te profiteren.

Al ruim vóór de coronapandemie ondernamen veel internetbedrijven actie om nepnieuws tegen te gaan, maar deze inspanningen zijn drastisch opgeschaald. 

Verbetering van menselijke beoordeling met machine learning

De stortvloed aan nepnieuws is zo overweldigend dat factcheck sites zoals Snopes in maart 2020 aangaven dat ze de berichtgeving niet konden bijbenen door een tekort aan middelen. Dat het ondanks de opgevoerde inspanningen niet lukt om nepnieuws te beheersen, laat zien dat er betere detectiemethoden nodig zijn.

Een veelgebruikte aanpak van sociale-mediabedrijven is om mensen (abonnees, contractanten) te vragen om mogelijke nepcontent te markeren. Een belangrijk nadeel van menselijke beoordeling is dat die markering beïnvloed wordt door vooroordelen. Bovendien is het niet praktisch vanwege de enorme hoeveelheid media-informatie in het huidige digitale tijdperk. Het was dan ook onvermijdelijk dat artificial intelligence (AI) in beeld kwam bij de strijd tegen nepnieuws.

Bij een veelgebruikte hybride aanpak op basis van AI wordt gebruikgemaakt van twee classificatiemodellen: content en sociale context. Het contentmodel is gericht op analyse van de onderwerpverdeling binnen het nieuwsartikel. Het model wordt echter zelden opzichzelfstaand gebruikt omdat het moeilijk is om opzettelijke misleiding te onderscheiden van vooringenomenheid wanneer alleen naar de content wordt gekeken.

Vaak wordt het contentmodel gecombineerd met het sociale-contextmodel, dat gericht is op hoofdaspecten van het sociale netwerk (bijvoorbeeld volgers, gebruikerskenmerken, interactie en betrokkenheidsgeschiedenis). Het nadeel van deze aanpak is dat de analyse alleen wordt uitgevoerd op basis van de inhoud van het nieuws. Door die beperkte reikwijdte kan het moeilijk zijn om de bredere context van het nieuws en, mogelijk, het type nepnieuws te begrijpen.

Een andere aanpak, aanbevolen door het Massachusetts Institute of Technology (MIT), is gericht op nieuwsbronnen. Onderzoekers van het Computer Science & Artificial Intelligence Lab van het MIT en het Qatar Computing Research Institute hebben machine-learningmodellen ontwikkeld die de authenticiteit of neutraliteit van nieuwsbronnen kunnen beoordelen. Het nadeel van deze benadering is dat, hoewel bepaalde feiten in een artikel verzonnen of aangedikt kunnen zijn, de algemene strekking van het stuk nog altijd waar kan zijn.

Een nieuwe manier van denken

Bij het bestuderen van het nepnieuwsprobleem kan het nuttig zijn om te kijken naar de contraspionagestrategieën van overheden. Open-source intelligence (OSINT) vormt een sleutelelement in dergelijke strategieën. OSINT staat voor alle informatie die legaal kan worden verzameld uit kosteloze, openbare bronnen. De informatie kan betrekking hebben op zowel individuele personen als organisaties.

Aangezien het afhankelijk is van vrij beschikbare informatie, kan OSINT worden aangetast als een individu of organisatie valse informatie in het publieke domein brengt. Dit kan echter worden verholpen door relevante stukjes informatie over een persoon via kruiscontroles op inconsistenties te onderzoeken.

Zo kan met behulp van de gegevens op sociale media van een auteur een beeld worden gevormd van zijn of haar werkgeschiedenis. Vervolgens kunnen op basis van die geschiedenis de websites van de werkgever en gerechtsregisters worden doorzocht om het online profiel van de auteur te verifiëren. Dankzij de enorme hoeveelheid gegevens in OSINT kunnen uitgebreide kruiscontroles worden uitgevoerd om het risico op valse informatie te minimaliseren.

Door aanvullende informatie uit OSINT – en dan vooral de gegevens van buiten de nieuwscontent – te combineren met machine learning en natuurlijke taalverwerking kan de reikwijdte van de analyse sterk worden vergroot. Dit resulteert in bredere inzichten die helpen om de authenticiteit en aard van nieuwscontent vast te stellen – nep of geen nep.

Een team van EY heeft met behulp van OSINT een serie tests uitgevoerd op informatie waarvan bekend is dat deze nep is. De voorlopige resultaten zijn zeer bemoedigend en wijzen erop dat deze aanpak kan worden gebruikt om organisaties te helpen bij de bestrijding van nepnieuws.

Zowel het grote publiek als bedrijven moeten hun inspanningen opvoeren en proactief zoeken naar manieren om nepnieuws op te sporen en aan banden te leggen.

Organisatiebrede planning is belangrijk

Zowel het grote publiek als bedrijven moeten hun inspanningen opvoeren en proactief zoeken naar manieren om nepnieuws op te sporen en aan te pakken, en tegelijkertijd voorkomen dat ze zelf bijdragen aan het probleem.

Hieronder volgen enkele belangrijke acties die nodig zijn om het risico van nepnieuws te beheersen:

     
  • Bouw aan een cultuur van integriteit, compliance en ethiek. Als uw organisatie een goede reputatie heeft, zal deze minder te lijden hebben van valse beschuldigingen.
  • Ontwikkel een crisisbeheersingsprogramma om de potentiële risico's van schadelijk nepnieuws aan te pakken. Test het programma op effectiviteit in worst-casescenario's.
  • Verbeter de training van medewerkers en vergroot de alertheid bij het signaleren, verzenden en rapporteren van nepnieuws.
  • Controleer naast traditionele nieuwskanalen de sociale media en nepnieuwssites om mogelijk schadelijke berichtgeving te markeren.
  • Ontwikkel gegevensgestuurde detectieprogramma's die op innovatieve manieren gebruikmaken van OSINT- en AI-technologieën.
  •  
 

Samenvatting

Er moeten diverse belangrijke stappen worden gezet, van het opbouwen van een integriteitscultuur, ontwikkelen van een crisisbeheersingsprogramma, verbeteren van de training van medewerkers en opzetten van controlefuncties tot het implementeren van OSINT- en AI-technologieën.

Over dit artikel

Door Todd Marlin

EY Global Forensic & Integrity Services Technology & Innovation Leader

Global leader in technology & Innovation, with significant experience serving the financial services industry.

Lokale contactpersoon

EY Nederland Partner Consulting, Forensics & Integrity Lead

Authentiek. Verbindt. Oplossingsgericht. Duidt belangen van in- en externe stakeholders. Creëert vertrouwen in crisis en maakt complexe zaken transparant.