When FB Replaced Editors with Algorithm

Herinner je je nog hoe eerder dit jaar een algoritme op hol sloeg? Iets soortgelijks gebeurde onlangs toen Facebook besloot om de redacteuren van de 'trending' nieuwsmodule te verwijderen en een algoritme deze taak liet overnemen. Wat het team van Zuckerberg niet voorzag, is dat het algoritme zonder mensen gek werd, en valse verhalen verspreidde over een nieuwsanker, een schrijver en McDonald's.

In 2014 introduceerde Facebook de 'trending' module in de zijbalk van het startscherm van het sociale netwerk in een poging de inhoud voor elke gebruiker te personaliseren. De zogenaamd algoritmisch gerunde functie werd begin dit jaar onthuld dat deze slechts gedeeltelijk door machines werd aangestuurd, met een team van nieuwsredacteuren dat verantwoordelijk was voor het aanpassen van de geselecteerde topverhalen. In dezelfde week werd het bedrijf beschuldigd van het verspreiden van politiek bevooroordeelde inhoud.

Afgelopen vrijdag maakte het bedrijf bekend dat ze menselijke banen hebben geëlimineerd om de reikwijdte van hun nieuwsoperatie te verbreden. “Ons doel is om Trending voor zo veel mogelijk mensen beschikbaar te maken, wat moeilijk zou zijn als we uitsluitend vertrouwden op het handmatig samenvatten van onderwerpen. Een meer algoritmisch gestuurd proces stelt ons in staat om Trending op te schalen om meer onderwerpen te behandelen en het wereldwijd beschikbaar te maken voor meer mensen in de loop van de tijd”.

De trending module was bedoeld om te 'leren' van de curatiebeslissingen van de menselijke redacteuren, maar dit gebeurde niet. Sterker nog, kort nadat de 'trending' sectie niet meer werd beheerd door menselijk ingrijpen, begon het algoritme ongepaste inhoud te publiceren, beschuldigde een Fox News-presentator ervan Hillary Clinton te steunen, plaatste racistische opmerkingen naar een schrijver en deelde een videolink van een masturberende man die een McChicken at.

Aangezien Facebook een van de grootste distributeurs van nieuws wordt, gaat dit gepaard met grote verantwoordelijkheid. Het groeiende vertrouwen van het bedrijf in machine-intelligentie kan geen tekortkomingen aan de bron toestaan. Facebook lijkt hoge doelen te stellen voor automatisering, zoals eerder in augustus toen ze hun volgende fase van machinevisie uitbrachten. Laten we hopen dat deze nieuwe mechanismen meer welwillend zijn.

Bron: The Guardian. Afbeelding: Ratcliffe/Bloomberg via Getty