Tussen de lijnen lezen. Dat is kort samengevat wat het bedrijf Textgain, een spin-off van de Universiteit Antwerpen, elke dag doet. Textgain kan op basis van artificiële intelligentie wetenschappelijk vaststellen of de schrijver van een post op sociale media mannelijk of vrouwelijk is, jonger of ouder dan 25 jaar en of het een introvert of extravert persoon is. Het bedrijf is in 2016 ontstaan en stelt vandaag tien mensen tewerk.
Verdrievoudiging haatboodschappen
“Wij houden ons onder meer bezig met het analyseren van haatboodschappen en desinformatie op sociale media”, zegt Guy De Pauw, algemeen directeur van Textgain. “We zijn daarmee begonnen na de aanslagen in Brussel op 22 maart 2016, omdat we voelden dat daar een grote nood aan was. Uit ons eigen recente onderzoek blijkt dat het aantal haatboodschappen op Nederlandstalige sociale media is verdrievoudigd in dik drie jaar tijd.”
“Vooral haat tegenover het coronabeleid komt veel voor, maar ook islamofobie en seksisme zitten op Nederlandstalige sociale media nog steeds in de lift. Wij analyseren op basis van artificiële intelligentie welk soort mensen er achter die haatboodschappen zitten. Uit ons onderzoek blijkt bijvoorbeeld dat vrouwonvriendelijke boodschappen vooral worden gepost door alleenstaande mannen die boos zijn omdat ze geen lief hebben.”
De vraag is natuurlijk wanneer een boodschap haatdragend is en wanneer niet. “Dat bepalen we natuurlijk niet zomaar”, zegt Guy De Pauw. “We werken met een groot testpanel. Een voorbeeld daarvan is dat we mensen tijdens een voetbalmatch allerlei berichten voorschotelen. Die mensen kunnen dan aangeven of ze een uitspraak heel haatdragend, misschien haatdragend of helemaal niet haatdragend vinden. We gaan dus niet zelf bepalen wat haatdragend is, maar leggen die grens vast door onderzoek.”
Europese Commissie en Facebook zijn klant
Textgain bestaat nog geen zes jaar, maar heeft zich al in de gratie van grote klanten gewerkt. Een daarvan is de Europese Commissie. “Wij analyseren voor de Europese Commissie hoe snel het aantal haatboodschappen stijgt, over welke onderwerpen die gaan en welk type van mensen die boodschappen op sociale media plaatst”, zegt Guy De Pauw. “Zo kunnen Europese overheden beter reageren op die trends en weten ze op welke thema’s ze moeten inspelen om die haatboodschappen tegen te gaan.”
Ook Facebook is klant bij Textgain. “We zijn op vraag van Facebook nagegaan of samenzweringstheorieën, zoals het geloof dat Joden met laserstralen de mensheid kunnen vernietigen als ze dat willen, in Europa aan populariteit winnen. Het antwoord is helaas ja”, zegt Guy De Pauw.
Automatische herkenning
“Voor de kranten van Mediahuis hebben we dan weer een mechanisme ontwikkeld dat haatboodschappen automatisch herkent”, zegt De Pauw. “Als jij iets heel haatdragend op een forum wil posten, krijg je de melding dat jouw boodschap volgens ons haatdragend kan zijn, en dat je reactie in quarantaine wordt geplaatst. Een moderator moet jouw tekst dan eerst nog eens nakijken voor die wordt gepubliceerd. Zo creëren we een omgeving waarbij iedereen aan discussies kan deelnemen, zonder dat er volop haat wordt gespuid.”
Wat is het uiteindelijke doel van Textgain? “Eigenlijk willen we dat beleidsmakers en bedrijven sneller kunnen reageren op haatboodschappen”, zegt Guy De Pauw. “Niet door ze te censureren, wel door ze beter te begrijpen. Alleen dan kun je er echt iets aan doen.”
Lees ook: HB Antwerp en Textgain winnen eerste AHA!-awards voor bedrijven
