Studie Waarschuwt dat AI Sociale Media Polariteit Kan Versterken

Kunstmatige intelligentie zou de polarisatie op sociale media kunnen versterken, waarschuwen onderzoekers en studenten van Concordia, met zorgen over vrije meningsuiting en desinformatie.

Hoewel polarisatie op sociale media niets nieuws is, waarschuwen onderzoekers en studentenactivisten van de Concordia Universiteit dat kunstmatige intelligentie het probleem aanzienlijk zou kunnen verergeren.

“In plaats van beelden te zien van wat er gebeurt of inhoud van de journalisten die erover rapporteren, zien we in plaats daarvan overdreven gedramatiseerde AI-kunst van dingen waar we politiek om zouden moeten geven […] Het verwijdert mensen echt en neemt de verantwoordelijkheid weg” zei Danna Ballantyne, coördinator externe zaken en mobilisatie voor de Concordia Student Union, zoals gemeld door The Link.

Haar zorgen weerspiegelen nieuw onderzoek van Concordia, waar professor Rastko R. Selmic en PhD-student Mohamed N. Zareer hebben aangetoond hoe versterkend-lerende bots verdeeldheid online kunnen aanwakkeren. “Ons doel was om te begrijpen welke drempel kunstmatige intelligentie kan hebben op polarisatie en sociale media-netwerken, en dit te simuleren […] om te meten hoe deze polarisatie en onenigheid kunnen ontstaan.” zei Zareer, zoals gemeld door The Link.

De bevindingen suggereren dat algoritmes geen privégegevens nodig hebben om verdeeldheid te zaaien, waar basis signalen zoals volgeraantallen en recente berichten genoeg zijn. “Het is zorgwekkend, omdat [terwijl] het geen eenvoudige robot is, het nog steeds een algoritme is dat je op je computer kunt creëren […] En als je genoeg rekenkracht hebt, kun je steeds meer netwerken beïnvloeden”, legde Zareer uit aan The Link.

Dit weerspiegelt een breder scala aan onderzoek dat laat zien hoe versterkend leren kan worden gebruikt om gemeenschappen uit elkaar te drijven. De studie van Concordia gebruikte Double-Deep Q-learning en toonde aan dat vijandige AI-agenten “flexibel kunnen aanpassen aan veranderingen binnen het netwerk, waardoor het effectief structurele kwetsbaarheden kan uitbuiten en verdeeldheid onder gebruikers kan vergroten”, zoals het onderzoek opmerkte.

Inderdaad, Double-Deep Q-learning is een AI-techniek waarbij een bot optimale acties leert door middel van vallen en opstaan. Het maakt gebruik van diepe neurale netwerken om complexe problemen aan te pakken en twee waardebepalingen om te voorkomen dat beloningen worden overschat. Op sociale media kan het strategisch inhoud verspreiden om polarisatie te vergroten met minimale gegevens.

Zareer waarschuwde dat beleidsmakers voor een moeilijke balans staan. “Er is een fijne lijn tussen monitoren en censureren en proberen het netwerk te controleren,” zei hij tegen The Link. Te weinig toezicht laat bots gesprekken manipuleren, terwijl te veel het risico kan lopen dat de vrije meningsuiting wordt onderdrukt.

Ondertussen vrezen studenten zoals Ballantyne dat AI geleefde ervaringen uitwist. “AI schrapt dat volledig,” zei ze tegen The Link.