Artificiële intelligentie kan mensen helpen om beter overeen te komen over gevoelige thema's

Om in groep een beslissing te kunnen nemen en te kunnen handelen, moet je als groep eerst overeenstemming bereiken. En dat kan een uitdaging zijn als de groepsleden op zichzelf waardevolle, maar zeer uiteenlopende meningen hebben.

Zeker in deze tijden van toenemende polarisatie en culture wars, de 'strijd' tussen groepen die ideologisch sterk van mening verschillen over wat binnen een bepaalde maatschappij kan of niet, is gemeenschappelijke grond vinden een grote uitdaging.

Kan artificiële intelligentie (AI) besluitvorming in groep verbeteren? Het was de centrale vraag in een studie bij Google DeepMind, de afdeling bij techgigant Google die zich bezighoudt met onderzoek naar toepassingen met artificiële intelligentie.

De onderzoekers bij Google Deepmind ontwikkelden een AI-taalmodel om te kijken of artificiële intelligentie kan helpen om compromissen te vinden over complexe sociale en politieke kwesties. Dat taalmodel noemden ze de 'Habermas-machine', naar de Duitse filosoof Jürgen Habermas, beroemd om zijn theorie van communicatief handelen.

Ze trainden het model met tal van experimenten waaraan 5.734 mensen uit het Verenigd Koninkrijk deelnamen. De onderzoekers lieten hen in groepjes van 5 debatteren over gevoelige thema's zoals de brexit, immigratie, het minimumloon, dierproeven, klimaatverandering en de coronapandemie.

De schriftelijke mening van elke deelnemer binnen een groepje werd aan de Habermas-machine gevoed. Het systeem genereerde op basis van taalherkenning 'samenvattende' verklaringen. Die groepsverklaringen werd voorgelegd aan de deelnemers om te beoordelen op hun aanvaardbaarheid.

De eerste beoordeling, en bijhorende opmerkingen of kritiek, werd opnieuw in het taalmodel ingevoerd. Op basis daarvan kwam er een nieuwe groepsverklaring, die opnieuw werd beoordeeld. En zo werd het taalmodel getraind en almaar verfijnd. Op den duur kon het een definitieve groepsverklaring samenstellen met de grootst mogelijke goedkeuring.

De onderzoekers bij Google DeepMind stelden vast dat de groepsverklaringen door de Habermas-machine veel beter gesmaakt werden dan de groepsverklaringen die de deelnemers zelf opstelden.

De eerste groepsverklaring van de Habermas-machine kreeg in 56 procent van de gevallen de voorkeur van de deelnemers zelf, de zelf opgestelde groepsverklaring werd, maar in 44 procent van de gevallen gekozen. Onderzoekers vroegen ook de mening van externe beoordelaars, die niet op de hoogte waren. Zij noemden de artificiële beoordeling kwaliteitsvoller, duidelijker, informatiever en eerlijker.

In andere experimenten wilden de onderzoekers bij Google DeepMind nagaan of de artificiële groepsverklaring ook het standpunt van de deelnemers beïnvloedde bij de bespreking.

De AI-bemiddeling deed de verdeeldheid binnen groepen afnemen. De standpunten van de deelnemers bewogen na een beraadslaging over die groepsverklaring meer naar elkaar toe. Dat effect was er niet toen deelnemers zelf een groepsverklaring opstelden.

De steun voor het meerderheidsstandpunt in de groepsverklaring nam toe bij bemiddeling door het taalmodel. De onderzoekers benadrukken daarbij dat het niet zo is dat mensen altijd hun standpunt aanpasten om te voldoen aan de meerderheid. Het model verwerkte wel de minderheidsheidsstandpunten in zijn herziene verklaringen.

De onderzoekers willen nu verder nagaan op welke manier precies de Habermas-machine de groepsverklaringen opstelt. "Het lijkt in grote lijnen de mening van de meerderheid in elk van onze kleine groepjes te respecteren, maar stelt een tekst op die de minderheid niet achterwege laat", zegt Chris Summerfield, co-auteur en professor aan de universiteit van Oxford.

"Ik zou graag willen zien dat het gebruikt wordt om politieke leiders in het Verenigd Koninkrijk een beter beeld te geven van wat mensen echt denken", zegt Summerfield. "Enquêtes geven maar beperkte inzichten, burgervergaderingen zijn vaak duur, logistiek uitdagend en beperkt in omvang."

De onderzoekers maken zelf wel voorbehoud bij het ongebreideld inzetten van AI in groepsbemiddeling. Als dat gebeurt, moet erop toegezien worden dat de deelnemers in de groepen representatief zijn en te goeder trouw handelen.

Ook doet de Habermas-machine nog niet aan fact-checking, en zou het dus best kunnen dat de uiteindelijke groepsverklaring niet overeenkomt met de feiten. De machine kan ook niet checken of deelnemers bij het onderwerp blijven of afdwalen.

Wetenschappers die niet bij het onderzoek betrokken waren, merken ook op dat de Habermas-machine de deelnemers niet de kans geeft om hun gevoelens uit te leggen, en zo empathie te ontwikkelen voor mensen met een andere mening.

Zoals bij alles met A.I.: context is key. De context bepaalt heel veel.