Chattbotar riskerar öka polarisering

helskärm

Chattbotar och AI ger oss ofta de svar de tror att vi vill ha. På så vis kan de förstärka mer extrema idéer och bidra till ökad polarisering, varnar forskare vid Johns Hopkins universitet.

Den som ställer en fråga till en chattbot och utgår från att den ska ge opartisk och heltäckande information kan ha väldigt fel. Enligt AI-forskare riskerar chattboten att bara leverera de åsikter du redan har och ge svar som stöder din bild.

“Många tror att bara för att de läser en text som skapats av AI så får de icke-partiska och faktabaserade svar”, säger Ziang Xiao vid Johns Hopkins universitet, studiens huvudförfattare som forskar inom interaktionen mellan AI och människa.

Chattbot eller sökmotor

Forskarna lät till en början 272 studiedeltagare skriva ner sina tankar och åsikter i ett antal olika ämnen. Det kunde handla om till exempel sjukvård och studielån. Därefter fick de i uppgift att ta reda på mer information om samma ämnen, antingen via en vanlig sökmotor eller genom en chattbot.

Därefter skrev deltagarna ytterligare en text om samma ämne och fick också svara på frågor om ämnet. Forskarnas slutsats är att deltagarna som använde chattbot inför text nummer två blev mer förstärkta i sina resonemang och i sina teser än de som sökte information genom en sökmotor.

Bekräftar åsikter

Enligt studien, som presenterats på en vetenskaplig kongress, fick de som sökte information via en chattbot fram svar och formuleringar som låg närmare de ursprungliga åsikterna, snarare än att bredda resonemanget och presentera andra alternativ. Chattbotanvändarna reagerade också starkare på åsikter och frågor som utmanade deras åsikter än de som använde sökmotorn.

Enligt forskarna beror detta på att chattbotanvändare skriver specifika frågor som till exempel “Vad kostar allmän sjukvård” snarare än att bara skriva in sökord. Chattboten kommer då att redovisa svar på frågan och presentera hur mycket sjukvården kostar men inte ta upp fördelar.

“Det finns alltid en risk att informationen vi söker blir ett eko av det vi redan tycker. Med med AI och chattbotar blir den effekten ännu större”, säger Ziang Xiao.