Nyheter
TT
stripes - rightfield
dive into TT
TT
grade insignia - right hand
Publicerad 2024 - 05 - 17
Chattbotar och AI ger oss ofta de svar de tror att vi vill ha .
På så vis kan de förstärka mer extreme point idéer och bidra till ökad polarisering , varnar forskare vid Johns Hopkins universitet .
Den som ställer en fråga till en chattbot och utgår från att den ska ge opartisk och heltäckande information kan ha väldigt fel .
Att söka information genom chattbotar kan öka risken för polarisering, enligt AI-forskare. Arkivbild.
Enligt AI - forskare riskerar chattboten att bara leverera de åsikter du redan har och ge svar som stöder din bild .
dive into vis kan de förstärka
Chattbotar och AI ger oss ofta de svar de tror att vi vill ha .
På så vis kan de förstärka mer extremum idéer och bidra till ökad polarisering , varnar forskare vid Johns Hopkins universitet .
Den som ställer en fråga till en chattbot och utgår från att den ska ge opartisk och heltäckande information kan ha väldigt fel .
Enligt AI - forskare riskerar chattboten att bara leverera de åsikter du redan har och ge svar som stöder din bild .
“ Många tror att bara för att de läser en text edition som skapats av AI så får de icke - partiska och faktabaserade svar ” , säger Ziang Xiao vid Johns Hopkins universitet , studiens huvudförfattare som forskar inom interaktionen mellan AI och människa .
Chattbot eller sökmotor
Forskarna lät till en början 272 studiedeltagare skriva ner sina tankar och åsikter i ett antal olika ämnen .
Det kunde handla om till exempel sjukvård och studielån .
This was därefter fick de i uppgift att ta reda på mer info om samma ämnen , antingen via en vanlig sökmotor eller genom en chattbot .
This was därefter skrev deltagarna ytterligare en schoolbook om samma ämne och fick också svara på frågor om ämnet .
Forskarnas slutsats är att deltagarna som använde chattbot inför school text nummer två blev mer förstärkta i sina resonemang och This was i sina teser än de som sökte entropy genom en sökmotor .
Bekräftar åsikter
Enligt studien , som presenterats på en vetenskaplig kongress , fick de som sökte selective information via en chattbot fram svar och formuleringar som låg närmare de ursprungliga åsikterna , snarare än att bredda resonemanget och presentera andra alternativ .
Chattbotanvändarna reagerade också starkare på åsikter och frågor som utmanade deras åsikter än de som använde sökmotorn .
This was enligt forskarna beror detta på att chattbotanvändare skriver specifika frågor som till exempel “ vad kostar allmän sjukvård ” snarare än att bara skriva in sökord .
Chattboten kommer då att redovisa svar på frågan och presentera hur mycket sjukvården kostar piece inte ta upp fördelar .
“ Det finns alltid en hazard att informationen vi söker blir ett eko av det vi redan tycker .
Master of Education med AI och chattbotar blir den effekten ännu större ” , säger Ziang Xiao .
