AI har övertygande kraft ny studie avslöjar hur personlig Information kan vända debatter

En studie från EPFL har visat att stora språkmodeller har övertygande kraft och kan ändra folks åsikter genom att använda personlig information under debatter. Resultaten visade att deltagare som debatterade mot GPT-4 med tillgång till deras personliga information var betydligt mer benägna att ändra åsikt jämfört med de som debatterade mot människor.

Hur påverkade tillgången till personlig information deltagarnas åsiktsförändring under debatterna?

Tillgången till personlig information hade en betydande inverkan på deltagarnas åsiktsförändring under debatterna. Enligt studien från École Polytechnique Fédérale de Lausanne (EPFL) hade deltagare som debatterade mot GPT-4, och där GPT-4 hade tillgång till deras personliga information, 81.7% högre chans att ändra sin åsikt till förmån för motståndarens argument jämfört med de som debatterade mot människor. Även utan personanpassning var GPT-4 mer övertygande än människor, men skillnaden var inte lika stor.

Denna effekt kan delvis förklaras av att språkmodellen kunde använda den personliga informationen för att skräddarsy sina argument på ett sätt som var mer direkt relevant och övertygande för den enskilda deltagaren. Till exempel kunde modellen anpassa sitt språk, exempel och argument baserat på deltagarens ålder, kön, utbildningsnivå, sysselsättningsstatus och politisk tillhörighet. Detta är information som kan ge en indikation på vilka typer av argument som kan vara mer effektiva för att påverka en persons åsikt.

Studien lyfter fram en potentiell risk med hur AI-modeller kan använda personlig information för att manipulera åsikter, vilket kan ha betydande konsekvenser för exempelvis valkampanjer och online-konversationer. Om en AI kan vara så mycket mer övertygande genom att använda begränsad personlig information, väcker det frågor om integritet och etik kring användningen av sådana teknologier.

https://arxiv.org/abs/2403.14380

https://techxplore.com/news/2024-04-ai-power-persuasion-llms-exploit.html