Google nya AI-baserade sök genererar vilseledande svar

google

Googles AI-kapacitet särskilt dess nya AI-genererade sammanfattningsfunktion (AI-översikt), har granskats för att generera vilseledande och ibland farliga svar. Denna fråga har väckt debatt och oro bland både användare och experter. Ibland ger den svar hämtat från Reddit som visar sig vara sarkasam.

Exempel på vilseledande svar:

Humoristiska feltolkningar: AI:n har tagit trollinlägg och skämt från plattformar som Reddit på allvar, vilket lett till bisarra rekommendationer som att använda ”icke-giftigt lim” på pizza för att stoppa ost från att glida av eller behovet av ”blinkervätska”. Dessa exempel
belysa AI:s oförmåga att urskilja satiriskt innehåll från faktainformation.


Farlig felaktig information: Mer oroande är fall där AI har gett farligt felaktiga råd. Till exempel föreslog den att en deprimerad användare hoppade från Golden Gate-bron och rådde att skära ett sår för att suga ut skallerormsgift. Dessa felaktiga förslag spårades tillbaka till källor som The Onion och trollinginlägg på Reddit .

Grundläggande faktafel: AI har också rapporterats få grundläggande fakta fel. Till exempel misslyckades den med att erkänna existensen av länder i Afrika som börjar med ”K”, och föreslog att pytonslangar är däggdjur.
Det fanns till och med ett AI-genererat svar som felaktigt hävdade att astronauter hade träffat och tagit hand om katter på månen.

Googles svar och framtida åtgärder

Google har erkänt dessa problem och hänvisar till att de flesta problematiska exemplen var ovanliga frågor som inte var representativa för majoriteten av användarupplevelserna. AI:ns fel har dock fått Google att åta sig ytterligare förbättringar och en mer rigorös tillämpning av innehållspolicyn.

Även om Googles AI-genererade sammanfattningar syftar till att effektivisera tillgången till information, står de för närvarande inför betydande utmaningar med noggrannhet. Användare bör vara försiktiga när de helt förlitar sig på dessa sammanfattningar och dubbelverifierar information från trovärdiga källor. Googles pågående uppdateringar och förbättringar visar ett engagemang för att ta itu med dessa problem, men robusta lösningar är fortfarande under utveckling.

Leave a Reply

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *