Valget i India preges av desinformasjon: – Hele landet betaler prisen

Det er ikke så ofte at Bollywood-stjerner uttaler seg om politikk. Så videoer som viste to A-kjendiser som kritiserte Indias statsminister Narendra Modi – og uttrykte støtte til opposisjonspartiet Kongresspartiet – gikk selvfølgelig viralt.

Men videoene som viste skuespillerne Aamir Khan og Ranveer Singh var falske og KI-genererte – et eksempel på villedende påstander som svirrer i sosiale medier for å påvirke valget.

Begge skuespillerne har anmeldt videoene til politiet, men det vil trolig ikke stoppe strømmen av desinformasjon.

Perfekte forhold

Blant påstandene som går sin seiersgang på nettet, er feilaktig informasjon om hvordan man avgir stemme, «bevis» for at valget er rigget og oppfordring til vold mot Indias muslimer.

Forskere som sporer desinformasjon og hatefulle ytringer i India, sier at teknologiselskapers dårlige håndhevelse av egne retningslinjer har skapt perfekte forhold for skadelig innhold. Det kan i verste fall påvirke folks meninger, anspore til vold og få millioner av velgere til å bli usikre på hva de skal tro på.

– En ikke så skarpsindig bruker, eller en helt vanlig bruker, har ingen anelse om det er et individ som deler tankene sine i den andre enden, eller om det er en bot, sier 49 år gamle Rekha Singh, som skal stemme i valget.

Hun sier hun bekymrer seg over at algoritmer i sosiale medier forvrenger velgernes syn på virkeligheten.

– Du er forutinntatt uten å være klar over det, sier hun.

Bekjemper

I et år der mange av verdens land går til valg, skiller India seg ut. Landet er verdens mest folkerike, har flere titall språk, det største antallet WhatsApp-brukere i verden og det største antallet YouTube-abonnenter.

Nesten én milliard velgere kan stemme i valget til ny nasjonalforsamling, som varer fram til juni.

Teknologiselskaper som Google, som eier Youtube, og Meta, som eier Facebook, WhatsApp og Instagram, sier at de jobber med å bekjempe villedende og hatefullt innhold samtidig som de hjelper velgerne å finne pålitelige kilder.

Men forskere som lenge har sett på hvordan desinformasjon sprer seg i India, sier løftene fra Google og Meta ikke holder mål. Det er særlig i lys av flere år med mislykket håndhevelse og tilnærminger som ikke tar hensyn til Indias språklige, religiøse, geografiske og kulturelle mangfold.

– Landet betaler prisen

Gitt størrelsen på India og landets betydning for teknologiselskapene, burde man kunne vente seg mer fokus fra dem, mener forskerne.

– Plattformene tjener penger på dette. De drar nytte av det, og hele landet betaler prisen, sier jussprofessor Ritumbra Manuvie ved Universitetet i Groningen i Nederland.

Hun leder The London Story, en indisk diasporagruppe som tidligere har arrangert en protest utenfor Metas kontorer i London. Forskning fra både dem og en annen organisasjon, India Civil Watch International, viser at Meta tillot politiske annonser og innlegg som inneholdt antimuslimske hatytringer, hindunasjonalistiske framstillinger, kvinnefiendtlige innlegg, samt oppfordringer til vold mot politiske motstandere.

Annonsene ble sett mer enn 65 millioner ganger i løpet av 90 dager tidligere i år. Til sammen kostet de mer enn 11 millioner kroner.

– Døgnet rundt

Meta forsvarer på sin side hvordan de jobber med valg globalt og bestrider funnene fra forskningen om India.

Selskapet bemerker også at det har styrket arbeidet med uavhengige faktasjekkere i forkant av valget, og at det har ansatte over hele verden som sitter klare i tilfelle plattformene deres blir brukt til å spre desinformasjon.

– Det er en enorm test for oss. Vi har forberedt oss i månedsvis i India, sier Nick Clegg, sjef for globale anliggender i Meta, om valget i verdens mest folkerike land.

– Vi har team som jobber døgnet rundt. Vi faktasjekker på flere språk som brukes i India. Vi har et 24-timers problemløsningssystem.

Falske annonser

Youtube er en annen problematisk plattform når det gjelder spredningen av desinformasjon i India, ifølge forskere.

For å teste hvor godt videodelingsplattformen håndhevet sine egne regler, laget forskere ved de ideelle organisasjonene Global Witness og Access Now flere falske annonser på engelsk, hindi og telugu med falsk informasjon om stemmegivning eller oppfordringer til vold.

En av annonsene hevdet at India har hevet stemmealderen til 21, selv om den fremdeles er 18, mens en annen sa at kvinner kunne stemme via tekstmelding, selv om de ikke kan det. En tredje oppfordret til maktbruk ved valglokaler.

– Skuffende

Da Global Witness sendte inn annonsene til Youtube for godkjenning, var responsen skuffende, sier Henry Peck ved Global Witness.

– Youtube gjorde ingenting, sier Peck, som forteller at alle annonsene ble godkjent for publisering.

Google, som eier Youtube, kritiserer forskningen og bemerker at de har flere prosedyrer på plass for å fange opp annonser som bryter reglene deres. Global Witness fjernet annonsene før de ble oppdaget, ifølge Google.

– Retningslinjene våre forbyr annonser som kommer med beviselig falske påstander som kan undergrave deltakelse eller tillit i et valg, og vi håndhever dette på flere indiske språk, sier selskapet i en uttalelse.

De viser også til at de samarbeider med faktasjekkere.

«Deepfakes»

Kunstig intelligens er den nyeste trusselen innen desinformasjon. Det er enklere enn noen gang å lage naturtro bilder, video eller lyd – og såkalte deepfake-videoer dukker opp i valg over hele verden.

Det er KI-genererte videoer av personer der de sier ting de aldri har sagt i virkeligheten, slik som videoene av Bollywood-skuespillerne.

Grunnleggeren av KI-selskapet Muonium AI, Senthil Nayagam, mener det er en økende etterspørsel etter deepfake-videoer, spesielt av politikere. I oppkjøringen til valget har han fått flere henvendelser om å lage politiske videoer med KI.

– Det er et marked for dette, uten tvil, sier Nayagam.

Kan lure velgere

At deepfake-videoer som spres på nettet kan potensielt lure velgere, er en fare Modi selv har fremhevet.

– Vi trenger å lære folk om kunstig intelligens og deepfakes, hvordan det fungerer og hva det kan gjøre, har statsministeren sagt.

Indias informasjons- og teknologidepartement har bedt sosiale medier-selskaper om å fjerne desinformasjon, spesielt deepfakes. Men eksperter mener at mangel på klare retningslinjer eller lover rettet mot KI og deepfakes gjør det vanskeligere å slå ned på, noe som gjør at velgerne selv må finne ut av hva som er sant og ikke.

For førstegangsvelgeren Ankita Jasra kan disse usikkerhetsmomentene gjør det vanskelig å vite hva man skal tro på.

– Hvis jeg ikke vet at det som blir sagt, er sant, tror jeg ikke at jeg kan stole på menneskene som styrer landet mitt, sier hun.