Po družbenih omrežjih se množično delijo zvočni posnetki, v katere so bili ujeti vidnejši, aktualni in nekdanji politiki, in ljudje so zgroženi. Problem je, da bomo o tem, ali so resnični, delno resnični ali povsem neresnični, z gotovostjo vedeli šele, ko bodo volitve že davno mimo. In prav na to nekdo več kot očitno tudi računa.
V ZDA je pred časom nek šolski administrator ustvaril AI-posnetek ravnatelja, ki naj bi govoril rasistične stvari. Posnetek se je razširil po skupnosti in povzročil velik škandal - kasneje se je izkazalo, da je bil popolnoma umetno ustvarjen in se torej nikoli ni zgodil.
Zdaj pa si predstavljajte, da nekdo objavi posnetek vašega pogovora. Glas zveni prepričljivo, besede so jasne, morda celo nekoliko škandalozne. Posnetek se začne širiti po družbenih omrežjih, ljudje ga delijo, komentirajo in se zgražajo. Čez nekaj dni se izkaže, da pogovor nikoli ni obstajal - ustvarila ga je umetna inteligenca.
It’s called a DEEP FAKE, this is the technology they are making you aware they have via channel4 three years ago…..imagine what technology is really at their disposal to create illusions. Apply this to recent distraction events as you will. https://t.co/pPYgZktpM8 pic.twitter.com/ljayduiHMY
— Melissa Ciummei (@KSCUBKEE) March 23, 2024
Pa politika? Ta je še posebno plodovit poligon za takšne malverzacije in primeri, ki so se zgodili v zadnjih letih v evropski politiki, kažejo, kako hitro lahko nova tehnologija postane orodje političnih manipulacij.
Slovaška volilna kampanja 2023
Eden najbolj znanih primerov prihaja iz Slovaške.
Tik pred parlamentarnimi volitvami leta 2023 je po družbenih omrežjih začel krožiti zvočni posnetek domnevnega pogovora med opozicijskim politikom Michalom Šimečko in novinarko Moniko Tódovo. Na posnetku naj bi se pogovarjala o manipuliranju volitev in kupovanju glasov. Posnetek se je pojavil le dva dni pred glasovanjem in se hitro razširil po Facebooku, TikToku in Telegramu. Kasneje so strokovnjaki ugotovili, da je bil ustvarjen z umetno inteligenco, ki je posnemala glasova obeh sogovornikov. Škoda pa je bila že narejena - posnetek je v zadnjih dneh kampanje dosegel na tisoče ljudi in sprožil veliko zmedo med volivci.
Slovaški primer je postal nekakšno opozorilo za Evropo. Raziskovalci in novinarji so ga opisali kot prvi večji primer, ko je bil zvočni 'deepfake' uporabljen tik pred volitvami, ravno v času, ko je zaradi volilnega molka težko hitro preveriti ali ovreči informacije. Zaradi tega so se preverjevalci dejstev znašli v nenavadni situaciji: vedeli so, da je posnetek lažen, a so imeli zelo malo časa, da bi to razložili širši javnosti.
Sledil je primer iz Velike Britanije
Podoben primer se je kmalu zatem pojavil tudi v Veliki Britaniji. Po družbenem omrežju X se je razširil zvočni posnetek, na katerem naj bi vodja britanskih laburistov Keir Starmer grobo žalil svoje sodelavce. Posnetek je trajal le nekaj deset sekund, a je dosegel stotine tisočev poslušalcev.
Strokovnjaki za preverjanje dejstev so hitro opozorili na nenavadne ponovitve v govoru in druge znake, ki so nakazovali, da bi lahko šlo za umetno ustvarjen glas. Kljub temu se je posnetek razširil po spletu še dolgo po tem, ko so se pojavili dvomi o njegovi verodostojnosti.
Nova faza politične dezinformacije
Takšne zgodbe danes postajajo del širšega problema, ki ga raziskovalci opisujejo kot novo fazo politične dezinformacije. Umetna inteligenca namreč omogoča ustvarjanje zelo prepričljivih lažnih posnetkov - fotografij, videov ali zvočnih pogovorov - z zelo malo podatki.
Včasih je dovolj že nekaj deset sekund pravega govora, da program ustvari prepričljivo imitacijo glasu. Tehnologija, ki je bila še pred nekaj leti rezervirana za raziskovalne laboratorije, je danes dostopna skoraj vsakomur z računalnikom.
Strokovnjaki opozarjajo, da problem ni le v tem, da se pojavljajo lažni posnetki. Še večja težava je, da takšne tehnologije spodkopavajo zaupanje v vse posnetke. Če je mogoče ustvariti prepričljivo laž, potem lahko vsakdo trdi, da je neprijeten ali kompromitirajoč posnetek ponarejen. Tako nastane nenavadna situacija: javnost začne dvomiti tako v laži kot tudi v resnico.
Evropa se zato že pripravlja na obdobje, ko bodo takšne manipulacije verjetno pogostejše. Analitiki opozarjajo, da lahko umetna inteligenca hitro ustvari lažne politične izjave, manipulirane posnetke ali celo popolnoma izmišljene pogovore, ki se nato širijo po družbenih omrežjih in vplivajo na javno razpravo. Takšni primeri so se v zadnjih letih pojavljali v več državah in kažejo, da gre za širši trend, ne le za posamezne incidente.
Naslednji ste lahko na vrsti vi
Najbolj zaskrbljujoče pri vsem tem je, da se lahko v podobnem položaju znajde skoraj vsakdo. Če ima nekdo dostop do vašega glasu - na primer iz intervjuja, videa ali javnega nastopa - ga je mogoče s pomočjo umetne inteligence posnemati. Kar je bilo nekoč videti kot prizor iz znanstvene fantastike, je danes tehnično precej enostavno izvedljivo.
Zato razprava o takšnih posnetkih ni le politična, ampak tudi družbena. Vprašanje ni več samo, ali je nek posnetek resničen, temveč kako bomo v času umetne inteligence sploh še vedeli, komu ali čemu lahko verjamemo. In prav to je razlog, da mnogi strokovnjaki opozarjajo: največja nevarnost deepfakov ni nujno v eni sami laži, temveč v tem, da postopoma spodjedajo zaupanje v resničnost samo.
Prisluhi po slovensko
Po zadnjih poročilih slovenskih medijev so v nedavno objavljenih domnevnih prisluhih, ki krožijo po družbenih omrežjih tik pred volitvami, omenjena ali naj bi bila slišana imena več politikov in ljudi iz vrha vlade oziroma povezanih krogov.
Medtem ko avtentičnost teh posnetkov ni potrjena, saj policija še vedno preverja, kdo jih je posnel in kdo jih je objavil, so iz stranke Gibanje Svoboda že ob napovedi objav sporočili, da gre po njihovem za manipulirane ali celo z umetno inteligenco ustvarjene posnetke, namenjene diskreditaciji pred volitvami.
Policija medtem preverja, kdo je posnetke posnel, kdo jih je razširil in ali so zakoniti, na njene izsledke pa, seveda, lahko računamo šele daleč po volitvah.
Preberite si tudi: To je razlog, zakaj se nekateri politiki tako zlahka lažejo