Aikakauslehti politiikasta, taloudesta ja kansainvälisistä ilmiöistä
 

Botit ja kyborgit sorkkivat ajatteluamme verkossa päivittäin – tutkija: sääntelyn pallo on valtiollisilla toimijoilla

Kaarina Vainio/UP
Kuvitus: Antti Valta

Massadataa ja tietotekniikkaa hyödynnetään yhä enemmän poliittisessa vaikuttamisessa. Jopa Vladimir Putin näkee tekoälyssä vaikeasti ennustettavia uhkia. 


Venäläisen botin ostaminen on melkein yhtä helppoa kuin tavaran ostaminen verkkokaupasta, eikä se ole edes kallista. Yhdysvaltalaisen verkkolehden Daily Beastin toimittaja Joseph Cox osti botin, 1 000 automaattista Twitter-tiliä, alle 100 dollarilla. Maksun hän suoritti virtuaaliraha bitcoineilla ja sai sitten sähköpostiinsa muutaman tiedoston tunnuksia ja salasanoja. Kaikki toimi Coxin mukaan vaivattomasti.

Botti on itsenäisesti toimiva tietokoneohjelma, robotti, jota käytetään internetissä mainosten levittämiseen, poliittiseen vaikuttamiseen, tietojen kalasteluun ja palvelunestohyökkäyksiin. Botteja voidaan yhdistää bottiverkoiksi.

Cox ei käyttänyt hankintaan edes pimeää verkkoa, kuten niin sanottua Tor-ohjelmistoa. »Botin ostamiseen ei tarvita erityisiä tietoteknisiä taitoja, riittää, että osaa käyttää bitcoineja. Tai jos et osaa, voit ehkä maksaa PayPalin tai Western Unionin kautta».

Botin käyttämiseen tarvitaan Coxin mukaan joitakin taitoja, mutta nekin voi opetella googlaamalla. Cox ei varsinaisesti käyttänyt bottiaan. Hän julkaisi vain pari viestiä kokeillakseen, että se toimii. Ainakin osa tileistä on yhä olemassa ja käytettävissä.

Boteista kohistaan nyt paljon, mutta niiden todellinen vaikutus ihmisten mielipiteiden manipulointiin tai vaaleihin ei ole Coxin mukaan selvää.

 

#Marine2017, #LaFranceVoteMarine, #lepionMacron.

Tämän vuoden helmikuussa näistä kolmesta aihetunnisteesta tuli Twitterissä erittäin suosittuja. Ranskan Kansallisen rintaman ehdokkaan Marine Le Penin tukijoukot alkoivat suoltaa kutakin hashtagia samaan aikaan eri päivinä. Yli 1 100 käyttäjää jakoi reilut 12 200 twiittiä aihetunnisteella #Marine2017 noin tunnissa. Aihetunnisteen sisältäneitä twiittejä levittivät botit tai puoliautomaattiset kyborgit. Niiden tavoitteena oli nostaa Le Penin näkyvyyttä sosiaalisessa mediassa presidentinvaalien alla.

Tämä käy ilmi yhdysvaltalaisen Atlantic Council -ajatushautomon Digital Forensic Research Labin (DFRLab) selvityksestä. DFRLab tutkii digimaailman disinformaatiota.

Ajatushautomon vanhempi tutkija Ben Nimmo kertoo, että Ranskassa äärioikeisto on ollut verkossa aktiivinen. Se on saanut nostettua hyvin omia aihetunnisteitaan sosiaalisessa mediassa, vaikka hävisikin vaalit. Poliittisista liikkeistä parhaiten uutta teknologiaa on Nimmon mukaan onnistunut hyödyntämään Yhdysvaltain äärioikeisto. Erilaiset populisti- ja marginaaliryhmät sekä äärijärjestö Isis pyrkivät lisäämään kannatustaan bottien avulla. Ne haluavat luoda vaikutelman, että sosiaalisessa mediassa keskustellaan juuri heidän aiheistaan.

»Teknologiaa pyrkivät hyödyntämän ne, jotka haluavat näyttää kokoaan suuremmilta», Nimmo sanoo. Hän on erikoistunut Venäjän tutkimukseen.

Nimmo pitää suurimpana löydöksenään bottiverkkoa, joka sisälsi yli 108 000 tiliä. »Se osoittaa, kuinka pienet ryhmät tai vain muutama ihminen voivat luoda yhteistyöllä ja suunnittelulla suuria verkostoja ja saada aikaan isoja vaikutuksia – ainakin hetkellisesti.»

Aina ei kuitenkaan löydy vastausta siihen, kuka on bottien takana tai mistä maasta niitä johdetaan, Nimmo sanoo. Botit ovat kansainvälisiä: ne twiittaavat aiheesta riippuen arabiaksi, japaniksi, saksaksi ja englanniksi. Toisinaan botit taas voi tunnistaa tietyn aiheen, kiinnostuksen tai alueen kautta.

Kovassa kasvussa ovat aiempaa hienostuneemmat botit, kuten niin sanotut kyborgitilit, joita operoivat niin ihmiset kuin automatisoidut tietokoneohjelmat. Nimmo arvioi, että ne tekevät bottien tunnistamisesta vaikeampaa. Palveluntarjoajien on hankalampi sulkea tällaisia tilejä.

 

Ihmisten manipulointi ei ole aiempaa helpompaa, Nimmo uskoo. Sen sijaan keinoja siihen on enemmän. Disinformaatiota on kaikkialla, ja sen levittämisestä on tullut nopeampaa. »Netin nopeus mahdollistaa sen, että voit kertoa valheen Moskovassa ja toistaa sen suorana lähetyksenä verkon kautta Australiassa.»

Vaikuttamista helpottaa sekin, että useissa maissa ihmiset eivät luota lehdistöön ja poliitikoihin. Nimmo muistuttaa, että disinformaatiota on ollut aina. Jo 1600-luvulla huhuja ja disinformaatiota levitettiin pamfleteissa, kun painotekniikka kehittyi.

Uutta sen sijaan on verkossa tapahtuva mikrokohdistaminen. Siinä jokin taho hankkii yksityiskohtaisia tietoja kohdehenkilöstä ja räätälöi mainoksensa tämän sijainnin, persoonallisuuden tai mieltymysten mukaisesti.

Mikrokohdistamista voi käyttää poliittiseen vaikuttamiseen. Vuonna 2016 brittiläis-yhdysvaltalainen yhtiö Cambridge Analytica hyödynsi massadataa myydessään palveluitaan Donald Trumpin ja Britannian EU-eroa ajaneille kampanjoille.

Miljardööriliikemies Robert Mercerin omistama yhtiö kerää aineistoa sadoista tiedonlähteistä, kuten ihmisten Facebook-tykkäyksistä, verkko-ostoksista, bonuskorteista ja lehtitilauksista, ja yhdistää niitä psykologisiin henkilöprofiileihin.

Toimitusjohtaja Alexander Nix on kertonut yrityksen laatineen profiilin jokaisesta 220 miljoonasta äänestysikäisestä yhdysvaltalaisesta.

Kohuttu Cambridge Analytica ei suinkaan ollut ainoa. Trumpin kampanjaan osallistuivat myös datafirmat TargetPoint Consulting, Causeway Solutions ja Deep Root Analytics, joista viimeksi mainittu jätti 198 miljoonan amerikkalaisäänestäjän tiedot Amazonin pilvipalvelimelle, johon kuka tahansa olisi päässyt käsiksi. Tietojen joukossa oli ihmisten yhteystietoja, syntymäaikoja sekä tietoja etnisestä taustasta ja uskonnosta. Aiemmin yhtiöltä vuoti noin 93 miljoonan meksikolaisen ja 55 miljoonan filippiiniläisen henkilötiedot verkkoon.

Britanniassa EU-eroa ajavaa kampanjaa pönkittivät myös analytiikkafirmat AggregateIQ ja Palantir. Guardianin mukaan kanadalainen AggregateIQ on osa Mercerin bisneksiä. Palantirin asiakkaita ovat useat muut hallitukset sekä Britannian signaalitiedustelupalvelu GCHQ ja Yhdysvaltain turvallisuusvirasto NSA.

 

Viimeisen kymmenen vuoden aikana massadatasta on tullut kultaa. Maailman arvokkaimpien brändien joukkoon ovat nousseet Apple, Google, Facebook ja Amazon, jotka tahkoavat miljardeja tiedoilla käyttäjiensä digitaalisesta elämästä. Esimerkiksi Googlen omistavan Alphabetin markkina-arvo pyörii 500 miljardissa eurossa.

Trumpin vaalivoittoa on pidetty ainakin osittain datan hyödyntämisen ansiona, sillä ihmiset näkivät verkossa omaan maailmankuvaansa sopivaa sisältöä. Cambridge Analytican todellisesta vaikutuksesta on oltu kuitenkin montaa mieltä. Esimerkiksi MIT Technology Review’n toimittaja Jamie Condliffe huomautti, ettei yritys ole esittänyt todisteita työkalujensa toimivuudesta.

Ennenkin kaikenlaiset konsultit ovat keränneet dataa äänestäjistä ja pyrkineet vaikuttamaan.

Algoritmien asiantuntija, matemaatikko Cathy O’Neil ei pidä Cambridge Analytican toimintaa kovinkaan syvällisenä, koska siihen verrattuna esimerkiksi Google-haut perustuvat paljon monimutkaisempiin algoritmeihin.

Yhtiöön on ehkä kohdistunut vain hypeä. Hän huomauttaa, että myös Hillary Clintonin kampanja käytti dataa mainosten kohdentamiseen. »Vaaleissa kyse ei ole niinkään Cambridge Analytican vaikutuksesta, vaan yleisestä faktojen ja mielipiteiden hajoamisesta. Sosiaalinen media ruokkii sitä, että kuulet vain siitä, mistä pidät ja mistä olet samaa mieltä», O’Neil sanoo.

O’Neil on kirjoittanut paljon kiitosta saaneen kirjan Weapons of Math Destruction, joka pureutuu algoritmien yhteiskunnallisiin vaikutuksiin. Algoritmit ovat matemaattisia toimintamalleja, jotka säätelevät tietoliikennettä, työnhakua ja muita arkisia asioita, kuten lainan- tai vakuutusten myöntämistä.

Yhdysvalloissa algoritmit suosivat usein valkoisia ja rikkaita: esimerkiksi tummaihoinen joutuu todennäköisemmin luupin alle rikollisuutta ennustavissa riskimalleissa.

O’Neilin mukaan Google vaikuttaa osaltaan yhteiskunnallisen keskustelun vääristymiseen. Algoritmit ohjaavat hakukoneen tuloksia niin, että erimieliset tai eri asioista kiinnostuneet ihmiset saavat samoista hauista eri osumia.

Vuonna 2015 Charlestonin kirkossa ampuneen nuoren miehen radikalisoitumiseen vaikutti se, että hänen Google-hakutuloksensa ruokkivat hänen jo ennestään fatalistista maailmankuvaansa. Paine sosiaalisen median alustoja kohtaan on kasvanut kuluneen vuoden aikana.

Vielä Trumpin voiton jälkeen Facebook kielsi osuutensa vaalitulokseen. Yhtiö ei ole myöskään suostunut avaamaan algoritmejaan, joiden avulla se säätelee käyttäjiensä näkemää sisältöä.

Syksyllä Yhdysvaltain kongressin kuulemisen yhteydessä se myönsi, että 126 miljoonaa käyttäjää saattoi nähdä kampanjoinnin aikana venäläistahojen tuottamaa sisältöä, kuten mainoksia tai muita maksettuja sisältöjä, joilla pyrittiin vaikuttamaan vaalitulokseen Trumpin eduksi.

O’Neil ei usko, että teknologiajätit suostuvat avaamaan toimintaansa vapaaehtoisesti, koska niiden tuotot käytännössä loppuisivat. Pallo on valtiollisilla toimijoilla.

»Koko mainosbisnes pitäisi lopettaa», hän provosoi. O’Neil jatkaa, että ainakin poliittisten mainosten jakaminen henkilötietojen ja sijainnin perusteella pitäisi kieltää, koska kaupallisen ja poliittisen mainoksen rajaa on vaikea vetää.

 

Vielä reilut kuusi vuotta sitten arabikevään alkaessa sosiaalinen media nähtiin demokratian pelastuksena. Nyt siitä on tullut paholainen.

O’Neilin mukaan Yhdysvallat on datan sääntelyssä merkittävästi Eurooppaa jäljessä. Amerikkalaisista on helpompi kerätä henkilötietoja, koska maan tietosuojalait ovat heikompia kuin esimerkiksi Saksassa.

Sääntelyä mietitään hänen mielestään väärinpäin.

»Kysymyksen ei pitäisi olla se, kuka omistaa datani, sillä jokainen omistaa datansa. Pikemminkin pitäisi miettiä sitä, kuka saa käyttää dataani ja miten. Käytetäänkö sitä minua vastaan?»

Sosiaalisen median alustoja pitää myös Ben Nimmon mielestä ryhtyä säätelemään. »Yrityksillä on vastuu siitä, etteivät ne anna bottien toimia alustoillaan.»

Yksi ratkaisu voisi olla tekoäly, hän arvioi. Tekoälyä voisi käyttää disinformaation ja bottien kitkemiseen eri palveluista.

 

Facebookissa ja Twitterissä toimi myös Saksan syyskuisten liittopäivävaalien aikaan aktiivisia botteja, jotka esittelivät erityisesti oikeistolaisia näkemyksiä. Euroopassa tilanne näyttää silti astetta valoisammalta kuin Yhdysvalloissa.

Mainzin yliopiston viestinnän tutkimusprojektissa selvitetään bottien ja valeuutisten vaikutusta Saksan liittopäivävaalien tulokseen. Tutkimus on vasta alussa, mutta aineistoa keränneet tutkimusavustajat Pascal Jürgens ja Simon Kruschinski arvioivat jo tässä vaiheessa, että niiden vaikutus Saksan vaaleihin olisi jäänyt pieneksi.

»Amerikkalaisiin verrattuna saksalaiset seuraavat enemmän erilaisia medioita, televisiota ja sanomalehtiä», Jürgens sanoo. Saksalaiset tutkijat antoivat yhteishaastattelun Ulkopolitiikalle.

Puolueista sosiaalista mediaa käyttivät eniten vaalivoittoon nousseet pienehköt puolueet: äärioikeistolainen AfD ja liberaalipuolue FDP. Perinteinen CDU teki mobiilisovelluksen, jolla se keräsi tietoja käyttäjistä tulevia vaaleja varten, Kruschinski arvioi.

Mikrokohdistamista tutkinut Kruschinski sanoo, että saksalaispuolueet ovat yhä enemmän kiinnostuneita mainosten kohdistamisesta.

Syyskuun vaaleissa puolueet eivät tehneet sitä yksilötasolla, vaan pyrkivät osoittamaan viestejään data-analyysien avulla kohderyhmilleen Facebookissa. Lisäksi ne tekivät analyysien perusteella vaalityötä ovelta ovelle.

»Olemme vasta alkupisteessä, ja mikrokohdistamisen painoarvo varmasti nousee tulevissa vaaleissa», Kruschinski arvioi.

 

Algoritmit ja botit ovat vanhaa tekniikkaa, eivät itsessään pahansuopia. Mediat käyttävät botteja twiittaamiseen. Suomessa osa Kelan etuuspäätöksistä ja pankkien lainapäätöksistä perustuu algoritmeihin.

Åbo Akademin julkisoikeuden professori Markku Suksi korostaa, että ainakin julkisen sektorin päätöksissä käytettävät algoritmit pitäisi avata yleisölle. Laajempaa sääntelyä hän pitää kansallisena kysymyksenä, koska EU:lla ei ole toimivaltaa säädellä sitä, miten jäsenmaissa käytetään automaatteihin perustuvaa päätöstentekoa.

Algoritmien kansainvälistä sääntelyä hän pitää mahdollisena, mutta se olisi yhtä vaikeaa

kuin rahanpesun sääntely. Hänestä hyviä alkuja ovat EU:n tietosuojadirektiivi ja tietosuoja-asetus, jonka soveltaminen alkaa ensi toukokuussa. Asetuksen on tarkoitus suojella ihmisten henkilötietojen käsittelyä yrityksissä.

Yritysten pitää antaa ihmisille mahdollisuus tarkistaa tietonsa ja ilmoittaa tietomurroista viranomaisille.

»EU:lla on vielä aika kapea henkilötietojen suojaa käsittelevä perspektiivi. Se ei ole vielä riittävä», Suksi sanoo.

Euroopan parlamentissa ja komissiossa on useita aloitteita, joilla pyritään muun muassa estämään laittoman sisällön leviämistä verkossa sekä lisäämään tietoisuutta algoritmeista, mikä myöhemmin ohjaisi sääntelyä.

Radikaalia sääntelyä on ehdotettu jopa liike-elämästä. It-jätti Microsoftin mielestä valtiot pitäisi velvoittaa suojelemaan kansalaisiaan toisten valtioiden kyberhyökkäyksiltä rauhan aikana. Yhtiöstä huomautettiin helmikuussa, että internetin turvallisuus on ensi sijassa teknologiayhtiöiden käsissä.

Toisaalta firmat kavahtavat sääntelyä. Tekoälyä ei synny ilman massadataa. Jos EU:n tietosuoja-asetus vaikeuttaa datan saantia, tekoälyn kehittäminen voi pysähtyä tai jäädä vain globaalien it-jättien ja Kiinan kaltaisten suurvaltojen kontolle. Suomalaisten yritysten kannalta riskinä voisi olla, että Googlen tyyppiset jätit nappaavat suomalaisista kerätyt tiedot, jos julkisia rekistereitä avataan yhä enemmän.

Globaalia sääntelyä vaikeuttaa kansainvälisen yhteisymmärryksen puuttuminen. Siinä missä EU pyrkii luomaan rajoja datan käytölle, ainakin 30 maata kontrolloi tai peukaloi sosiaalista mediaa hallituksen eduksi. Tämä ilmenee Freedom Housen Freedom on the Net 2017 -raportista. Sen mukaan disinformaatio ja verkkomanipulointi ovat olleet keskeisessä osassa 18 maan vaaleissa vuoden aikana.

Näistä Kiina kehittää voimakkaasti tekoälyä ja robotiikkaa. Hakukonejätti Baidu pyrkii tekoälyn edelläkävijäksi, eivätkä internet-yhtiö Tencent ja verkkokauppa Alibaba jää kauas. Tencent on kokeillut tekoälyä hyödyntäviä chattibotteja, jotka ovat myötäilleet hallitusta verkkokeskusteluissa.

»Kiinasta on tehtävä nopeasti innovatiivisuuden suurvalta», sanoi presidentti Xi Jinping lokakuussa kommunistisen puolueen puoluekokouksessa. »Internetin, massadatan ja tekoälyn sulauttamista osaksi talouden käytännön sovelluksia on tuettava.»

 

Tekoäly ravistelee poliittista vaikuttamista seuraavina vuosikymmeninä. Mallia haetaan kaupallisesta mainonnasta – entiseen tapaan. Yritykset ottavat tekoälyä ketterimmin käyttöön, koska se parantaa niiden liiketoimintaa.

»Tekoäly tuo niille ratkaisuja esimerkiksi energiankulutuksen vähentämiseen», sanoo Googlella aiemmin työskennellyt Finch Finlandin maajohtaja Antti Merilehto.

Finch Finland optimoi algoritmien avulla verkkokauppojen Google-mainontaa: sitä, mistä avainsanoista yritysten kannattaa maksaa. Merilehto on seurannut keskustelua venäläismainoksista

Yhdysvaltain vaaleissa mutta pitää sitä eräänlaisena lieveilmiönä. »Tuli oli täysin välttämätön ihmiselle, jotta on voitu kehittyä tähän. Samalla tulta voi käyttää siihen, että sytyttää talon tuleen. Se on työkalu», Merilehto katsoo.

Samanlaiseen johtopäätökseen näyttää tulleen Venäjän presidentti Vladimir Putin, joka vastasi syksyllä koululaisen kysymykseen tekoälystä Tiedon päivän luennolla.

»Tekoäly ei ole vain Venäjän, vaan se on koko ihmiskunnan tulevaisuutta. Siihen liittyy suuria mahdollisuuksia, mutta myös vaikeasti ennustettavia uhkia. Siitä, josta tulee tällä alueella johtaja, tulee maailman valtias», Putin sanoi.

Kansainvälisessä lehdistössä hänen lausuntonsa tulkittiin yksioikoisesti niin, että se, joka hallitsee tekoälyä, hallitsee maailmaa.

 

Muut lähteet: Oxford Internet Institute, Ad Age, Upgrade, Wired, Guardian, Washington Post, Telegraph

 
Kommentoi artikkelia
 
 

Katastrofin hinta

Laura Myllymäki/UP

Raqqan toinen valtaus

Saana-Maria Jokinen

Erilaiset diktatuurit

Pirkko Pöntinen

Dissidentti

Joonas Pörsti/UP

Kansallisvaltion jälkeen

Heidi Hautala

Alueiden Euroopasta liittovaltioksi

Hannu Reime

Kansanvalta hajautuu eri tasoille

Jutta Urpilainen

Uusi maailmanpoliisi

Matti Koskinen

Vuonna 2024

Janne Salomaa ja Laura Myllymäki/UP

Iskunkestävät

Laura Myllymäki/UP

Tyrkkyvaltiot vailla tunnustusta

Olli Ruohomäki

Kiinan hoiperteleva talous

Tuula Toivio

Pulmalliset hauraat valtiot

Olli Ruohomäki

Jihadismi yllätti Ranskan

Janne Hopsu

Mafia rakastaa demokratiaa

Ville Ropponen

Taakanjako on ikuisuusaihe

Matti Pesu

Balkan järjestöjen vallassa

Heta Muurinen

Demokraattien toivo

Jenni Heikka

Ensimmäinen tv-presidentti

Anna-Kaisa Hiltunen

Nooan jälkeläiset

Joonas Pörsti/UP

Mikä ihmeen G?

 
 
 
Saako viagraa ilman reseptiä Cialis 5mg hinta