Trolliarmeija, eli Venäjän informaatio-psykologinen sodankäynti

Vieraskynä 18.9.2014, Saara Jantunen, ST.

Kuvassa Saara JantunenVenäjän propagandakoneisto pyrkii erityisen tehokkaasti määrittämään aktiivisia keskustelunaiheita . Trollaaminen ei siis ole vain informaatioympäristön häirintää ja riidanhaastamista, vaan osa Kremlin perusteemojen mukaisten informaatio-operaatioiden toteuttamista, kirjoittaa sotatieteiden tohtori, tutkija Saara Jantunen Puolustusvoimien tutkimuslaitokselta. Saara väitteli elokuussa 2013 strategisen viestinnän käytännöistä, ideologiasta ja ristiriidoista Yhdysvaltain sotilasorganisaatiossa.

Kuva: Yle Uutisgrafikka / Pekka Sipilä

Infosotaa suoraan Suomeen

Viime päivien mediaulostuloista päätellen on vihdoin julkisesti myönnetty, että Venäjä on Ukrainan sodan aikana vaikuttanut ja osoittanut mielenkiintoa suomalaiseen yleisöön ja mediaympäristöön. Puolustusministeri Carl Haglundin mukaan informaatiovaikuttaminen on ollut selvää (1), ja kyberturva-asiantuntija Jarno Limnéllin mukaan Suomi on hybridisodankäynnin kohteena (2). Kommentoin itse Yle Uutisille tietoja niin sanotuista venäläisistä trolleista (3). Pidän tärkeänä nostaa esille, että on perusteltua pitää osaa ns. trollaamisesta systemaattisena, koordinoituna ja johdettuna. Tämän blogiartikkelin tarkoituksena on kertoa, mitä johdettu trollaaminen tarkoittaa, millaisiin periaatteisiin trollaamisen informaatiovaikuttaminen perustuu, ja miten se kohdistuu Suomeen. Selvää on myös, että trollaamisella en tarkoita ihmisten osallistumista kansalaiskeskusteluun.

Tiedot johdetusta trollaamisesta eivät ole uusia. Kansainvälisessä mediassa uutiset väitetysti Pietarissa sijaitsevasta Internet Research Agencysta alkoivat levitä noin vuosi sitten (4). Julkisuuteen on vuotanut henkilöstölistoja henkilö- ja palkkatietoineen, työntekijöille annettuja kirjoitus- ja kommentointiohjeita (5), ja niin edelleen (6). Kevään 2014 aikana mm. The Guardian teki huomion venäläismielisen kommentoinnin lisääntymisestä nettilehtensä kommenttipalstoilla (7), joiden moderaattorit pitävät kommentointia hyvin johdonmukaisena ja tavoitehakuisena.

Kyse ei kuitenkaan ole ainoastaan huutelusta sosiaalisessa mediassa ja muilla kanavilla. Ymmärtääkseen trollauksen vaikutuksia täytyy ymmärtää strategisen viestinnän ja informaatio-operaatioiden toimintalogiikkaa (ks. esim. Sirén, 2011).

Miten?

Internet Research Agencyn henkilöstö- ja tehtäväluettelosta voi päätellä, että palveluksessa on niin some- ja lehtikommentointiin, blogien kirjoittamiseen, kuin hakukoneiden optimointiin keskittyviä ihmisiä. Keskityn tässä lähinnä kommentointia tekeviin trolleihin.

Johdetulla trollaamisella on informaatiotavoite. Informaatiotavoite määrittää ne teemat ja viestit, joita keskusteluun ja viestintään kannattaa tuoda. Kun informaatiotavoite on esimerkiksi mielikuvan luominen Krimistä erottamattomana osana Venäjää, yksi keskusteluun tuotava teema on ns. Novorussia-käsite [sic], joka levisi venäläisen valtionjohdon puheista sosiaaliseen mediaan hyvin nopeasti. Novorussia-käsitteen käyttöönottoa perusteltiin sen roolilla Venäjän historiassa, mutta analyysityökalut kertovat aivan toista tarinaa. Novorussia-sana heräsi ruususen unestaan vuonna 2014. On siis perusteltua pitää sitä yhtenä teemana, joka tukee Venäjän informaatiotavoitetta lanseerata mielikuva Krimistä alueena, joka ei alun perinkään ole kuulunut Ukrainalle.

Kaaviokuva Google Trendsillä tehdystä hausta termeillä "новороссия," "novorossia," ja "novorossiya."
Google Trendsillä tehty haku asiasanoista ”новороссия,” ”novorossia,” ja ”novorossiya” tammikuusta 2013 syyskuuhun 2014. Haettu 18.9.2014.

Novorussia-käsitteen käyttöönotto on esimerkki Venäjän aloitekykyisestä informaatio-operoinnista. Sotatieteissä puhutaan aloitekyvystä, viestintäteoriassa puolestaan agenda setting-teoriasta. Näin ollen ns. trollien funktio tällaisessa perusviestien jakamisessa on käsitteen normalisointi jatkuvan toiston avulla, sekä teemojen aktivoiminen, tukeminen ja elättäminen. Tämä kaikki lisää Venäjän informaatiovaikuttamisen aloitekykyä.

Strategisen viestinnän logiikan mukaan teemojen ja niitä tukevien viestien myötä alkaa hahmottua suurempi kertomus, joka toimii viitekehyksenä tulevien viestien tulkinnalle ja merkityksellistämiselle (ks. esim. Jantunen, 2013). Käytännössä kyse on siitä, että strateginen viestintä pyrkii määrittämään ne käsitteet ja tulkintatavat, joilla Ukrainan sodasta puhutaan. Kun käytössä on aktiivisia trolleja, jotka haastavat kanssakeskustelijat keskustelemaan halutuista teemoista, pystyy Venäjän propagandakoneisto määrittämään aktiivisia keskustelunaiheita erityisen tehokkaasti.

Trollaaminen ei siis ole vain informaatioympäristön häirintää ja riidanhaastamista, vaan osa Kremlin perusteemojen mukaisten informaatio-operaatioiden toteuttamista (vrt. Heickerö, 2010). Tieto Internet Research Agencyn toiminnasta levisi venäläiseen mediaan jo syksyllä 2013 (8)(9), ja kevään 2014 aikana useat länsimaidet lehdet, The Guardian etunenässä (7), huomasivat venäläismielisen, systemaattisen kommentoinnin lisääntyneen nettisivuillaan. Samaan aikaan julkisuuteen levisi tietoja siitä, kuinka systemaattisesti trollausta ohjeistetaan. Näiden tietojen mukaan trollauksen teemat ohjeistetaan päivittäin esimerkiksi niin, että yksi nettikommentointiin keskittyvä työntekijä saattaa saada tehtäväkseen kirjoittaa vuoronsa aikana 50 kommenttia Ukrainan sisäisestä sekasorrosta. Samaan aikaan valtionmedia tuottaa vastaavia lehtiartikkeleita (6). Näin luodaan pohjaa tuleville viesteille (”Ukrainan tilanteeseen on puututava”). Tällainen taustoittaminen ymmärretään yleisesti yhdeksi strategisen viestinnän perustehtävistä.

Tämä toimintamalli ei ole millään tasolla poikkeuksellinen. Se on käytössä esimerkiksi kriisinhallintaoperaatioissa, joissa operaatiolla on oma narratiivinsa ja informaatiotavoitteensa, jotka ohjaavat viestintäsuunnitelmaa. Kriisinhallintaoperaatiossa viestien teemoja ja sisältöjä päivitetään tilanteen eläessä. Esimerkiksi vaalien alla informaatiotavoitteena voi olla se, että kansalaiset kokevat äänestyspaikoilla äänestämisen turvalliseksi (ks. esim. Munoz 2012, 90). Tällöin viestintä keskittyy kertomaan vaalirauhan eteen tehtävästä työstä sekä äänestämisen tärkeydestä yhteiskunnan rakentamisen kannalta. Sekä vaalien turvaaminen että demokratia näkyvät siis perusviesteissä (sama, 60).

Julkisuuteen vuotaneiden ohjeistusten aitoutta voidaan vain arvioida, mutta niiden aitouden puolesta puhuu siis se, että vastaava viestien synkronointi on hyvin tavallista keskitetyssä viestinnässä.

Venäläisellä ja länsimaisella strategisella viestinnällä on kuitenkin myös oleellisia eroja.

Venäjällä mediamarkkinat ovat kasvava bisnes – toisin kuin esimerkiksi Suomessa tai Euroopassa, jossa monet mediatalot ovat joutuneet tekemään suuriakin leikkauksia. The Interpreterin mukaan median kasvuprosentti vuonna 2012 oli 12% edellisvuoteen verrattuna. Samaan aikaan mainituissa Euroopan maissa mentiin 1–12% miinukselle (10). Tämä kertoo siitä, että mediamarkkinoille pumppautuu rahaa. On siis oletettavaa, että nykyisellä median omistusrakenteella tämä näkyy myös Venäjän valtion intressejä palvelevana informaatiovaikuttamisena.

Ukrainan sodan aikana perusviestit on rakennettu suurelta osin disinformaation varaan. Lisäksi Venäjällä valtion dominanssi median omistussuhteissa mahdollistaa myös median käytön osana synkronoitua viestintää.

Suoraan Suomeen: Miten meihin vaikutetaan?

On hyvin perusteltua olettaa, että Venäjä on kiinnostunut suomalaisesta mediaympäristöstä ja siinä vaikuttamisesta. Tästä kertoo jo yksin se, että RT-kanava ilmaisi halunsa aloittaa suomenkielinen toiminta maassamme.

RT ei ole tavallinen uutiskanava joka tuottaa suomalaisten standardien mukaista journalismia. Kyseessä on yksi pro-Kremlin mediataloista, jonka tavoitteena (yhtiön omien sanojen mukaan) on edistää venäläistä näkökulmaa globaalisti ja lopulta dominoida englanninkielistä, erityisesti anglosaksista mediaa.

RT toistaa systemaattisesti Kremlin informaatiotavoitteiden mukaisia viestejä (11). Kevään 2014 aikana näitä perusviestejä ovat RT:llä olleet mm.

  • Ukraina syyllistyy sensuuriin ja propagandaan.
  • Ukraina on kahtiajakautunut.
  • Ukrainaan tulee palauttaa rauha ja järjestys.
  • Venäjä pyrkii vuoropuheluun.
  • Venäjä on pitkämielinen rauhanpyrkimyksissään.
  • Venäjä huolehtii kansalaisistaan ja vähemmistöistään.
  • Venäjä vaatii ihmisoikeuksien ja sopimusten noudattamista.
  • EU ja USA lietsovat konfliktia lännen ja Venäjän välillä.

Pro-Kremlin media ja trollit toimivat siis synkronoidusti.

The Russian version of the iconic ”Problems” troll. Source: The Interpreter.

Myös Helsingin Sanomien kommenteista löytyy käyttäjätilejä, joiden käyttäjät ovat kommentoineet sadoilla, tai jopa tuhansilla viesteillä lähes pelkästään Ukraina-aiheisia uutisia. Viestit toistavat tyypillisesti Kremlin perusviestejä, eli perustelevat Putinin olevan rauhantahtoinen ja syyttävät Euroopan Unionia ja Yhdysvaltoja konfliktin lietsomisesta.

Kesän 2014 aikana on ollut havaittavissa, että Suomessa Venäjän agendaa tukevat perusviestit keskittyvät erityisesti Yhdysvaltojen, Euroopan Unionin, Naton sekä Ylen ja Helsingin Sanomien diskreditointiin. Vaikutukset ovat selvästi nähtävissä. Ukrainan sodan aikana Natosta on tullut riidanaihe ja Nato-keskustelua määrittävät tunteet (=turvattomuuden tunne) ennemmin kuin asiasisällöt, vaikka ennen kriisiä Nato-keskustelussa oli tilaa moniäänisyydelle. Myös Euroopan Unionista keskustellaan koko ajan kriittisemmässä valossa, ja se esitetään usein Yhdysvaltojen sylikoirana, hajanaisena ja päätöksentekokyvyttömänä.

Erona normaaliin demokraattisessa yhteiskunnassa käytävään kansalaiskeskusteluun tässä on se, että venäläinen informaatiovaikuttaminen pyrkii voimistamaan EU-kriittistä keskustelua disinformaation avulla, jolloin mielipideilmasto ja poliittinen keskustelu vääristyvät.

Entä sitten?

Kun tarkastellaan informaatiosodankäynnin ilmiöitä, tulee ymmärtää, että informaatio-operaatioilla on aina päämäärä ja tavoite. Jos pohdimme esimerkiksi EU-vastaisen informaatiovaikuttamisen mahdollisia tavoitteita ja vaikutuksia, voimme lähteä liikkeelle siitä perusolettamuksesta, että heikko, hajanainen EU on Venäjälle hyödyllinen. Tällöin olisi loogista, että Venäjä pyrkii vaikuttamaan ensisijaisesti niihin yleisöihin, joiden retoriikka jo itsessään resonoi EU-kriittisen perusviestin kanssa.

Tavoitteeksi voidaan siis tulkita EU-kriittisten näkemysten vahvistaminen Euroopassa yleisesti, sekä Euroopan Unionin kriisiytyminen, mikäli tämä kaikki vahvistaa esimerkiksi EU-kriittisten puolueiden roolia Europarlamentissa. Tulee huomata, että näiden EU-kriittisten puolueiden tavoitteiden toteutuminen sopisi Venäjälle hyvin. On selvää, että esimerkiksi Ranskan Front Nationalin tavoite irrottaa Ranska EU:sta ja estää Euroopan integraatiota ajaisi EU:n pienoiseen sisäiseen kriisiin, tai ainakin hetkelliseen konfiguroinnin tilaan, mikä eittämättä näkyisi EU:n poliittisessa päätöksentekokyvyssä (12). Lisäksi, Ranska ei ole ainoa maa, jossa eurokriittinen, populistinen politiikka on nousussa.

Voidaan siis kysyä, onko mahdollista, että Venäjän tavoitteena on EU hajoaminen sisältäpäin. Jos tähän vastataan myöntävästi, tulee meidän pohtia Venäjän informaatiovaikuttamisen kohdistumista ja tunnistaa ne poliittiset prosessit ja ryhmittymät, joihin vaikuttaminen ensisijaisesti kohdistuisi.

Koska moniäänisyys on demokraattisen yhteiskunnan perusarvo, on informaatiovaikuttamisen tekeminen kansalaiskeskusteluun vaikuttamalla ovelaa, ja sillä on helposti ikäviä sivuvaikutuksia. Trollaamisesta keskusteleminen ei saa johtaa kanssakeskustelijoiden syyttelyyn tai siihen, että trollaus-sanaa ryhdytään käyttämään yleisnimikkeenä kriittisille mielipiteille.

//Saara Jantunen


Tiesithän että voit seurata Saaraa Twitterissä.


Viitatut lähteet

Lisää luettavaa

Raskaampi rautaisannos

27 reaktioner på ”Trolliarmeija, eli Venäjän informaatio-psykologinen sodankäynti

  1. Glambert & Hannu Hyvönen

    ”Tätä tieteellisen näköinen käppyrä novorussijan googlenäkyvyydestä ja todistusvoimasta romahti Mikko Punkarin huomautukseen siitä että ko nimi alueen nimenä, valtiona, hallintoalueena otettiin tuolloin käyttöön. Näinhän se toimii. Kun joku asia saa nimen se alkaa esiintymään googlessa. Ajatus että se olisi Venäjän infosodan syytä on vainoharhainen ja tosiasioista piittaamaton. ”

    Ei kyse ole siitä, että asia olisi jonkun ”syytä”. Kyse on agenda setting-menettelystä, joka on yksi viestintätieteellinen tapa käsitellä asiaa. Jos aihe on sinulle vieras, niin ehkäpä siihen tutustuminen valaisee syitä siihen, miksi käytän sitä esimerkkinä tavasta lähestyä infovaikuttamista.

    ”Mutta on erikoista että tätä trollijahtia puolustetaan ja väitetään ettei se ole mielipidevainoa. Ja kuitenkin tutkija listaa kiistanalaisia väitteitä ja toteaa että ne jptka väittävät Ukrainan olevan sisälissodassa ovat venäjän viestin levittäjinä mahdollisia trolleja. Pidättekö meitä kansalaisia aivan tyhminä. Tottakai tämä trollijahti on mielipidevainoa, juuri sellaista että jos havaitsette sitä Venäjällä. älämölö täällä nostetaan.”

    En ole osallistunut tai puolustellut trollijahtia, enkä työskentele Ylelle, joten tulkitsen ettei tätä kommenttia ole osoitettu minulle. Olen itsekin kansalainen joka osallistuu kriittiseen keskusteluun ja pidän siitä oikeudesta kiinni. Jos viittaat ”trollijahdilla” Yleen, niin itse olen nähnyt vain pyynnön kertoa trollauskokemuksista, en siitä, että kukaan olisi pyytänyt ”ilmiantoja”. Jokainen tietenkin tulkitsee tavallaan. Minusta on oikein hyvä, että Suomessa keskustellaan sananvapaudesta. Kuitenkin sananvapaus on myös heillä, jotka kokevat tulleensa häirityiksi, oli syy minkä tahansa tahon kritiikki.

    ”Miten on mahdollista että tämäkin väite tekee ihmisesta venäjämielisen ja potentiaalisen trollin?”
    Ei kai kukaan sellaista ole sanonut. Kyse on mielipiteestä, joka sinulla on oikeus ilmaista. Ylläoleva tekstini viittaa johdettuun toimintaan yhtenä infovaikuttamisen keinona, mikä ei ole millään tavalla erityinen millekään tietylle valtiolle. Kuten sanoin, esimerkiksi USA on ollut hyvin avoin siitä, että heillä on kuvatunlainen organisaatio (esim. Wikipediasta löytyy kohtuullinen artikkeli), samoin Israel.

    Jukka Korpela
    ”Saara, James ja muut vastaavat ”vaikuttajat” tuntuvat olevan ihmeissään siitä, että ensimmäistä kertaa ihmiskunnan historiassa nimenomaan venäläiset ovat keksineet alkaa vaikuttamaan keskusteluun ja mielipiteenmuokkaukseen. Se tuntuu olevan pointti, jota nämä infosodan asiantuntijat päivittelevät. Olenko ainoa, jonka mielestä tässä on ristiriitatilanne? Heidän ”totuutensa” uhriudesta perustuvat vain ja ainoasastaan siihen, että tyhmät ihmiset eivät oletettavasti ymmärrä heidän olevan trollisodan etulinjassa. Nämä käyvät infosotaa teeskentelemällä olevansa sen suhteen täysin viattomia, sivullisia havainnoitsijoita, ellei peräti uhreja.”

    Hei! kuten tässä blogikirjoituksessa mainitsin (sekä ylläolevassa kommenttiosuudessa),
    1) kyseessä ei ole ensimmäinen kerta kun keskustellaan informaatioympäristössä vaikuttamisesta
    2) olen kuvannut toimintamallin sotatieteiden näkökulmasta ja todennut, että se on yleisesti käytössä kaikessa strategisessa viestinnässä, ei poikkeuksellinen, yllättävä tai uusi. Ennemminkin näyttää siltä, että siitä ei ole vielä keskusteltu Suomessa, koska aihe herättää intohimoja.

    En tarkalleen tiedä mitä tarkoitat ”trollisodan etulinjassa” olemisesta, mutta tulkitsen sinun viittaavan sillä mm. minuun. Oma kantani on, että olen kysyttäessä kertonut tiedoista, jotka ovat kaikkien saatavilla ja kritikoitavissa. Mistään ”totuudesta” ei ole ollut puhetta, saati uhriudesta, viattomuudesta, jne jne. Asia ei ole minulle millään tasolla henkilökohtainen, joten en jaksa suhtautua siihen henkilökohtaisella tasolla. Kaikesta täytyy pystyä puhumaan, ja oleellistahan tässä on nyt se, että eettisen viestinnän rajoista nyt keskustellaan.

    Gilla

  2. Hei

    Tätä tieteellisen näköinen käppyrä novorussijan googlenäkyvyydestä ja todistusvoimasta romahti Mikko Punkarin huomautukseen siitä että ko nimi alueen nimenä, valtiona, hallintoalueena otettiin tuolloin käyttöön. Näinhän se toimii. Kun joku asia saa nimen se alkaa esiintymään googlessa. Ajatus että se olisi Venäjän infosodan syytä on vainoharhainen ja tosiasioista piittaamaton.

    Mutta on erikoista että tätä trollijahtia puolustetaan ja väitetään ettei se ole mielipidevainoa. Ja kuitenkin tutkija listaa kiistanalaisia väitteitä ja toteaa että ne jptka väittävät Ukrainan olevan sisälissodassa ovat venäjän viestin levittäjinä mahdollisia trolleja. Pidättekö meitä kansalaisia aivan tyhminä. Tottakai tämä trollijahti on mielipidevainoa, juuri sellaista että jos havaitsette sitä Venäjällä. älämölö täällä nostetaan.

    Mutta erikoisinta on se että oikeastihan siellä on aivan ilmiselvä sisällissota ollut menossa. Ainakin jos paikallisilta ihmisiltä kysytään Itä-ukrainassa. Ja Punainen risti totesi saman. Miten on mahdollista että tämäkin väite tekee ihmisesta venäjämielisen ja potentiaalisen trollin?

    Gilla

  3. Saara, James ja muut vastaavat ”vaikuttajat” tuntuvat olevan ihmeissään siitä, että ensimmäistä kertaa ihmiskunnan historiassa nimenomaan venäläiset ovat keksineet alkaa vaikuttamaan keskusteluun ja mielipiteenmuokkaukseen. Se tuntuu olevan pointti, jota nämä infosodan asiantuntijat päivittelevät. Olenko ainoa, jonka mielestä tässä on ristiriitatilanne? Heidän ”totuutensa” uhriudesta perustuvat vain ja ainoasastaan siihen, että tyhmät ihmiset eivät oletettavasti ymmärrä heidän olevan trollisodan etulinjassa. Nämä käyvät infosotaa teeskentelemällä olevansa sen suhteen täysin viattomia, sivullisia havainnoitsijoita, ellei peräti uhreja.

    Gilla

  4. Moi James!

    Kritisoit asiantuntemustani (20.9.) mutta sensuroit pois puolustukseni. Sensuroit myös Vesa Raiskilan kommenttien osia. Tulkitsen että manipuloit keskustelua ja tarkoituksesi on pitää keskustelijat eriarvoisessa asemassa. Päätän keskustelun tähän.

    Gilla

  5. James:

    Saara kirjoitti, että kanteluni ”perustuu virheelliselle lainaukselle sanomisistani”.

    Mielestäni minulla on oikeus voida vastata tähän, ettei kanteluni perustu Saaran lainaukselle, ja että lainausteni oikeellisuus on todellakin helposti tarkistettavissa linkittämästäni YLE:n artikkelista.

    Gilla

  6. ”Novorussia-käsitteen käyttöönotto on esimerkki Venäjän aloitekykyisestä informaatio-operoinnista. Sotatieteissä puhutaan aloitekyvystä, viestintäteoriassa puolestaan agenda setting-teoriasta.” Tässä tapauksessa Novorossija on siis agenda settingiä. Tälle emme koskaan saisi ummistaa silmiämme. #WITWIAL #WITWISK

    Gilla

  7. Hei Saara,

    [Jamesin huomautus: Olen poistanut alun, koska EOA:lle Ylestä tehdyn kantelun perustelu ei ole argumentum ad rem]

    Telegraph on harvoja länsimedioita, jotka ovat uutisoineet itsensä Kiovan vallankumoushallinnon asettaman tutkimuskomission johtopäätöksistä, joiden mukaan syrjäytetyn presidentti Janukovitsin poliisivoimat eivät olleetkaan Maidanin verilöylyn suorittajia – verilöylyn, jolla vallankumous legitimoitiin:

    http://www.telegraph.co.uk/sponsored/rbth/politics/10857920/ukraine-murder-maidan.html

    Jo aiemmin mediassa oli hyvin harvakseltaan tuotu esiin, että ”EU:n ulkoasiainhoitajan Catherine Ashtonin ja Viron ulkoministerin Urmas Paetin välillä 25. helmikuuta käydyn puhelinkeskustelun perusteella tarkka-ampujat, jotka ampuivat mielenosoittajia ja poliiseja Kiovassa, olivat länsimielisen vallankumousjohdon palkkaamia” (kolumni HS:ssä 15.5.).

    http://www.hs.fi/ulkomaat/a1400118851194

    Tuo siis vain yhtenä esimerkkinä. Ukrainan kriisistä on löydettävissä paljon myös länsimaille hyvin kiusallista aineistoa. Ongelma on se, että tästä huolimatta ja objektiivisen tarkastelun sijaan valtamedia esittää yhden osapuolen puhtoisena siinä missä kaikki kritiikki – toisinaan aiheellinen, toisinaan ehkä vähemmän aiheellinen – kohdistetaan toiseen osapuoleen. Tarkastelun mustavalkoisuus on viime kuukaudet ollut niin päällekäyvää, että se vaikuttaa jo itsessään propagandalta. Ja tämä jälleen vain toiseen osapuoleen osoitteleva ”trolli”uutisointi ainoastaan syventää vaikutelmaa.

    Gilla

  8. Moikka Saara!

    Olisi todella kiva uskoa mitä sanot, mutta kuten huomaat:

    ”Venäläiseen trollailuun on todisteita.” (lainaus sinulta äsken)

    ”Venäjän valtion osuudesta trollailuun ei ole todisteita, mutta verkkohäiriköiden viestien sisältö tukee Venäjän informaatioagendaa, sanoo Puolustusvoimien tutkija Saara Jantunen.” (Yle uutiset 15.9.)

    ristiriidasta seuraa lukijana hämmentynyt olo. Haluat varmaan korjata Jessikka Aron uutisen ettei kansalaisille välity väärää kuvaa siitä mitä tarkoitat?

    ”Vaihtoehtoiset mallit on rajattu pois siksi, että tämä blogikirjoitus on taustoitus uutisille, joissa minä ja muutama muu olemme lausuneet tästä ns. trolli-ilmiöstä. … Nyt puristin asian kolmeen sivuun, mikä on jo todella pitkä teksti blogikirjoitukseksi.”

    Okei, eli sinä ja muutama muu olette jo sanoneet samat sanat joten vaihtoehtoiset mallit piti rajata pois taas uudestaan. Makes perfect sense. No voitko antaa viitteen johonkin julkilausumaan, missä olet tutkijana käsitellyt aihetta vaihtoehtoisesta näkökulmasta? Koska siis tämä blogi on sanojesi mukaan siihen liian suppea.

    Gilla

  9. Noniin, ehdin vihdoin istahtamaan näiden kommenttien pariin. Tässä tulee vastauksia!

    Mikko Mustajärvi:
    Osuit todella monessa kohdassa naulan kantaan. Minua pyydetään jatkuvasti yksilöimään ns. ”trollitilejä” tai kertomaan mistä trollin tunnistaa. Olen kieltäytynyt siitä, koska katson ettei se ole minun asiani osoitella ketään sormella. Oleellista sen sijaan on juurikin tunnistaa ilmiö ja ymmärtää, että informaatioaikakaudella jokainen ihminen ja yhteiskunta on monenlaisen informaatiovaikuttamisen kohteena. Silloin, kun vaikuttaminen tehdään disinformaation avulla sosiaalisessa mediassa, voidaan keskustella siitä, onko kyseessä ns. trollaaminen vai ei. Trollaus on kuitenkin vain yksi tekniikka toteuttaa vaikuttamista, siis vain yksi yksityiskohta valtavassa keinovalikoimassa.

    Jaakko Saaristo:
    Venäläiseen trollailuun on todisteita. Sen sijaan ei ole olemassa mitään yksittäistä kaikenselittävää todistetta siitä, että Pietarin Internet Research Agencya johdettaisiin suoraan Kremlistä.

    Vaihtoehtoiset mallit on rajattu pois siksi, että tämä blogikirjoitus on taustoitus uutisille, joissa minä ja muutama muu olemme lausuneet tästä ns. trolli-ilmiöstä. Koska kyseessä on blogikirjoitus ja taustoitus jo rajatulle lausunnolle, spekulointi vaihtoehdoista ei myöskään kuulu tämän tekstin skouppiin. Jos kyseessä olisi tutkimusraportti, käsittelisin aihetta laajemmin. Nyt puristin asian kolmeen sivuun, mikä on jo todella pitkä teksti blogikirjoitukseksi.

    Olen useassa paikassa argumentoinut trollien sekä ns. resonoijien eroista. En ole missään vaiheessa sanonut, että jokainen Venäjän infoagendaa tukeva some-kirjoittelija olisi trolli, saati maksettu sellainen. Tällainen retoriikka ei kuulu työhöni millään tasolla. Puhun näistä eri ryhmistä ja niiden eri motiiveista (siis toivottavasti keskustelu kääntyy tähän aiheeseen) ensi torstaina Yle Puheen lähetyksessä jossa käsittelemme Twitteriä infovaikuttamisen kanavana. Puhun mielelläni infosodan ilmiöistä laajemmin kuin vain tämän mediakohua aiheuttaneen trolli-teeman kautta.

    Vesa Raiskila:
    Ensinnäkin, valitettavasti kantelunne perustuu virheelliselle lainaukselle sanomisistani. Kommenttini on helposti tarkistettavissa. Toisekseen, tällaiset kantelut eivät kuulu minulle millään tasolla, eikä minua tarvitse niistä informoida.

    Terkkusin,
    Saara Jantunen

    Gilla

  10. Kohtuullinen artikkeli asiasta ameriikan puolelta sekä linkit mm. UKn GCHQn sosiaalisen median hyväksikäyttöohjelmaan: ””Edward Snowden revealed NSA documents showing that the U.S. government is attempting to control, infiltrate, manipulate, and warp online discourse, and that spy agencies manipulate and disrupt web discussions to promote propaganda and discredit government critics.”
    http://www.washingtonsblog.com/2014/07/pentagon-admits-spending-millions-study-manipulate-social-media-users.html

    Gilla

  11. Hyvä Jaakko!

    Väännän rautalangasta:

    • Viittauskäytäntö ja muut tekstin jäsentelyn yksityiskohdat ovat minun valintojani toimittajana.
    • En kommentoinut sisältöä kertoessani toimituksellisesta perusteesta julkaista vieraskynä.
    • Kaipasit kommentissasi vaihtoehtoisia ja laajempia selitysmalleja, tuin tätä näkemystäsi. Suosittelen aiheesta lisää valikoitua luettavaa: Darcewska, Jolanta. The anatomy of Russian information warfare. The Crimean operation, a case study. OSW Point of view, number 42. Warsaw, 2014.

    Sillä, että olet vänrikki res. ei ole merkitystä, joskin siinä valossa on kummallista että et ymmärrä merivoimien alaisen materiaalilaitoksen ja Pääesikunnan alaisen tutkimuslaitoksen hierarkista suhdetta ja että pidät kapteeniluutnanttia ylempänä upseerina. Saaran työ on toivottavasti osa sotilaallisesti johdettua operaatiota tai toimintaa — muussa tapauksessa olisin hyvin huolissani siitä mitä Puolustusvoimien tutkimuslaitos oikein tekee 😉 Teksti on kuitenkin itsenäisen tutkijan teksti.

    Päätän tämän off-topic keskustelun tähän.

    //James

    Gilla

  12. Hei James!

    Kiitos vastauksesta vaikken nyt ihan ymmärrä miksi vastaat Saaran puolesta. En oikein tunne hierarkiaa Puolustusvoimien noissa kuvioissa, vaikka reservin vänrikki olenkin (KaiPr I/98), mutta Saara esiintyy mediassa tutkijan tittelillä ja tutkija on lähtökohtaisesti rahoituksensa puitteissa itsenäinen toimija. On ymmärrettävää että julkaisija määrittää julkaistavan tekstin muodon, mikä on akateeminen käytäntö. Mutta sitä en nyt taas puolestaan ymmärrä miksi julkaisija tässä yhteydessä ottaa kantaa sisältöön eli näihin vaihtoehtoisiin selitysmalleihin, kuten kommentoit että olen ”asian ytimessä”. Miksi, James, kommentoit Saaran tekstiä sisällöllisesti ja vastaat hänen puolestaan?

    Voisitteko vähän, Saara ja/tai James, avata työskentelynne suhdetta. Oletko, James, Saaran esimies ja ylempi upseeri? Onko oikea vai väärä päätelmä, että Saara ei ole itsenäinen tutkija vaan hänen työnsä on osa johdettua sotilaallista operaatiota? Varmasti allekirjoitat että selvennys on tarpeen, koska Saara esiintyy tutkijan nimikkeellä mediassa.

    Gilla

  13. Hyvä Jaakko,

    Kiitos tunteettoman viileästä vastauksestasi. Ensinnäkin lähdeviittaustekniikan käyttö oli minun valintani, eikä sillä ole tarkoitusta antaa erityistä tieteellisyyden vaikutelmaa, kuten epäilit, vaan ajatuksena oli

    1. pitää teksti helppolukuisena,
    2. tekstiä kirjoitettaessa helpottaa viitattujen lähteiden kokoamista omaksi luettelokseen ja
    3. kokeilla yhtä ”akateemista” viittaustekniikkaa blogissa ja saada siitä havaintoja.

    Tämä valinta oli minun omani. En halunnut tehdä tekstiin upotettuja linkkejä, koska ne mielestäni usein katkaisevat lukemisen tai ainakin häiritsevät sitä.

    Vaihtoehtoisista selitysmalleista kirjoittaessasi olet asian ytimessä. Minustakin yksi vaille riittävää huomiota jäänyt selitysmalli on esimerkiksi se, että Venäjällä monet eri tahot vaikuttavat määrittelemäsi ”mielipideryhmään” kuuluuviin henkilöihin. Tämä voisi vaihtoehtoisen selitysmallin mukaan myös epäsuorasti useiden sosiaalisen median verkostojen ja vaikuttajien kautta. Kyseessä olisi tällöin jonkinlainen pyrkimys saada aikaan ”kaskadi-ilmiö.”

    Saaran kirjoitus ei kuitenkaan ole tieteellinen vertaisarvioitu artikkeli, vaan sen tarkoituksena oli antaa taustaa Ylen uutisille annetuista lausunnoista. Hyväksyin vieraskynän, koska se taustoitti hyvin lyhyempää ja pinnallisempaa uutisointia ja sisälsi erittäin hyviä linkkejä muihin juttuihin, jotka mielestäni ovat hyvin tukeneet aiheesta käytävää keskustelua.

    //James

    Gilla

  14. No jos Venäjän informaatiosodankäynti ei ole suoraan iskenyt tänne kommenttiosastolle, niin ainakin se on iskenyt onnistuneesti joidenkin kommentoijien älylliseen ajatteluun.

    Gilla

  15. Kirjoitin tästä aiheesta kantelun oikeusasiamiehelle, jonka annan täten tiedoksi myös Saaralle, jonka haastatteluun viittaan kantelussani. Tiedän henkilökohtaisesti useita toisten ihmisten sekä oikeusasiamiehelle että Julkisen sanan neuvostolle kirjoittamia kanteluita. Tämä kertoo siitä, että tässä on nyt monien ihmisten mielestä lähdetty vaaralliselle tielle. Yksi kantelu on julkaistu täällä:

    http://www.verkkomedia.org/news.asp?mode=2&id=11707

    Mainittakoon, että olen itse kriittinen joka ilmansuuntaan, myös omaan viiteryhmäämme eli länsimaihin, mikä tekee minustakin YLEn artikkelissaan rohkaiseman nimittelyn ja näkemysteni jo lähtökohtaisen mitätöinnin kohteen.

    Alla siis omat oikeusasiamiehelle lähettämäni huomiot.

    Terveisin Vesa Raiskila

    – – – – –

    Artikkelissaan ”Oletko joutunut Venäjän trolliarmeijan kohteeksi – kerro kokemuksistasi” Suomen yleisradio kirjoittaa keräävänsä yleisöltä tietoa ”verkossa häiriköivistä Venäjä-trolleista”. YLEn mukaan ”Venäjän trolliarmeija” levittää propagandaa ja terrorisoi keskusteluja nettifoorumeilla ja sosiaalisessa mediassa pyrkien ”muokkaamaan mielipiteitä”.

    YLEn artikkeli on julkaistu osoitteessa

    http://yle.fi/uutiset/oletko_joutunut_venajan_trolliarmeijan_kohteeksi__kerro_kokemuksistasi/7470016

    YLE kirjoittaa huolettomasti ”Venäjän trolliarmeijasta”, vaikka samassa artikkelissa lainaa tutkijaa, jonka mukaan ”Venäjän valtion osuudesta trollailuun ei ole todisteita”. Toisessa artikkelissa YLE toistaa huomion todisteiden puutteesta ja lainaa tutkijaa, jonka mukaan ”Informaatiosodassa ei ylipäätään ole todisteita”, mutta joka kuitenkin viittaa epämääräisesti ”lehtitietoihin”, joiden mukaan Pietarissa on ”niin sanottu trollitehdas”. Todisteista huolimatta tutkija tietää, että ”yhden trollin päivän viestimäärä voi olla esimerkiksi viisikymmentä tai jopa sata viestiä päivässä”.

    http://yle.fi/uutiset/tutkija_verkkosodan_takana_voi_olla_pietarissa_sijaitseva_trollitehdas/7469539

    YLE Uutiset pyytää edellisessä artikkelissaan yleisöltä kokemuksia ”Venäjä-mielisen trollaamisen kohteeksi joutuneilta”.

    Oman mielipiteen kirjoittamisella sosiaalisessa mediassa pyritään yleisesti muokkaamaan toisten mielipiteitä käyttäen joko omaa nimeä tai nimimerkkiä. YLEn trollauksen käsite on hyvin epämääräinen ja mahdollistaa halventavan ”Venäjän trolli” -nimikkeen käyttämisen kenestä tahansa, joka esittää Venäjästä esimerkiksi Suomen ”virallisia näkemyksiä” kyseenalaistavia näkemyksiä. Adjektiivia ”Venäjä-mielinen” puolestaan voidaan soveltaa kehen tahansa, joka esimerkiksi tuo esiin todisteita tai näkemyksiä, joiden mukaan länsimaillakin olisi syytä peiliin katsomiseen esimerkiksi Ukrainan kriisin synnyssä.

    Venäjän kannalta myönteisten, objektiivisuuteen pyrkivien tai Venäjän ja Yhdysvaltojen/länsimaiden toimintaa vertailevien näkemysten sisältö voidaan siten käsitteellisesti diskreditoida yksinkertaisesti soveltamalla niihin kaikenkattavaa trolli-luokitusta. YLE myös rohkaisee sellaisten latautuneiden ilmausten kuin ”verkkohäiriköt” ja ”terrorisoivat keskusteluja” käyttöä nimenomaan Venäjän näkökulmasta myönteisten kommenttien tai kommentoijien kohdalla. YLEn voi siis sanoa yllyttävän leimaamiseen, jopa suoranaiseen vihapuheeseen, eikä suinkaan edistävän tasapuolista, avointa ja rakentavaa dialogia. Valtio-omisteiselta yhtiöltä tällainen on erityisen arveluttavaa.

    Tällainen toiminta on hyvin valikoivaa myös siksi, että esimerkiksi YLEn haastatteleman professori Jarno Limnéllin mukaan muutkin valtiot kuin Venäjä harjoittavat informaatiovaikuttamista. Voidaan kysyä, kuinka paljon verkossa toimii mm. Yhdysvaltain mielipidevaikuttajia – ottaen huomioon esimerkiksi se, mitä The New York Times kertoi jo vuonna 2008:

    ”Yhdysvaltain puolustusministeriö on valjastanut television uutiskanavien usein käyttämistä sotilasasiantuntijoista propagandaryhmän muokkaamaan kansalaisten mielipiteitä Irakin sodasta ja terrorisminvastaisista toimista.”

    http://yle.fi/uutiset/new_york_times_pentagon_valjasti_tv-kommentaattorit_propagandaan/5832463

    YLE tuntuu kuitenkin olevan nykyään jostain syystä kiinnostunut ainoastaan Venäjän valtion informaatiovaikuttamisesta. YLEn täysin Venäjä-painotteiset artikkelit välittävät ajatusta, että ainoastaan Venäjän taholta tulee verkkopropagandaa ja että siltä voi ”suojautua suhtautumalla tietoihin kriittisesti”.

    Vaikka YLEn mainitsemasta ”Venäjän trolliarmeijasta”, jossa toimivat ”nimettömät verkkohäiriköt”, olisi todisteita – artikkelien mukaan niitä ei ole – YLEn artikkelit eivät saata kielteiseen valoon pelkästään kaikkia sosiaalisessa mediassa Venäjän toimia nimettömästi (tai nimimerkillä) puolustavia tai Venäjästä myönteisiä mielipiteitä esittäviä henkilöitä, vaan artikkelien synnyttämien negatiivisten mielleyhtymien kautta (discrediting by association) myös omalla nimellään vastaavalla tavalla kirjoittavia henkilöitä.

    On jo viitteitä siitä, että länsimaita kriittisesti käsitteleviä on sosiaalisessa mediassa nimitelty käyttäen YLEn artikkelissaan käyttämiä ilmauksia. Useat kirjoittajat ovat maininneet nimittelyn lisääntymisestä YLEn laajaa julkisuutta saaneen artikkelin julkaisun jälkeen. Liitteenä on esimerkki YLE Uutisten omilta Facebook-sivuilta. ”Taidat olla Venäjän trolli” -nimittelykommentti on julkaistu 19.9. ja sen kohteena oleva kommentti 17.9.

    YLEn voidaan perustellusti katsoa rohkaisevan Venäjän kannalta myönteisten asioiden esiintuojien summittaista leimaamista ”Venäjä-mielisiksi” tai jopa ”nettiterroristeiksi” ja siten rohkaisevan heidän mielipiteidensä sivuuttamista – täysin riippumatta siitä, kuinka vahvoihin todisteisiin ne kulloisessakin tapauksessa perustuvat. YLEn toiminta on siis omiaan synnyttämään negatiivisia mielleyhtymiä kenestä tahansa, joka osallistuu keskusteluun esittämällä Venäjästä mielipiteen, joka on sen kannalta positiivinen. Tämä on Suomen perustuslakiin kirjatun mielipiteen vapauden halventamista.

    YLEn toiminta on omiaan saattamaan keskustelijat eriarvoiseen asemaan pelkästään sillä perusteella, mitä mieltä he ovat Venäjään liittyvistä asioista. YLEn pitäisi julkisen palvelun tuottajana päin vastoin kannustaa kansalaisia ”herruudesta vapaaseen kommunikaatioon” (Jürgen Habermas) sen sijaan, että se myötävaikuttaisi tietynlaisia mielipiteitä esittävien kansalaisten mustamaalaamiseen ja heidän mielipiteidensä mitätöimiseen.

    Katson, että YLE syyllistyy kansalaisten mielipiteen vapauden vastaiseen ja sitä halventavaan toimintaan ruokkimalla tietoisesti käsitystä, että Venäjän näkökulmasta positiivisten asioiden esittäjä on ”trolli”, ”verkkohäirikkö” tai jopa (keskustelujen) ”terroristi”.

    Valtakunnansyyttäjänviraston raportissa ”Rangaistavan vihapuheen levittäminen Internetissä” todetaan vihapuheen tarkoittavan ”lausumia, joissa lauselmien kohdetta uhataan, solvataan, panetellaan tai muuten loukataan”. Raportissa todetaan, että ”Lausumien kohdistuessa joko ryhmään tai yksilöön, kysymykseen voi myös tulla rikoslain 17 luvun 1 §:ssä säädetty julkinen kehottaminen rikokseen”. Tämä on relevanttia sikäli, että YLEn artikkeli paitsi viittaa edellä lainatuilla nimityksillä Venäjä-myönteisiin ja länsikriittisiin kommentoijiin, myös selvästi rohkaisee lukijoita solvaamaan Venäjä-myönteisiä ja länsikriittisiä kommentoijia tällaisilla nimityksillä. Koska solvaamisen perusteena ovat poliittiset mielipiteet ja näkemykset, YLEn toimintaa voidaan tarkastella rikoslain 14 luvun 5 §:ssä poliittisten toimintavapauksien loukkaamisesta tai 17 luvun 1 §:ssä julkisesta kehottamisesta rikokseen säädettyjen tunnusmerkistöjen valossa.

    Lisäksi pyytäessään ja kerätessään yleisöltä tietoja ”Venäjä-mielisten” mielipidevaikuttamisesta YLE rohkaisee kansalaisia antamaan YLElle tietoja, joita tietojen luovuttamisen kohteet eivät kenties haluaisi välitettävän viestiensä kohderyhmän – esimerkiksi omat Facebook-kaverit – ulkopuolelle. Voidaan kysyä, onko YLEllä oikeutta kerätä ja säilyttää tällaisia tietoja kansalaisista. Kannustaessaan kansalaisia ”paljastamaan” ”vääriä” mielipiteitä omaavia YLEn toiminta henkii jopa DDR:mäistä urkintayhteiskuntaa.

    Gilla

  16. Terve,

    Keskustelu ”trolliarmeijan” olemassaolosta tai -olemattomuudesta ei mielestäni ole kokonaiskuvan kannalta relevanttia. Kuten tutkija Jantunen informaatiovaikuttamisen tutkijana varmasti hyvin tietää, niin sosiaalinen media ja internetin hakukoneet yhä enenvissä määrin käyttävät ohjelmistoja, jotka nostavat kunkin käyttäjän näkyville pääasiassa niitä artikkeleita, uutisia ja kommentteja, jotka ovat käyttäjälle mieluisia, kiinnostavia ja edustavat hänen omaa näkökantaansa. Tältä ilmiöltä eivät täysin ole turvassa edes informaation käsittelyn ammattilaiset kuten media, viestintäviranomaiset tai median tutkijatkaan. Työkalut joita käytämme ovat lokeroimassa ihmisiä yksityisiin ”informaatiokupliinsa”, jossa samanmielinen kaiku vastaa huutoomme ja meille vieraat, käsittämättömät tai vastakkaiset mielipiteet vaimenevat. Kun jokin asia, esimerkiksi vaikka Ukrainan tilanne, nousee otsikoihin monet näistä ”informaatiokuplista” avautuvat aivan huomaamatta suuren yleisön nähtäviksi ja sieltä ulos pullahtava mielipiteiden myrsky saattaa vaikuttaa käsittämättömältä ja äkilliseltä. Itse uskon, että tämä ilmiö riittää selittämään hyvin suuren osan siitä nähtävissä olevasta kokonaisuudesta. Ukrainan noustessa suuren yleisön tietoisuuteen aikaisemmin yksityisissä ”informaatiokuplissaan” oman kaikunsa kanssa kilpaa huutaneiden venäläisten ja venäläismielisten mielipiteet ovat tulleet pienien piirien keskustelupalstoilta isojen mediatalojen sivustoille kaikkien nähtäville ja länsimaisen maailmankäsityksen omaavat ihmiset joutuvat todenteolla kamppailemaan epäuskonsa kanssa: ”Voiko joku oikeasti ajatella noin?”

    En suinkaan kiellä Internet Research Agencyn olemassaoloa tai sitä etteikö Venäjä kävisi aktiivista informaatiosotaa Ukrainan tilanteen ympärillä. En edes sano, etteikö ”Trolliarmeijaa” olisi mahdollisesti olemassa siten, kuin tutkija Jantunen asian esittää. Syy miksi mielestäni asiasta keskustelu ei välttämättä ole relevanttia on se, että monet Venäjän median ja venäläisten käsitykset maailmasta ovat jo valmiiksi muokkaantuneet ”Kremlin Suuren Tarinan” mukaisiksi, eikä nuorille, internetin käyttötaitoisille ja englantia puhuville venäläisille tarvitse maksaa siitä, että he puolustavat omat maailmankuvaansa joskus hyvinkin kiivaasti. Kääntäen sama ilmiö koskee myös meitä länsimaalaisen maailmankuvan omaksuneita. Eglanninkieliset sotilasaiheiset keskustelupalstat ovat pullollaan ihmisiä jotka etsivät julkisista lähteistä todisteita venäläisten joukkojen toiminnasta ukrainassa ja linkittävät palstoille länsimaisen median usein hyvinkin venäjä-kriittisiä uutisia. En yhtään ihmettelisi etteikö jonkun esimerkiksi juuri Internet Research Agencyn tutkijan mielestä tämä alkaisi vaikuttaa ”NATO:n trolliarmeijan” tekosilta.

    Kuten totesin, en kiellä ”trolliarmeijan” olemassaoloa, sen sijaan pelkään että sitä ei ole. Ajatus siitä, että merkittävä osa länsivastaista ja venäjämielistä uutisointia ja kommentointia olisi Kremlin ylhäältä ohjaavaa on siinä mielessä lohdullinen, että silloin on olemassa joku joka kontrolloi näitä mielipiteitä. On olemassa joku jonka kanssa voisimme teoreettisesti neuvotella siitä, millä ehdoilla Venäjän ja länsimaiden vastakkainasettelu informaatioympäristössä saataisiin lopetettua. On olemassa nappi, jota painamalla paha poistuu. Mielestäni huomattavasti pelottavampaa on ajatus siitä, että Venäjän informaation kontrollointikyky olisi hyvin rajallinen. 1700-luvulla viimeksi esillä olleen Novorossija -ajatuksen esiin nostamiseen nykyiseen Ukrainan poliittiseen tilanteeseen ei tarvita kuin yksi ihminen sopivassa paikassa. Kiihkomielisen kansallishengen palauttamiseen pulloon sen jälkeen kun korkki on kerran avattu ei ehkä sitten riitäkään edes kaikkien maailman trollien armeija. Entä jos Venäjä ei kykenekään kontrolloimaan länsivastaista ja usein jopa kiihkokansallisuuteen lipsuvaa mielipideilmastoaan? Entä jos ei ole ketään jonka kanssa asiasta voisi neuvotella ja Kremlissä ollaan oman ”Suuren Tarinan” vankeja? Entä jos trolliarmeija olemme me?

    Gillad av 1 person

  17. Moikka Saara Jantunen.

    Esität väitteitäsi perustuen tietopohjalle jonka tiedät itsekin kyseenalaiseksi; suorastaan Ylen uutisessa (15.9) sanot ettei Venäjän osallisuudesta trollailuun ole todisteita. On minusta tosi hyvä että itse avoimesti sanot että sinulla ei ole väitteittesi perustaksi todisteita. Mutta asettaisin tämän vastakkainasetteluun tieteellisyyden kanssa, sillä, kuten koulutettuna henkilönä varmasti tiedät, tieteen tavoite on objektiivisuus eli neutraalius ja menetelmänä evidenssiperustainen hypoteettis-deduktiivinen menetelmä. Käytät tekstissäsi tieteellistä lähdeviittaustekniikkaa, mikä antaa tekstillesi ulkoisesti tieteellisen kuvan, mutta sitä en ihan ymmärrä miksi nähdä kaikki tämä vaiva kun kerta tiedät itsekin ettei sinulla ole väitteillesi todisteita, ja sen uskottavuus painii samassa sarjassa huhujen ja salaliittoteorioiden kanssa?

    Esität perusteeksi tulkinnoillesi sen, että näiden ns. trolliviestien ”sisältö tukee Venäjän informaatioagendaa”. Näin tieteellisestä lähtökohdasta kyllä, tämä havainto selittyisi sillä että Venäjä johtaa trollaamista, tämä on siis yksi hypoteesi. Mutta se selittyisi myös sillä että näillä trolleiksi nimitetyillä blogaajilla on joku muu poliittinen motiivi, esimerkiksi pelkästään halu vastustaa Suomen ulkopolitiikkaa, tai pidemmälle vietyjä samanmielisyyksiä Venäjän poliittisen position kanssa. Tämä olisi toinen hypoteesi.

    Ensinnäkin minua ihmetyttää ettet ole formuloinut kannanotoissasi tällaisia vaihtoehtoisia selitysmalleja tekemillesi havainnoille, sillä näkisin tällaisen tutkijan tehtävänä ottaen huomioon tieteellinen tiedon hankkimisen lähtökohta. Mutta toiseksi haluaisin kysyä kumpi sinusta on uskottavampi selitysmalli: se, että Venäjä johtaa Suomeen soluttautunutta trolliarmeijaa josta ei ole todisteita vaan vain epäilyksiä, vai se, että on kansalaisia jotka kuuluvat formuloimaani mielipideryhmään ja jotka haluavat aidosti harjoittaa tällaista kansalaisvaikuttamista?

    Ystävällisesti

    Jaakko Saaristo
    FM, Helsinki

    Gilla

  18. Tässä vastaus Pekka Niemiselle:

    ”Informaatiosodan ja trolliarmeijan olemassaolon perusteeksi esitetyt lähteet ovat, no, onnettomia. Sanomalehti- ja nettikirjoituksia. Samanlaisia lähteitä käyttämällä syntyisi minkälaisia artikkeleita tahansa (kuten on syntynytkin!).”
    Kyllä, tämä analyysi perustuu avoimiin julkisiin lähteisiin. Tämä ei ole tiedusteluraportti. Todisteaineistoa Internet Research Agencyn olemassaolosta on runsaasti: työntekijöiden lausuntoja, vuodettu henkilöstöluettelo henkilö- tehtävä- ja palkkatietoineen, vuodettuja kirjoitusohjeita, toimittajien havaintoja, jne jne. On minusta äärimmäisen naiivia väittää, että Venäjällä ei olisi suorituskykyä, joka löytyy Kiinalta, USA.lta, ja Israelilta. Ainoa absoluuttinen todiste toimiston olemassaolosta olisi se, että valtionjohto myöntäisi sen olemassaolon.

    ”Kirjoitus näkee lähtökohtaisesti tilanteen mustavalkoisena. Kaikki mitä tulee Venäjältä on lnegatiivista. Kaikki, mikä arvostelee Venäjän arvostelua tai vastavoimia (NATOa tai nyt pakotteita asettavaa EU:ta), on negatiivista.”

    En ole esittänyt näin. Tulkitset näin.

    ”Ja edelliseen liittyen, kiellostaan huolimatta kirjoittaja edelleen luo mielikuvaa, että (kaikki) netissä keskusteluun osaliistuvat jotka arvostelevat NATOa, USA:a tai EU:ta ovat Venäjän asialla, jopa mahdollisesti Venäjän valtion palkkalistoilla. Tämä on kaikkein huolestuttavinta, koska se asettaa toisinajattelijoiden sananvapauden kyseenalaiseksi.”

    En ole väittänyt näin. Päinvastoin, ilmoitin tekstin alussa että käsittelen tekstissä ainoastaan johdettua ja/tai suunnitelmallista informaatiovaikuttamista, en ns. kriittistä kansalaiskeskustelua. En ole missään vaiheessa sanonut, että kaikki EU/Nato/USA-kriittiset olisivat trolleja. Ajatus tuli sinulta.

    En tekstissäni ota kantaa Ukrainan propagandaan. En kiellä sen olemassaoloa. Tekstini kertoo mediassa puidun ”trolliarmeijan” käytöstä informaatiovaikuttamisen suorituskykynä, ja nimenomaan suomalaisesta näkökulmasta. Ei siitä, mitä Ukrainassa tapahtuu. Se on ihan toisen blogitekstin aihe.

    -saara

    Gilla

  19. Heippa Tapio! Katsotaan osaanko vastata niin, että saat vastauksen kysymyksiisi.

    ”mihin perustat näkemyksesi 1) siitä, että viimeisen vuoden aikana Suomessa EU:sta ja Natosta käyty keskustelu on muuttunut sisällöltään ja muodoltaan entistä riitaisemmaksi”

    Kirjoitin tuolla, vaikkakin aika tiivistetysti, että ennen esimerkiksi Nato-asioista ikäänkuin ”sallittiin” enemmän moniäänisyyttä. Ukrainan kriisin ja sittemmin sodan aikana turvallisuustilanne on muuttunut, ja Nato-keskustelu kärjistynyt: Nato-kannatus on ollut hienoisessa nousussa ja jäsenyyttä puoltava argumentaatio lisääntynyt. Samaan aikaan Natoa vastustava retoriikka on kärjistynyt (Nato-kiima -käsitteen yleistyminen lienee siitä sopiva esimerkki, muitakin varmasti voisi listata). Samaan aikaan Venäjä on jatkuvasti viestittänyt, että mikäli Venäjän naapurimaa menee Natoon, sillä ”on seuraamuksia”. Tämä on ollut yksi Venäjän perusviesteistä. Spekulaatio Venäjän reaktiosta on varmastikin ollut yleisin argumentti Nato-jäsenyyttä vastaan (tai ainakin kärkipäässä, tilastoja en tästä sentään ole tehnyt). Sekä puolesta- että vastaan-argumentaatiossa uhan kokemus (eli siten pelko, ahdistus tai epämukavuus) on ollut päivittäin pinnalla. Nato-myönteisessä argumentaatiossa uhkakokemusta pidetään syynä liittyä, kun taas Nato-kielteisessä argumentaatiossa pelko seuraamuksista ohjaa kantoja. Enkä tässä väitä, että pelko olisi ainoa peruste – muitakin on kyllä, mutta ne eivät ole samalla tavalla kärjistyneet viimeisen 6kk aikana.

    ”sekä 2) siitä, että juuri informaatio-operaatioilla on keskustelun kärjistymisessä (sikäli kun oletamme kärjistymisen) ratkaiseva tai jopa määräävä merkitys?”

    Toisin kuin viime päivinä on tulkittu, kyse ei ole kausaalisuhteesta. Silloin kun strateginen viestintä rakennetaan ns. ”oikein”, se sovitetaan kohdeyleisönsä päivittäisten keskustelunaiheiden joukkoon. Tässä esimerkiksi Yhdysvallat on tehnyt paljon virheitä mm. Afganistanissa. Afganistaniin mentiin vahvalla länsinarratiivilla, jota kannattelivat länsimaiset arvokäsitykset. Ajatuksena oli, että koska tarjolla oleva arvopohja on lähtökohtaisesti oikea ja vetoava, se voittaa yleisön puolelleen. Yleisölle monet käytetyistä teemoista olivat kuitenkin täysin vieraita. Venäläinen stratcom toimii toisin: se perustuu yleisössä jo eläviin keskusteluihin, eikä sen tarkoituksena ole voittaa kaikkia puolelleen, vaan vahvistaa Venäjälle sopivia keskusteluja. Näitä suomalaisessa yhteiskunnassa ovat juuri EU- ja Nato-kriittisyys. Keskustelu ja erilaiset argumentit esim. EU:n osavastuusta Ukrainan kriisin kärjistymisestä resonoivat aina jossakin yleisössä, jolloin kannat normalisoituvat keskusteluumme. Tarkoituksena on siis ennemminkin vahvistaa ja vääristää jo olemassaolevia keskusteluja, kuin istuttaa täysin uusia ajatuksia päähämme, joita voitaisiin sitten arvioida ”vaikutuksina”.Venäläisen informaatiovaikuttamisen perinne hyväksyy ajatuksen siitä, että vaikutuksia ei välttämättä voida mitata ja hallita – toisin kuin länsimainen informaatiovaikuttaminen.

    ”Toisin sanoen, perustuuko näkemyksesi keskustelun ‘oireilusta’ ja siihen vaikuttavista syistä laajempaan keskustelua eri aikakausina vertailevaan analyysiin vai onko käsitys enemmänkin tutkijan valistunut arvio?”
    Analyysini perustuu doktriinien vertailuun, sekä tiettyjen viestinnän peruskäsitteiden avulla tehtyihin vertailuihin Ukrainan sodan eri vaiheissa. Näitä peruskäsitteitä ovat mm. proaktiivisuus/reaktiivisuus, informaation hallinta vs. informaation hallitsemattomuus, viestinnän synkronointi (ns. yhden vs. monen narratiivin ja yleisön malli), jne. Lisäksi olen tehnyt mediaseurantaa, analysoinut ja luokitellut uutisia diskurssien ja niiden retorisen keinovalikoiman perusteella (millä argumentit perustellaan, miten eri toimijuus kuvataan, millaisia rooleja eri toimijoille annetaan, jne jne).

    Oireilulla viittaan mm. siihen kritiikkiin, jota UPI ja Aleksanteri-instituutti saivat, Informaatiosodankäynnin tehtävänä on hämärtää tilannekuvaa disinformaation avulla. Kun julkisuudessa ruvetaan keskustelemaan siitä, että on vaikeaa erottaa totuutta ja disinformaatiota, voidaan todeta että informaatiosota on jo pitkällä. Kun tieto ja disinformaatio hämärtyvät, johtaminen vaikeutuu, kun johtaminen vaikeutuu, niin strateginen viestintä vaikeutuu… Ymmärtänet logiikan.

    Metodologiana tässä toimii hyvin viestinnän perusteoriat. Kaikki informaatiovaikuttaminen perustuu lopulta samalle ymmärrykselle ihmisen psykologiasta. Erot ovat pelisäännöissä (mitkä keinot katsotaan oikeutetuksi missäkin tilanteessa ja ketä kohtaan). Välineet ja kanavat ovat kaikilla samat. Niiden suhteet vain vaihtelevat (esim. venäläisiin vaikutetaan TV:n välityksellä, länsimaalaisiin netin).

    ”tulisiko informaatiovaikuttamisen tuloksellisuutta arvioida monisyisemmin ja kriittisemmin kuin vain (kohteiden) käyttäytymisessä tietyllä aikajänteellä tapahtuvia muutoksia tulkitsemalla? Syy-yhteyttä on vaikea eristää, näin uskoisin, sortumatta hieman naivilta vaikuttavaan behaviorismiin. ”

    Länsimaisessa informaatiovaikuttamisen doktriinivalikoimassa vaikutuksia arvioidaan hyvinkin monisyisesti. Tästä käytämme sanaa Measures of Effects (MOE). Käyttäytyminen on vain yksi niistä. Syy-seuraussuhteiden todistaminen kuului tosiaankin behavioristisen koulukunnan aikakauteen, Juuri vaikutusten mittaamisen vaikeus aiheutti paradigman muutoksen pois mittaritieteisestä viestinnän tutkimuksesta, ja keskiöön nousivat yhteisyys- ja tulkintakeskeiset mallit. Tämän kommentistasi päätelletn jo tiesitkin 🙂

    -saara

    Gilla

  20. Minäkin kommentoin Hesarin keskustelupalstoilla, ja kyllä oma kokemukseni on, että Venäjän informaatiosodankäynti on todellisuutta. Siellä on sellaisiakin kirjoittajia, jotka ovat ihan aidosti kotimaisia ja ovat omaksuneet venäläismielisyyden, mutta venäläisiä on varmasti joukossa. Mitenkään muuten ei voi selittää sitä, että eräät kirjoittajat ovat aina kuuluttamassa juuri viimeisintä Venäjän hallinnon tuomaa keskustelunaihetta. Itsenäinen ajattelija olisi väistämättä vähän myöhässä ja johtuisi joskus omille poluilleen, sivulle oikeaoppisuudesta.

    HS:n keskustelupalstalla voi helposti lukea kaikki jonkun kirjoittajan lähettämät viestit klikkaamalla nimeä. Katsokaapa vaikka nimimerkkejä
    – historian harrastaja
    – vasemmistolainen
    – Jiilius
    – yhteiseksi hyväksi

    Jos nämä kaikki neljä ovat suomalaisia kirjoittajia, eikä kukaan saa palkkaa Putinilta, olen ihmeissäni.

    Oma sähköpostini ja siis myös nimeni on palstanpitäjän tiedossa, samoin Hesarin verkkopalvelun. Nimimerkkiä käytän ammatillisista syistä.

    Gilla

  21. Tässä kirjoituksessa on mielestäni useita ongelmia.

    Informaatiosodan ja trolliarmeijan olemassaolon perusteeksi esitetyt lähteet ovat, no, onnettomia. Sanomalehti- ja nettikirjoituksia. Samanlaisia lähteitä käyttämällä syntyisi minkälaisia artikkeleita tahansa (kuten on syntynytkin!).

    Kirjoitus näkee lähtökohtaisesti tilanteen mustavalkoisena. Kaikki mitä tulee Venäjältä on lnegatiivista. Kaikki, mikä arvostelee Venäjän arvostelua tai vastavoimia (NATOa tai nyt pakotteita asettavaa EU:ta), on negatiivista.

    Ja edelliseen liittyen, kiellostaan huolimatta kirjoittaja edelleen luo mielikuvaa, että (kaikki) netissä keskusteluun osaliistuvat jotka arvostelevat NATOa, USA:a tai EU:ta ovat Venäjän asialla, jopa mahdollisesti Venäjän valtion palkkalistoilla. Tämä on kaikkein huolestuttavinta, koska se asettaa toisinajattelijoiden sananvapauden kyseenalaiseksi.

    Erityisesti kirjoittaja viittaa Helsingin Sanomien keskusteluihin ja siellä hänen näkemyksensä mukaan Venäjän trolleina toimivien henkilöiden aktiivisuuteen. Oma mielikuvani ao. keskustelupalstojen osallistujista on varsin toisenlainen. Valtaosa kirjoittajista suhtautuu negatiivisesti Venäjän tekemisiin, ja hyvin suuri osa kuuluttaa vakaumustaan, että Venäjä aikoo jatkaa aluevaltauksia, käyttäen tätä perusteena pikaiselle NATO-jäsenyydelle. Nämä kirjoittajat ovat omiaan luomaan sitä turvattomuuden tunnetta, jonka kirjoittaja yllä mainitsee. Keskustelun moniäänisyydestä kannattaa todella pitää huolta, mutta onko mahdollista että ymmärrämme sen todella näin eri tavoin?

    Ymmärtääkseni Suomessa on myös koko EU-jäsenyytemme ajan ja myöskin viime vuosien eurokriisin ajan ollut paljon arvostelua EU:ta ja Suomen EU-jäsenyyttä kohtaan. Syntyipä EU-vastaisella linjalla lähivuosien suurin vaalivoitto, se jytkyksikin kutsuttu. Siten Ukrainan kriisi tai pakotepolitiikka ei ole EU-kriittisyyden alkulähde.

    Kirjoittaja listaa myös Russia today-mediatalon ”propagandalinjoja” Ukrainan suhteen. Olen hieman hämmentynyt: mitä muuta RT voisi sanoa? Ovatko nuo linjat kaikki vääriä? Ukraina kutsuu Itä-Ukrainan separatisteja terroristeiksi. Eikö se ole propagandaa? Ukrainassa eivät kaikki puolueet voi jatkossa osallistua vaaleihin. Ukraina on juuri käynnistänyt virkamiehistön siivouksen korruptoituneista ja oletettavasti siis pitkälti alueiden puolueen edustajoista. Ja tiettävästi Ukrainassa ON OLLUT varsin voimakas poliittinen kahtiajako koko Neuvostoliiton hajoamisen jälkeisen ajan. Muistammehan oranssin vallankumouksen ja Justsenkon dioksiinitapauksen. Missä määrin UKrainassa pidetyt vaalit ovat olleet kyseenalaiset, ne joissa Janukovits ja pre-Maidan Rada valittiin? Olenko nyt siis Venäjän trolli, kun tuon nämä asiat esiin?

    Gilla

  22. Pidän tätä artikkelia erittäin harrastelijamaisena ja en näe tämän selvityksen perustuvan vähimmässäkään määrin tieteelliseen analyysiin kyseisestä kansainvälisen politiikan aiheesta.

    Käsittämätöntä tässä artikkelissa on otta ”Novorossia”- sana esimerkiksi jostakin historiallisesta taustasta, mitä Venäjä olisi nyt nostamassa esiin. Tosiasiassa Novorossia niminen valtio perustettiin alueen kansan tahdosta juuri tuona päivänä 24/5 kun Internet-haut asiasta alkoivat ja Venäjällä ei ole mitään tekemistä sen kanssa. Novorossialla on oma itsenäinen hallintio, perustuslaki, armeija, lippu, jne. Novorossian kansantasavalta on hakenut myös YK:n jäsenyyttä. Läntinen propagandamedia ei ole halunnut mainita mediassa koko Novorossiaa, sillä se on täysin laillisesti (Convention on human rights) julistautunut itsenäiseksi ja nyt tilanne on se, että Kiovan juntta on hyökännyt itsenäiseen maahan ja syyllistynyt sotarikoksiin.

    On May 24, 2014, the leaders of the unrecognized republics of Donetsk and Lugansk signed a document on the establishment of a common state, a Union of People’s Republics, significantly named Novorossiya.
    http://beforeitsnews.com/alternative/2014/04/eastern-ukraine-becomes-republic-of-novorossiya-declares-independence-video-2945842.html
    http://www.newrepublic.com/article/117284/federalized-ukraine-could-mean-return-novorossiya
    http://www.eurasiareview.com/21062014-historical-basis-novorossiyas-independence-analysis/
    http://curiousmatic.com/russian-reclamation-novorossiya-devastate-ukraine/
    http://en.wikipedia.org/wiki/Novorossiya

    Itse olen työni vuoksikartoittanut uutisointia ja niihin kommentoimista sekä some-sisältöjä mukaanlukien Ukrainan kriisin aiheet. En ole tavannut ainoatakaan artikkelia, mikä viittaisi ”itäiseen vaikuttamiseen” Suomessa. Sensijaan usein on tullut mieleen, että useita kymmeniä ja jopa satoja tekstejä on kirjoitettu mm. julkisuuteen tulleen organisoidun NATO-propagandan tuotteina. Yleensä ottaen maamme median uutisointi on erittäin asenteellista ja valheellista länsimyönteisyydessään. Pohjanoteerauksena ovat esim. Ulkopoliittisen instituutin (mm. Torsti Siren) tai Maanpuoluistuskorkeakoulun (mm. Mika Aaltola) täysin asiattomat ja mihinkään tietolähteisiin perustumattomat uutisoinnit. Useimmiten juuri mediakeskustelujen pohjana oleva uutinen on jo luokiteltava roskapostaukseksi.

    Kun 2 viikkoa sitten muutama venäläinen rajamies harhautui Ukrainan puolelle, oli MTV-uutisten pääaihe Venäjän sotajoukkojen ”laaja” toiminta Ukrainassa. Uutislähetyksessä klo 19 ETYJ:n puheenjohtaja Ilkka Kanervalta kysyttiin asian vakavuutta. Kanerva vastasi kyseessä olevan ”puhtaan mediapropagandan”. Hän tietää, että ETYJ:n 200 tarkkailijaa ei ole tehnyt havaintoja venäläisjoukoista. Klo 22-uutisissa pääuutinen oli muuten sama, mutta Kanervan lausunto propagandasta oli leikattu pois. MTV:n oli siis selvästi tarkoituskin valehdella.

    Länsipropagandan ongelma on suuri toki muissakin maissa. On mielenkiintoista, että länsilehdistö on nyt huolissaan yleisön valistumisesta ja puolueettoman tiedon olemassaolosta. Oikean tiedon kylvämisestä on sitten hyvä syyttää Venäjää ja väittää että sen vuoksi tähän tietoon ei pidä luottaa. Siis oikea tieto pyritään kumoamaan väittämällä sitä venäläiseksi alkuperältään (mitä se varmaan osittain onkin). Ei ole ihme, että hollantilainen professoriryhmä pyysi kirjeessään anteeksi presidentti Putinilta länsilehdistön valehtelua.

    A Dutch group of professors sent an open letter to Russian president Vladimir Putin on August 12 in which the signatories officially apologized for the propaganda lies sprewed by Western media.
    http://futuristrendcast.wordpress.com/2014/08/05/an-open-letter-from-the-netherlands-to-putin-we-are-sorry/

    Gilla

  23. Hei Saara (James),

    Kiitokset asiallisesta ja selkeästä kirjoituksesta. Se avaa hyvin informaatiovaikuttamisen sekä siihen liittyvän psykologisen operoinnin taustoja sekä näihin liittyvää teoreettisempaa keskustelua. Myös viimeaikaiset tapahtumat sekä käänteet tulevat raportoiduksi varsin vakuuttavasti ja kompaktisti, vaika sitten fokus on, ymmärrettävästi kylläkin, korostuneesti Venäjän toimissa.

    Haluaisin kuitenkin (tähän suuntaan kommentoin jo aikaisemmin twitterissä) kysyä, mihin perustat näkemyksesi 1) siitä, että viimeisen vuoden aikana Suomessa EU:sta ja Natosta käyty keskustelu on muuttunut sisällöltään ja muodoltaan entistä riitaisemmaksi sekä 2) siitä, että juuri informaatio-operaatioilla on keskustelun kärjistymisessä (sikäli kun oletamme kärjistymisen) ratkaiseva tai jopa määräävä merkitys? Toisin sanoen, perustuuko näkemyksesi keskustelun ‘oireilusta’ ja siihen vaikuttavista syistä laajempaan keskustelua eri aikakausina vertailevaan analyysiin vai onko käsitys enemmänkin tutkijan valistunut arvio?

    Käsitys voi hyvin olla oikea, ainakin oikean suuntainen, en kiellä sitä. Toisaalta NATO:sta ja EU:sta on kyllä käyty kitkeränsävyistä ‘keskustelua’ jo ennen Ukrainan kriisiä. Toisin kuin tuon agendan asettamisen kohdalla (jonka esitit vakuuttavasti) on mielestäni informaatiovaikuttamisen ja tietyn yhteiskunnallisen keskustelun intensiteettiä sekä argumentoinnin sisällön laadullisten piirteiden välistä syy-yhteyttä hyvin vaikea todistaa. Onko tällaiseen tutkimukseen olemassa jotain vakiintunutta metodologiaa tai ylipäätään tutkimustraditiota?

    Yhtä lailla voidaan esittää, että päättäjien vaatimukset tarkemmasta tilannekuvasta johtuvat monista muista kriisiaikaisen päätöksenteon dynamiikkaan liittyvistä psykologisista ja käytännöllisistä tekijöistä. Eli summa summarum, kysymyksen muodossa: tulisiko informaatiovaikuttamisen tuloksellisuutta arvioida monisyisemmin ja kriittisemmin kuin vain (kohteiden) käyttäytymisessä tietyllä aikajänteellä tapahtuvia muutoksia tulkitsemalla? Syy-yhteyttä on vaikea eristää, näin uskoisin, sortumatta hieman naivilta vaikuttavaan behaviorismiin. Nämä kysymykset eivät ole mitään hiustenhalkomishommia, vaan niihin annetut vastaukset liittyvät mielestäni keskeisesti siihen, miten informaatiovaikuttamiseen tuli suhtautua, varautua ja reagoida.

    Parhain terveisin,
    Tapio Juntunen

    Gilla

Kommentera | Kommentoi