Rosyjska fabryka trolli z Petersburga

„trolle z Olgino” (ros. „тролли из Ольгино” lub „ольгинские тролли”), kremlowskie boty – ogólna nazwa użytkowników-prowokatorów (trolli), którzy za pieniądze w specjalnie wyposażonych biurach tworzą posty i komentarze mające na celu rozpowszechnianie rosyjskiej propagandy w sieciach społecznościowych, publikacjach internetowych lub innych zasobach w sieci. Nazywa się ich również „hybrydowymi” trollami. Znacząco odróżniają się od indywidualnych prywatnych spamerów, których celem jest po prostu szokowanie lub zastraszanie.

Zatrudnieni komentatorzy tworzący prowokacyjne zniekształcone wiadomości tekstowe i graficzne stali się jednym z elementów szerokiej wojny informacyjnej Rosji przeciwko Ukrainie, w której wykorzystuje się zarówno rosyjskie zasoby internetowe, jak i zasoby internetowe Ukrainy, Europy, USA, pokazując wydarzenia na Ukrainie z perspektywy korzystnej dla propagandy rosyjskiej. Oficjalna nazwa jednej z zaangażowanych w trolling instytucji to Agencja Badań Internetowych (ros. Агентство интернет-исследований, ang. Internet Research Agency) z siedzibą w Sankt Petersburgu.

Moskwa zaczęła rozwijać „fabryki trolli” w reakcji na protesty przeciwko fałszerstwom wyborczym w wyborach do rosyjskiej Dumy oraz powrotowi W. Putina na Kreml, które zostały zorganizowane zimą 2011–2012 za pośrednictwem sieci społecznościowych (głównie VKontakte i LiveJournal). Nagle w sieci pojawiło się mnóstwo prokremlowskich komentarzy, których celem było wzbudzenie kontrowersji, zasianie niezgody, a ostatecznie osłabić społeczność swoich przeciwników.

Pojęcie „trolle z Olgino” pochodzi od specjalnie przystosowanego do trollingu biura, które rosyjscy dziennikarze opisali w 2013 r., a które znajdowało się w Olgino – zabytkowej dzielnicy Petersburga, naprzeciwko dworca kolejowego, w tym samym budynku, w którym znajduje się redakcja gazety „Newskie Wiadomości”, należącej do byłego osobistego kucharza Putina, dziś „biznesmena”, J. Prigożyna. Pod koniec października 2016 r. budynek został zaatakowany przez nieznanych zamaskowanych sprawców, którzy w okno drugiej kondygnacji, gdzie znajduje się redakcja gazety, wrzucili trzy butelki z płynem zapalającym (tzw. koktajle Mołotowa). Z czasem określenie „trolle z Olgina” stało powszechne w odniesieniu do wszystkich trolli, którzy zajmują się dezinformacją, prowokacjami szerzą rosyjską propagandę, nie tylko tych z Olgino. Według rosyjskich mediów mniej więcej pod koniec 2017 r. biuro z ul. Sawuszkina 55 przeniosło się do centrum biznesowego Lakhta-2 na ul. Optyka.

W 2018 r. fabryka kremlowskich trolli przemianowała się na rosyjską agencję informacyjną RIA FAN (Federalna Agencja Nowin – РИА ФАН), a jej 16 witryn z wiadomościami generuje ponad 30 mln odsłon miesięcznie. Agencja FAN nie ujawnia rzeczywistego celu swoich działań i oficjalnie nie przyznaje się do bycia finansowaną z rosyjskich prorządowych źródeł. Skupia 12 innych firm (o różnych lokalizacjach, w tym za granicą) – większość z nich w ten czy inny sposób przygotowuje materiały dotyczące sytuacji w państwach zachodnich, pełne nieprawdziwych informacji i podsycające wewnętrzne sprzeczności.

Zatrudnionym trollom oferuje się atrakcyjną jak na lokalne warunki płacę – 45 tys. rubli (ok. 2,5 tys. zł). Do pracy przyjmuje się tylko tych, którzy nie zadają pytania „Dlaczego?”. Każdego dnia trzeba stworzyć 20 utworów (artykułów, newsów itp.) i umieścić je na stronach kontrolowanych przez agencję. Ponieważ większość pracowników to osoby inteligentne, wykształcone, które przyjechały z innych miast, gdzie nie mogły znaleźć pracy, doskonale zdają sobie sprawę, w czym uczestniczą. Dlatego, jak pisze były troll, z reguły można ich podzielić na trzy grupy:

• płacą mi, więc nic więcej mnie nie obchodzi i nie wnikam w to, kim jest mój pracodawca;
• wiem, że mój pracodawca jest prorosyjską fabryką trolli, ale płaci mi, więc jest OK;
• walczę w internecie przeciwko faszystowskim buntownikom.

Internetowy troll to osoba, która często anonimowo wrzuca do sieci stwierdzenia obliczone na wywarcie wpływu lub zmianę myślenia czy wzbudzenie silnych emocji, używa przy tym półprawd albo fałszywych informacji (zob. fake news). Punkt widzenia trolla bardzo rzadko jest jednoznaczny, a jeszcze rzadziej opiera się na faktach lub rzetelnym dochodzeniu. Rosja używa trolli już od dosyć dawna. Ukraińska dziennikarka M. Popowa opisała w czerwcu 2014 r., jak trolle tworzą kremlowską propagandę w internecie. Odnotowała zarówno ogromną liczbę wygenerowanych postów mających wywrzeć na ich odbiorcach psychologiczną presję, by zgodzili się z rzekomą większością, jak i skalę podejmowanych tematów, w których punktowano wszystko, co złe w USA i Europie, a dobre w Rosji. Istnienie trolli opłacanych przez Kreml zostało udowodnione przez wielu dziennikarzy śledczych.

W lipcu 2014 r. łotewska dziennikarka S. Ēlerte opublikowała obszerny artykuł dotyczący roli rosyjskich trolli. Opisała manipulację europejską opinią publiczną jako szczególny cel podejmowanych akcji. Jak głosi jedna z analiz, administracja ds. polityki wewnętrznej rosyjskiego prezydenta kontroluje pracę tzw. trolli i blogerów, których zadania obejmują publikowanie i rozpowszechnianie zatwierdzonych artykułów, zakładanie fałszywych kont na portalach społecznościowych w celu szerzenia spreparowanych informacji oraz spamowania i oczerniania przeciwników w internecie.

Jesienią 2014 r. reporter śledczy „New York Timesa” A. Chen badał organizację znaną jako Agencja Badań Internetowych w Sankt Petersburgu, zamieszczającą posty wspierające rosyjski punkt widzenia i używającą fałszywych tożsamości w celu stworzenia iluzji, że działania Kremla znajdują masowe poparcie. Organizacja składa się z kilku specjalnych oddziałów, które preparują informacje umieszczane potem na popularnych portalach społecznościowych – VKontakte, LiveJournal, Twitter, Instagram. Istnieją także osobne działy pracujące nad komentarzami skierowanymi do tradycyjnych mediów. Oprócz wymienionych są jeszcze tzw. luksusowe działy, które całą pracę wykonują w obcych językach, w większości w języku angielskim. Ludzi pracujących dla agencji określa się mianem „trolli”. Jak zauważył Chen, słowo to stało się popularne w latach 90. ubiegłego stulecia, kiedy internauci ukryci za pseudonimami wypowiadali się nie po to, by uczestniczyć w dyskusji, ale by w sposób zamierzony wpływać na innych użytkowników, wywoływać określone emocje poprzez obrażanie jednostek (grup) i głoszonych przez nie opinii, ośmieszanie ich lub kierowanie pod ich adresem wyzwisk, co z kolei miało prowadzić do wywołania kłótni. Dziennikarz dowiedział się, że farma trolli na Uralu istnieje od maja 2008 r.

Rosja przez swoje kanały telewizyjne oraz trolle masowo szerzy kłamliwą propagandę, co wprost podkreślono w Rezolucji Parlamentu Europejskiego pod koniec listopada 2016 r. W dokumencie wskazano m.in., że rosyjska propaganda jest zagrożeniem dla Unii Europejskiej i ma na celu „zniekształcając prawdę, zasiać wątpliwości i niezgodę między krajami UE, sparaliżować proces decyzyjny, zdyskredytować instytucje UE i partnerstwa transatlantyckiego, wzbudzać lęk i niepewność wśród obywateli UE”.

Rosja, prowadząc swoją kampanię informacyjna, wykorzystuje cztery podstawowe cechy zachowania trolli: agresję, sukces, zakłócenia i oszustwo oraz korzysta ze wszystkich możliwych technik i chwytów dostępnych w internecie. Trolle nieustannie starają się wpływać na odbiorców poprzez zamieszczenie różnego rodzaju informacji, jak również przez manipulowanie, kierowanie dyskusji na fałszywe tory, poniżanie interlokutora, promowanie oszustwa, odstraszanie i mobilizowanie swoich współpracowników. Oprócz danych technik istnieje jeszcze kilka głównych strategii komunikacyjnych, które zwiększają skuteczność rosyjskich trolli. Są to zaprzeczenie, tworzenie chaosu informacyjnego (dezinformacja i rozsiewanie plotek), zaostrzanie konfliktu wewnętrznego (poprzez podkreślanie niekompetencji władz politycznych, panującej w jej szeregach korupcji i nieustannych sporów), groźby i zniechęcanie, budowanie wizerunku wroga (Ukraińców, Amerykanów, Turków), podżeganie narodowej, etnicznej i religijnej nienawiści, niezgodę i budowanie teorii spiskowych. Najczęściej trolle tym zaprzeczają oczywistym faktom, wydarzeniom i opiniom innych, które są niezgodne z ich myślą. Chociaż wymienione techniki i strategie komunikacyjne były stosowane w sposób ciągły, trudno jest określić, w jakim stopniu przekonania, wartości i postawy czytelników mają w rzeczywistości wpływ na przebieg dyskusji.

Do wywierania określonego wpływu służą konkretne techniki, takie jak:

• spamowanie komentarzami, wpisami i sfabrykowanymi artykułami (np. wysyłanie tysięcy podobnych komunikatów na raz) lub tworzenie fałszywych tożsamości (np. trolle, boty) w celu rozpowszechniania wiadomości i zminimalizowania alternatywnych głosów;
• tworzenie fałszywych stron, blogów, postów, artykułów w celu manipulowania opinią publiczną;
• kreowanie mody na dane hasztagi czy hasła – przydatne zwłaszcza na Twitterze, który na bieżąco aktualizuje trendy w serwisie;
• masowe zgłaszanie do administracji treści niezgodnych z punktem widzenia atakującego (np. postów lub fanpejdży na acebooku;
• udostępnianie treści, które opierają się na domysłach lub plotkach (zwłaszcza w grupach na Facebooku);
• inżynieria społeczna w kontekście cyberataków, która odnosi się do psychologicznej manipulacji ludźmi i do nakłaniania ich do okreslonych działań lub ujawnienia poufnych informacji. Cyberprzestępcy często wykorzystują socjotechnikę, aby wejść w posiadanie określonych informacji i w ten sposób uzyskać dostęp do systemu, dokonać oszustwa lub przeprowadzić innego rodzaju atak. Jednakże techniki te mogą być również wykorzystane do celów wojskowych, takich jak szpiegostwo i gromadzenie informacji. Takie ataki mogą być zautomatyzowane, prowadzone przez boty albo ludzi z fałszywymi tożsamościami;

• wyłudzanie danych osobowych oraz poufnych informacji za pomocą fałszywych profili, (np. osoby udające szkolnych przyjaciół);
• oszustwa tworzące „hałas”, „szum”, „mgłę informacyjną” wokół tematu, aby odwrócić uwagę od strategicznie ważnych wydarzeń.

Armia trolli Kremla obecna na wielu forach internetowych, dyskusyjnych, w tym na Twitterze, działa jako siła, która ma za zadanie dostarczyć potrzebny komunikat rosyjski – szczególnie poprzez skierowanie debaty na tory spójne z wersją Moskwy lub tłumienie opinii jej nieprzychylnych.

Zadaniem armii trolli Kremla jest penetracja wśród grupy docelowej, tworzenie w niej zamieszania i sianie wątpliwości, podważanie zaufania do obiektywnych wiadomości, a zwłaszcza deprecjonowanie oficjalnych wypowiedzi przeciwników Rosji. Celem rosyjskiej dezinformacji jest ukrycie prawdy w gąszczu kłamstw. Nieoczekiwane zaprzeczenia są chwytem, na które zachodnie media są szczególnie źle przygotowane. Świat rozumie, że rosyjskie kampanie dezinformacyjne są samobójcze, ponieważ prowadzą swoich twórców do „pułapki” – ograniczającą ich możliwości poprzez zmuszanie ich do subskrypcji własnych narracji i działania w zgodzie z własną propagandą.

Rola rosyjskich trolli w wojnie informacyjnej jest wciąż niedoceniana, a efekt ich działań niezwykle destrukcyjny. Po wybuchu konfliktu między Rosją a Ukrainą prasę zachodnią zaczęły zalewać setki komentarzy pisanych przez trolli, celem ich ataku nie była sama treść ale artykułu, ale częstokroć dziennikarz lub nawet jego rodzina. Taki sposób działania jest charakterystyczny dla rosyjskiej propagandy.

Kreml i fabryka trolli walczyły przeciwko USA pod czas kampanii prezydenckiej, próbując podważyć kandydaturę H. Clinton i siejąc wewnętrzną niezgodę. Pracowały na 12-godzinnych zmianach, zarówno w dzień, jak i w nocy. Specjalny doradca USA w 2018 r. oskarżył Prigożyna i 12 innych Rosjan o ingerencję w proces wyborczy.

Wygląda na to, że rosyjskie trolle internetowe nie zaprzestały swojej szkodliwej działalności po ostatnich wyborach prezydenckich w USA. Zgodnie z opublikowanym w marcu 2018 r. raportem Komisji ds. Nauki, Przestrzeni Kosmicznej i Technologii Izby Reprezentantów rosyjskie trolle aktywnie próbują podkopać rynki energetyczne Stanów Zjednoczonych. W dokumencie stwierdzono, że Rosja była aktywnie zaangażowana w skoordynowane działania mające na celu osłabienie amerykańskich rynków energii i uzyskanie wpływu na wewnętrzną politykę energetyczną. Należy zauważyć, że Rosjanie próbowali osiągnąć ten cel m.in. za pośrednictwem amerykańskich platform medialnych (Instagram, Facebook i Twitter). Jednocześnie, jak zauważają amerykańscy prawodawcy, nie jest to pierwsza rosyjska próba zaszkodzenia branży energetycznej na Zachodzie. Przypominają, że w 2014 r. sekretarz generalny NATO A. Fogh Rasmussen zwrócił uwagę na skoordynowaną rosyjską kampanię dezinformacji przeciwko wydobyciu gazu łupkowego w Europie. Celem takich wysiłków stworzenie iluzji, że Europa jest skazana na zakup gazu ziemnego z Rosji. Sprawozdanie Komisji koncentrowało się na działaniach rosyjskiej Agencji Badań Internetowych z Sankt Petersburga. To właśnie ta instytucja stoi za szkodliwymi działaniami Rosjan w cyberprzestrzeni. Rosja aktywnie angażowała się w skoordynowane działania mające na celu osłabienie amerykańskich rynków energii i wpłynięcie na jej wewnętrzną politykę energetyczną, korzystając z amerykańskich platform medialnych (Instagram, Facebook i Twitter). I tak np. Twitter opublikował archiwum ponad 3,8 tys. kont związanych z rosyjską agencją „fabryki trolli”. Według Twittera rozprowadziła ona ponad 10 mln wiadomości oraz ponad 2 mln zdjęć i klipów wideo w sieciach społecznościowych. Wcześniej okazało się, że prawie 150 mln użytkowników sieci społecznościowych Facebook i Instagram może oglądać reklamy i publikacje pay-per-view dystrybuowane przez Agencję Badań Internetowychz Sankt Petersburga.

Troll dąży do wywołania negatywnych emocji u członków społeczności internetowych: złości, wściekłości, irytacji, chęci odwetu. Sukces działania trolla mierzony jest tym, czy jego prowokacja przyniosła pożądany skutek, czy czytelnik, odpowiadając na wiadomość trolla, komentując ją, podjął jego grę. Celem trolla nie jest rozmowa merytoryczna, ale odpowiednio ukierunkowana, dlatego stara się tak manipulować swoim odbiorcą, by wzbudzić w nim negatywne emocje i sprawić, by dał im upust, podejmując osobisty atak i pisząc złośliwe komentarze. Prawdziwym celem trollingu nie jest więc prowadzenie dyskusji, a po prostu oszustwo, zakłócanie lub zaostrzanie konfliktu, by osiągnąć własne cele.

W wojnie informacyjnej Kremla jest wiele przykładów takich działań, prorosyjskie głosy w mediach społecznościowych systematycznie podsycają strach, lęk i nienawiść wśród etnicznie rosyjskich i rosyjskojęzycznych obywateli Europy Środkowo-Wschodniej. Rosja próbuje propagować swoją alternatywną rzeczywistość również poza granicami kraju. Armia trolli Kremla obecna na wielu forach internetowych, dyskusyjnych, w tym na Twitterze, ma za zadanie dostarczyć potrzebny komunikat rosyjski – szczególnie poprzez skierowanie dyskusji na wygodne dla siebie tory lub tłumienie debaty, w której relacjonuje się wydarzenia w sposób niespójny z wersją Moskwy.

Podstawowym wymogiem zachodnich strategii komunikacyjnych jest przedstawianie prawdziwych informacji, rosyjskie mass media natomiast nie muszą się nawet silić na relacjonowanie prawdziwych wydarzeń, by odnieść sukces. W Rosji praktycznie nie istnieją niezależne media, zostały one skutecznie usunięte z rynku. Kreml, prezentując swoją alternatywną wersję rzeczywistości i przebiegu komentowanych wydarzeń, nie dba o to, by były wiarygodne, najważniejsze jest bowiem, by armia rosyjskich trolli trafiła ze swoim przekazem do grupy docelowej. Wystarczy, powodując zamieszanie i wzbudzając wątpliwości, podważyć zaufanie do obiektywnych wiadomości, zwłaszcza oficjalnych wypowiedzi przeciwników Rosji. Wystarczy, powodując zamieszanie i wzbudzając wątpliwości, podważyć zaufanie do obiektywnych wiadomości, zwłaszcza oficjalnych wypowiedzi przeciwników Rosji. Kluczowym przykładem takiego podejścia jest zestrzelenie Malaysia Airlines Flight MH17. Cztery dni po katastrofie rosyjskie Ministerstwo Obrony Narodowej przeprowadziło konferencję prasową, na której przedstawiono możliwe wyjaśnienia tej tragedii. Prezentowane scenariusze były wzajemnie sprzeczne.  

Kreml zmasował próby kontrolowania sieci społecznych, jego trolle zalewają sieć złośliwymi i wrogimi komentarzami na jakiekolwiek krytyczne wypowiedzi wobec polityki rosyjskich przywódców. Społeczeństwa krajów postsowieckich są sceptycznie nastawione do mediów. Choć w czasach sowieckich nauczyły się czytać między wierszami, współcześnie wobec nowych technologii i skali dezinformacji, nie są bardziej chronione przed wojną propagandową nowych czasów. Rola rosyjskich „trolli” w wojnie informacyjnej niedoceniana, a efekt ich działań niezwykle destrukcyjny.

Jesteśmy dziś świadkami bezprecedensowej akcji manipulowania zbiorową świadomością, dlatego tak ważna jest rola niezależnych mediów i tak duża jest odpowiedzialność dziennikarzy, zwłaszcza tych, którzy mimo nacisków ze strony rządu, starają się zachować obiektywizm. Władza walczy z niezależnymi mediami, zamknięto niektóre serwisy informacyjne, kontroluje się blogerów, wolność słowa jest tłumiona jak nigdy w ciągu ostatnich 20 lat.

Manipulacja jest już obecna we wszystkich dziedzinach życia społecznego, nie szczędzi się na nią sił i środków, tworząc i wdrażając nowe jednostki informacji. W serwisie Sobaka.ru w lutym 2015 r. opublikowano interesujące zwierzenia byłej pracownicy jednej z rosyjskich „agencji medialnych”, która opowiedziała, że jej zadaniem było zalewanie internetu przekłamanymi informacjami na temat prowadzonego przez Rosję konfliktu zbrojnego z Ukrainą.

Coraz więcej państw europejskich dochodzi do wniosku, że Kreml na tym nie poprzestanie i rosyjskie działania propagandowe będą obejmować również ich terytoria. I tak, w październiku 2016 r. Finlandia wyraziła zaniepokojenie nasileniem kampanii propagandowej Kremla na swoim obszarze. Aby skutecznie jej przeciwdziałać, utworzono centrum do walki z zagrożeniami hybrydowymi, takimi jak ataki cybernetyczne, propaganda czy dezinformacja. Inicjatywę, której sygnatariuszami były Wielką Brytanią, Niemcami, Francją, Włochami, Hiszpanią, Polską, Szwecją i krajami bałtyckimi poparły również Stany Zjednoczone oraz przedstawiciele UE i NATO.

Mniej więcej w tym samym czasie, we wrześniu 2016 r., kontrwywiad Czech oficjalnie potwierdził, że Rosja prowadzi wojnę informacyjną w Czechach i tworzy sieć grup marionetkowych ośrodków propagandowych, które mogą być wykorzystywane w celu destabilizacji sytuacji w kraju. Zwrócono też uwagę, że Moskwa uruchomiła w Czechach całą sieć agentów i grup zajmujących się propagandą i rozpowszechnianiem fałszywych danych oraz informacji oczerniających Unię Europejską, Ukrainę i NATO, mających wpływać na opinię publiczną. W odpowiedzi na te sytuację ogłoszono utworzenie specjalnej jednostki (Centrum Przeciwko Terroryzmowi i Zagrożeniom Hybrydowym) podległej czeskiemu ministerstwu spraw wewnętrznych. Zadaniem centrum jest przeciwdziałanie dezinformacji w przestrzeni publicznej i szkolenie urzędników w zakresie odpowiedniej reakcji na dezinformację.

Pod koniec listopada 2016 r. Parlament Europejski przyjął rezolucję „O polityce informacyjnej UE w celu przeciwdziałania wrogiej propagandzie stron trzecich”. W dokumencie wskazano m.in., że rosyjska propaganda jest zagrożeniem dla Unii Europejskiej i ma na celu „zniekształcając prawdę, zasianie wątpliwości i niezgody między krajami UE, osłabienie strategicznej jedności UE i jej północnoamerykańskich partnerów oraz sparaliżowanie procesu decyzyjnego, zdyskredytowanie instytucji UE i partnerstwa transatlantyckiego, wzbudzanie lęku i niepewności wśród obywateli UE”.

Praktyka trollingu, która może być w mniejszym lub większym stopniu zależna od stanu i stopnia kontrolowania trolli przez państwo, jest tylko jednym z wielu narzędzi pozostających w dyspozycji „armii trolli”, zdefiniowanej jako zespoły należące do rządu, wojska lub partii politycznych, których misją jest manipulowanie opinią publiczną za pośrednictwem mediów społecznościowych.

Ostatnie konflikty pokazały, że walka o serca i umysły jest równie ważna jak walka zbrojna, a internet i media społecznościowe odgrywają kluczową rolę w tym procesie i są coraz częściej wykorzystywane do wspierania działań wojskowych. Zarówno podmioty państwowe, jak i niepaństwowe skutecznie wykorzystują nowe media, aby uzyskać wsparcie dla swoich działań, rekrutować nowych członków, oszukiwać i zastraszać przeciwnika, a nawet wykorzystywać go do tradycyjnych działań wojskowych, takich jak gromadzenie danych wywiadowczych lub dowodzenie i kontrola. Wojna rosyjsko-ukraińska pokazała, jak wykorzystano fałszywe tożsamości i konta do rozpowszechniania narracji za pośrednictwem mediów społecznościowych, blogów, jak wykorzystywano komentarze internetowe, aby manipulować, nękać lub oszukiwać przeciwników. Istnieją raporty dziennikarzy śledczych dowodzące istnienia w rosyjskich miastach tzw. fabryk trolli, zatrudniających ludzi do szerzenia dezinformacji, rozsiewania plotek lub nieprawdziwych informacji w przestrzeni internetowej. Niemniej jednak trolling wciąż jest zjawiskiem stosunkowo nieodkrytym. Chociaż takie działania zostały szeroko zidentyfikowane, ich skutki nie zostały zmierzone, przede wszystkim dlatego, że trudno jest odróżnić płatne trolle od osób, które po prostu wyrażają swoje opinie.

Sergiusz Wasiuta

2018 Ranking of countermeasures by the EU28 to the Kremlin’s subversion operations. Kremlin Watch Report. 13.06.2018. This report has been consulted with 16 governmental and non-governmental experts from 12 European countries, https://yle.fi/uutiset/osasto/news/aro_and_kankkonen_win_bonnier_journalism_prizes/8748609 [dostęp: 10.03.2019]; J. Aro, The Cyberspace War: Propaganda and Trolling as Warfare Tools, „European View” 2016, vol. 15, is. 1; S. Chaturvedi, I am a Troll: Inside the Secret World of the BJP’s Digital Army, Juggernaut Publication, New Delhi 2016; Freedom House, Freedom on the Net 2017: Manipulating Social Media to Undermine Democracy, November 2017; C. Hardaker, Trolling in asynchronous computer-mediated communication: From user discussions to academic definitions. „Journal of Politeness Research” 2010, no. 6; Internet Trolling as a Hybrid Warfare Tool: The Case of Latvia, Riga: NATO Strategic Communication Centre of Excellence, 2015, https://www.stratcomcoe.org/internet-trolling-hybridwarfare-tool-case-latvia-0 [dostęp: 10.03.2019]; J.-B. Jeangène Vilmer, A. Escorcia, M. Guillaume, J. Herrera, Information Manipulation: A Challenge for Our Democracies, Report by the Policy Planning Staff (CAPS) of the Ministry for Europe and Foreign Affairs and the Institute for Strategic Research (IRSEM) of the Ministry for the Armed Forces, Paris, August 2018; G. King, J. Pan, M.E. Roberts, How the Chinese Government Fabricates Social Media Posts for Strategic Distraction, not Engaged Argument, „American Political Science Review” 2017, no. 111(3); A. Król, Obrona przestrzeni informacyjnej na przykładzie Litwy, Łotwy i Estonii. Raport: dezinformacja w Europie Środkowo-Wschodniej, „The Warsaw Institute Review” 2017, edycja specjalna; C. Nyst, Patriotic Trolling: How governments endorse hate campaigns against critics, „The Guardian”, 12 July 2017; C. Nyst, N. Monaco, State-Sponsored Trolling: How Governments Are Deploying Disinformation as Part of Broader Digital Harassment Campaigns, Institute for the Future, Palo Alto 2018; Online Harassment of Journalists: Attack of the trolls, Report by Reporters Without Borders (RSF), 2018; M. Riley, L. Etter, B. Pradhan, A Global Guide to State-Sponsored Trolling, Bloomberg, 2018; Social Media as a Tool of Hybrid Warfare.All rights reserved by the NATO StratCom COE. Riga, May 2016; R. Szwed, Framing of the Ukraine–Russia conflict in online and social media, All rights reserved by the NATO StratCom COE, Riga, May 2016; O. Wasiuta, S. Wasiuta, Medialna manipulacja informacją w wojnie hybrydowej Rosji przeciwko Ukrainie, [w:] Medialne obrazy świata: wybrane problemy społeczno-polityczne w mediach, R. Klepka (red.), Wydawnictwo Naukowe Uniwersytetu Pedagogicznego, Kraków 2018; O. Wasiuta, S. Wasiuta, Wojna hybrydowa Rosji przeciwko Ukrainie, ARCANA, Kraków 2017; В. Гусаров, Русские пришли-2. Сколько стоит российская информационная война? http://sprotyv.info/ru/news/kiev/russkie-prishli-2-skolko-stoit-rossiyskaya-informacionnaya-voyna [dostęp: 10.03.2019].