fake newsy, dezinformacja, cyberpropaganda, trolle

Cyberpropaganda, dezinformacja, fake newsy i trolle – dlaczego i jak to działa?

Jest marzec 2022 roku. Mija powoli pierwszy miesiąc wojny. Tematem, który przy okazji napaści Rosji na Ukrainę bardzo się spopularyzował jest wojna informacyjna. Chociaż specjaliści od mediów społecznościowych, badaczce zajmujący się weryfikacją informacji oraz pracownicy wywiadu wiedzieli o tym od dawna, dopiero teraz do masowego odbiorcy dotarło na jak wielką skalę i w jak perfidny sposób służby rosyjskie manipulują opinią publiczną.

W tekście tym nie będę opisywał w jaki sposób zorganizowana jest machina dezinformacyjna Kremla. Po części zajmowałem się już tym tematem w artykułach Trolle Putina (cz.1) i Trolle Putina (cz.2). Tutaj natomiast chciałbym się zająć wyjaśnieniem dlaczego manipulacja opinią publiczną na tak wielką skalę działa i tak trudno się przed nią bronić.

Propaganda – krótki rys historyczny

Rosja nie jest pierwszym i nie jedynym krajem, który korzysta z informacji jako broni. Nie inaczej jest np. w Korei Północnej czy Chinach. Jedną z sił, której represyjne rządy obawiają się najbardziej są ich właśni obywatele. Dlatego też dyktatorzy tacy jak Putin trzymają swoich rodaków w bańce informacyjnej, w której kreują alternatywną rzeczywistość. Dzięki temu każde swoje potknięcie są w stanie tłumaczyć złośliwym i celowym działaniem wrogów ze zgniłego zachodu. Propaganda tego typu ma długie tradycje. W latach 50. kraje byłego bloku wschodniego tłumaczyły np. swoim obywatelom, że plaga stonki ziemniaczanej niszczącej uprawy to efekt celowego zrzutu tego szkodnika przez amerykańskie lotnictwo:

propagandowa wojna ze stonką ziemniaczaną
propagandowa wojna ze stonką ziemniaczaną

Propaganda poza tym, że stanowiła świetne narzędzie do tłumaczenia własnej nieudolności okazała się również skuteczną bronią. Dowiódł tego już podczas II Wojny Światowej Joseph Goebbels, o którym możemy przeczytać, iż:

Odegrał znaczącą rolę w upowszechnianiu ideologii nazistowskiej oraz tworzeniu i umacnianiu państwa totalitarnego poprzez prowokacje, kłamstwa, parady i starannie wyreżyserowane wiece. Kreował Hitlera na wodza i umiejętnie podsycał wokół niego kult jednostki. W tym celu posługiwał się radiem i filmem, a monopolowi informacji zawdzięczał możliwość dowolnego kształtowania nastroju społecznego.

Wikipedia

To Goebbels jest autorem słynnego powiedzenia, że kłamstwo powtórzone tysiąc razy staje się prawdą. Opracował też wiele technik manipulacji, z których do dziś korzystają m.in. służby rosyjskie. Jedną z nich jest zasada 60/40 mówiąca o tym, że jeśli w przekazie 60% informacji będzie prawdziwe, to pozostałe 40% zostaną uznane za wiarygodne nawet jeśli będą kłamstwem.

Widzimy więc, że propaganda nie jest ani nowym, ani unikalnym narzędziem manipulacji i walki. Nowe jest tylko podejście do niej, gdyż zmieniły się czasy i środki masowego przekazu. Gazety zastąpione zostały mediami społecznościowymi, telewizja kanałami na YouTube a autorytetami stali się influencerzy.

Swoje odzwierciedlenie znalazło to m.in. w doktrynach wojennych. Jeśli temat ten interesuje Was bardziej, polecam ostatni odcinek podcastu Okiem Służb Specjalnych, w którym autor (były pracownik wywiadu) opisuje szczegółowo jak istotną rolę odgrywa wojna informacyjna w aktualnej doktrynie wojennej Chin. Usłyszymy tam, że działania militarne są jedynie jednym z elementów wojny. Dlatego też Chiny w równym stopniu co w obszarze zbrojeń dążą do uzyskania przewagi na polu informacyjnym, psychologicznym i prawnym.

Rosyjska cyberpropaganda

Jeśli przyjrzymy się teraz wojnie prowadzonej przez Rosję to możemy stwierdzić, że mamy do czynienia z dokładnie takim samym podejściem:

  • wojna informacyjna – ma na celu usprawiedliwić konieczność przeprowadzenia ataku na Ukrainę (Rosja robi to rzekomo by chronić własnych obywateli);
  • wojna psychologiczna – ma przekonać o nieuchronności klęski Ukrainy (przejmowanie środków masowego przekazu w zdobytych miastach i nadawanie informacji jakoby Ukraina skapitulowała, wywoływanie katastrofy humanitarnej, strzelanie do cywilów i dzieci, straszenie bronią chemiczną lub nawet jej użycie, jak to miało miejsce w Syrii – to wszystko ma pokazać, że agresor nie cofnie się przed niczym i zniechęcić do oporu);
  • wojna prawna – zdławić wszelkie próby oporu, również wewnętrznego (15 lat więzienia za szerzenie informacji niezgodnych z oficjalną linią Kremla).

W każdym z powyższych obszarów informacja odgrywa kluczową rolę. Jednak Rosja posługuje się nią również w innym celu – aby destabilizować sytuację w państwach, które mogą pokrzyżować jej plany. Wiele przykładów tego typu aktywności zostało udokumentowane w opisywanej już przeze mnie książce „Trolle Putina”. Aktualnie jednak m.in. na obszarze Polski mają miejsce działania, które z powodzeniem mogłyby stanowić kontynuację tej historii.

Co mają szczepienia do wojny?

Jeśli kiedykolwiek śmialiście się z antyszczepionkowców, że powtarzają wyssane z palca teorie, a w pierwszych dniach wojny w Ukrainie biegliście do bankomatu lub na stację benzynową zrobić zapasy, to teraz pośmiejcie się z siebie samych – padliście ofiarą działań dezinformacyjnych prowadzonych przez te same grupy sterowane z Kremla.

Uwagę na ten fakt zwróciło już kilka niezależnych od siebie organizacji. Jedną z nich jest Instytut Badań Internetu i Mediów Społecznościowych. Pod koniec lutego opublikował on kilka badań, z których wynikało, iż na terenie Polski znacznie wzrosła aktywność prorosyjskich kont w mediach społecznościowych. Objawiało się to m.in. ponadnormatywną aktywnością publikacji zawierających frazy takie jak: „banderowcy”, „UPA”, „Ukraińcy” w kontekście morderców i wrogów Polski oraz „ukraińscy uchodźcy” w kontekście zagrożenia dla naszego rynku pracy. Wzrosła też ilość publikacji popierających prezydenta Rosji oraz podważających spójność sojuszu NATO.

Z przeprowadzonej analizy wynikało również, że w dystrybucję powyższych treści na początkowym etapie zaangażowane było: 545 kont na Twitterze, ok. 2 tys. kont na Facebooku i 4 kanały na YouTube. Ponadto zauważono, iż 90% tych kont wcześniej zaangażowanych było w dystrybucję treści sceptycznych wobec szczepień na koronawirusa lub całkowicie je negujących. Konta te w sposób jawny popierały też działania Konfederacji lub tzw. Kamratów (zwolenników ruchu pansłowiańskiego, pozytywnie nastawionych do działań Rosji i Białorusi).

Zwrócono też uwagę na fakt, że dystrybucja powyższych treści miała charakter mechaniczny, czyli była dokonywana przez te same osoby jednocześnie w wielu miejscach i za pośrednictwem różnych kont.

Wyniki tych obserwacji wydały mi się interesujące. Postanowiłem więc się nimi podzielić w mediach społecznościowych udostępniając link z poniższym komentarzem:

Ciekawa analiza. Rośnie aktywność kont społecznościowych szerzących prorosyjską dezinformację w Polsce. 90% z nich wcześniej brało udział w kampaniach antyszczepionkowych i kwestionujących COVID.

wpis na moich profilach LI, Twitter, FB

Nie spodziewałem się jednak, że osoby z kręgu moich kontaktów, które w znacznej mierze zawodowo zajmują się również cyberbezpieczeństwem i bezpieczeństwem informacji skomentują je w taki m.in. sposób:

komentarz z LinkedIn nr 1
komentarz z LinkedIn nr 1
komentarz z LinkedIn nr 2
komentarz z LinkedIn nr 2
komentarz z LinkedIn nr 3
komentarz z LinkedIn nr 3
komentarz z LinkedIn nr 4
komentarz z LinkedIn nr 4

Dało mi to sporo do myślenia w temacie szerzenia dezinformacji. Zastanówmy się przez chwilę co się tutaj stało. Kilku osobom najwyraźniej nie spodobał się fakt, że konta wykorzystywane do propagandy prorosyjskiej okazały się być kontami, które wcześniej dystrybuowały treści antyszczepionkowe. Zapewne dlatego, iż osoby te same w jakiś sposób reprezentują sceptyczne podejście do tematu szczepień. Co ciekawe jednak, ani w mojej wypowiedzi, ani w samym linkowanym badaniu nie znalazło się żadne zdanie nieprzychylne w stosunku do takich osób. Było to wyłącznie czyste stwierdzenie pewnego faktu.

Komentujący postanowili mimo wszystko podzielić się swoimi wątpliwościami czując się w jakiś sposób wywołanymi do tablicy. W jaki sposób jednak tego dokonali? Nie podali wyników badań, z których wynikałoby coś innego ani nie wskazali błędów w prezentowanym badaniu. Wyrazili swoje wątpliwości i opinie kwestionując jedynie (również bez argumentów) wiarygodność autorów opracowania. Nikt z komentujących nie zadał sobie trudu by wejść na stronę instytutu, gdzie szczegółowo opisana jest kadra oraz kompetencje autorów badania. Nikt też nie poświęcił nawet kilku minut na weryfikację tych danych w innych źródłach.

Kto by się przejmował faktami

Z powyższego zdarzenia wysnuć można smutny wniosek. W dzisiejszych czasach mało kto zadaje sobie trud by weryfikować docierające do niego informacje. I dotyczy to nawet osób wykształconych, pracujących na odpowiedzialnych stanowiskach. Informacje uznawane są za wiarygodne lub wątpliwe wyłącznie w oparciu o własne przekonania. Wśród komentarzy do mojego wpisu znalazły się też takie, które skwitowały go określeniem, iż są to badania „z dupy” lub nieprawdziwe ponieważ… komentującemu tak się wydaje.

Gdyby autorzy komentarzy zamiast prezentacji własnych przekonań poświęcili kilka minut na weryfikację faktów, zapewne trudniej byłoby im podważyć wiarygodność przedstawionej analizy. Mi w zaledwie kilka minut udało się znaleźć kilka innych źródeł mówiących o tym, iż dezinformacja w temacie szczepień i COVID-19 prowadzona jest przez rosyjskie służby w celu zdestabilizowania sytuacji w Polsce i na świecie (przykładowe źródła: 1, 2, 3, 4, 5).

Wyszukanie informacji i zapoznanie się z obszernymi niekiedy publikacjami wymaga niestety czasu, dobrej woli, zdolności analitycznych i otwartości na inny punkt widzenia. Nic więc dziwnego, że trud zadaje sobie tak niewielu. Dużo łatwiej jest udostępnić mema lub podzielić się jakże merytorycznym argumentem, że coś jest „z dupy”.

Błędy poznawcze

Kolejną przeszkodą na drodze do oceny wiarygodności są tzw. błędy poznawcze. O błędzie poznawczym mówimy wtedy, gdy dokonujemy nieracjonalnej oceny rzeczywistości. Do najpopularniejszych z błędów poznawczych, o których mówią nauki społeczne należą:

  • Efekt autorytetu – zakładanie, że dane twierdzenie musi być prawdą jeśli zostało sformułowane przez osobę będącą autorytetem. Bardzo często przy tym dochodzi do bezpodstawnego uznania kogoś za autorytet w danej dziedzinie (np. pielęgniarka czy ratownik medyczny uznawani za ekspertów od szczepień ponieważ pracują w służbie zdrowia).
  • Efekt potwierdzenia – tendencja do poszukiwania wyłącznie faktów potwierdzających posiadaną opinię, a nie weryfikujących ją.
  • Efekt wspierania decyzji – tendencja do lepszego pamiętania argumentów przemawiających za podjętą już decyzją niż przeciwko niej.
  • Efekt zaprzeczania – tendencja do krytycznego weryfikowania informacji, które zaprzeczają dotychczasowym opiniom, przy jednoczesnym bezkrytycznym akceptowaniu informacji, które je potwierdzają.
  • Zasada podczepienia – tendencja do robienia czegoś lub wierzenia w coś tylko dlatego, że wiele osób tak robi.

To właśnie błędy poznawcze powodują, że dużo lepiej zapamiętujemy fakty, które są potwierdzeniem naszych przekonań, nawet jeśli tych przeczących jest znacznie więcej. I to właśnie błędy poznawcze powodują, że tak ciężko jest nam zmienić przekonania.

Błędy poznawcze są również bardzo chętnie wykorzystywane przez osoby manipulujące opinią publiczną. Wspomniana zasada podczepienia (znana też jako społeczny dowód słuszności) leży u podstaw Goebbelsowskiego twierdzenia, że kłamstwo powtórzone tysiąc razy staje się prawdą.

„Pożyteczni idioci”

Żeby jednak wykorzystać zasadę podczepienia trzeba znaleźć odpowiednio dużą rzeszę propagatorów danej idei. I tutaj pojawia się miejsce dla tzw. „pożytecznych idiotów”, czyli osób, które będą bez chwili refleksji i jakiejkolwiek weryfikacji dystrybuowały treści tylko dlatego, że wydają im się one zabawne, oryginalne lub stanowią potwierdzenie jakichś zasłyszanych teorii spiskowych. Treści te zyskują dodatkową siłę rażenia jeśli są udostępniane przez internetowych influancerów. Zobaczmy jak to działa na konkretnym przykładzie. Poniżej wpis jednego z bardziej znanych w Polsce influancerów kryptowalutowych:

Wpis promujący teorię spiskową o kryptonimie "Niebańska Jerozolima"
Wpis promujący teorię spiskową o kryptonimie „Niebańska Jerozolima”

Phil Konieczny jest znanym w polskim Internecie inwestorem kryptowalutowym, którego konto na Twitterze śledzi ponad 100 tys. osób. Przyznaję, że samemu zdarzało mi się oglądać jego materiały poświęcone kryptowalutom. Jest to dziedzina, w której wiedzy odmówić mu nie można. Powyżej mamy jednak udostępniony wpis promujący teorię spiskową pod hasłem „Niebańska Jerozolima”. Według niej wojna w Ukrainie jest tylko jednym z etapów tajnego porozumienia pomiędzy Kijowem, Izraelem, USA i Unią Europejską, na mocy którego południowa Ukraina ma się stać nową ziemią obiecaną dla państwa Izrael. Udostępniony film to teoria bazująca na plotce z 2012 roku. Jej dementowaniem zajęło się m.in. Stowarzyszenie Demagog: „Niebiańska Jerozolima w Ukrainie? To teoria spiskowa”. Autor do filmu dołączył też dwa artykuły – pierwszy mówiący o tym, że prezydent i premier Ukrainy są Żydami, drugi mówiący o tym, że Izrael podjął się mediacji pomiędzy Ukrainą a Rosją. Artykuły są prawdziwe i pochodzą ze znanych mediów, co ma zapewne podnieść rangę i wiarygodność wyssanej z palca teorii, o której mowa w filmiku.

Nie sądzę by autor wpisu celowo i świadomie sam dokonał tej manipulacji. Prawdopodobnie udostępnił po prostu zasłyszaną gdzieś teorię. Zwróćcie jednak uwagę na jej zgodność z zasadą 60/40 – we wpisie 2 z trzech materiałów są prawdziwe, a zatem 3. uznany zostanie przez wielu odbiorców za równie wiarygodny. Wpis polubiło ponad 2 tys. osób, a ponad 500 udostępniło go dalej. Tak właśnie teorie spiskowe zyskują na popularności.

Obserwując komentarze pod tym wpisem, trochę przy okazji, poddałem weryfikacji doniesienia Instytutu Badań Internetu i Mediów Społecznościowych dotyczące powiązań pomiędzy treściami prorosyjskimi, antyszczepionkowymi i sympatyzującymi z polityką prezentowaną przez Konfederację. Wybrałem pierwszy komentarz, który w jawny sposób sympatyzował z antysemicką teorią spiskową i podsycał antyukraińskie nastroje:

komentarz do wpisu Philla Koniecznego na Twitterze
komentarz do wpisu Philla Koniecznego na Twitterze

Następnie przejrzałem historię treści udostępnianych przez autora komentarza. Większość z nich dotyczyła kryptowalut. Nie musiałem jednak przewijać zbyt daleko historii wpisów by trafić również na treści antyszczepionkowe:

Twit dotyczący protestów antyszczepionkowych w Kanadzie
Twit dotyczący protestów antyszczepionkowych w Kanadzie

a także te, sympatyzujące z politykami Konfederacji:

Twit dotyczący debaty telewizyjnej z udziałem polityka Konfederacji
Twit dotyczący debaty telewizyjnej z udziałem polityka Konfederacji

Wierzcie mi lub nie (w sumie to lepiej nie wierzcie – zweryfikujcie sami) ale powyższy profil był pierwszym z brzegu i wcale nie musiałem długo szukać by znaleźć potwierdzenie dla badań opublikowanych przez IBIMS. Podobnej obserwacji dokonałem jeszcze na 2 innych kontach.

Sympatie polityczne

Chciałbym bardzo, aby ten wątek nie został odebrany jako polityczny i potępiający sympatyków Konfederacji. Moim celem jest jedynie zwrócenie uwagi na pewien problem związany z opisanym już błędem poznawczym w postaci efektu autorytetu. Zarówno Phil Konieczny, jak i Sławomir Mentzen są osobami, które pochwalić się mogą wiedzą specjalistyczną – pierwszy w dziedzinie kryptowalut, drugi w dziedzinie podatków (jest właścicielem kancelarii podatkowej). Z wiedzy zarówno jednego, jak i drugiego zdarzyło mi się korzystać oglądając ich poradniki. Nigdy jednak nie uznam ich za ekspertów w dziedzinie wirusologii, szczepień czy konfliktu na Ukrainie. Z prostego powodu – nie wierzę w ekspertów od wszystkiego.

internetowy ekspert
internetowy ekspert

Niestety większość internautów nie potrafi dokonać podziału na ekspertów zgodnie z ich profesją. Wydaje im się, że jak ktoś jest świetnym specjalistą w jednej dziedzinie, to daje mu to prawo do zajmowania stanowiska w dowolnym temacie. Nakłada się na to również wspomniany już efekt potwierdzenia i podczepienia. Jeśli wiele osób z naszego kręgu myśli podobnie w jakiejś sprawie, to udostępniane przez nie treści stają się dla nas bardziej wiarygodne i wystarczające do potwierdzenia naszych opinii. Nie będziemy ich poddawać krytyce ani weryfikacji.

Zobrazować to możemy na przykładzie kolejnej, popularnej ostatnio teorii mówiącej o tym, iż „wirus celebryta” (takich słów używał m.in. Sławomir Mentzen) zniknął nagle z naszego życia gdy tylko rozpoczęła się wojna. Ma to być dowód na to, iż pandemia była tylko tematem zastępczym, który miał zająć opinię publiczną i stał się w obecnej sytuacji niepotrzebny. Osoby sceptycznie nastawione do szczepień i sympatyzujące jednocześnie z poglądami polityków Konfederacji uznają pewnie takie słowa za potwierdzenie słuszności ich wyborów. Ale czy tak jest w rzeczywistości? No niestety nie. Bo jeśli zadamy sobie trochę trudu i zweryfikujemy doniesienia z ostatnich dni, to dowiemy się, że wirus mało, że nie zniknął, to nadal stanowi poważne zagrożenie. Z poniższej infografiki przygotowanej przez autora facebookowego profilu Defoliator wynika, że w samym lutym wirus spowodował śmierć ponad 6 tys. Polaków (dane na podstawie oficjalnej liczby zgonów). Jest więc w uśmiercaniu porównywalnie skuteczny do wojny na Ukrainie:

statystyka zgonów i skuteczności szczepień przeciwko COVID
statystyka zgonów i skuteczności szczepień przeciwko COVID

Przy okazji z powyższych statystyk dowiadujemy się, iż szczepienia zdecydowanie mają sens bo obniżają ryzyko zgonu od kilku do kilkudziesięciokrotnie w zależności od grupy wiekowej. Problem w tym, że te dane ktoś musiał zebrać, przeanalizować i opracować na ich podstawie czytelne wnioski. Przeciętny internauta niestety tego nie zrobi. Prawdopodobnie też nie dotrze do takich danych jeśli obserwuje profile antyszczepionkowe i jest sympatykiem spiskowych teorii. Dlaczego? O tym w punkcie kolejnym.

Algorytmy społecznościowe i bańka informacyjna

Twórcy platform społecznościowych, z Facebookiem na czele, dwoją się i troją by użytkownicy ich serwisów spędzali w nich jak najwięcej czasu. Czas spędzony w serwisie przekłada się na liczbę wyświetlonych reklam, a te na zyski właściciela platformy. Co zatem zrobić aby użytkownik spędzał w danym serwisie więcej czasu? Dostarczać mu treści, które będzie chciał oglądać. A do takich treści należą przekazy zgodne z jego światopoglądem, łatwe do przyswojenia i najlepiej jeszcze zabawne lub ośmieszające osoby o odmiennych poglądach. Dlatego też algorytmy odpowiedzialne za dobieranie treści do profilu użytkownika powodują, że praktycznie nie mamy możliwości zapoznać się z odmiennym punktem widzenia i argumentacją naszych oponentów. Wydaje nam się, że mamy świętą rację bo wszyscy wokół mówią, piszą i udostępniają to samo i wszystko to układa się w zgrabną całość z naszym punktem widzenia.

W rzeczywistości tkwimy jednak w bańce informacyjnej podobnej do tej, w której Kreml trzyma swoich rodaków. Przy czym nasza bańka nie wynika ze świadomej i narzuconej kontroli, a z procesów optymalizujących zyski i algorytmów, których efektów nikt niestety nie był w stanie przewidzieć. Co gorsza, nawet gdy te efekty uboczne zostały zidentyfikowane nie bardzo wpłynęło to na zmianę podejścia.

Zdolność do przetwarzania informacji

Kolejną przeszkodą na drodze do zwalczania fake newsów jest nasza ograniczona zdolność do przetwarzania informacji. Specjaliści od nauk społecznych podkreślają, że ilość informacji, która dociera do nas ze wszystkich stron sprawia, iż nie jesteśmy w stanie poświęcić odpowiednio dużo uwagi by je prawidłowo przetworzyć. Zamiast przeczytać długie opracowanie, które zgłębia daną problematykę wolimy obejrzeć mema lub minutowe nagranie „eksperta” z YouTube’a. Takie treści są po prostu bardziej atrakcyjne.

Co więcej, samozwańczy specjalista charakteryzuje się najczęściej ogromną pewnością siebie i przekonaniem o własnej nieomylności. Naukowcy i prawdziwi eksperci są dużo bardziej powściągliwi w formułowaniu kategorycznych osądów. Naukowiec nie powie, że test na koronawirusa działa. Powie, że działa on ze skutecznością 99%, bo wie w jakiej sytuacji wyniki mogą zostać zaburzone. Udokumentuje to złożonymi badaniami i analizami statystycznymi. „Ekspert” z YouTuba ogłosi natomiast światu ze 100% pewnością, że testy to oszustwo. Poprze to w dodatku swoimi „badaniami” polegającymi na umieszczeniu testu w soku jabłkowym. Który sposób argumentacji będzie bardziej atrakcyjny i łatwiejszy do przyswojenia dla przeciętnego internauty? Niestety. A co za tym idzie, przekaz taki uzyska więcej polubień, komentarzy i udostępnień, co dla algorytmów znowu będzie sygnałem, że należy go promować (więcej wyświetleń, więcej czasu, więcej reklam, więcej zysków).

To właśnie dlatego w dzisiejszych mediach królują memy i clickbaity. Jest to pewnego rodzaju paradoks, że z jednej strony narzekamy na krzykliwe nagłówki, za którymi kryją się płytkie treści, a z drugiej strony to właśnie my, jako odbiorcy doprowadziliśmy do tego, że informacja jest nam przekazywana w taki właśnie sposób. To internauci bowiem nauczyli media, że długie i szczegółowe opracowanie zostanie skwitowane skrótem TL;DR (too long, didn’t read – za długie, nie przeczytałem). Jeśli dotarliście do tego miejsca to stanowicie pewnie z 1% osób, które są w stanie zapoznać się z długim tekstem.

Społeczeństwo a nasze otoczenie

Jak płytko i pobieżnie interpretowane są treści zdałem sobie sprawę całkiem niedawno. Parę tygodni temu podzieliłem się w Internecie nagraniem, na którym pokazałem bankomat wypłacający mi 400 zamiast 20 zł. Całą historię opisałem w artykule „Jak działa bankomat, czy się myli i na czyją korzyść?„. Uznałem, że nagranie zainteresuje osoby zajmujące się cyberbezpieczeństwem i udostępniłem je wyłącznie na profilach związanych z blogiem OpenSecurity.pl. Nagranie to okazało się jednak na tyle wiralowe, że doczekało się ponad tysiąca udostępnień i ponad miliona wyświetleń. Komentarze natomiast, zanim zdążyłem je wyłączyć, podziałały na mnie jak kubeł zimnej wody.

Co się okazało? Otóż nagranie, na którym bez żadnego montażu, w jednym ujęciu pokazuję pomyłkowe wypłacenie przez bankomat za dużej kwoty i wyjaśniam, że jest to prawdopodobnie efekt zamiany miejscami kaset zostało zinterpretowane na tyle sposobów, że trudno w to wprost uwierzyć. Większość komentujących była raczej zgodna w odbiorze. Rozdźwięk dotyczył głównie tego, czy bardziej jestem ch..jem czy debilem. Ktoś na nagraniu dostrzegł, że wyciągam 400zł z portfela, a nie z bankomatu. Całkiem sporo komentarzy okrzyknęło też moje nagranie fake newsem (przecież to niemożliwe żeby bankomat się pomylił). Gdy postanowiłem wyłączyć możliwość komentowania, znaleźli się i tacy, którzy za wszelką cenę chcieli się podzielić swoją opinią w wiadomości prywatnej. Temu koledze np. przeszkadzał fakt, że błędną konfigurację bankomatu zgłosiłem do banku:

wiadomość prywatna od internauty
wiadomość prywatna od internauty

Uświadomiłem sobie dzięki temu, że internauci stanowią bardzo różnorodną, nieprzewidywalną i posiadającą różne wykształcenie grupę odbiorców.

komentarz internauty do filmu z bankomatem

Niemożliwym jest zatem by wszyscy byli zdolni tak samo odbierać treści, analizować je i wyciągać z nich takie same wnioski. W tym momencie dotarło do mnie dlaczego tak łatwe i skuteczne jest dystrybuowanie fake newsów i organizowanie wojny informacyjnej. Skoro tyle wątpliwości i kontrowersji wzbudziło proste nagranie z bankomatem, to czego można dokonać za pomocą manipulacji w tematach takich jak szczepienia, covid, uchodźcy, wybory, brexit czy wojna w Ukrainie.

Z całej tej historii wyciągnąłem jednak jeden pouczający wniosek. Jeśli chcemy walczyć z dezinformacją nie możemy tego robić zakładając, że każdy odbiorca treści jest podobny do nas czy do osób z naszego otoczenia. Do niektórych po prostu w żaden sposób nie dotrze argumentacja bazująca na faktach, dowodach naukowych i wypowiedziach składających się z więcej niż 3 zdań prostych. Smutne.

Zanim przejdę do podsumowania chciałbym Wam zaproponować mały eksperyment. Jeśli chcecie skomentować ten artykuł, umieśćcie na końcu swojego komentarza w kwadratowym nawiasie dwie pierwsze litery dnia tygodnia, w którym to czytacie (np. '[wt]’ jeśli jest to wtorek). Dzięki temu dowiemy się ilu czytających postanowiło wejść w polemikę nie czytając tekstu do końca. Jeśli nie macie nic do powiedzenia, napiszcie cokolwiek, dzięki temu dowiemy się ile osób czyta tak długie teksty 🙂

Podsumowanie – czy da się walczyć z dezinformacją?

Zanim spróbuję odpowiedzieć na to pytanie zbierzmy w jednym miejscu wszystkie elementy, które sprawiają, że wojna informacyjna jest skuteczna:

  • Brak czasu, chęci lub zdolności do weryfikowania faktów w różnych źródłach.
  • Brak logicznej argumentacji, zamiast tego emocjonalna reakcja na inny punkt widzenia.
  • Błędy poznawcze – łatwość zapamiętywania informacji zgodnych z naszym światopoglądem, brak krytycznego podejścia, zaufanie do autorytetów, które tak naprawdę nimi nie są. Również sympatie i przekonania, które powodują, że odbieramy świat jako czarno-biały. Jeśli ktoś w jakimś aspekcie prezentuje postawę, z którą się nie zgadzamy to wszelkie jego opinie będziemy traktować jako niegodne zaufania (i odwrotnie).
  • Bańka informacyjna – efekt działania algorytmów w sieciach społecznościowych.
  • Ograniczone (u niektórych wybitnie) zdolności do przetwarzania, analizowania i interpretowania informacji
  • Łatwowierność w teorie (również spiskowe) za sprawą ich przedstawienia w sposób sensacyjny i atrakcyjny, tak by nie pozostawiały miejsca na żadne wątpliwości.
  • Różnorodność odbiorców.
  • Techniki manipulacji (np. zasada 40/60, społeczny dowód słuszności, kłamstwo powtarzane tysiąc razy).

Do tego wszystkiego dodałbym jeszcze perfidię osób, które wykorzystują manipulację. Niestety nie cofną się one przed niczym by naciągać fakty, przedstawić informacje wyrwane z kontekstu, czy nawet spreparować dowody. Bardzo ciężko jest walczyć z takimi ludźmi ograniczając się do rzetelnej argumentacji bazującej na logice, faktach i dowodach naukowych. To dlatego rosyjskie trolle osiągnęły tak duże sukcesy w kampaniach związanych z wyborami prezydenckimi w USA, brexitem, ruchem Black Lives Matter, protestami „żółtych kamizelek”, szczepieniami czy w końcu kryzysem uchodźczym (najpierw syryjskim, później na granicy z Białorusią, a obecnie Ukrainą). W każdym z powyższych tematów udało im się skutecznie podsycać emocje, doprowadzić do podziałów i zdestabilizować sytuację osłabiając instytucje krajowe i międzynarodowe.

Co zatem możemy zrobić? Po pierwsze nauczmy się weryfikować fakty. Jeśli nie mamy na to czasu, z pomocą mogą nam przyjść organizacje, które zajmują się tzw. fact-checkingiem. Poniżej znajdziecie linki do kilku z nich. Publikują one na bieżąco analizy dotyczące wiarygodności aktualnych doniesień medialnych:

Warto też śledzić profile społecznościowe naukowców, którzy potrafią mówić o rzeczach skomplikowanych w sposób zrozumiały dla przeciętnego zjadacza chleba. Materiały o charakterze popularnonaukowym to chyba jedyna możliwość dotarcia do osób, które nie radzą sobie z przyswojeniem tzw. „naukowego bełkotu”. Do moich ulubionych twórców i profili społecznościowych należą:

Na powyższych profilach nie zawsze znajdziecie komentarz do bieżących wydarzeń, ale jeśli już na niego traficie, to na pewno będzie rzeczowy, poparty naukowymi danymi i faktami.

Jeśli dotarłeś aż dotąd, to gratuluję – należysz do grona niewielu osób, które są w stanie przeciwstawić się fake newsom i manipulacji.


Zostaw e-mail aby otrzymać powiadomienia o nowościach oraz dostęp do wszystkich bonusowych materiałów przygotowanych wyłącznie dla subskrybentów.

34 komentarze

  1. Czy komentarze są wyłączone, czy jestem pierwszy?
    Bardzo ciekawa analiza, niestety dla większości nie do ogarnięcia. [wt]

  2. Problemy znane ale zebrane w jednym miejscu i dobrze zredagowane. Porządkuje wiedzę. Dzięki
    [wt] 🙂

  3. Jakub,
    Odnoszac się do statystyk umieralności na wiadomo co z podziałem na za… i na nie za..
    Czy wiesz jaka jest definicja osoby zaszczepionej ? Po jakim czasie od wstrzyknięcia jest uzyskiwany taki status ?
    Poza tym, jak można sobie wstrzyknąć coś za co nikt nie potrafi wziąć odpowiedzialności?

  4. Bardzo rzeczowy artykuł.
    Za czasów studenckich pisałam pracę o psychologii tłumu, można by rzec, że współcześnie doszedł nam problem e-tłumu.
    Polecę artykuł znajomym, warto!! Ale nie mam wątpliwościwiem, co muszę zrobić: nalegać by czytali do końca 😉
    [so]

  5. Wojna na Ukrainie zakończy się Nowym Izraelem w Odessie! Sam zobaczysz że to co tak ochoczo wysmiewasz będzie rzeczywistością za kilka tygodni! Twój fact checking ma co najwyżej coś wspólnego z fuckiem a nie faktami… Żałosny artykuł na żałosnej stronie.
    Dobra żartowałem i zastanawiam się czy ktoś podłapie bait w komentarzach. Oczywiście materiał pierwsza klasa i bardzo ciekawy. Dzięki za polecenie youtuberow [SB]

  6. Artykuł w punkt. Szkoda, że większość społeczeństwa nie jest w stanie ogarnąć tego jak działa świat i są dymani przez ruskich troli każdego dnia. Ja już straciłem siły w „walce” ze znajomymi/rodziną, którzy są omotani ruską propagandą (totalnie tego nie rozumiejąc). [ND]

  7. Mimo dużego nakładu pracy w stworzenie tego artykułu niestety nie dotrze on do szerokiego grona. Mało znany adres internetowy oraz długi tekst nie do przetrawienia dla ludzi, którzy często nie potrafią przeczytać samego tytułu ze zrozumieniem.
    Przywołany przykład efektu autorytetu w służbie zdrowia zwykle komentuję w ten sposób : gdy boli mnie gardło idę do laryngologa nie do proktologa. Obaj ukończyli studia medyczne, jednak są specjalistami od różnych otworów w ludzkim ciele.
    Przykre jest to, że te autorytety nie biorą się z nikąd. One są kreowane przez media i to nie te niszowe. Spotkałem się z sytuacją gdy osoba bez żadnego przygotowania specjalistycznego, nie mająca wiedzy merytorycznej nawet na poziomie amatora była przedstawiana jako ekspert.
    Do wszelkich rewelacji podchodzę na chłodno, jednak doprowadza mnie do szału zalew komentarzy dotyczących covid, paszportów covidowych, konfliktu rosyjsko-ukraińskiego i pytań w stylu kto was finansuje. Potrafią zamulić, spaskudzić najciekawszy temat.To wszystko na portalach bardzo merytorycznych nie zajmujących się polityką czy teoriami spiskowymi.

  8. Pn. Nie ma to jak gimnastyka umysłowa z rana. Dziękuję za szerokie spojrzenie na problem bez wodolejstwa.

  9. Dziękuję, dam do czytania innym, bo warto. Niby wszystko to wiedziałem, ale artykuł pokazał problem w sposób syntetyczny, jasno i zrozumiale. [po]

  10. merytorycznie 🙂
    świat stał się obrazkowy dlatego łatwiej obejrzeć influencera (specjalistę od pokazywania wszystkiego, znanego z tego, że jest znany, a nie wykształcony i doświadczony w danej dziedzinie);
    ludzie wolą obejrzeć coś takiego, a nie merytoryczne materiały, bo te wymagają czasu i skupienia oraz weryfikacji i zrozumienia
    górę bierze ludzkie lenistwo
    do tego łatwiej grać na emocjach i instynktach(szczególnie o niskich pobudkach), dlatego „fajnie”jest zmienić szkołę w wylęgarnię osób bez umiejętności krytycznego myślenia i kojarzenia faktów, cytując klasyka „durnym narodem rządzi się łatwiej”- Stanisław Pacek, do tego dać mu tani alkohol i … sukces rządzenia murowany
    chyba jedno z drugim + manipulacja i efekt jest taki jak widać
    [pn]

  11. Bardzo dobry tekst, zmagam się z tym problemem w otoczeniu i mam dość szczerze mówiąc. Ale szczepienia, Konfederacja, Rosjanie i teorie spiskowe to jedna strona medalu choć ta łatwiej dostrzegalna. Po drugiej są jeszcze ludzie wierzący w manipulacje i teorie innego rodzaju choć moim zdaniem równie śmieszne, np. że w Polsce jest dyktatura i faszyzm, Kaczyński to Hitler, a aborcja to prawo człowieka xD propaganda nie jest wycelowana jedynie w „prawaków” ale w „lewaków” także, efektem jest generalnie zajadły konflikt społeczno – polityczny wykreowany przez media, a który przeniósł się do rzeczywistych interakcji. Komunikacja w obie strony jest znacznie utrudniona ponieważ ludzie mają już miliony uprzedzeń i szufladek, ludzie zindoktrynowani łatwo dają się podpalać do określonych działań co nakręca spiralę nienawiści, bo są przecież dowody: ten tamtego uderzył, tamten kogoś obraził i tak to leci. Jedni myślą, że są lepsi od drugich. I dobrze tutaj przywołałeś przykład Mentzena i Koniecznego i z tym też mam problem, bo obserwuję wielu świetnych fachowców, którzy w niektórych tematach tak pierdolą, że uszy więdną [wt]

  12. merytorycznie 🙂
    świat stał się obrazkowy dlatego łatwiej obejrzeć influencera (specjalistę od pokazywania wszystkiego, znanego z tego, że jest znany, a nie wykształcony i doświadczony w danej dziedzinie);
    ludzie wolą obejrzeć coś takiego, a nie merytoryczne materiały, bo te wymagają czasu i skupienia oraz weryfikacji i zrozumienia
    górę bierze ludzkie lenistwo
    do tego łatwiej grać na emocjach i instynktach(szczególnie o niskich pobudkach), dlatego „fajnie”jest zmienić szkołę w wylęgarnię osób bez umiejętności krytycznego myślenia i kojarzenia faktów, cytując klasyka „durnym narodem rządzi się łatwiej”- Stanisław Pacek, do tego dać mu tani alkohol i … sukces rządzenia murowany
    chyba jedno z drugim + manipulacja i efekt jest taki jak widać
    ps1. nie chciałem politycznie – naprawdę:)
    ps2. czytałem w [pn] komentuję w [śr]

  13. Jakubie, chylę czoła przed czasem poświęconym na tak wnikliwą analizę tematu, ujętą jednocześnie tak klarownym językiem. [pt]

  14. Super artykuł. Wrzucę do newslettera by więcej osób mogło się zapoznać. Choć mam odmienne zdanie co do szczepionek a dane sprawdzałem w Gusu może to tez fake portal ;). To co do jakości i treści chylę czoła. Bardzo fajny artykuł pomoże na pewno wielu osoba oby do jak największej liczby trafił. Denzel fajnie odpowiedział „teraz dąży się do wypchnięcia jak najszybciej informacji nie patrząc na to czy to są fakty” do tego przyzwyczaili społeczeństwo i teraz łykają jak pelikany nie zastanawiając się. I drugie fajne porównanie z expertami od wszystkiego. Jak ktoś ma duża wiedzę i autorytet w jednej dziedzinie nie znaczy ze ma we wszystkich. By być expertem w jednej musi poświecić tak wiele czasu ze nie może być w innych 😉 to powinno wynikać z logiki ale ciężko o to jak widać. Tak jak z tym sportowcem którego zapytali o C19- odpowiedział idealnie. Nie znam się idźcie do fachowców i przestańcie mnie o to pytać 😉

  15. Świetny artykuł Jakubie, zwłaszcza dla osób, które zgłębiają tematykę dot. manipulacji i dezinformacji;)

  16. Świetny artykuł. Niby prawdy oczywiste ale zebrane w jednym miejscu i ciekawie opisane.
    Szkoda tylko, że dotrze raczej tylko do tych, którzy mają otwarte umysły a ci z klapkami na oczach i tak tego nie przeczytają.

  17. Bardzo dobry artykuł, chociaż nie wnoszący niczego nowego do ostatnio lansowanego podziału na nas mądrych, weryfikujących informacje w serwisach „faktczekingowych” i was głupich łykających jak młode pelikany każdą teorię spiskową. Tego typu artykułów mamy ostatnio wysyp w sieci (choćby webinar Niebezpiecznika niosący za sobą dokładnie te same treści, tylko w innej formie). Propaganda w dzisiejszych czasach niestety jest uprawiana przez obie strony. Więc prosty podział – my oświeceni – wy szury wydaje się być zbytnim uproszczeniem. Obu stronom zależy na posiadanie monopolu na prawdę i w efekcie „rządu dusz”. Każda ze stron chce, żebyśmy przyjęli właśnie jej narrację i w tym przypadku kreowanie tego typu treści całkiem nieźle działa na ludzi aspirujących do bycia właśnie tymi racjonalnymi. Całkiem niezła sztuczka.
    Jaka jest różnica między teorią spiskową a faktem? Jakieś 6 miesięcy 🙂
    The Truth Is Out There.
    Mam wrażenie, że ten przekaz został zręcznie zredagowany właśnie zgodnie z zasada 40/60.
    A Autor jest ekspertem w jakiej branży, żeby wypowiadać się na ten temat? 🙂
    [wt]

    1. w temacie
      „A Autor jest ekspertem w jakiej branży, żeby wypowiadać się na ten temat? ”

      A Ty?

    2. Dzięki za komentarz. Nie nazwałbym się ekspertem w żadnej dziedzinie. Mam kilkunastoletnie doświadczenie w IT/security, z czego znaczną część pracy zawodowej poświęcam szkoleniom z socjotechnik i manipulacji. Od czasu przeczytania kilku książek temu poświęconych stał się to też mój obszar zainteresowania. Widzę manipulację tam, gdzie inni – mniej doświadczeni jej nie dostrzegają, ale to nie jest jakaś wiedza ekspercka. Jeśli chodzi o zarzut, że artykuł jest napisany zgodnie z zasadą 40/60, wskaż proszę te 40%, które są nieprawdą.

  18. Dziwne, że Pan koncentruje się tylko na propagandzie rosyjskiej, a całkowicie pomija ukraińską np. sprawę okoliczności, w których padło (…)idi na chuj(…). Warto wspomnieć, że teraz ówczesna propaganda tak napompowała triumfalizm, że teraz w oczach wielu taki upadek Siewierdoniecka urasta to rangi ofensywy Tet.

    1. Nie koncentruję się wyłącznie na propagandzie rosyjskiej, podałem przecież przykład naszej, PRL-owskiej (mógłbym też współczesnej, ale to wątek na trochę inny artykuł). Aktualnie jednak trudno wskazać inną, równie szkodliwą i nastawioną wrogo do całego świata zachodniego, okłamującą własnych obywateli i wyrządzającą krzywdę ludziom, którzy próbują ją demaskować. Proszę zwrócić uwagę, że ukraińska propaganda sukcesu to jednak zupełnie inny kaliber. Tutaj chodzi o zagrzanie do walki o własne życie i danie nadziei ludziom, którzy znaleźli się w beznadziejnej sytuacji. I skupia się ona na nagłaśnianiu sukcesów, które są jednak faktem, a nie na kreowaniu alternatywnej rzeczywistości. Nikomu tym krzywdy raczej nie wyrządza. Nikomu też nie knebluje ust jeśli chciałby z nią polemizować.

      1. (…)I skupia się ona na nagłaśnianiu sukcesów, które są jednak faktem, a nie na kreowaniu alternatywnej rzeczywistości.(…)
        No to w takim razie obrońcy Wyspy Węży zginęli w zażartej obronie czy jednak się poddali bez walki (o to chodziło o moje spostrzeżenie na temat wulgarnego wyrażenia, które jakoby obrońcy wystosowali do rosyjskiego okrętu)? A może kontrofensywy w okolicach Chersonia nie kończyły się zazwyczaj na odbiciu pojedyńczych miast, a ostatnia na południu Charkowa nie dała tylko tygodnia wolnego od ostrzału artyleryjskiego?
        Nie wiem co podawali Ukraińcy, ale u nas w necie spotykały takie rewelacje jak:
        – otoczenie Rosjan w Irpieniu
        – odwrót z pod Kijowa to wogóle miała być chaotyczną ucieczką pod gradem ukraińskich pocisków
        – Rosjanie mieli być otoczeni także w Chersoniu
        Jak teraz wiemy, to jednak była lipa

        Rewelacje na temat rosyjskiej armii też były odlotem:
        – Ukraińcy potrafili podawać, że rozbili jakoby 30-40% ciężkiego sprzętu… co na logikę pozbawiało armię inwazyjną kompletnie zdolności bojowych, a ona dalej nacierałahttps://globalnagra.pl/2022/03/08/artykul-ukraina-kto-wygrywa/
        (…)Szacunki pozwalają na ostrożne przypuszczenie, że Rosjanie z różnych powodów utracili między 30 a 40% ciężkiego sprzętu.(…)
        – Jeszcze kiedy Rosjanie byli pod Kijowem rewelacje różni (…)znawcy(…) logistyki ogłoszali, że jeszcze parę dni i Rosjanom skończy się nawet amunicja… https://www.tvp.info/59177356/wojna-na-ukrainie-rosjanom-koncza-sie-zapasy-amunicji-zywnosci-a-takze-paliwa
        Z powyższego wynika, że najpóżniej 25 marca Ukraina wygra wojnę i to bezapelacyjnie.

        (…)Nikomu tym krzywdy raczej nie wyrządza.(…)
        Niestety takie pompowanie krzywdę czyni… Bo wielu zaczyna dysponować ukraińskimi oddziałami niczym dowódca, którego nazwisko kończy wszystkie dyskusje tu dam jeden z przykładów:https://globalnagra.pl/druga-faza-wojny/
        (…) Stąd Ukraińcy mają teraz szansę na kompletne rozbicie rosyjskich linii i wejście na tyły jednostek prących z południa do odcięcia sił ATO w Donbasie. Na ich korzyść przemawiają:

        1. Słabe morale i wyczerpanie sił rosyjskich.
        2. Inicjatywa operacyjna, wysokie morale, uwolnione odwody idące po wewnętrznych liniach komunikacji (szybko).
        3. Sukcesy w obwodzie charkowskim i chersońskim, to kluczowe bo zagraża rosyjskim flankom.(…)

        A gdy nie idzie coś po ich myśli to z kolei wpadają na efekt wspomanianej ofensywy Tet*… Zajawka do artykułu z tego samego Generała co tak nie dawno otaczał Rosjan w Donbasie:https://globalnagra.pl/2022/05/20/komentarz-przesilenie-w-donbasie/
        (…)Kapitulacja Azowstali, niezadowolenie w wojskach obrony terytorialnej i ewidentne zmęczenie regularnych wojsk ukraińskich nakładają się na miarowe postępy rosyjskiej ofensywy na wschodzie kraju.(…)

        * Warto wspomnieć, że militarnie to była to totalna klęska Vietcongu… https://pl.wikipedia.org/wiki/Ofensywa_T%E1%BA%BFt
        Ale z jakiegoś powodu złamała Amerykanów. Może dlatego, że Amerykanie zorientowali się, że propaganda jednak rozjeżdża się z rzeczywistością i przestali wierzyć w jej prekazy… nawet gdy były prawdziwe?

        1. A teraz oddam głos nie byle komu, bo członkom Wierchownej Rady… https://www.rp.pl/polityka/art36415051-deputowani-odwolali-ukrainska-rzeczniczke-praw-obywatelskich
          (…)Deputowani zarzucili też Denysowej „koncentrację podczas relacji dla mediów na licznych szczegółach ‚nienaturalnych przestępstw seksualnych’ i ‚gwałtów na dzieciach’ na okupowanych terytoriach”, które nie zostały poparte dowodami, co według parlamentarzystów tylko zaszkodziło Ukrainie.(…)

          1. A to jest chyba właśnie argument, że jednak jest jakiś zdrowy rozsądek, a nie tylko nastawienie na zdobycie międzynarodowego poparcia za wszelką cenę.

          2. Jasne… a nagonka na Banasia to argument, że w DobrejZmianie nie obowiązuje doktryna Neumanna.

        2. Widzisz, większość tych przypadków to efekt albo chaosu informacyjnego (pamiętaj, że środki masowego przekazu częściowo zostały zniszczone lub przejęte) albo indywidualnej aktywności obywateli, którzy chcą jakoś podnieść na duchu resztę narodu. I tak Cygan kradnący czołg traktorem staje się wiralem niezależnie od tego czy rzeczywiście ten czołg ukradł Rosjanom, czy po prostu zabrał z pola po zakończonej bitwie. Tego typu informacje roznoszą się w mediach społecznościowych i nabierają rangi nie dlatego, że ktoś je z wyrachowaniem zaplanował i rozdystrybuował. To jest zupełnie co innego niż Rosyjska machina propagandowa, która już na etapie studiów dziennikarskich selekcjonuje posłusznych propagandzistów i szkoli ich z technik manipulacji. W ostatnich dniach z resztą Ukraina kilkukrotnie przyznawała się do tego, że wcale nie jest tak dobrze, jak to niektórzy przedstawiają.

          1. Zaraz, zaraz… czy ja pisałem o viralach o rosyjskimch czołgach czy o komunikatach o wielkich kontrofensywach naszej zwycięskiej armii? Ergo… np. ten o odbiciu Sewierdoniecka.

            Nie! Nie da się tego wyjaśnić sytuacją analogiczną do tej co miała polska prasa w ’39!

    1. Nie skojarzyłem po dłuższej przerwie o co chodzi z tym komentarzem, ale po chwili sobie przypomniałem. Dzięki 🙂

Leave a Reply

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

Witryna wykorzystuje Akismet, aby ograniczyć spam. Dowiedz się więcej jak przetwarzane są dane komentarzy.