E’ stato pubblicato sul sito https://osf.io/preprints/
MAPPING NEFARIOUS SOCIAL
MEDIA ACTORS TO SPEED-UP
COVID-19 FACT-CHECKING
– SINTESI IN ITALIANO –
Mapping Italian News Research Program
LaRiCA – University of Urbino Carlo Bo
January 10, 2022
Acknowledgment
The study was supported by a grant issued by the Italian Ministry of Education and
Research (MUR), FONDO INTEGRATIVO SPECIALE PER LA RICERCA (FISR) DECRETO
DIRETTORIALE N. 562 DEL 05/05/2020 “Progetti di ricerca di particolare rilevanza
strategica, finalizzati ad affrontare le nuove esigenze e questioni sollevate dalla diffusione
del virus SARS-Cov-2 e dell’infezione Covid-19”. Project code: FISR2020IP_00327e.
In collaboration with
Authors
Fabio Giglietto (University of Urbino), Manolo Farci (University of Urbino), Giada Marino
(University of Sassari), Serena Mottola (University of Urbino), Tommaso Radicioni (University
of Urbino), Massimo Terenzi (University of Urbino)
Università di Urbino Carlo Bo – LaRiCA – Mapping Italian News Research Program
Via Saffi 15 – 61029 – URBINO (PU) – ITALY
fabio.giglietto+mine@uniurb.it
Permanent link https://osf.io/preprints/socarxiv/6umqs/
V 1.01 updated January 10, 2022
Keywords: covid-19, fact-checking, coordinated behaviour, Italy, CrowdTangle, Facebook,
CooRnet
This work is licensed under the Creative Commons Attribution-ShareAlike 4.0 International
License. To view a copy of this license, visit http://creativecommons.org/licenses/by-sa/4.0/
or send a letter to Creative Commons, PO Box 1866, Mountain View, CA 94042, USA.
Mapping Nefarious Social Media Actors to Speed-up COVID-19 Fact-checking (MINE-FACTS) | LaRiCA at UNIURB
2
Table of Contents
1. Executive Summary | 5 |
1.1. Overview of methods | 5 |
1.2. Key takeaways | 5 |
2. Introduction | 8 |
3. The first wave of infodemic in Italy: what circulated most on Facebook and who | |
contributed to spread it | 11 |
3.1. Widely viewed and interacted Italian links during the first wave (February/June | |
2020) | 11 |
3.2. The rise of the Covid-skeptic cluster | 14 |
4. MINE-FACTS coordinated networks at macro, meso and micro level | 18 |
4.1. Macro | 18 |
4.2. Meso | 22 |
4.2.1. Case #1: The Blogs Strikes Back | 23 |
4.2.1.1. Actors | 23 |
4.2.1.2. Behavior | 27 |
4.2.1.3. Content | 28 |
4.2.2. Case #2: The “Amen” Awakens | 31 |
4.2.2.1. Actors | 31 |
4.2.2.2. Behavior | 33 |
4.2.2.3. Content | 34 |
4.2.3. Case #3: Return of the “GEDI” | 36 |
4.2.3.1. Actors | 36 |
4.2.3.2. Behavior | 40 |
4.2.3.4. Content | 41 |
4.2.4. Case #4: Attack of the clones | 43 |
4.2.4.1. Actors | 43 |
4.2.4.2. Behavior | 46 |
4.2.4.4. Content | 47 |
4.3. Micro | 51 |
4.3.1. Third dose | 51 |
4.3.2. Shocking declaration of a doctor | 53 |
4.3.3. Thrombosis due to inoculation | 56 |
5. Design and test of the MINE-FACTS prototype | 59 |
5.1. Design and development | 59 |
5.1.1. Posts | 60 |
5.1.2. Links | 60 |
5.2. Outcomes of the testing phase | 61 |
Mapping Nefarious Social Media Actors to Speed-up COVID-19 Fact-checking (MINE-FACTS) | LaRiCA at UNIURB
3
6. References | 65 |
Appendix I: Methodology | 67 |
Appendix II: Categories of the coding protocol adopted by Facta.news | 69 |
Appendix III: IFCN lists of coordinated account and links shared | 71 |
IFCN list | 71 |
Top coordinated URLs | 73 |
Appendix VI: Lists of coordinated accounts in the networks analyzed | 74 |
Meso Level: Case #1 | 74 |
Meso Level: Case #2 | 74 |
Meso Level: Case #3 | 76 |
Meso Level: Case #4 | 78 |
Appendix V: Most popular Italian news stories on Facebook (Feb/June 2020) | 79 |
Views | 79 |
Clicks | 79 |
Shares | 80 |
Shares without clicks | 81 |
Comments | 81 |
Mapping Nefarious Social Media Actors to Speed-up COVID-19 Fact-checking (MINE-FACTS) | LaRiCA at UNIURB
4
1. Executive Summary
Questo report descrive i risultati di un progetto finalizzato a sviluppare il prototipo di un
tool che supporti e acceleri il lavoro di fact-checkers e debunkers identificando e
classificando informazioni potenzialmente problematiche circolate sui social media con un
approccio agnostico rispetto ai contenuti.
Lo stesso tool è il risultato di un’attività di ricerca pluriennale condotta all’interno del
programma di ricerca Mapping Italian News (MINE) dell’Università di Urbino Carlo Bo. Il
programma di ricerca analizza strategie, tattiche e obiettivi di operazioni di influenza volte a
manipolare l’opinione pubblica italiana sfruttando le vulnerabilità dell’attuale ecosistema
dei media. Questa attività di ricerca ha portato alla produzione di studi inediti, report
pubblici, nuove metodologie, mappe e tools impiegati per monitorare l’attività di account
social media coordinati per amplificare la diffusione e l’impatto delle informazioni
problematiche. Il tracciamento di queste entità è stato l’elemento chiave nell’osservazione
dell’“infodemia” nelle fasi iniziali della diffusione del COVID-19 in Italia.
Combinando queste conoscenze pregresse con un range di strumenti originali e le
banche dati fornite dalla Facebook Open Research Initiative (Fort) di Meta e
dall’International Fact-Checking Network (IFCN) del gruppo Poynter, il report:
? documenta quelle fasi iniziali rendendo pubblico un inedito elenco dei link più visti
che hanno circolato maggiormente su Facebook in Italia fra Febbraio e Giugno
2020;
? traccia la nascita, la crescita e l’evoluzione su Facebook di network coordinati
specificamente dediti a diffondere posizioni covid-scettiche (scarsa pericolosità del
virus, opposizione alle misure di contenimento, novax) in Italia;
? presenta una ampia e aggiornata mappa delle attività svolte da questi network di
account illustrandone i principali punti di riferimento;
? analizzando quattro casi specifici, svela una serie di tattiche e strategie impiegate da
queste entità per adattare le loro operazioni agli interventi messi in atto dalle
piattaforme social per ridurre la diffusione di informazioni problematiche;
? descrive la circolazione di tre specifici casi di informazione problematica;
? fornisce una visione dei risultati della fase di collaudo del prototipo (condotta in
collaborazione con Facta.news).
1.1. Overview of methods
Sebbene il report impieghi un’ampia gamma di approcci metodologici diversi che vanno
dall’analisi del contenuto e delle reti sociali ad indagini quali-quantitative assistite da
tecniche di Open-source intelligence, il nucleo centrale è costituito da CooRnet, una libreria
software open source sviluppata dai ricercatori MINE. CooRnet analizza i dati forniti da
CrowdTangle per rilevare casi di condivisione coordinata di link (Coordinated Link Sharing
Behaviour – CLSB) su Facebook e Instagram.
Dato un set di link, CooRnet produce una lista di account Facebook o Instagram
(Pagine, gruppi pubblici o profili verificati) che hanno adottato ripetutamente un
comportamento coordinato (stesso contenuto postato contemporaneamente da più
account) per la condivisione di link. Per questo report abbiamo lanciato interazioni multiple
di CooRnet. Una iterazione di CooRnet parte dai link postati da un gruppo di account che
Mapping Nefarious Social Media Actors to Speed-up COVID-19 Fact-checking (MINE-FACTS) | LaRiCA at UNIURB
5
operano in modo coordinato per dare inizio ad un nuovo ciclo di rilevazioni. Grazie a
questo approccio è possibile mantenere aggiornata una lista di account coordinati nel
tempo.
Il tool sviluppato monitora periodicamente gli account coordinati alla ricerca dei
post che stanno circolando di più. I link di questi post sono usati per lanciare una iterazione
di CooRnet in tempo reale. I link coordinati sono segnalati ai fact-checker/debunker ed i
nuovi account coordinati identificati in questa fase sono aggiunti alla lista di quelli
monitorati.
1.2. Key takeaways
? Oltre ad evidenziare la presenza di diversi casi di informazioni problematica, l’analisi
dei link con maggiore circolazione e interazioni su Facebook nelle prime fasi della
pandemia da COVID-19 mostra come, in risposta ad un contesto caratterizzato da
un’incertezza ampiamente diffusa, i contenuti faziosi che avanzavano spiegazioni
semplicistiche (presentando ipotesi sull’origine del virus come certezze o invocando
un lockdown serrato come soluzione definitiva) hanno ricevuto più interazioni e
visualizzazioni;
? Tanto la lista dei link maggiormente circolati, quanto l’elenco di informazioni
problematiche emerse durante le varie fasi dell’analisi ed identificate dal tool che
abbiamo implementato, hanno evidenziato il rapporto fra gruppi estremisti e
“celebrità” (Montagnier, Monsignor Viganò, Robert Kennedy, etc.). Le comunità di
covid-scettici amplificano sistematicamente le loro dichiarazioni, fornendo un
incentivo a questi personaggi per intervenire nei dibattiti pubblici e beneficiare di
questa forma di notorietà. Celebrità senza scrupoli possono sfruttare queste
comunità creando una relazione simbiotica reciprocamente benefica. Inoltre,
contenuti che riportano semplicemente le asserzioni (anche se platealmente false) di
questi personaggi celebri tendono ad essere considerati veri dai fact-checkers,
poiché la dichiarazione è stata effettivamente pronunciata dalla persona in
questione.
? Tutte le nostre mappe fanno emergere varie forme di contiguità (re-condivisione di
link) tra un cluster centrale covid-scettico e gruppi di account ufficiali e non ufficiali
affiliati ai partiti politici Lega e Movimento 5 Stelle. Il cluster covid-scettico è
cresciuto nei primi mesi del 2020 come una derivazione della componente politica
presente nella rete di account coordinati che stavamo monitorando;
? Al margine del cluster covid-scettico grandi gruppi pubblici come “MOVIMENTO
DEI DISOCCUPATI E DEI PRECARI – LAVORO DI CITTADINANZA”, “VENETI : IERI –
OGGI – DOMANI (by B. Dilan )” o “La Cruna dell’Ago” fanno da ponte tra il cluster
di scetticismo sul covid e altre comunità;
? Oltre al caso dei gruppi politici, questa operazione di contaminazione è
ulteriormente illustrata dal caso di un network coordinato di gruppi pubblici dediti
alla diffusione di contenuti religiosi (caso n. 2, par. 4.2.2). Un ampio ed
inconsapevole pubblico viene così esposto a idee faziose sul COVID attraverso la
rapida e ripetuta attività di condivisione attuata da alcuni utenti;
Mapping Nefarious Social Media Actors to Speed-up COVID-19 Fact-checking (MINE-FACTS) | LaRiCA at UNIURB
6
? Collegato al cluster principale covid-scettico, c’è network autonomo che ha
performato particolarmente bene durante la fase di test del tool a novembre 2021,
adottando la condivisione coordinata di link per indirizzare il traffico verso contenuti
di stampo cospirazionista pubblicati da blog ospitati sulla piattaforma Blogger, di
proprietà di Google (caso n. 1, par. 4.2.1). Questi blog, che hanno tutti lo stesso
elementare layout, ospitano annunci pubblicitari di Google, sollevando la questione
del ruolo ricoperto da Google nella monetizzazione e nella produzione di reddito
per i creatori di contenuti ingannevoli;
? Un altro network che per le performance dei suoi post è apparso frequentemente
nella fase di test indirizza il traffico verso una rivista online della reputazione
discutibile (NewsGuard ha menzionato questo sito web in una lista dei maggiori
influencer della disinformazione del 2021 nel loro report di fine anno) chiamato
Mag24 (caso n. 4, par. 4.4.1). Pur non essendo l’unico network coordinato che
abbiamo osservato utilizzare questa tecnica, le pagine coordinate di Mag24 usano il
primo commento ad un post per inserire il link. Il doppio vantaggio è che il post in
sé non viene automaticamente identificato come un post con un link, e raramente
viene effettuato un fact-check sui commenti. Questo network ha una storia lunga ed
emblematica che abbiamo esaminato e ricostruito per mostrare come certe
operazioni possono resistere agli sforzi delle piattaforme modificando le proprie
strategie e cambiando forma;
? Parlando di mutamenti di forma, il nostro tool ha anche fatto emergere un ampio
network coordinato di pagine (perlopiù conosciute per aver fatto circolare
disinformazione in passato) che attualmente diffondono, quasi
contemporaneamente, immagini corredate da titoli clickbait con link che puntano ad
articoli pubblicati da organi rispettabili, tutti appartenenti allo stesso gruppo
editoriale (caso n. 3, par. 4.3.1). Le pagine di questo network ottengono un riscontro
trascurabile in termini di interazioni. Emergono due ipotesi non mutualmente
esclusive che possono spiegare il comportamento osservato. La prima è che queste
pagine siano utilizzate dal gruppo editoriale in questione (o dalla sua agenzia
pubblicitaria) per provare ad accrescere la circolazione dei loro contenuti. La
seconda è che si tratti di una iniziativa autonoma di queste pagine finalizzata a
redimere la loro “fedina penale” di Facebook (account che violando ripetutamente
le policy della piattaforma vedono ridotta la circolazione dei loro contenuti per un
certo periodo di tempo) pubblicando link di fonti affidabili;
? Le informazioni false, ingannevoli e decontestualizzate tendono a circolare
nuovamente e ripetutamente nel momento appropriato. Anche se non nuova,
questa strategia è confermata dalla nostra analisi di circolazione di due casi di
informazioni emerse dal nostro tool e classificate come problematiche da
Facta.news durante il mese di test;
? Durante il mese di fase di prova del prototipo, il tool ha fatto emergere 70 link e 360
casi di informazioni potenzialmente problematiche diffuse sui social dalle entità
malevole monitorate;
? Confrontando la percentuale di notizie classificate come vere (72%) da Pagella
Politica e Facta.news nel loro ruolo di fact-checkers di terze-parti per Facebook, il
Mapping Nefarious Social Media Actors to Speed-up COVID-19 Fact-checking (MINE-FACTS) | LaRiCA at UNIURB
7
nostro tool ha evidenziato una condivisione significativamente più alta di
informazioni problematiche (40% di link e post ritenuti veri);
? Secondo la nostra analisi, la distribuzione di una metrica che misura il rapporto tra
commenti e condivisioni ottenute da un post o un link (inteso come aggregazione di
interazioni ottenute da post che rimandano a tali link) si è rivelata molto differente
per le informazioni problematiche e non problematiche. Queste ultime sembrano
essere caratterizzate da un numero di condivisioni sui social che supera ampiamente
quello dei commenti.
Mapping Nefarious Social Media Actors to Speed-up COVID-19 Fact-checking (MINE-FACTS) | LaRiCA at UNIURB
8
Il report completo è disponibile a https://osf.io/preprints/socarxiv/6umqs/.
Mapping Nefarious Social Media Actors to Speed-up COVID-19 Fact-checking (MINE-FACTS) | LaRiCA at UNIURB