Il rischio di giudicare il mondo da ciò che emerge
Il rischio di giudicare il mondo da ciò che emerge: selezione, confondenti e distorsioni statistiche
1. Il problema generale: ciò che vediamo non coincide necessariamente con ciò che esiste
Uno degli errori più comuni nel ragionamento statistico consiste nel valutare una popolazione, un fenomeno, un’opinione o una qualità sulla base di ciò che spontaneamente emerge. Vediamo alcune persone lamentarsi, alcune recensioni negative, alcune opinioni espresse con forza, alcuni casi clamorosi riportati dai giornali, alcune segnalazioni ricevute da un ufficio, e siamo tentati di concludere che quella parte visibile rappresenti fedelmente il tutto.
Ma questa conclusione è spesso ingannevole. Il punto non è che ciò che emerge sia falso. Al contrario, può essere perfettamente vero. Il problema è che può essere selezionato in modo non neutrale. Non osserviamo direttamente la popolazione intera, ma un sottoinsieme: chi parla, chi si lamenta, chi risponde, chi sopravvive, chi arriva allo sportello, chi pubblica una recensione, chi viene registrato, chi viene ricordato.
In termini statistici, il problema nasce quando la variabile che vogliamo valutare non è indipendente dal criterio che fa emergere il dato. Se voglio stimare l’insoddisfazione degli utenti osservando solo chi si lamenta, sto osservando un sottoinsieme selezionato proprio in relazione alla variabile che mi interessa. Se voglio stimare l’opinione pubblica ascoltando solo chi interviene in un dibattito, rischio di confondere l’opinione della popolazione con l’opinione dei più motivati a intervenire.
La domanda fondamentale è sempre questa: il fatto di essere osservato, ascoltato, registrato o selezionato dipende dalla variabile che sto cercando di misurare? Se la risposta è sì, allora il dato osservato non può essere trattato ingenuamente come rappresentativo della popolazione.
2. Variabile target e variabile di selezione
Formalizziamo il problema. Sia \( \Omega \) la popolazione totale. Ogni elemento \( \omega \in \Omega \) può rappresentare una persona, un utente, un cliente, un cittadino, un prodotto, un evento o un caso clinico.
Indichiamo con \( Y \) la variabile target, cioè la variabile che vogliamo conoscere. Per esempio:
- \(Y=1\): l’utente è insoddisfatto;
- \(Y=1\): il cittadino è favorevole a una certa proposta;
- \(Y=1\): il prodotto è difettoso;
- \(Y=1\): il paziente ha un certo sintomo;
- \(Y=1\): una persona ha subito un danno;
- \(Y=1\): un individuo possiede una certa opinione, caratteristica o condizione.
Indichiamo invece con \( S \) la variabile di selezione:
\[ S = \begin{cases} 1 & \text{se il soggetto viene osservato, interviene, risponde o viene selezionato,} \\ 0 & \text{se il soggetto rimane non osservato o non selezionato.} \end{cases} \]Quando ci basiamo solo su chi interviene, non osserviamo la distribuzione di \(Y\) nell’intera popolazione. Osserviamo invece la distribuzione condizionata:
\[ P(Y \mid S=1). \]Ma la quantità che normalmente vorremmo conoscere è:
\[ P(Y). \]L’errore nasce quando si confonde:
\[ P(Y \mid S=1) \]con:
\[ P(Y). \]Questa confusione è legittima solo in un caso particolare: quando la selezione è indipendente dalla variabile target.
\[ S \perp\!\!\!\perp Y. \]In questo caso:
\[ P(Y \mid S=1)=P(Y). \]Ma nei casi sociali, economici, politici, sanitari e comunicativi reali, questa indipendenza è spesso proprio ciò che manca.
3. Rappresentazione nello spazio degli eventi
Lo spazio degli eventi può essere pensato come un grande rettangolo, che rappresenta la popolazione \( \Omega \). Dentro questo rettangolo distinguiamo coloro per cui \(Y=1\) e coloro per cui \(Y=0\). Inoltre, una parte della popolazione appartiene al sottoinsieme osservato \(S=1\).
Il punto decisivo è che il sottoinsieme \(S=1\) può attraversare in modo non proporzionale le regioni \(Y=1\) e \(Y=0\). Se chi ha \(Y=1\) ha molta più probabilità di entrare in \(S=1\), allora nel campione osservato \(Y=1\) sarà sovrarappresentato. Se invece chi ha \(Y=1\) ha meno probabilità di essere osservato, sarà sottorappresentato.
4. La formula della distorsione da selezione
Supponiamo che la variabile target sia binaria. Poniamo:
\[ P(Y=1)=p, \]e quindi:
\[ P(Y=0)=1-p. \]Definiamo:
\[ \alpha_1 = P(S=1 \mid Y=1), \]cioè la probabilità che venga osservato un soggetto con \(Y=1\), e:
\[ \alpha_0 = P(S=1 \mid Y=0), \]cioè la probabilità che venga osservato un soggetto con \(Y=0\).
Allora, usando Bayes e la formula delle probabilità totali:
\[ P(Y=1 \mid S=1) = \frac{P(S=1 \mid Y=1)P(Y=1)} {P(S=1)}. \]Poiché:
\[ P(S=1) = P(S=1 \mid Y=1)P(Y=1) + P(S=1 \mid Y=0)P(Y=0), \]otteniamo:
\[ P(Y=1 \mid S=1) = \frac{\alpha_1 p} {\alpha_1 p+\alpha_0(1-p)}. \]Questa formula mostra in modo trasparente il problema. Se \( \alpha_1 = \alpha_0 \), allora la selezione non dipende da \(Y\) e non vi è distorsione rispetto alla variabile target. Infatti:
\[ P(Y=1 \mid S=1)=p=P(Y=1). \]Ma se:
\[ \alpha_1 \neq \alpha_0, \]allora:
\[ P(Y=1 \mid S=1) \neq P(Y=1). \]La differenza non dipende da un errore di conteggio, ma dalla struttura stessa del processo di osservazione.
5. Esempio numerico: le lamentele non misurano direttamente l’insoddisfazione
Immaginiamo un servizio con 10.000 utenti. Supponiamo che la quota reale di utenti insoddisfatti sia il 10%:
\[ P(Y=1)=0{,}10. \]Quindi il 90% non è insoddisfatto:
\[ P(Y=0)=0{,}90. \]Gli insoddisfatti, però, hanno una forte motivazione a lamentarsi. Supponiamo che il 50% degli insoddisfatti scriva una lamentela:
\[ P(S=1 \mid Y=1)=0{,}50. \]Tra i non insoddisfatti, invece, solo il 2% scrive spontaneamente:
\[ P(S=1 \mid Y=0)=0{,}02. \]Allora la quota di insoddisfatti tra coloro che scrivono è:
\[ P(Y=1 \mid S=1) = \frac{0{,}50 \cdot 0{,}10} {0{,}50 \cdot 0{,}10+0{,}02 \cdot 0{,}90}. \] \[ P(Y=1 \mid S=1) = \frac{0{,}05}{0{,}05+0{,}018} = \frac{0{,}05}{0{,}068} \approx 0{,}735. \]Dunque, tra coloro che scrivono, circa il 73,5% è insoddisfatto. Ma nella popolazione reale gli insoddisfatti sono solo il 10%.
Il dato osservato non è falso: è vero che tra chi scrive prevalgono gli insoddisfatti. L’errore sta nel trasformare questa proposizione:
\[ P(Y=1 \mid S=1) \approx 73{,}5\% \]in quest’altra:
\[ P(Y=1) \approx 73{,}5\%. \]La prima riguarda il sottoinsieme dei parlanti. La seconda riguarda l’intera popolazione.
6. Perché l’errore è cognitivamente facile
Questo errore è statisticamente banale da descrivere, ma psicologicamente molto facile da commettere. Ciò che emerge ha maggiore salienza. Una lamentela esplicita, una recensione negativa, un intervento polemico, una denuncia pubblica o un caso drammatico occupano molto più spazio mentale di migliaia di casi silenziosi.
Il silenzio è informativamente ambiguo. Chi non parla può essere soddisfatto, indifferente, rassegnato, disinformato, impossibilitato a intervenire o semplicemente non motivato. Ma proprio perché non produce un dato evidente, tende a sparire dal ragionamento.
L’osservatore ingenuo finisce così per sostituire:
\[ \text{ciò che è frequente nella popolazione} \]con:
\[ \text{ciò che è frequente tra i casi visibili}. \]Ma la visibilità non è una proprietà neutrale. È essa stessa una variabile, spesso dipendente da emozioni, interessi, danni subiti, competenze, accesso ai mezzi di comunicazione, tempo disponibile, istruzione, posizione sociale, intensità dell’esperienza.
7. Esempi pratici
7.1 Recensioni online
Le recensioni online sono un caso classico. Chi lascia una recensione può essere molto soddisfatto o molto insoddisfatto. La grande fascia intermedia, che ha avuto un’esperienza normale, spesso non scrive nulla.
Qui la variabile target può essere:
\[ Y = \text{grado di soddisfazione}. \]La variabile di selezione è:
\[ S = \text{scrive una recensione}. \]Se la probabilità di scrivere una recensione cresce agli estremi della soddisfazione, il campione osservato non riproduce la distribuzione reale delle esperienze. È possibile che le recensioni contengano molte valutazioni estreme anche quando la maggioranza degli utenti ha avuto esperienze ordinarie.
7.2 Dibattiti politici e sociali
In un dibattito pubblico intervengono più facilmente le persone più motivate, più ideologizzate, più arrabbiate, più competenti o più direttamente colpite. La distribuzione delle opinioni espresse può quindi essere più polarizzata della distribuzione reale delle opinioni nella popolazione.
La variabile target è:
\[ Y = \text{opinione politica o sociale}. \]La variabile di selezione è:
\[ S = \text{partecipazione al dibattito}. \]Se:
\[ P(S=1 \mid Y=\text{opinione intensa}) > P(S=1 \mid Y=\text{opinione moderata}), \]il dibattito osservato sovrarappresenta le posizioni intense. Da ciò non segue che la popolazione sia altrettanto polarizzata.
7.3 Segnalazioni di guasti o disservizi
Un ufficio riceve molte segnalazioni su un problema. Questo dato indica che il problema esiste e merita attenzione, ma non misura automaticamente la sua prevalenza.
Le segnalazioni dipendono almeno da due fattori:
\[ \text{frequenza reale del problema} \]e:
\[ \text{propensione a segnalarlo}. \]Un problema raro ma molto fastidioso può generare molte segnalazioni. Un problema frequente ma tollerato può generarne poche. Per stimare la diffusione reale bisogna interrogare anche chi non ha segnalato nulla.
7.4 Medicina: casi osservati e casi non osservati
In ambito sanitario si osservano più facilmente i soggetti che arrivano all’attenzione del medico o dell’ospedale. Ma questi soggetti non coincidono necessariamente con tutti coloro che hanno una certa condizione.
Per esempio, se si studia una malattia osservando solo i pazienti ricoverati, si rischia di sovrarappresentare i casi più gravi. Se si studiano gli effetti collaterali di un farmaco usando solo segnalazioni spontanee, si osserva una combinazione fra eventi reali e probabilità di segnalazione.
Anche qui:
\[ P(Y \mid S=1) \]non coincide necessariamente con:
\[ P(Y). \]7.5 Sopravvivenza e successo
Un altro caso importante è il cosiddetto bias di sopravvivenza. Se analizziamo solo le imprese che sono sopravvissute, gli artisti diventati famosi, gli investitori arricchiti, gli studenti che hanno completato un percorso, osserviamo solo coloro che sono passati attraverso un filtro.
La variabile di selezione è:
\[ S = \text{sopravvive, riesce, arriva a essere osservato}. \]Studiare solo i sopravvissuti può portare ad attribuire il successo a certe caratteristiche senza vedere quanti soggetti con le stesse caratteristiche sono falliti e quindi sono usciti dal campo osservativo.
8. Confondenti: quando una terza variabile influenza sia la selezione sia il target
La situazione diventa più complessa quando interviene una terza variabile \(Z\), detta confondente. Un confondente è una variabile che influenza sia la variabile target \(Y\), sia la probabilità di essere selezionati \(S\).
Esempi di \(Z\) possono essere:
- età;
- istruzione;
- reddito;
- uso intensivo di un servizio;
- competenza tecnica;
- accesso a internet;
- tempo disponibile;
- interesse politico;
- propensione personale alla protesta;
- gravità dell’esperienza vissuta.
Lo schema causale può essere rappresentato così:
Il confondente \(Z\) influenza la variabile target e, nello stesso tempo, influenza la probabilità di essere osservati. Per esempio, gli utenti più giovani possono avere opinioni diverse dagli anziani e possono anche essere più propensi a intervenire online. Se raccolgo dati solo online, potrei confondere un effetto di opinione con un effetto di composizione del campione.
In generale, la quantità reale da stimare è:
\[ P(Y=1)=\sum_z P(Y=1 \mid Z=z)P(Z=z). \]Ma nel campione selezionato osserviamo:
\[ P(Y=1 \mid S=1) = \sum_z P(Y=1 \mid S=1,Z=z)P(Z=z \mid S=1). \]Il problema nasce se:
\[ P(Z=z \mid S=1) \neq P(Z=z). \]In tal caso, il campione selezionato ha una composizione diversa dalla popolazione. Inoltre, anche dentro ciascuno strato \(Z=z\), può accadere che:
\[ P(Y=1 \mid S=1,Z=z) \neq P(Y=1 \mid Z=z). \]Quindi la distorsione può entrare su due livelli: nella composizione dei gruppi e nella selezione interna ai gruppi.
9. Esempio con confondente: utenti intensivi e utenti occasionali
Supponiamo di voler stimare l’insoddisfazione degli utenti di una piattaforma. Dividiamo la popolazione in due gruppi:
\[ Z=A \quad \text{utenti intensivi}, \] \[ Z=B \quad \text{utenti occasionali}. \]Nella popolazione reale:
\[ P(Z=A)=0{,}20, \] \[ P(Z=B)=0{,}80. \]Gli utenti intensivi sono più critici, perché usano molto il servizio e incontrano più spesso i suoi limiti:
\[ P(Y=1 \mid Z=A)=0{,}30. \]Gli utenti occasionali sono meno critici:
\[ P(Y=1 \mid Z=B)=0{,}05. \]La quota reale di insoddisfatti nella popolazione è:
\[ P(Y=1) = P(Y=1 \mid Z=A)P(Z=A) + P(Y=1 \mid Z=B)P(Z=B). \] \[ P(Y=1) = 0{,}30 \cdot 0{,}20 + 0{,}05 \cdot 0{,}80. \] \[ P(Y=1)=0{,}06+0{,}04=0{,}10. \]La vera insoddisfazione complessiva è dunque il 10%.
Ma nel campione spontaneo intervengono soprattutto gli utenti intensivi:
\[ P(Z=A \mid S=1)=0{,}70, \] \[ P(Z=B \mid S=1)=0{,}30. \]Se stimiamo ingenuamente l’insoddisfazione guardando solo gli intervenuti, otteniamo:
\[ P(Y=1 \mid S=1) \approx 0{,}30 \cdot 0{,}70 + 0{,}05 \cdot 0{,}30. \] \[ P(Y=1 \mid S=1) = 0{,}21+0{,}015 = 0{,}225. \]Il campione spontaneo suggerisce il 22,5% di insoddisfatti, mentre la popolazione reale è al 10%. La distorsione nasce perché il campione osservato sovrarappresenta gli utenti intensivi.
10. Selezione e collider: un errore più sottile
Esiste anche un errore più sottile: la selezione può comportarsi come un collider. Un collider è una variabile influenzata da due o più cause. Condizionare l’analisi su un collider può creare associazioni artificiali tra variabili che, nella popolazione generale, non sono associate.
Supponiamo:
\[ X = \text{propensione personale a lamentarsi}, \] \[ Y = \text{reale insoddisfazione}, \] \[ S = \text{scrive una lamentela}. \]La struttura è:
Una persona può scrivere una lamentela perché è realmente insoddisfatta, oppure perché ha una forte propensione personale a protestare. Se noi osserviamo solo chi ha scritto, cioè condizioniamo su \(S=1\), possiamo generare una relazione artificiale tra \(X\) e \(Y\).
Tra coloro che hanno scritto, una persona poco insoddisfatta potrebbe essere presente solo se ha una forte propensione a lamentarsi. Viceversa, una persona poco incline alla protesta potrebbe scrivere solo se l’insoddisfazione è molto alta. Dentro il sottoinsieme selezionato \(S=1\), le due variabili \(X\) e \(Y\) possono apparire associate anche se nella popolazione generale non lo erano.
Questo insegna che non basta raccogliere molti dati. Bisogna capire attraverso quale porta i dati sono entrati nel campione.
11. Il caso delle opinioni pubbliche: silenzio, intensità e rappresentanza
Il caso delle opinioni pubbliche è particolarmente delicato. In una comunità, un forum, un partito, un’associazione o un social network, può sembrare che una certa posizione sia maggioritaria perché è quella più visibile. Ma la visibilità può dipendere dall’intensità, non dalla numerosità.
Una minoranza molto motivata può produrre molti più interventi di una maggioranza moderata e silenziosa. Supponiamo che nella popolazione il 20% sostenga fortemente una posizione \(A\), mentre l’80% abbia una posizione diversa o più moderata. Se il primo gruppo interviene con probabilità 0,60 e il secondo con probabilità 0,05, allora nel dibattito visibile la minoranza può apparire maggioritaria.
Formalmente:
\[ P(Y=A)=0{,}20, \] \[ P(S=1 \mid Y=A)=0{,}60, \] \[ P(S=1 \mid Y\neq A)=0{,}05. \]La quota di sostenitori di \(A\) tra gli intervenuti è:
\[ P(Y=A \mid S=1) = \frac{0{,}60 \cdot 0{,}20} {0{,}60 \cdot 0{,}20+0{,}05 \cdot 0{,}80}. \] \[ P(Y=A \mid S=1) = \frac{0{,}12}{0{,}12+0{,}04} = \frac{0{,}12}{0{,}16} = 0{,}75. \]Una posizione che nella popolazione vale il 20% può diventare il 75% degli interventi osservati. L’errore consiste nello scambiare la quota degli interventi con la quota delle persone.
12. Quantità osservata e quantità desiderata
In tutti questi casi bisogna distinguere con precisione tre livelli:
- la popolazione reale;
- il processo di selezione;
- il campione osservato.
La quantità desiderata è spesso:
\[ P(Y=1). \]La quantità osservata nei dati spontanei è invece:
\[ P(Y=1 \mid S=1). \]La domanda metodologica fondamentale è:
\[ P(Y=1 \mid S=1)=P(Y=1)? \]Questa uguaglianza vale solo se:
\[ S \perp\!\!\!\perp Y. \]Se esistono covariate \(Z\) note e misurabili, si può cercare una condizione più debole:
\[ S \perp\!\!\!\perp Y \mid Z. \]Questa formula significa che, una volta controllato per \(Z\), la selezione non dipende più dalla variabile target. In altri termini, dentro ciascuno strato omogeneo definito da \(Z\), i selezionati sono confrontabili con i non selezionati.
Ma questa condizione non è automaticamente garantita: è un’ipotesi forte, da giustificare con il disegno dell’indagine e con la conoscenza del fenomeno.
13. Come condurre correttamente un’indagine
Per evitare distorsioni, bisogna progettare l’indagine in modo che il campione sia rappresentativo della popolazione target, oppure che le distorsioni siano almeno misurabili e correggibili.
13.1 Definire la popolazione target
Prima di raccogliere dati, bisogna definire chiaramente la popolazione di riferimento:
\[ \Omega = \text{popolazione target}. \]Per esempio:
- tutti gli utenti registrati;
- tutti i clienti attivi negli ultimi dodici mesi;
- tutti i cittadini residenti in una certa area;
- tutti i pazienti con una certa diagnosi;
- tutti i partecipanti a un servizio o a una comunità.
Senza una popolazione target definita, non si può parlare seriamente di rappresentatività.
13.2 Costruire un frame di campionamento
Serve poi un elenco, un registro o una procedura che permetta di raggiungere anche chi non parlerebbe spontaneamente. Questo è il frame di campionamento.
Se l’indagine si basa solo su chi arriva spontaneamente al questionario, si sta già introducendo una selezione. Un buon disegno deve invece dare a ogni elemento della popolazione una probabilità nota, o almeno controllabile, di essere incluso.
13.3 Campionamento casuale
La soluzione ideale è estrarre casualmente i soggetti dalla popolazione target. In questo modo si cerca di ottenere:
\[ S \perp\!\!\!\perp Y. \]Cioè la probabilità di essere selezionati non deve dipendere dalla risposta che si vuole misurare.
Nel caso di un campione casuale semplice, ogni individuo ha la stessa probabilità di inclusione:
\[ P(S_i=1)=\pi. \]Se la selezione è veramente casuale, il campione tende a riprodurre la distribuzione della popolazione, salvo l’errore casuale dovuto alla dimensione finita del campione.
13.4 Campionamento stratificato
Quando la popolazione è composta da gruppi rilevanti, conviene usare un campionamento stratificato. Si divide la popolazione in strati:
\[ Z=z_1,z_2,\ldots,z_k. \]Poi si campiona dentro ciascuno strato. La stima complessiva si ottiene pesando ogni strato secondo la sua proporzione reale nella popolazione:
\[ \widehat{P}(Y=1) = \sum_{j=1}^{k} \widehat{P}(Y=1 \mid Z=z_j)P(Z=z_j). \]Questo impedisce che gruppi molto visibili, attivi o rumorosi dominino artificialmente il risultato.
13.5 Controllo della non risposta
Anche se il campione iniziale è casuale, alcuni soggetti selezionati potrebbero non rispondere. Introduciamo allora una nuova variabile:
\[ R = \begin{cases} 1 & \text{se il soggetto selezionato risponde,} \\ 0 & \text{se non risponde.} \end{cases} \]Il problema diventa:
\[ P(Y \mid S=1,R=1) \]rispetto a:
\[ P(Y). \]Se chi non risponde è diverso da chi risponde, compare una distorsione da non risposta. Per ridurla si possono usare richiami, questionari brevi, canali multipli, incentivi, interviste di follow-up e confronti tra rispondenti precoci e tardivi.
13.6 Pesi di correzione
Se conosciamo la probabilità di inclusione \( \pi_i \) dell’individuo \(i\), possiamo assegnare un peso:
\[ w_i=\frac{1}{\pi_i}. \]Se conosciamo anche la probabilità di risposta \( r_i \), possiamo usare:
\[ w_i=\frac{1}{\pi_i r_i}. \]La stima pesata della media della variabile target diventa:
\[ \widehat{\mu}_Y = \frac{\sum_{i:S_i=1} w_iY_i} {\sum_{i:S_i=1} w_i}. \]L’idea è semplice: un individuo appartenente a un gruppo sottorappresentato deve pesare di più; un individuo appartenente a un gruppo sovrarappresentato deve pesare di meno. Tuttavia, i pesi funzionano solo se le variabili usate per costruirli catturano davvero il meccanismo di selezione.
14. Dati spontanei e dati rappresentativi: due funzioni diverse
Non bisogna concludere che i dati spontanei siano inutili. Sono spesso preziosissimi, ma bisogna usarli per la funzione corretta.
Le segnalazioni spontanee servono bene a:
- scoprire problemi imprevisti;
- identificare casi estremi;
- generare ipotesi;
- capire il linguaggio e le categorie degli utenti;
- individuare temi emergenti;
- raccogliere esempi qualitativi.
Sono invece pericolose se usate direttamente per stimare:
- la frequenza reale di un problema;
- la quota di consenso o dissenso;
- la prevalenza di una condizione;
- la soddisfazione media della popolazione;
- la distribuzione reale delle opinioni.
Le lamentele spontanee sono un ottimo allarme qualitativo. Non sono automaticamente una misura quantitativa della prevalenza. Per passare dal segnale alla stima serve un disegno campionario.
15. Un modello generale: osservazione come filtro
Possiamo pensare ogni dato osservato come il risultato di un filtro. Il mondo genera valori della variabile \(Y\), ma noi osserviamo solo quelli che passano attraverso il meccanismo \(S=1\).
Il modello generale è:
\[ P_{\text{osservato}}(Y) = P(Y \mid S=1). \]Il mondo reale, invece, è descritto da:
\[ P_{\text{reale}}(Y)=P(Y). \]Il rapporto tra i due dipende da:
\[ P(S=1 \mid Y). \]Se questa probabilità è costante rispetto a \(Y\), l’osservazione è neutrale rispetto alla variabile target. Se varia con \(Y\), l’osservazione deforma la distribuzione.
Nel caso discreto, per un generico valore \(y\), vale:
\[ P(Y=y \mid S=1) = \frac{P(S=1 \mid Y=y)P(Y=y)} {\sum_{y’}P(S=1 \mid Y=y’)P(Y=y’)}. \]Questa formula mostra che il campione osservato è una versione riponderata della popolazione reale. Ogni valore \(y\) viene amplificato o ridotto in base alla sua probabilità di essere selezionato.
16. Quando è possibile correggere la distorsione?
La correzione è possibile quando conosciamo, o possiamo stimare ragionevolmente, il meccanismo di selezione. Se conosciamo \(P(S=1 \mid Y=y)\), possiamo tentare una correzione inversa. Più spesso, però, non conosciamo direttamente questa probabilità, ma conosciamo variabili \(Z\) collegate alla selezione.
Allora usiamo il principio:
\[ P(Y)=\sum_z P(Y \mid Z=z)P(Z=z). \]Se abbiamo un campione sbilanciato ma conosciamo la distribuzione reale di \(Z\), possiamo ripesare i gruppi. Per esempio, se sappiamo che gli utenti intensivi sono il 20% della popolazione ma il 70% del campione, non dobbiamo lasciare che pesino per il 70% nella stima finale.
Tuttavia, se esistono variabili non osservate che influenzano sia \(Y\) sia \(S\), la correzione può rimanere incompleta. Questo è il caso più difficile: il campione è distorto per ragioni che non abbiamo misurato.
17. La regola metodologica fondamentale
Ogni volta che si valuta una variabile sulla base di ciò che emerge, bisogna ricostruire il meccanismo di emersione. Non basta chiedersi:
\[ \text{Che cosa dicono i dati?} \]Bisogna chiedersi:
\[ \text{Perché proprio questi dati sono diventati visibili?} \]E ancora:
\[ \text{Chi manca?} \] \[ \text{Chi non ha parlato?} \] \[ \text{Chi non è arrivato all’osservazione?} \] \[ \text{Chi è stato escluso dal processo di selezione?} \] \[ \text{La probabilità di essere osservati dipende dalla variabile che voglio misurare?} \]Queste domande non sono dettagli tecnici: sono il cuore del ragionamento statistico corretto.
18. Conclusione
La tendenza a giudicare il mondo da ciò che emerge è comprensibile, ma pericolosa. Ciò che emerge è disponibile, visibile, narrabile, emotivamente forte. Tuttavia, la statistica insegna che la visibilità è spesso un effetto di selezione. Non osserviamo semplicemente il mondo: osserviamo il mondo attraverso canali, filtri, incentivi, soglie, motivazioni e strutture sociali.
Se il criterio di selezione è indipendente dalla variabile target, allora il campione osservato può rappresentare la popolazione. Ma se la probabilità di essere osservati dipende proprio da ciò che vogliamo misurare, il dato osservato diventa una quantità condizionata:
\[ P(Y \mid S=1), \]non la quantità generale:
\[ P(Y). \]Il passaggio dall’una all’altra richiede ipotesi, disegno campionario, stratificazione, controllo dei confondenti, gestione della non risposta e, quando possibile, pesi di correzione.
In definitiva, il problema non è solo tecnico, ma epistemologico: conoscere non significa semplicemente raccogliere ciò che appare. Significa anche comprendere le condizioni per cui qualcosa appare e qualcos’altro resta invisibile. La buona indagine statistica nasce proprio da questa cautela: non confondere il visibile con il frequente, il rumoroso con il maggioritario, il segnalato con il prevalente, il sopravvissuto con il tipico, il selezionato con il rappresentativo.