Publication Bias: la scomparsa degli studi 'negativi'

I ricercatori guardano se lÂ’effetto cÂ’è, non lo trovano e non si prendono la briga di pubblicare il risultato negativo. Il problema è che non sappiamo quanti siano questi risultati negativi non pubblicati, e così, se ci occupiamo per esempio dellÂ’esistenza di influenze lunari sul sonno, possiamo solo sospettare che il consenso sia più sfavorevole di come appare guardando agli studi che si trovano in letteratura.

Siete un ricercatore, diciamo un chimico. Un gruppo di ricerca concorrente ha pubblicato un articolo che descrive una reazione interessante, e voi state provando a ripetere l’esperimento. Pur con tutta l’attenzione, seguendo attentamente il procedimento descritto nell’articolo e anzi chiedendo agli autori chiarimenti sui reagenti usati, non riuscite a riprodurre il loro risultato: la reazione non ne vuole sapere di manifestarsi. Chissà cos’è successo, avrete sbagliato qualcosa; con tutta la buona volontà, non riuscite a venirne a capo. Pazienza, capita: prendete i quaderni degli appunti, con le tabelle e i calcoli, i fogli stampati coi grafici coperti di fregacci a matita, chiudete tutto nel cassetto più basso della scrivania e non ci pensate più.
image
Voi non lo sapete, e neppure loro, ma in realtà era l’altro gruppo ad aver commesso un piccolo errore nel procedimento. Un errore sufficientemente sottile da essere sfuggito ai referee della rivista che avevano esaminato l’articolo per la pubblicazione. Il procedimento, come descritto nell’articolo, non funziona.
Mesi o anni dopo, altri ricercatori stanno studiando la letteratura scientifica alla ricerca di una reazione da sfruttare per un loro progetto più complesso. Trovano l’articolo dei vostri colleghi, che fa proprio al caso loro, e si mettono subito al lavoro: perdendo però un sacco di tempo prima di rendersi conto che stanno cercando di usare una reazione chimica che in realtà non esiste. Se all’epoca aveste pubblicato un articolo descrivendo il vostro fallimento, l’esame della letteratura avrebbe dato un quadro più vicino alla realtà, e loro non si sarebbero infilati in un vicolo cieco.
Quello che abbiamo raccontato è un esempio di “publication bias”: il consenso della letteratura scientifica su un determinato argomento può essere falsato dal fatto che gli esperimenti con un risultato negativo hanno meno probabilità di essere pubblicati.
Adesso rivedete la scena sostituendo al chimico un farmacologo, che non riesce a replicare gli esperimenti per verificare se un determinato farmaco è efficace. Secondo l’articolo dei vostri colleghi il farmaco serve per curare una malattia, secondo i vostri dati non serve a niente: la mancata pubblicazione in questo caso può avere effetti ben più inquietanti.
È così importante conoscere a fondo questo meccanismo che gli dedicheremo due numeri di questa rubrica. In questa prima puntata faremo un primo esempio autentico, approfittandone per parlare di un episodio recente e di una nicchia abbastanza curiosa della ricerca scientifica. La cronobiologia si occupa dello studio dei cicli periodici negli organismi viventi, e tra le altre cose degli effetti biologici dei cicli astronomici (il giorno, l’anno solare, il mese lunare). Chi è un po’ familiare con gli argomenti di cui ci occupiamo può forse già sospettare che sotto questa etichetta si raggruppino ricerche scientifiche serie insieme a studi che si avvicinano pericolosamente alla pseudoscienza, per essere generosi.
A un estremo della gamma ci sono alcuni effetti ben noti, come le variazioni annuali nel numero di nascite: nelle società rurali, per esempio, ci sono differenze importanti nel numero di nati nelle diverse stagioni, che tendono a ridursi nelle società industrializzate. All’altra estremità si trovano idee magari antiche ma completamente campate in aria e dimostrabilmente false, come le correlazioni astrologiche o i bioritmi che erano di moda anni fa. In mezzo c’è un po’ di tutto, e in particolare la ricerca di correlazioni con le fasi lunari ha dato origine a una piccola e variegata letteratura. D’altronde non è così scontato che sia una baggianata: in alcune specie marine esistono davvero “orologi interni” molecolari con un periodo molto vicino a quello del mese lunare (29 giorni e mezzo). Plausibilmente questo fornisce qualche vantaggio evolutivo dato, per esempio, dal riprodursi in periodi di maggiore o minore illuminazione notturna.
L’effetto di questa vaga plausibilità è che regolarmente escono sulle riviste mediche articoli in cui si verificano più o meno balzane influenze lunari sulla salute e sul comportamento. La più gettonata è la leggenda secondo cui nascerebbero più bambini con la luna piena (no: è, appunto, una leggenda, v. anche Query 19), ma ci sono articoli che verificano se esiste una correlazione tra la fase lunare e l’incidenza dell’infarto (no), dell’aneurisma cerebrale (sembrava di sì ma invece no), le crisi epilettiche (può darsi), l’assunzione di cibo e alcool (sì), i morsi dei cani (no), le emergenze chirurgiche orali e maxillofacciali (neanche, e viene da chiedersi come gli sia venuto in mente) e molte altre. A sfogliare la letteratura in materia viene quasi da pensare che un medico che si ritrovi per le mani una casistica abbastanza ampia sotto mano non riesca a resistere alla tentazione: fa due conti, manda il risultato a una rivista e si ritrova ad aver firmato una pubblicazione in più con poco lavoro. Forse siamo troppo maligni, anche se ogni tanto traspare un intento un po’ giocoso: gli autori dell’esempio che adesso guarderemo più in dettaglio ammettono per esempio di aver avuto l’idea «una sera di luna piena, dopo una birra nel bar di sotto».
I nostri personaggi sono un gruppo di studiosi del Centro per la Cronobiologia dell’Ospedale Psichiatrico dell’Università di Basilea, in Svizzera. Nell’arco di due anni e mezzo, tra il 2000 e il 2003, avevano condotto uno studio su una trentina di individui sani, osservando le caratteristiche del loro sonno in varie modalità. In ogni esperimento, il soggetto era tenuto sotto osservazione in condizioni di laboratorio molto controllate per due notti “normali” seguite da un periodo di 48 ore in cui il sonno era alterato artificialmente; adesso i dettagli non ci interessano, ma all’epoca nessuno si era interessato alla fase della Luna.
Anni dopo, a quanto pare al bar, gli scienziati hanno pensato di andare a vedere se ci fosse qualche correlazione tra i parametri delle notti “normali” osservate e la fase della luna al momento dello svolgimento dell’esperimento. Il risultato è in un articolo pubblicato nel 2013 su Current Biology[1]: sì, a quanto pare ci sono correlazioni significative tra la fase della luna e alcuni parametri del sonno. Per esempio la “latenza” (il tempo trascorso tra quando si va a letto e quando ci si addormenta) sarebbe più breve con la Luna nuova che con la Luna piena. Anche l’attività cerebrale rivelata dall’elettroencefalogramma è diversa nei due casi.
Come spesso accade in questi casi, il risultato inatteso ha spinto altri scienziati a tentare di replicare l’osservazione, e nel numero successivo di Current Biology sono comparsi due altri articoli che riportavano una simile analisi retrospettiva, andando a cercare effetti lunari nei dati di studi già fatti con altri scopi.
Il primo lavoro[2], opera di un gruppo svedese, usa i dati di uno studio su 47 soggetti giovani e trova qualche correlazione, ma diversa da quelle trovate dagli svizzeri. Il secondo[3], firmato da un numeroso gruppo di ricercatori svizzeri e tedeschi, rianalizza i tracciati elettroencefalografici raccolti in tre diversi studi: prende in considerazione più di duemila notti di sonno divise tra 1265 soggetti. Il campione è complessivamente molto più grande, ma stavolta non si trova nulla.
A questo punto, dai dati a disposizione non sembrerebbe emergere un “consenso”: se è vero che lo studio più grande non trova nulla, e il risultato discordante dei due più piccoli sembra suggerire un falso positivo fortuito, resta comunque il fatto che due lavori che hanno superato una peer review particolarmente robusta trovano qualche effetto significativo.
Gli autori del terzo articolo (quello che non trova nulla) mostrano però che esistono anche altri studi esaminati o riesaminati alla ricerca di effetti lunari, e che in grande maggioranza non trovano nulla. Alcuni di questi, a volte con campioni statistici particolarmente grandi, non sono mai stati pubblicati, per lo meno come articoli in senso stretto: per esempio in un caso l’articolo non includeva le conclusioni negative sulla correlazioni lunari e un altro studio era in una tesi di dottorato. Il fatto di aver trovato questi esempi semplicemente chiedendo in giro ai colleghi, come ci ha confermato uno degli autori, suggerisce che ce ne possano essere altri. Il quadro complessivo sarebbe quindi falsato proprio dal publication bias: i ricercatori guardano se l’effetto c’è, non lo trovano e non si prendono la briga di pubblicare il risultato negativo. Il problema è che non sappiamo quanti siano questi risultati negativi non pubblicati, quindi possiamo solo sospettare che il consenso sia più sfavorevole all’esistenza di influenze lunari sul sonno di come appare da quello che si trova in letteratura.
image
Entreremo più a fondo nei dettagli del publication bias nel prossimo numero, ma approfittiamo di questi studi sul sonno per fare un’altra considerazione più generale. Ci guida in parte Russell G. Foster, neuroscienziato dell’università di Oxford. Foster è uno degli autori di un citassimo articolo di rassegna sull’effetto dei cicli naturali sugli esseri umani[4]. Insieme all’esperto del sonno Vladyslav V. Vyazovskiy, sempre di Oxford, ha firmato un articolo di commento sullo stesso numero di Current Biology su cui sono usciti gli ultimi due lavori citati[5].
Foster e Vyazovskiy fanno due ragionamenti. Il primo è specifico della ricerca in questione, e cioè quale sia il protocollo sperimentale ideale per osservare un’influenza lunare sui cicli del sonno; ma è il secondo quello che ci interessa di più. Tutti gli studi citati non partono da un’ipotesi da mettere alla prova, ma cercano alla cieca correlazioni tra la fase della luna e i parametri osservati. Se avete seguito questa rubrica, ricorderete come facendo qualcosa del genere si corra il rischio di trovare, per esempio, implausibili correlazioni tra il segno zodiacale e le probabilità di fratturarsi l’omero o di sviluppare un’ulcera (ne abbiamo parlato nel numero 9). Allo stesso modo, si potrebbe probabilmente argomentare come andare a caccia di correlazioni senza avere un’ipotesi da mettere alla prova sia poco “Popperiano”: non c’è nulla da falsificare. Quello che Foster e Vyazovskiy suggeriscono è di prendere in considerazione tre meccanismi che potrebbero essere all’origine di un eventuale effetto lunare sul sonno, e progettare gli esperimenti in modo da verificarli separatamente: un vero e proprio “orologio biologico” interno, un effetto indiretto della luce lunare e un effetto cognitivo qualora il soggetto sia a conoscenza della fase corrente.
Però gli scettici osservano spesso, giustamente, come sia inutile cercare di trovare un meccanismo plausibile per spiegare l’astrologia prima di essere sicuri che in effetti ci sia una relazione tra la posizione dei pianeti e, per esempio, il carattere delle persone. Hanno anche dato un nome alla regola, la “massima di Hyman”: «Don’t try to explain HOW something works until you find out THAT it works» («non cercare di spiegare COME una cosa funziona prima di sapere SE funziona»). In realtà qui non si tratta di capire come funziona, ma di progettare un esperimento migliore per capire se effettivamente c’è un’influenza lunare sul sonno, dato che le tre ipotesi richiedono protocolli diversi. Insomma, come osservano gli stessi autori, un ennesimo caso di qualcosa che è più complicato di quanto appare a prima vista:
«More generally, the conundrum of ‘lunar effects on sleep’ represents an exemplary case of a scientific question which should be approached with caution, as it may seem much easier that it will likely be»
(Più in generale, il rompicapo degli effetti lunari sul sonno è un caso esemplare di problema scientifico da affrontare con cautela, dato che può sembrare molto più semplice di quanto probabilmente si rivelerà [traduzione mia])

Note


1) [CAJOCHEN2013] C. Cajochen et al., “Evidence that the Lunar Cycle Influences Human Sleep”, Curr. Biol. 23:1485–1488 (2013)
2) [SMITH2014] M. Smith, I. Croy e K.P. Waye, “Human sleep and cortical reactivity are influenced by the lunar phase” Curr. Biol. 24:R549-R550 (2014)
3) [CORDI2014] M. Cordi et al., “Lunar cycle effects on sleep and the file drawer problem” Curr. Biol. 24:R549-R550 (2014)
4) [FOSTER2008] R.G. Foster e T. Roenneberg, “Human response to the geophysical daily annual and lunar cycles” Curr. Biol. 18:R784-R794 (2008)
5) [FOSTER 2014] R.G. Foster, V.V. Vyazovskiy, “Sleep: A Biological Stimulus from Our Nearest Celestial Neighbour?” Curr. Biol. 24:R557-R560 (2014)