Il teorema
Premesso il
TEOREMA DELLA PROBABILITÀ TOTALE
Se \(H_1,\;\; H_2,\;\; ... ,\;\; H_n\) sono eventi esaustivi per Ω, insieme di tutte le possibilità, e a due a due incompatibili, allora $$p(E) = p(E|H_1)\cdot p(H_1) + p(E|H_2)\cdot p(H_2) + ... + p(E|H_n)\cdot p(H_n).$$
Infatti:
\(H_1\cap E,\;\; H_2\cap E,\;\; ... ,\;\; H_n\cap E\) sono eventi a due a due incompatibili e quindi
$$p(E) = p(H_1\cap E) + p(H_2\cap E) + ... + p(H_n\cap E);$$
da qui, per la definizione di probabilità di eventi condizionati, segue la tesi.
TEOREMA DI BAYES
Se \(H_1,\;\; H_2,\;\; ... ,\;\; H_n\) sono eventi esaustivi per Ω e a due a due incompatibili, allora: $$p(H_i|E)=\frac{ p(E|H_i)\cdot p(H_i)}{p(E|H_1)\cdot p(H_1)+p(E|H_2)\cdot p(H_2)+ ... +p(E|H_n)\cdot p(H_n)},\quad i =1,2, ..., n. $$
Ciò segue dal fatto che $$p(H_i|E)\cdot p(E) = p(H_i \cap E) = p(E|H_i)\cdot p(H_i)$$ e proprio dal teorema della probabilità totale.
Dunque quando si osserva un'evidenza \(E\), la nuova credenza in un'ipotesi \(H\) deve essere la vecchia credenza condizionata da \(E,\) \(P(H_i|E)\) deve essere assunto come nuovo \(P(H_i).\)
Si osservi che non si può più aggiornare una credenza alla quale non si crede per nulla, ridare fiducia a un'potesi che gode di fiducia nulla. Formalmente \(P(H) = 0 \implies P(H|E) = 0\) per qualsiasi evidenza \(E\), ovvero se il prior è nullo allora il posterior è sempre zero, qualunque cosa si osservi.
Questo è matematicamente ovvio ma filosoficamente significativo: un agente bayesiano non può essere assolutamente certo che un'ipotesi sia falsa prima di cominciare a raccogliere dati. Un razionale bayesiano deve tenere aperta, almeno in linea di principio, ogni ipotesi compatibile con le proprie conoscenze — assegnandole un prior piccolo ma strettamente positivo. L'aggiornamento farà il resto.
In termini più astratti possiamo dire che considerando la v.a. \((X,Y)\) con distribuzione di probabilità \(f_{(X,Y)}(x,y),\) da $$f_{(X,Y)}(x,y)=f_{Y|X=x}(y)f_X(x)=f_{X|Y=y}(x)f_Y(y)$$ si ha la formula di Bayes se \(Y\) è v.a. discreta $$f_{Y|X=x}(y)=\frac{f_{X|Y=y}(x)f_Y(y)}{f_X(x)}=\frac{f_{X|Y=y}(x)f_Y(y)}{\sum f_{X|Y=t}(x)f_Y(t)dt}$$ ovvero $$f_{Y|X=x}(y)=\frac{f_{X|Y=y}(x)f_Y(y)}{f_X(x)}=\frac{f_{X|Y=y}(x)f_Y(y)}{\int f_{X|Y=t}(x)f_Y(t)dt}$$ se \(Y\) è v.a. continua.
Secondo tutta la tradizione del bayesianesimo soggettivo, la formula di Bayes non è solo uno strumento utile ma la norma a cui ogni agente razionale deve conformarsi quando aggiorna le proprie credenze alla luce di nuove evidenze. Chi non aggiorna le sue credenze secondo Bayes può essere reso vittima di una sequenza di scommesse che necessariamente lo fa perdere qualunque cosa accada nel mondo. La razionalità, in questo senso, non è un ideale vago — ha una struttura matematica verificabile. Che la razionalità si riduca al requisito formale della coerenza è una delle intuizioni più potenti del bayesianesimo soggettivo. De Finetti dimostrò che
- un sistema di credenze è coerente, nel senso che nessun avversario può costruire una serie di scommesse (Dutch book) che garantiscono una perdita certa di denaro a prescindere da ciò che accade, se e solo se rispetta gli assiomi della probabilità,
- l'unico modo di passare da un sistema coerente a un altro sistema coerente alla luce di nuove evidenze è aggiornare le credenze secondo Bayes.
La psicologia cognitiva ha documentato con cura i modi in cui gli esseri umani aggiornano male le credenze. Tre sono particolarmente rilevanti.
- Il conservatorismo, quando si aggiorna nella direzione giusta ma in misura insufficiente. Se un test medico è positivo, un paziente razionale dovrebbe aggiornare drasticamente la propria stima di essere malato. La ricerca mostra tuttavia che tali aggiornamenti sono sistematicamente più piccoli di quelli prescritti da Bayes: si crede un po' di più alla malattia, ma non abbastanza.
- Il bias di conferma, per cui si tende a cercare evidenze che confermino le ipotesi già credute, ignorando o sottovalutando quelle che le sconfessano. Questo equivale a trattare le evidenze sfavorevoli come se avessero likelihood più bassa di quanto non sia — un errore sistematico nella stima di \(p(E|H).\)
- La neglect del prior è forse il più sottile, quando si riceve un'evidenza vivida e concreta e si tende a ignorare le probabilità di base. Il classico esempio è l'errore del "tasso di base" documentato da Kahneman e Tversky: se si descrive una persona come "silenziosa, introversa, appassionata di libri", molti la classificano come bibliotecaria anziché come venditrice — anche se ci sono molte più venditori che bibliotecari nel mondo, e dunque il prior favorisce fortemente la seconda categoria.
Il problema noto come paradosso di Monty Hall, poiché la soluzione può apparire controintuitiva, è relativo a un gioco a premi statunitense, Let's Make a Deal condotto da Monty Hall, in cui vengono mostrate al concorrente tre porte chiuse; dietro ad una si trova un'automobile, ciascuna delle altre due nasconde una capra. Il giocatore può scegliere una delle tre porte ma, prima che sia aperta, il conduttore dello show – che conosce ciò che si trova dietro ogni porta – apre una delle altre due rivelando una capra; offre poi al giocatore la possibilità di cambiare scelta passando all'unica porta restante.
Si può valutare che cambiare scelta aumenta la probabilità del giocatore di vincere l'automobile, portandole da 1/3 a 2/3.
Infatti:
- quando scegli inizialmente, hai il 33% di probabilità di aver scelto l'auto;
- quindi c'è il 66% di probabilità che l'auto sia in una delle altre due porte;
- Monty elimina una capra tra quelle, "concentrando" quel 66% nell'unica porta rimasta;
- quindi la porta che non hai scelto e non è stata aperta ha il 66% di probabilità;
Un'analisi del problema attraverso il teorema di Bayes rende esplicito l'effetto delle ipotesi sopra indicate.
Si consideri, senza perdere la generalità dell'analisi, che il concorrente scelga la porta 1 e che il conduttore riveli poi una capra dietro alla porta 3. La questione è allora se convenga rimanere sulla scelta iniziale della porta 1, oppure cambiare alla porta 2.
Il teorema di Bayes ci permette di calcolare rapidamente la probabilità a posteriori che l'automobile si trovi dietro la porta 2:
\[{\displaystyle p(A2|C3)={\frac {p(C3|A2)p(A2)}{p(C3)}}={\frac {1\times {\frac {1}{3}}}{\frac {1}{2}}}={\frac {2}{3}},}\]
poiché la probabilità a priori (utilizzando il gergo della statistica bayesiana) che l'automobile si trovi dietro la porta 2, denotata con \({\displaystyle p(A2)},\) è chiaramente 1/3, in quanto l'auto ha a priori la stessa probabilità di trovarsi dietro ciascuna porta. La probabilità a priori che il conduttore apra la porta 3,
\({\displaystyle p(C3)},\) è invece 1/2, visto che il conduttore ha a priori due porte tra cui scegliere per rivelare una delle due capre. A posteriori invece, la probabilità che il conduttore apra la porta 3 per rivelare una capra, posto che l'automobile sia dietro la porta 2, \({\displaystyle p(C3|A2)},\) è uguale a 1, perché, avendo il concorrente già selezionato la porta 1, al conduttore resta la possibilità di aprire solamente la porta 3, visto che, se aprisse la porta 2, rivelerebbe l'automobile.
Nel caso in cui venga invece confermata la scelta iniziale della porta 1, si può calcolare ancora tramite il teorema di Bayes la probabilità di trovare qui l'automobile:
\[{\displaystyle p(A1|C3)={\frac {p(C3|A1)p(A1)}{p(C3)}}={\frac {{\frac {1}{2}}\times {\frac {1}{3}}}{\frac {1}{2}}}={\frac {1}{3}},}\]
poiché \({\displaystyle p(A1)=1/3}\) e \({\displaystyle p(C3)=1/2}\) come nel calcolo precedente, mentre la probabilità a posteriori che il conduttore apra la porta 3, posto che l'auto si trovi dietro la porta 1, \({\displaystyle p(C3|A1)},\) è qui uguale a 1/2, perché, avendo il concorrente scelto inizialmente la porta 1, c'è uguale probabilità che il conduttore scelga la porta 3 come la porta 2 per rivelarvi una capra.
Risulta pertanto dimostrato grazie al teorema di Bayes che la probabilità di trovare l'automobile modificando la scelta iniziale \({\displaystyle p(A2|C3)}\) è doppia rispetto alla probabilità di trovarla confermando la scelta iniziale \({\displaystyle p(A1|C3)}.\)