Il teorema


Premesso il

TEOREMA DELLA PROBABILITÀ TOTALE

Se \(H_1,\;\; H_2,\;\; ... ,\;\; H_n\) sono eventi esaustivi per Ω, insieme di tutte le possibilità, e a due a due incompatibili, allora $$p(E) = p(E|H_1)\cdot p(H_1) + p(E|H_2)\cdot p(H_2) + ... + p(E|H_n)\cdot p(H_n).$$

Infatti:
\(H_1\cap E,\;\; H_2\cap E,\;\; ... ,\;\; H_n\cap E\) sono eventi a due a due incompatibili e quindi $$p(E) = p(H_1\cap E) + p(H_2\cap E) + ... + p(H_n\cap E);$$ da qui, per la definizione di probabilità di eventi condizionati, segue la tesi.

Siamo ora in grado di dimostrare il

TEOREMA DI BAYES

Se \(H_1,\;\; H_2,\;\; ... ,\;\; H_n\) sono eventi esaustivi per Ω e a due a due incompatibili, allora: $$p(H_i|E)=\frac{ p(E|H_i)\cdot p(H_i)}{p(E|H_1)\cdot p(H_1)+p(E|H_2)\cdot p(H_2)+ ... +p(E|H_n)\cdot p(H_n)},\quad i =1,2, ..., n. $$

Ciò segue dal fatto che $$p(H_i|E)\cdot p(E) = p(H_i \cap E) = p(E|H_i)\cdot p(H_i)$$ e proprio dal teorema della probabilità totale.

Dunque quando si osserva un'evidenza \(E\), la nuova credenza in un'ipotesi \(H\) deve essere la vecchia credenza condizionata da \(E,\) \(P(H_i|E)\) deve essere assunto come nuovo \(P(H_i).\)

Si osservi che non si può più aggiornare una credenza alla quale non si crede per nulla, ridare fiducia a un'potesi che gode di fiducia nulla. Formalmente \(P(H) = 0 \implies P(H|E) = 0\) per qualsiasi evidenza \(E\), ovvero se il prior è nullo allora il posterior è sempre zero, qualunque cosa si osservi.
Questo è matematicamente ovvio ma filosoficamente significativo: un agente bayesiano non può essere assolutamente certo che un'ipotesi sia falsa prima di cominciare a raccogliere dati. Un razionale bayesiano deve tenere aperta, almeno in linea di principio, ogni ipotesi compatibile con le proprie conoscenze — assegnandole un prior piccolo ma strettamente positivo. L'aggiornamento farà il resto.

In termini più astratti possiamo dire che considerando la v.a. \((X,Y)\) con distribuzione di probabilità \(f_{(X,Y)}(x,y),\) da $$f_{(X,Y)}(x,y)=f_{Y|X=x}(y)f_X(x)=f_{X|Y=y}(x)f_Y(y)$$ si ha la formula di Bayes se \(Y\) è v.a. discreta $$f_{Y|X=x}(y)=\frac{f_{X|Y=y}(x)f_Y(y)}{f_X(x)}=\frac{f_{X|Y=y}(x)f_Y(y)}{\sum f_{X|Y=t}(x)f_Y(t)dt}$$ ovvero $$f_{Y|X=x}(y)=\frac{f_{X|Y=y}(x)f_Y(y)}{f_X(x)}=\frac{f_{X|Y=y}(x)f_Y(y)}{\int f_{X|Y=t}(x)f_Y(t)dt}$$ se \(Y\) è v.a. continua.

Secondo tutta la tradizione del bayesianesimo soggettivo, la formula di Bayes non è solo uno strumento utile ma la norma a cui ogni agente razionale deve conformarsi quando aggiorna le proprie credenze alla luce di nuove evidenze. Chi non aggiorna le sue credenze secondo Bayes può essere reso vittima di una sequenza di scommesse che necessariamente lo fa perdere qualunque cosa accada nel mondo. La razionalità, in questo senso, non è un ideale vago — ha una struttura matematica verificabile. Che la razionalità si riduca al requisito formale della coerenza è una delle intuizioni più potenti del bayesianesimo soggettivo. De Finetti dimostrò che

La psicologia cognitiva ha documentato con cura i modi in cui gli esseri umani aggiornano male le credenze. Tre sono particolarmente rilevanti.

Il conservatore si ferma a metà strada tra prior e posterior ideale; il bias di conferma gonfia la likelihood dell'ipotesi favorita e sgonfia quella dell'alternativa; il neglect del prior ignora completamente il prior e usa la likelihood grezza come stima. Con un prior basso (5%) e una likelihood alta (90%), il neglect del prior porta a stime sei o sette volte superiori a quella bayesiana corretta — un errore enorme in contesti medici o legali.

Il problema noto come paradosso di Monty Hall, poiché la soluzione può apparire controintuitiva, è relativo a un gioco a premi statunitense, Let's Make a Deal condotto da Monty Hall, in cui vengono mostrate al concorrente tre porte chiuse; dietro ad una si trova un'automobile, ciascuna delle altre due nasconde una capra. Il giocatore può scegliere una delle tre porte ma, prima che sia aperta, il conduttore dello show – che conosce ciò che si trova dietro ogni porta – apre una delle altre due rivelando una capra; offre poi al giocatore la possibilità di cambiare scelta passando all'unica porta restante.

Si può valutare che cambiare scelta aumenta la probabilità del giocatore di vincere l'automobile, portandole da 1/3 a 2/3.
Infatti:

Un'analisi del problema attraverso il teorema di Bayes rende esplicito l'effetto delle ipotesi sopra indicate.
Si consideri, senza perdere la generalità dell'analisi, che il concorrente scelga la porta 1 e che il conduttore riveli poi una capra dietro alla porta 3. La questione è allora se convenga rimanere sulla scelta iniziale della porta 1, oppure cambiare alla porta 2.
Il teorema di Bayes ci permette di calcolare rapidamente la probabilità a posteriori che l'automobile si trovi dietro la porta 2: \[{\displaystyle p(A2|C3)={\frac {p(C3|A2)p(A2)}{p(C3)}}={\frac {1\times {\frac {1}{3}}}{\frac {1}{2}}}={\frac {2}{3}},}\] poiché la probabilità a priori (utilizzando il gergo della statistica bayesiana) che l'automobile si trovi dietro la porta 2, denotata con \({\displaystyle p(A2)},\) è chiaramente 1/3, in quanto l'auto ha a priori la stessa probabilità di trovarsi dietro ciascuna porta. La probabilità a priori che il conduttore apra la porta 3, \({\displaystyle p(C3)},\) è invece 1/2, visto che il conduttore ha a priori due porte tra cui scegliere per rivelare una delle due capre. A posteriori invece, la probabilità che il conduttore apra la porta 3 per rivelare una capra, posto che l'automobile sia dietro la porta 2, \({\displaystyle p(C3|A2)},\) è uguale a 1, perché, avendo il concorrente già selezionato la porta 1, al conduttore resta la possibilità di aprire solamente la porta 3, visto che, se aprisse la porta 2, rivelerebbe l'automobile.
Nel caso in cui venga invece confermata la scelta iniziale della porta 1, si può calcolare ancora tramite il teorema di Bayes la probabilità di trovare qui l'automobile: \[{\displaystyle p(A1|C3)={\frac {p(C3|A1)p(A1)}{p(C3)}}={\frac {{\frac {1}{2}}\times {\frac {1}{3}}}{\frac {1}{2}}}={\frac {1}{3}},}\] poiché \({\displaystyle p(A1)=1/3}\) e \({\displaystyle p(C3)=1/2}\) come nel calcolo precedente, mentre la probabilità a posteriori che il conduttore apra la porta 3, posto che l'auto si trovi dietro la porta 1, \({\displaystyle p(C3|A1)},\) è qui uguale a 1/2, perché, avendo il concorrente scelto inizialmente la porta 1, c'è uguale probabilità che il conduttore scelga la porta 3 come la porta 2 per rivelarvi una capra.
Risulta pertanto dimostrato grazie al teorema di Bayes che la probabilità di trovare l'automobile modificando la scelta iniziale \({\displaystyle p(A2|C3)}\) è doppia rispetto alla probabilità di trovarla confermando la scelta iniziale \({\displaystyle p(A1|C3)}.\)

Scegli una porta per iniziare.

Statistiche cumulative

0
Partite totali
Vince auto cambiando
Vince auto restando
Vince cambiando
Vince non cambiando
Riferimenti sito/bibliografici