Analogie formali tra statistica e meccanica

Analogie formali tra statistica e meccanica

Condividi con i tuoi amici...

1. Introduzione: la parola “momento” come idea matematica generale

La parola momento compare in molti ambiti della matematica, della fisica e della statistica. A prima vista, il momento di una forza, il momento d’inerzia e i momenti di una distribuzione statistica sembrano concetti diversi. Tuttavia, dal punto di vista formale, essi condividono una struttura comune: misurano una certa quantità pesata rispetto a una distanza, a uno scarto o a una posizione.

In forma discreta, un momento ha spesso la struttura:

\[ M_k = \sum_i q_i d_i^k \]

dove \(q_i\) è una quantità pesante, come una massa, una probabilità, una frequenza o una forza; \(d_i\) è una distanza, una posizione o uno scarto; e \(k\) è l’ordine del momento. Nel caso continuo, la somma diventa un integrale:

\[ M_k = \int d^k \, dq \]

L’idea intuitiva è semplice: un momento misura quanto una quantità è distribuita lontano da un riferimento. Se l’ordine è uno, si parla di momento primo; se l’ordine è due, di momento secondo; e così via.

Questa struttura permette di mettere in parallelo:

  • la media statistica e il centro di massa;
  • la varianza e il momento d’inerzia;
  • la covarianza e i prodotti d’inerzia;
  • la matrice di covarianza e il tensore d’inerzia;
  • la diagonalizzazione statistica, cioè la PCA, e la ricerca degli assi principali d’inerzia.

2. Momenti statistici: media, varianza e momenti centrali

In statistica, si studiano dati o variabili aleatorie. Supponiamo di avere una variabile aleatoria \(X\). Il suo momento primo rispetto all’origine è:

\[ E[X] \]

Se la variabile assume valori discreti \(x_i\) con probabilità \(p_i\), allora:

\[ E[X] = \sum_i p_i x_i \]

Questa quantità è la media della distribuzione, solitamente indicata con \(\mu\):

\[ \mu = E[X] \]

La media non è soltanto un valore rappresentativo. Formalmente è il baricentro della distribuzione di probabilità. Se al posto delle probabilità si hanno masse \(m_i\) poste nelle posizioni \(x_i\), il centro di massa è:

\[ x_G = \frac{\sum_i m_i x_i}{\sum_i m_i} \]

Se si normalizzano le masse ponendo:

\[ p_i = \frac{m_i}{M} \qquad \text{con} \qquad M = \sum_i m_i \]

si ottiene:

\[ x_G = \sum_i p_i x_i \]

che è esattamente la formula della media. Dunque la media statistica è il centro di massa della distribuzione.

3. Varianza: il momento secondo centrale

La media dice dove si trova il centro della distribuzione, ma non dice quanto i dati siano dispersi attorno a quel centro. Per misurare la dispersione si usa la varianza:

\[ Var(X) = E[(X-\mu)^2] \]

Questa è un momento secondo centrale, perché è calcolata rispetto alla media \(\mu\), non rispetto all’origine.

Nel caso di dati \(x_1,\dots,x_n\), la varianza della popolazione è:

\[ \sigma^2 = \frac{1}{n}\sum_{i=1}^{n}(x_i-\mu)^2 \]

mentre, se i dati sono un campione usato per stimare la varianza di una popolazione, si usa spesso:

\[ s^2 = \frac{1}{n-1}\sum_{i=1}^{n}(x_i-\bar{x})^2 \]

Il denominatore \(n-1\) è la correzione di Bessel. Essa compensa il fatto che la media campionaria \(\bar{x}\) è già stata stimata usando gli stessi dati, lasciando quindi un grado di libertà in meno.

Intuitivamente, la varianza misura il quadrato della distanza media dei dati dal loro centro. Il quadrato serve a evitare che scarti positivi e negativi si cancellino. Infatti:

\[ \sum_i (x_i-\bar{x}) = 0 \]

Gli scarti semplici si annullano sempre. Gli scarti quadratici, invece, sono sempre non negativi e penalizzano maggiormente le deviazioni grandi.

4. Formula fondamentale della varianza

Una formula molto importante collega la varianza al momento secondo rispetto all’origine:

\[ Var(X) = E[X^2] – (E[X])^2 \]

Vediamone la dimostrazione. Per definizione:

\[ Var(X) = E[(X-\mu)^2] \]

Sviluppando il quadrato:

\[ (X-\mu)^2 = X^2 – 2\mu X + \mu^2 \]

dunque:

\[ Var(X) = E[X^2 – 2\mu X + \mu^2] \]

Per linearità del valore atteso:

\[ Var(X) = E[X^2] – 2\mu E[X] + \mu^2 \]

poiché \(E[X]=\mu\), si ha:

\[ Var(X) = E[X^2] – 2\mu^2 + \mu^2 \]

quindi:

\[ Var(X) = E[X^2] – \mu^2 \]

cioè:

\[ \boxed{Var(X)=E[X^2]-(E[X])^2} \]

Il significato è notevole: \(E[X^2]\) misura il momento secondo rispetto all’origine, mentre \(Var(X)\) misura il momento secondo rispetto al centro della distribuzione. La differenza tra i due è dovuta allo spostamento del centro rispetto all’origine.

5. Analogia con il momento d’inerzia

In meccanica, il momento d’inerzia di masse puntiformi \(m_i\) rispetto a un asse è:

\[ I = \sum_i m_i r_i^2 \]

dove \(r_i\) è la distanza della massa dall’asse. Nel continuo:

\[ I = \int r^2 \, dm \]

Il parallelismo con la varianza è immediato:

\[ Var(X)=\sum_i p_i (x_i-\mu)^2 \]

Se le probabilità \(p_i\) sono masse normalizzate, cioè:

\[ p_i = \frac{m_i}{M} \]

allora:

\[ Var(X)=\sum_i \frac{m_i}{M}(x_i-x_G)^2 \]

Moltiplicando per \(M\):

\[ M Var(X) = \sum_i m_i (x_i-x_G)^2 \]

Il membro destro è un momento d’inerzia rispetto al centro di massa, in una situazione unidimensionale. Perciò:

\[ \boxed{I_G = M Var(X)} \]

La varianza è dunque il momento d’inerzia di una distribuzione probabilistica normalizzata rispetto al suo centro.

6. Teorema degli assi paralleli e formula della varianza

In meccanica, il teorema degli assi paralleli, o teorema di Huygens-Steiner, afferma:

\[ I_O = I_G + M d^2 \]

dove \(I_O\) è il momento d’inerzia rispetto a un asse passante per l’origine, \(I_G\) è il momento d’inerzia rispetto all’asse parallelo passante per il centro di massa, \(M\) è la massa totale e \(d\) è la distanza tra i due assi.

In statistica, la formula:

\[ E[X^2] = Var(X) + \mu^2 \]

ha la stessa struttura. Se la massa totale è normalizzata a \(1\), allora il termine \(\mu^2\) corrisponde a \(Md^2\). Più in generale:

\[ \sum_i m_i x_i^2 = \sum_i m_i (x_i-x_G)^2 + Mx_G^2 \]

Questa formula è identica, formalmente, alla decomposizione statistica:

\[ E[X^2] = E[(X-\mu)^2] + \mu^2 \]

L’interpretazione intuitiva è questa: il momento rispetto all’origine contiene due contributi. Uno è la dispersione interna attorno al centro; l’altro è dovuto alla posizione del centro stesso rispetto all’origine.

7. Covarianza: momento misto di due variabili

La varianza riguarda una sola variabile. La covarianza riguarda invece due variabili \(X\) e \(Y\):

\[ Cov(X,Y)=E[(X-\mu_X)(Y-\mu_Y)] \]

Essa misura il modo in cui due variabili variano insieme.

  • Se \(Cov(X,Y)>0\), quando \(X\) cresce, \(Y\) tende a crescere.
  • Se \(Cov(X,Y)<0\), quando \(X\) cresce, \(Y\) tende a diminuire.
  • Se \(Cov(X,Y)=0\), non vi è relazione lineare media tra le due variabili.

La covarianza ha una formula alternativa analoga a quella della varianza:

\[ Cov(X,Y)=E[XY]-E[X]E[Y] \]

Dimostriamola. Per definizione:

\[ Cov(X,Y)=E[(X-\mu_X)(Y-\mu_Y)] \]

sviluppando:

\[ (X-\mu_X)(Y-\mu_Y) = XY – \mu_XY – \mu_YX + \mu_X\mu_Y \]

quindi:

\[ Cov(X,Y) = E[XY] – \mu_XE[Y] – \mu_YE[X] + \mu_X\mu_Y \]

poiché \(E[X]=\mu_X\) ed \(E[Y]=\mu_Y\):

\[ Cov(X,Y) = E[XY] – \mu_X\mu_Y – \mu_Y\mu_X + \mu_X\mu_Y \]

dunque:

\[ \boxed{Cov(X,Y)=E[XY]-E[X]E[Y]} \]

La varianza è un caso particolare della covarianza:

\[ Var(X)=Cov(X,X) \]

Infatti:

\[ Cov(X,X)=E[(X-\mu_X)(X-\mu_X)] = E[(X-\mu_X)^2] \]

cioè:

\[ Cov(X,X)=Var(X) \]

8. Correlazione: covarianza normalizzata

La covarianza dipende dalle unità di misura. Se \(X\) è misurata in metri e \(Y\) in euro, la covarianza è misurata in metri per euro. Per ottenere una quantità adimensionale si introduce la correlazione:

\[ \rho_{XY} = \frac{Cov(X,Y)}{\sigma_X\sigma_Y} \]

dove \(\sigma_X\) e \(\sigma_Y\) sono le deviazioni standard di \(X\) e \(Y\). La correlazione soddisfa:

\[ -1 \leq \rho_{XY} \leq 1 \]

Essa misura l’intensità della relazione lineare tra due variabili.

9. Matrice di covarianza

Quando si studiano più variabili insieme, varianze e covarianze vengono raccolte in una matrice. Per due variabili:

\[ \Sigma = \begin{pmatrix} Var(X) & Cov(X,Y) \\ Cov(Y,X) & Var(Y) \end{pmatrix} \]

Poiché:

\[ Cov(X,Y)=Cov(Y,X) \]

la matrice è simmetrica:

\[ \Sigma = \begin{pmatrix} \sigma_x^2 & \sigma_{xy} \\ \sigma_{xy} & \sigma_y^2 \end{pmatrix} \]

Per un vettore casuale centrato:

\[ Z = \begin{pmatrix} X-\mu_X \\ Y-\mu_Y \end{pmatrix} \]

la matrice di covarianza si scrive in forma compatta:

\[ \Sigma = E[ZZ^T] \]

Questa formula è fondamentale. Essa mostra che la matrice di covarianza è una matrice dei momenti secondi centrali.

Perché \(E[ZZ^T]\) è una matrice?

\(E[ZZ^T]\) è una matrice perché \(Z\) non è un numero: è un vettore colonna. Di conseguenza, \(ZZ^T\) non è un prodotto scalare, ma un prodotto esterno, e il prodotto esterno tra un vettore colonna e un vettore riga produce una matrice.

Supponiamo che:

\[ Z= \begin{pmatrix} X-\mu_X\\ Y-\mu_Y \end{pmatrix} \]

Allora \(Z^T\) è il vettore riga:

\[ Z^T= \begin{pmatrix} X-\mu_X & Y-\mu_Y \end{pmatrix} \]

Il prodotto \(ZZ^T\) è:

\[ ZZ^T= \begin{pmatrix} X-\mu_X\\ Y-\mu_Y \end{pmatrix} \begin{pmatrix} X-\mu_X & Y-\mu_Y \end{pmatrix} \]

cioè:

\[ ZZ^T= \begin{pmatrix} (X-\mu_X)^2 & (X-\mu_X)(Y-\mu_Y)\\ (Y-\mu_Y)(X-\mu_X) & (Y-\mu_Y)^2 \end{pmatrix} \]

Questa è già una matrice casuale, perché i suoi elementi dipendono dalle variabili casuali \(X\) e \(Y\).

Ora applichiamo il valore atteso \(E[\cdot]\) a ogni elemento della matrice:

\[ E[ZZ^T]= \begin{pmatrix} E[(X-\mu_X)^2] & E[(X-\mu_X)(Y-\mu_Y)]\\ E[(Y-\mu_Y)(X-\mu_X)] & E[(Y-\mu_Y)^2] \end{pmatrix} \]

Ma questi elementi sono proprio:

\[ E[(X-\mu_X)^2]=Var(X) \] \[ E[(Y-\mu_Y)^2]=Var(Y) \] \[ E[(X-\mu_X)(Y-\mu_Y)]=Cov(X,Y) \]

Quindi:

\[ E[ZZ^T]= \begin{pmatrix} Var(X) & Cov(X,Y)\\ Cov(Y,X) & Var(Y) \end{pmatrix} \]

cioè la matrice di covarianza.

Attenzione al verso del prodotto

Se \(Z\) è un vettore colonna \(2\times 1\), allora:

\[ ZZ^T \]

ha dimensione:

\[ (2\times 1)(1\times 2)=(2\times 2) \]

quindi è una matrice.

Invece:

\[ Z^TZ \]

ha dimensione:

\[ (1\times 2)(2\times 1)=(1\times 1) \]

quindi è uno scalare:

\[ Z^TZ=(X-\mu_X)^2+(Y-\mu_Y)^2 \]

Questo è il quadrato della distanza del punto dalla media.

In sintesi:

\[ \boxed{E[ZZ^T] \text{ è una matrice perché } ZZ^T \text{ è una matrice}} \] \[ \boxed{E[Z^TZ] \text{ è uno scalare perché } Z^TZ \text{ è uno scalare}} \]

Intuitivamente, \(ZZ^T\) conserva tutte le informazioni sui prodotti tra componenti, mentre \(Z^TZ\) le somma tutte in un unico numero.

10. Forma quadratica della varianza lungo una direzione

Supponiamo di voler misurare la varianza della nuvola di dati lungo una direzione unitaria \(a\):

\[ a = \begin{pmatrix} a_1 \\ a_2 \end{pmatrix}, \qquad a^Ta=1 \]

La proiezione dei dati centrati \(Z\) lungo \(a\) è:

\[ U = a^TZ \]

La varianza di \(U\) è:

\[ Var(U)=E[U^2] \]

ma:

\[ U=a^TZ \]

dunque:

\[ Var(U)=E[(a^TZ)^2] \]

Ora:

\[ (a^TZ)^2 = a^TZZ^Ta \]

quindi:

\[ Var(U)=E[a^TZZ^Ta] \]

portando fuori \(a\), che è costante:

\[ Var(U)=a^TE[ZZ^T]a \]

e poiché \(E[ZZ^T]=\Sigma\):

\[ \boxed{Var(a^TZ)=a^T\Sigma a} \]

Questa è una forma quadratica. La matrice \(\Sigma\) assegna a ogni direzione \(a\) la varianza dei dati proiettati su quella direzione.

11. Diagonalizzazione e assi principali della covarianza

Gli assi principali della distribuzione sono le direzioni lungo cui la varianza è massima o minima. Per trovarli si massimizza:

\[ a^T\Sigma a \]

con il vincolo:

\[ a^Ta=1 \]

Usando i moltiplicatori di Lagrange, si considera:

\[ L(a,\lambda)=a^T\Sigma a-\lambda(a^Ta-1) \]

Derivando rispetto ad \(a\):

\[ 2\Sigma a – 2\lambda a = 0 \]

quindi:

\[ \Sigma a = \lambda a \]

Questa è l’equazione agli autovalori. Dunque:

\[ \boxed{\text{gli assi principali sono gli autovettori di } \Sigma} \]

e gli autovalori sono le varianze lungo tali assi:

\[ Var(a^TZ)=a^T\Sigma a=\lambda \]

se \(a\) è un autovettore unitario.

Se \(Q\) è la matrice formata dagli autovettori ortonormali di \(\Sigma\), allora:

\[ Q^T\Sigma Q = \begin{pmatrix} \lambda_1 & 0 \\ 0 & \lambda_2 \end{pmatrix} \]

Nelle nuove coordinate, la matrice di covarianza è diagonale:

\[ \Sigma’ = Q^T\Sigma Q \]

I termini fuori diagonale, cioè le covarianze, spariscono. Questo significa che le nuove variabili sono non correlate. Geometricamente, abbiamo ruotato gli assi fino ad allinearli con la direzione naturale della nuvola di punti.

12. Esempio statistico: covarianza positiva

Consideriamo:

\[ \Sigma = \begin{pmatrix} 4 & 2 \\ 2 & 4 \end{pmatrix} \]

Qui le due variabili hanno la stessa varianza e covarianza positiva. La nuvola dei punti è allungata lungo la diagonale \(y=x\).

Gli autovalori si trovano da:

\[ \det(\Sigma-\lambda I)=0 \]

cioè:

\[ \det \begin{pmatrix} 4-\lambda & 2 \\ 2 & 4-\lambda \end{pmatrix} =0 \] \[ (4-\lambda)^2-4=0 \]

quindi:

\[ \lambda_1=6, \qquad \lambda_2=2 \]

Gli autovettori corrispondenti sono:

\[ v_1 = \frac{1}{\sqrt{2}} \begin{pmatrix} 1 \\ 1 \end{pmatrix}, \qquad v_2 = \frac{1}{\sqrt{2}} \begin{pmatrix} 1 \\ -1 \end{pmatrix} \]

Dunque la massima varianza è lungo \(y=x\), mentre la minima è lungo \(y=-x\).

13. Esempio statistico: punti su una retta

Prendiamo i punti:

\[ (1,1),\quad (2,2),\quad (3,3),\quad (4,4) \]

Essi stanno esattamente sulla retta \(y=x\). La media è:

\[ \bar{x}=\bar{y}=2.5 \]

Gli scarti sono:

\[ (-1.5,-1.5),\quad (-0.5,-0.5),\quad (0.5,0.5),\quad (1.5,1.5) \]

Con denominatore \(n\), si ottiene:

\[ Var(X)=Var(Y)=1.25 \]

e:

\[ Cov(X,Y)=1.25 \]

quindi:

\[ \Sigma = \begin{pmatrix} 1.25 & 1.25 \\ 1.25 & 1.25 \end{pmatrix} \]

Gli autovalori sono:

\[ \lambda_1=2.5, \qquad \lambda_2=0 \]

Il primo autovettore è lungo \(y=x\), il secondo lungo \(y=-x\). L’autovalore nullo indica che non vi è dispersione nella direzione perpendicolare alla retta. Questo è il caso più semplice di analisi delle componenti principali.

14. Tensore d’inerzia: definizione

In meccanica, il tensore d’inerzia descrive come la massa di un corpo è distribuita rispetto agli assi di rotazione. In tre dimensioni esso è:

\[ I = \begin{pmatrix} I_{xx} & I_{xy} & I_{xz} \\ I_{yx} & I_{yy} & I_{yz} \\ I_{zx} & I_{zy} & I_{zz} \end{pmatrix} \]

Con la convenzione usuale:

\[ I_{xx}=\int(y^2+z^2)\,dm \] \[ I_{yy}=\int(x^2+z^2)\,dm \] \[ I_{zz}=\int(x^2+y^2)\,dm \]

e:

\[ I_{xy}=I_{yx}=-\int xy\,dm \] \[ I_{xz}=I_{zx}=-\int xz\,dm \] \[ I_{yz}=I_{zy}=-\int yz\,dm \]

I termini diagonali sono momenti d’inerzia rispetto agli assi coordinati. I termini fuori diagonale sono prodotti d’inerzia. Essi misurano l’accoppiamento tra assi diversi.

Il tensore d’inerzia è simmetrico, come la matrice di covarianza:

\[ I_{ij}=I_{ji} \]

15. Momento angolare e velocità angolare

Nel moto rotatorio, il momento angolare \(\vec{L}\) è legato alla velocità angolare \(\vec{\omega}\) da:

\[ \vec{L}=I\vec{\omega} \]

Se \(I\) fosse un semplice numero, allora \(\vec{L}\) sarebbe sempre parallelo a \(\vec{\omega}\). Ma poiché \(I\) è una matrice, in generale \(\vec{L}\) può non essere parallelo a \(\vec{\omega}\).

Gli assi principali d’inerzia sono le direzioni per cui una rotazione attorno a quell’asse produce un momento angolare parallelo alla velocità angolare. Formalmente:

\[ I\vec{\omega}=\lambda \vec{\omega} \]

Questa è di nuovo l’equazione agli autovalori. Quindi:

\[ \boxed{\text{gli assi principali d’inerzia sono gli autovettori di } I} \]

e:

\[ \boxed{\text{i momenti principali d’inerzia sono gli autovalori di } I} \]

16. Energia cinetica rotazionale come forma quadratica

Il cuore formale dell’analogia è che anche il tensore d’inerzia definisce una forma quadratica. L’energia cinetica rotazionale è:

\[ T=\frac12 \vec{\omega}^T I \vec{\omega} \]

Se \(\vec{\omega}=\omega v\), con \(v\) unitario e autovettore di \(I\), cioè:

\[ Iv=\lambda v \]

allora:

\[ T=\frac12(\omega v)^T I(\omega v) \] \[ T=\frac12\omega^2 v^T I v \] \[ T=\frac12\omega^2 v^T \lambda v \] \[ T=\frac12\lambda\omega^2 v^Tv \]

poiché \(v^Tv=1\):

\[ \boxed{T=\frac12\lambda\omega^2} \]

Dunque l’autovalore \(\lambda\) è proprio il momento d’inerzia rispetto all’asse principale \(v\).

17. Esempio meccanico in due dimensioni

Consideriamo un tensore piano:

\[ I = \begin{pmatrix} 5 & -2 \\ -2 & 5 \end{pmatrix} \]

Gli autovalori sono dati da:

\[ \det(I-\lambda I_2)=0 \] \[ \det \begin{pmatrix} 5-\lambda & -2 \\ -2 & 5-\lambda \end{pmatrix} =0 \] \[ (5-\lambda)^2-4=0 \]

quindi:

\[ \lambda_1=3, \qquad \lambda_2=7 \]

Gli autovettori sono:

\[ v_1= \frac{1}{\sqrt{2}} \begin{pmatrix} 1\\ 1 \end{pmatrix}, \qquad v_2= \frac{1}{\sqrt{2}} \begin{pmatrix} 1\\ -1 \end{pmatrix} \]

Negli assi ruotati di \(45^\circ\), il tensore diventa:

\[ I’= \begin{pmatrix} 3 & 0 \\ 0 & 7 \end{pmatrix} \]

I prodotti d’inerzia sono scomparsi. Questo significa che le rotazioni attorno agli assi principali non producono accoppiamenti trasversali tra momento angolare e velocità angolare.

18. Perché la diagonalizzazione elimina i termini misti

Sia \(A\) una matrice simmetrica, che può rappresentare una matrice di covarianza o un tensore d’inerzia. Una matrice simmetrica può essere diagonalizzata mediante una matrice ortogonale \(Q\):

\[ A = Q\Lambda Q^T \]

dove \(\Lambda\) è diagonale:

\[ \Lambda = \begin{pmatrix} \lambda_1 & 0 & 0\\ 0 & \lambda_2 & 0\\ 0 & 0 & \lambda_3 \end{pmatrix} \]

Cambiare sistema di riferimento mediante \(Q\) significa ruotare gli assi. La matrice nel nuovo sistema è:

\[ A’ = Q^TAQ \]

Se le colonne di \(Q\) sono gli autovettori di \(A\), allora:

\[ A’=\Lambda \]

cioè la matrice è diagonale. In termini geometrici, la diagonalizzazione sceglie assi orientati secondo le direzioni naturali della forma quadratica. In statistica spariscono le covarianze; in meccanica spariscono i prodotti d’inerzia.

19. Ortogonalità degli assi principali

Poiché la matrice di covarianza e il tensore d’inerzia sono simmetrici, i loro autovettori associati ad autovalori distinti sono ortogonali.

Dimostriamolo. Sia:

\[ Av_1=\lambda_1v_1 \]

e:

\[ Av_2=\lambda_2v_2 \]

con \(\lambda_1\neq\lambda_2\). Moltiplicando la prima equazione a sinistra per \(v_2^T\):

\[ v_2^TAv_1=\lambda_1 v_2^Tv_1 \]

Dalla seconda:

\[ v_1^TAv_2=\lambda_2 v_1^Tv_2 \]

Poiché \(A=A^T\), si ha:

\[ v_2^TAv_1 = v_1^TAv_2 \]

quindi:

\[ \lambda_1 v_1^Tv_2 = \lambda_2 v_1^Tv_2 \] \[ (\lambda_1-\lambda_2)v_1^Tv_2=0 \]

essendo \(\lambda_1\neq\lambda_2\), segue:

\[ \boxed{v_1^Tv_2=0} \]

Gli assi principali sono dunque perpendicolari.

20. Ellisse di covarianza ed ellissoide d’inerzia

In statistica, una matrice di covarianza bidimensionale definisce ellissi del tipo:

\[ z^T\Sigma^{-1}z = c \]

Diagonalizzando:

\[ \Sigma = Q\Lambda Q^T \]

e ponendo:

\[ u=Q^Tz \]

si ottiene:

\[ u^T\Lambda^{-1}u=c \]

cioè:

\[ \frac{u_1^2}{\lambda_1} + \frac{u_2^2}{\lambda_2} = c \]

Gli assi dell’ellisse sono quindi orientati secondo gli autovettori, e le loro lunghezze sono proporzionali a \(\sqrt{\lambda_1}\) e \(\sqrt{\lambda_2}\).

In meccanica, l’energia cinetica rotazionale definisce superfici:

\[ \omega^T I \omega = c \]

Diagonalizzando \(I\), si ottiene:

\[ \lambda_1{\omega’_1}^2+ \lambda_2{\omega’_2}^2+ \lambda_3{\omega’_3}^2 = c \]

Anche qui gli assi dell’ellissoide sono gli autovettori del tensore d’inerzia.

21. Collegamento tra matrice dei momenti secondi e tensore d’inerzia

Per comprendere più profondamente il parallelismo tra covarianza e inerzia, definiamo la matrice dei momenti secondi di massa:

\[ C=\int rr^T\,dm \]

dove:

\[ r= \begin{pmatrix} x\\ y\\ z \end{pmatrix} \]

Allora:

\[ C = \begin{pmatrix} \int x^2\,dm & \int xy\,dm & \int xz\,dm\\ \int xy\,dm & \int y^2\,dm & \int yz\,dm\\ \int xz\,dm & \int yz\,dm & \int z^2\,dm \end{pmatrix} \]

Il tensore d’inerzia si può scrivere:

\[ I = \int \left((r^Tr)I_3 – rr^T\right)\,dm \]

cioè:

\[ \boxed{I = Tr(C)I_3 – C} \]

Questa formula è molto importante. Essa mostra che il tensore d’inerzia è strettamente legato alla matrice dei secondi momenti della distribuzione di massa.

Se:

\[ Cv=\lambda v \]

allora:

\[ Iv=(Tr(C)I_3-C)v \] \[ Iv=Tr(C)v-Cv \] \[ Iv=(Tr(C)-\lambda)v \]

Dunque \(C\) e \(I\) hanno gli stessi autovettori. Cambiano gli autovalori, ma le direzioni principali sono le stesse.

22. Differenza concettuale tra covarianza e inerzia

L’analogia formale è molto forte, ma non bisogna confondere i significati fisici. La covarianza misura la dispersione lungo una direzione. Il momento d’inerzia misura invece la distanza della massa da un asse.

Per esempio, se due masse puntiformi stanno sulla diagonale \(y=x\), la dispersione statistica è massima lungo \(y=x\). Ma il momento d’inerzia rispetto all’asse \(y=x\) è minimo, perché le masse giacciono sull’asse stesso. Rispetto all’asse perpendicolare, invece, il momento d’inerzia è massimo.

Quindi le direzioni principali sono collegate, ma gli autovalori vanno interpretati in modo diverso.

23. Momento di una forza e momento d’inerzia

Il momento di una forza rispetto a un punto è:

\[ \vec{M} = \vec{r}\times\vec{F} \]

In modulo:

\[ M = Fd \]

dove \(d\) è il braccio della forza, cioè la distanza perpendicolare dalla linea d’azione della forza al punto di rotazione.

Il momento di una forza è un momento di primo ordine rispetto alla distanza:

\[ \text{momento della forza} = \text{forza} \times \text{distanza} \]

Il momento d’inerzia, invece, è di secondo ordine:

\[ I = \sum_i m_i r_i^2 \]

Il primo misura la tendenza a produrre rotazione; il secondo misura la resistenza a cambiare stato di rotazione.

24. Presupposti del calcolo statistico

Per applicare correttamente media, varianza, covarianza e correlazione, occorre ricordare alcuni presupposti.

24.1 Popolazione e campione

Bisogna distinguere tra popolazione e campione. La popolazione è l’insieme completo degli elementi di interesse. Il campione è una parte osservata della popolazione. Se si vuole stimare una proprietà della popolazione, il campione deve essere rappresentativo.

24.2 Indipendenza delle osservazioni

Molte formule statistiche presuppongono che le osservazioni siano indipendenti. Se i dati sono fortemente correlati nel tempo o nello spazio, la varianza e la covarianza vanno interpretate con cautela.

24.3 Stabilità del fenomeno

Se il fenomeno cambia durante la raccolta dei dati, la media e la varianza possono mescolare situazioni differenti. In quel caso, la distribuzione osservata potrebbe non rappresentare un unico fenomeno stabile.

24.4 Esistenza dei momenti

Per parlare di media e varianza, esse devono esistere ed essere finite. Alcune distribuzioni teoriche hanno media o varianza non definite.

24.5 Significato della scala di misura

La media e la varianza hanno senso per grandezze quantitative, ma non sempre per dati puramente categoriali. Non ha senso, per esempio, fare la media di categorie prive di ordine o distanza numerica significativa.

25. Schema riassuntivo delle analogie

Statistica Meccanica Struttura formale
Media \(E[X]\) Centro di massa \(x_G\) Momento primo normalizzato
Varianza \(E[(X-\mu)^2]\) Momento d’inerzia centrale Momento secondo centrale
Formula \(Var(X)=E[X^2]-\mu^2\) Teorema degli assi paralleli Separazione tra dispersione interna e spostamento del centro
Covarianza \(E[(X-\mu_X)(Y-\mu_Y)]\) Prodotti d’inerzia Momenti misti
Matrice di covarianza \(\Sigma\) Tensore d’inerzia \(I\) Matrice simmetrica di momenti secondi
Autovettori di \(\Sigma\) Autovettori di \(I\) Assi principali
Autovalori di \(\Sigma\) Autovalori di \(I\) Varianze principali / momenti principali
PCA Ricerca degli assi principali d’inerzia Diagonalizzazione di una forma quadratica

26. Conclusione

Il filo conduttore tra statistica e meccanica è il concetto di momento. In statistica, i momenti descrivono la distribuzione dei dati: la media localizza il centro, la varianza misura la dispersione, la covarianza misura l’accoppiamento tra variabili, e la matrice di covarianza descrive la geometria complessiva della nuvola dei dati.

In meccanica, i momenti descrivono la distribuzione delle masse e l’effetto delle forze: il centro di massa è una media pesata, il momento d’inerzia è una misura della distribuzione della massa rispetto a un asse, i prodotti d’inerzia misurano accoppiamenti tra assi, e il tensore d’inerzia descrive la risposta rotazionale del corpo.

La diagonalizzazione è il procedimento che rivela gli assi naturali della distribuzione. Nel caso statistico, tali assi sono le direzioni di massima e minima varianza. Nel caso meccanico, sono gli assi rispetto ai quali momento angolare e velocità angolare risultano paralleli.

Formalmente, entrambi i problemi si riducono allo studio di matrici simmetriche e forme quadratiche:

\[ a^T\Sigma a \]

per la varianza lungo una direzione, e:

\[ \omega^T I \omega \]

per l’energia rotazionale. In entrambi i casi, gli autovettori danno gli assi principali e gli autovalori danno le grandezze principali associate.

L’intuizione finale è questa: la statistica studia la geometria di una distribuzione di dati, mentre la meccanica studia la geometria di una distribuzione di massa e di forze. Le formule sono diverse nel significato fisico, ma profondamente omologhe nella loro struttura matematica.