Aldagai anitzeko banaketa normal

Probabilitatean eta estatistikan, aldagai anitzeko banaketa normala — aldagai anitzeko banaketa gaussarra ere deitua— dimentsio bakarreko banaketa normalaren dimentsio handiagoetara orokortzea da.

Definizioa

Notazioa

${\displaystyle X=[X_{1},\dots ,X_{n}]^{T}}$ dimentsioko ausazko bektore bat baldin bada ${\displaystyle n}$ aldagai anitzeko banaketa normal normalarekin, orduan idazten dugu:

${\displaystyle X\ \sim {\mathcal {N}}(\mu ,\Sigma )}$

edo ${\displaystyle X}$ ${\displaystyle n}$ dimentsioaren bektorea dela esan nahi badugu, orduan, erabiliko dugu:

${\displaystyle X\sim {\mathcal {N}}_{n}(\mu ,\Sigma )}$

Ausazko bektorea, ${\displaystyle X=[X_{1},\dots ,X_{n}]^{T}}$, aldagai anitzeko banaketa normalari jarraitzen dio baldintza baliokide hauek betetzen baditu:

• Edozein konbinazio lineal ${\displaystyle Y=a_{1}X_{1}+\cdots +a_{n}X_{n}}$ normal banatuta dago.
• Ausazko bektore bat dago, ${\displaystyle Z=[Z_{1},\dots ,Z_{m}]^{T}}$, eta bere osagaiak estandar normalaren arabera banatutako ausazko aldagai independenteak dira, bektore bat, ${\displaystyle \mu =[\mu _{1},\dots ,\mu _{n}]^{T}}$, eta matrize bat, ${\displaystyle n\times m}$${\displaystyle A}$, hala nola ${\displaystyle X=AZ+\mu }$ .
• Bektore bat dago, ${\displaystyle \mu }$, eta matrize erdidefinitu positibo simetriko bat, ${\displaystyle \Sigma }$; beraz, funtzio ezaugarria ${\displaystyle X}$ da

${\displaystyle \phi _{X}\left(u;\mu ,\Sigma \right)=\exp \left(i\mu ^{\top }u-{\frac {1}{2}}u^{\top }\Sigma u\right).}$

${\displaystyle \Sigma }$ matrize ez-singular bat bada, orduan, banaketa dentsitate-funtzio honen bidez deskriba daiteke:

${\displaystyle f_{X}(x_{1},\dots ,x_{n})={\frac {1}{(2\pi )^{n/2}|\Sigma |^{1/2}}}\exp \left(-{\frac {1}{2}}({\mathbf {x}}-{\mathbf {\mu }})^{\top }\Sigma ^{-1}({\mathbf {x}}-{\mathbf {\mu }})\right)}$

non ${\displaystyle \left|\Sigma \right|}$-k ${\displaystyle \Sigma }$ matrizearen determinantea adierazten duen. Kontuan har nola goiko ekuazioa banaketa normalera murrizten den baldin eta ${\displaystyle \Sigma }$ eskalar bat bada (hau da, 1x1 matrizea).

Bektorea, ${\displaystyle \mu }$ egoera hauetan, ${\displaystyle X}$-ren itxaropena da, eta ${\displaystyle \Sigma =AA^{T}}$ matrizea ${\displaystyle X_{j}}$ osagaien kobariantza matrizea da.

Kobariantza matrizea singularra izan daitekeela ulertzea garrantzitsua da (nahiz eta goiko formulak horrela deskribatzen ez duen, zeinarentzat ${\displaystyle \Sigma ^{-1}}$ definituta dagoen).

Egoera hori maiz agertzen da estatistiketan; adibidez, erregresio linealeko problema arruntetan hondar bektorearen banaketan. Kontuan har, oro har, X_i-ak ez direla, orokorrean, independenteak, ${\displaystyle Z}$ aldagai arrunten bilduma batera ${\displaystyle A}$ transformazio lineala aplikatzearen emaitza gisa ikus baitaiteke.

Banaketa funtzioa

Banaketa funtzioa ${\displaystyle F(x)}$ definitzen da ausazko ${\displaystyle X}$bektore baten balio guztiak ${\displaystyle x}$-ri dagozkion bektorearenak baino txikiagoak edo berdinak izateko probabilitatea bezala. Hala ere, ${\displaystyle F}$-k formularik ez badu ere, zenbakizko zenbatespena ahalbidetzen duten algoritmo batzuk daude^[1].

Kontrako adibide bat

Izan ere, bi ausazko aldagaik, ${\displaystyle X}$ eta ${\displaystyle Y}$, bakoitzak banaketa normal bat jarraitu arren, ez du esan nahi bikoteak (X , Y) banaketa normal bateratua jarraitzen duenik. Adibide sinple bat ematen da ${\displaystyle X}$ Normala (0,1), ${\displaystyle Y=X}$ ${\displaystyle |X|bada>1}$ eta ${\displaystyle Y=-X}$ ${\displaystyle |X|bada<1}$ . Hori ausazko bi aldagai baino gehiagotan ere egia da^[2].

Normalki banatua eta independentzia

${\displaystyle X}$ eta ${\displaystyle Y}$ normal banatuta eta independenteak badira, haien banaketa bateratua ere normal banatuta dago; hau da, bikoteak (X , Y ) aldagai biko banaketa bat izan behar du. Nolanahi ere, normal banatutako ausazko aldagai pare bat ez du zertan independentea izan behar elkarrekin kontuan hartzerakoan.

Aldagai biko egoera

Bi dimentsioen egoera partikularrean, dentsitate-funtzioa (0, 0 batebestekoarekin) da:

${\displaystyle f(x,y)={\frac {1}{2\pi \sigma _{x}\sigma _{y}{\sqrt {1-\rho ^{2}}}}}\exp \left(-{\frac {1}{2(1-\rho ^{2})}}\left({\frac {x^{2}}{\sigma _{x}^{2}}}+{\frac {y^{2}}{\sigma _{y}^{2}}}-{\frac {2\rho xy}{(\sigma _{x}\sigma _{y})}}\right)\right)}$

non ${\displaystyle X}$ eta ${\displaystyle Y}$ arteko korrelazio-koefizientea ${\displaystyle \rho }$ den. Egoera honetan:

${\displaystyle \Sigma ={\begin{bmatrix}\sigma _{x}^{2}&\rho \sigma _{x}\sigma _{y}\\\rho \sigma _{x}\sigma _{y}&\sigma _{y}^{2}\end{bmatrix}}.}$

Eraldaketa afina

${\displaystyle Y=c+BX\,}$, izan ere, ${\displaystyle X\ \sim {\mathcal {N}}(\mu ,\Sigma ),}$-ren eraldaketa afina bada. non ${\displaystyle c\,}$ ${\displaystyle M\times 1}$ konstanteen bektorea den eta ${\displaystyle B\,}$ den ${\displaystyle M\times N}$ matrizea, orduan, ${\displaystyle Y\,}$-k aldagai anitzeko banaketa normala du ${\displaystyle c+B\mu \,}$itxaropenarekin eta ${\displaystyle B\Sigma B^{T}\,}$bariantzarekin, hau da, ${\displaystyle Y\sim {\mathcal {N}}\left(c+B\mu ,B\Sigma B^{T}\right)}$. Bereziki, ${\displaystyle X_{i}\,}$-renedozein azpimultzok banaketa marjinal bat du, aldagai anitzeko normala ere badena.

Hori ikusteko, kontuan har honako adibide hau: ${\displaystyle (X_{1},X_{2},X_{4})^{T}\,}$azpimultzoa ateratzeko, erabili

${\displaystyle B={\begin{bmatrix}1&0&0&0&0&\ldots &0\\0&1&0&0&0&\ldots &0\\0&0&0&1&0&\ldots &0\end{bmatrix}}}$

nahi diren elementuak zuzenean ateratzen dituena.

${\displaystyle Z=b\cdot X}$ banaketaren beste ondorio bat izango litzateke ${\displaystyle b}$ bektorea ${\displaystyle X}$-ren luzera berekoa dela, eta puntuak biderketa bektoriala adierazten du, eta dimentsio bakarreko banaketa gaussarra izango litzateke ${\displaystyle Z\sim {\mathcal {N}}\left(b\cdot \mu ,b^{T}\Sigma b\right)}$rekin. Emaitza hau erabiliz lortzen da:

${\displaystyle B={\begin{bmatrix}b_{1}&b_{2}&\ldots &b_{n}\\0&0&\ldots &0\\\vdots &\vdots &\ddots &\vdots \\0&0&\ldots &0\end{bmatrix}}}$

eta produktuaren lehen osagaia soilik kontuan hartuta (${\displaystyle B}$-ren lehen lerroa ${\displaystyle b}$ bektorea da). Kontuan har nola ${\displaystyle \Sigma }$-ren definizio positiboak gurutzatutako produktuaren bariantza positiboa izan behar dela esan nahi duen.

Interpretazio geometrikoa

Aldagai anitzeko banaketa normal baten ekidensitate-kurbak elipsoideak dira (hau da, hiperesferen transformazio linealak) batezbestekoan zentratuta^[3]. Elipsoideen ardatz nagusien norabideak ${\displaystyle \Sigma }$ kobariantza matrizearen bektore propioek ematen dituzte. Ardatz nagusien karratuen luzera erlatiboak dagozkien bektore propioek ematen dituzte.

${\displaystyle \Sigma =U\Lambda U^{T}=U\Lambda ^{1/2}(U\Lambda ^{1/2})^{T}}$ deskonposizio espektral bat bada, non U-ren zutabeak unitate-bektore propioak diren eta ${\displaystyle \Lambda }$ balio propioen matrize diagonal bat den, orduan, dugu:

${\displaystyle X\ \sim N(\mu ,\Sigma )\iff X\ \sim \mu +U\Lambda ^{1/2}N(0,I)\iff X\ \sim \mu +UN(0,\Lambda ).}$

Era berean, U biraketa-matrize bat izan dadin hauta daiteke ${\displaystyle N(0,\Lambda )}$-n ardatz bat alderantziz egiteak eraginik izango ez duena baina, zutabe bat irauliz, U' -ren determinatzailearen zeinua aldatuko duena. ${\displaystyle N(\mu ,\Sigma )}$ banaketa da, hain zuzen, ${\displaystyle N(0,I)}$ ${\displaystyle \Lambda ^{1/2}}$-tik eskalatua, U-rekin biratua eta ${\displaystyle \mu }$-tik itzulia.

Alderantziz, ${\displaystyle \mu }$-ren edozein aukerak U maila osoko matrizea, eta ${\displaystyle \Lambda _{i}}$ balio diagonal positiboak bide ematen dio banaketa normal ez singular bati. Edozein ${\displaystyle \Lambda _{i}}$ zero bada eta U karratua bada, ${\displaystyle U\Lambda U^{T}}$-ren kobariantza matrizea singularra da. Geometrikoki, horrek esan nahi du kurba elipsoide bakoitza infinitu mehea dela eta bolumen nulua duela n dimentsioko espazioan, betiere, gutxienez ardatz nagusietako batek luzera nulua badu.

Korrelazioak eta independentzia

Oro har, ausazko aldagaiak korrelaziorik gabekoak izan daitezke, baina oso menpekoak izan daitezke. Baina, ausazko bektore batek aldagai anitzeko banaketa normala badu, korrelaziorik gabeko bere osagaietako bi edo gehiago independenteak dira.

Baina ez da egia (bereizita, marjinalki) normal banatuta eta korrelaziorik gabeko bi ausazko aldagai independenteak direnik. Normalki banatuta dauden bi ausazko aldagai baliteke elkarrekin ez egotea. Erlazionatu gabe baina independenteak ez diren banatzen diren bi aldagairen adibide bat ikusteko, ikus: Normalki banatuak eta korrelazionatuak ez dira independentzia suposatzen .

Momentu gorenak

X -ren k-garren ordenako momentu estandarra honela definitzen da

${\displaystyle \mu _{1,\dots ,N}(X)\ {\stackrel {\mathrm {def} }{=}}\ \mu _{r_{1},\dots ,r_{N}}(X)\ {\stackrel {\mathrm {def} }{=}}\ E\left[\prod \limits _{j=1}^{N}X_{j}^{r_{j}}\right]}$

non ${\displaystyle r_{1}+r_{2}+\cdots +r_{N}=k.}$

k ordenako momentu zentralak honela ematen dira:

(a) k bakoitia bada, ${\displaystyle \mu _{1,\dots ,N}(X-\mu )=0}$.

(b) k bikoitia bada, k-rekin, orduan, ${\displaystyle k=2\lambda }$

${\displaystyle \mu _{1,\dots ,2\lambda }(X-\mu )=\sum \left(\sigma _{ij}\sigma _{k\ell }\cdots \sigma _{XZ}\right)}$

non batura multzoen xedapen guztien gainean hartzen den ${\displaystyle \left\{1,\dots ,2\lambda \right\}}$ ${\displaystyle \lambda }$ bikotetan (ordenatu gabeak). Hau da, k-garren bat badugu (${\displaystyle {}=2\lambda =6}$) une nagusia ${\displaystyle \lambda =3}$ kobariantzaren produktuak gehituko ditugu (-${\displaystyle \mu }$ notazioa irakurgarritasunagatik alde batera utzi da):

${\displaystyle {\begin{aligned}&{}E[X_{1}X_{2}X_{3}X_{4}X_{5}X_{6}]\\&{}=E[X_{1}X_{2}]E[X_{3}X_{4}]E[X_{5}X_{6}]+E[X_{1}X_{2}]E[X_{3}X_{5}]E[X_{4}X_{6}]+E[X_{1}X_{2}]E[X_{3}X_{6}]E[X_{4}X_{5}]\\&{}+E[X_{1}X_{3}]E[X_{2}X_{4}]E[X_{5}X_{6}]+E[X_{1}X_{3}]E[X_{2}X_{5}]E[X_{4}X_{6}]+E[X_{1}X_{3}]E[X_{2}X_{6}]E[X_{4}X_{5}]\\&+E[X_{1}X_{4}]E[X_{2}X_{3}]E[X_{5}X_{6}]+E[X_{1}X_{4}]E[X_{2}X_{5}]E[X_{3}X_{6}]+E[X_{1}X_{4}]E[X_{2}X_{6}]E[X_{3}X_{5}]\\&+E[X_{1}X_{5}]E[X_{2}X_{3}]E[X_{4}X_{6}]+E[X_{1}X_{5}]E[X_{2}X_{4}]E[X_{3}X_{6}]+E[X_{1}X_{5}]E[X_{2}X_{6}]E[X_{3}X_{4}]\\&+E[X_{1}X_{6}]E[X_{2}X_{3}]E[X_{4}X_{5}]+E[X_{1}X_{6}]E[X_{2}X_{4}]E[X_{3}X_{5}]+E[X_{1}X_{6}]E[X_{2}X_{5}]E[X_{3}X_{4}].\end{aligned}}}$

Horrek sorrarazten du ${\displaystyle (2\lambda -1)!/(2^{\lambda -1}(\lambda -1)!)}$ terminoak baturan (15 goiko kasuan), bakoitzaren produktua ${\displaystyle \lambda }$ (3 kasu honetan) kobariantza izanik. Laugarren ordenako mementuetarako (lau aldagai), hiru termino daude. Seigarren ordenako momentuetarako, 3 × 5 = 15 termino daude, eta zortzigarren ordenako momentuetarako 3 × 5 × 7 = 105 termino dira.

Ondoren, kobariantzak ${\displaystyle \left[1,\dots ,2\lambda \right]}$ zerrendako terminoak, izan ere, batzuk ${\displaystyle r_{1}}$zerrendari dagozkion terminoekin ordezkatuz zehazten dira, orduan ${\displaystyle r_{2}}$ biak, etab... Hau argitzeko, kontuan har hurrengo laugarren ordenako momentu zentralaren kasua:

${\displaystyle E\left[X_{i}^{4}\right]=3\sigma _{ii}^{2}}$

${\displaystyle E\left[X_{i}^{3}X_{j}\right]=3\sigma _{ii}\sigma _{ij}}$

${\displaystyle E\left[X_{i}^{2}X_{j}^{2}\right]=\sigma _{ii}\sigma _{jj}+2\left(\sigma _{ij}\right)^{2}}$

${\displaystyle E\left[X_{i}^{2}X_{j}X_{k}\right]=\sigma _{ii}\sigma _{jk}+2\sigma _{ij}\sigma _{ik}}$

${\displaystyle E\left[X_{i}X_{j}X_{k}X_{n}\right]=\sigma _{ij}\sigma _{kn}+\sigma _{ik}\sigma _{jn}+\sigma _{in}\sigma _{jk}.}$

non ${\displaystyle \sigma _{ij}}$ ${\displaystyle X_{i}}$ Y ${\displaystyle X_{j}}$-ren kobariantza den. Goiko metodoaren ideia da lehen kasu orokorra aurkitzen dugula da ${\displaystyle k}$-garrena mementorako, non ${\displaystyle k}$ aldagai desberdinak ${\displaystyle X}$ - ${\displaystyle E\left[X_{i}X_{j}X_{k}X_{n}\right]}$ dauden, eta, gero, modu egokian sinplifikatu daitezke. ${\displaystyle E\left[X_{i}^{2}X_{k}X_{n}\right]}$ baduzu, gero, ${\displaystyle X_{i}=X_{j}}$ izan dadila, eta hortik ${\displaystyle \sigma _{ii}=\sigma _{i}^{2}}$ dator.

Banaketa baldintzatuak

${\displaystyle \mu }$ eta ${\displaystyle \Sigma }$ honela banatzen badira:

${\displaystyle \mu ={\begin{bmatrix}\mu _{1}\\\mu _{2}\end{bmatrix}}\quad }$ ${\displaystyle {\begin{bmatrix}q\times 1\\(N-q)\times 1\end{bmatrix}}}$neurriekin

${\displaystyle \Sigma ={\begin{bmatrix}\Sigma _{11}&\Sigma _{12}\\\Sigma _{21}&\Sigma _{22}\end{bmatrix}}\quad }$ neurriekin ${\displaystyle {\begin{bmatrix}q\times q&q\times (N-q)\\(N-q)\times q&(N-q)\times (N-q)\end{bmatrix}}}$

orduan, ${\displaystyle x_{1}}$-ren banaketa ${\displaystyle x_{2}=a}$ baldintzatuta, aldagai anitzeko normala da ${\displaystyle (X_{1}|X_{2}=a)\sim N({\bar {\mu }},{\overline {\Sigma }})}$ non

${\displaystyle {\bar {\mu }}=\mu _{1}+\Sigma _{12}\Sigma _{22}^{-1}\left(a-\mu _{2}\right)}$

eta kobariantza matrizea

${\displaystyle {\overline {\Sigma }}=\Sigma _{11}-\Sigma _{12}\Sigma _{22}^{-1}\Sigma _{21}.}$

Matrize hori ${\displaystyle {\mathbf {\Sigma } _{22}}}$-ren Schur-en osagarria da ${\displaystyle {\mathbf {\Sigma } }}$-en. Horrek esan nahi du baldintzapeko kobariantza-matrizea kalkulatzeko kobariantza-matrize globala alderantzikatu egiten dela, baldintzatzen den aldagaiei dagozkien errenkadak eta zutabeak alde batera uzten direla eta, ondoren, berriro alderantzikatzen dela baldintzapeko kobariantza-matrizea lortzeko.

Kontuan har jakina dela ${\displaystyle x_{2}=a}$ bariantza aldatzen duela, nahiz eta bariantza berria ez den ${\displaystyle a}$ balio zehatzaren araberakoa; agian, harrigarriagoa dena, batezbestekoa ${\displaystyle \Sigma _{12}\Sigma _{22}^{-1}\left(a-\mu _{2}\right)}$-tik aldatzen da; Konparatu hori ezagutzen ez den ${\displaystyle a}$ balioaren egoerarekin; kasu horretan, ${\displaystyle x_{1}}$-ek banaketa gisaizango luke:

${\displaystyle N_{q}\left(\mu _{1},\Sigma _{11}\right)}$

${\displaystyle \Sigma _{12}\Sigma _{22}^{-1}}$ matrizea erregresio-koefizienteen matrize bezala ezagutzen da.

Baldintzazko itxaropena aldagai bikoa

Bada

${\displaystyle {\begin{pmatrix}X_{1}\\X_{2}\end{pmatrix}}\sim {\mathcal {N}}\left({\begin{pmatrix}0\\0\end{pmatrix}},{\begin{pmatrix}1&\rho \\\rho &1\end{pmatrix}}\right)}$

gero

${\displaystyle E(X_{1}|X_{2}>z)=\rho {\phi (z) \over \Phi (-z)}}$

non azken ratio horri alderantzizko Mills ratioa deitu ohi zaio.

Fisher-en informazio matrizea

Fisher Information Matrix-ek (FIM) formulazio berezi bat hartzen du banaketa normal baterako. FMI-ren elementua ${\displaystyle (m,n)}$ ${\displaystyle X\sim N(\mu (\theta ),\Sigma (\theta ))}$-rentzako da:

${\displaystyle {\mathcal {I}}_{m,n}={\frac {\partial \mu }{\partial \theta _{m}}}\Sigma ^{-1}{\frac {\partial \mu ^{\top }}{\partial \theta _{n}}}+{\frac {1}{2}}\mathrm {tr} \left(\Sigma ^{-1}{\frac {\partial \Sigma }{\partial \theta _{m}}}\Sigma ^{-1}{\frac {\partial \Sigma }{\partial \theta _{n}}}\right)}$

non

• ${\displaystyle {\frac {\partial \mu }{\partial \theta _{m}}}={\begin{bmatrix}{\frac {\partial \mu _{1}}{\partial \theta _{m}}}&{\frac {\partial \mu _{2}}{\partial \theta _{m}}}&\cdots &{\frac {\partial \mu _{N}}{\partial \theta _{m}}}&\end{bmatrix}}}$
• ${\displaystyle {\frac {\partial \mu ^{\top }}{\partial \theta _{m}}}=\left({\frac {\partial \mu }{\partial \theta _{m}}}\right)^{\top }={\begin{bmatrix}{\frac {\partial \mu _{1}}{\partial \theta _{m}}}\\\\{\frac {\partial \mu _{2}}{\partial \theta _{m}}}\\\\\vdots \\\\{\frac {\partial \mu _{N}}{\partial \theta _{m}}}\\\\\end{bmatrix}}}$
• ${\displaystyle {\frac {\partial \Sigma }{\partial \theta _{m}}}={\begin{bmatrix}{\frac {\partial \Sigma _{1,1}}{\partial \theta _{m}}}&{\frac {\partial \Sigma _{1,2}}{\partial \theta _{m}}}&\cdots &{\frac {\partial \Sigma _{1,N}}{\partial \theta _{m}}}\\\\{\frac {\partial \Sigma _{2,1}}{\partial \theta _{m}}}&{\frac {\partial \Sigma _{2,2}}{\partial \theta _{m}}}&\cdots &{\frac {\partial \Sigma _{2,N}}{\partial \theta _{m}}}\\\\\vdots &\vdots &\ddots &\vdots \\\\{\frac {\partial \Sigma _{N,1}}{\partial \theta _{m}}}&{\frac {\partial \Sigma _{N,2}}{\partial \theta _{m}}}&\cdots &{\frac {\partial \Sigma _{N,N}}{\partial \theta _{m}}}\end{bmatrix}}}$
• ${\displaystyle \mathrm {tr} }$ matrize baten aztarna funtzioa da.

Kullback-Leibler dibergentzia

Kullback-Leiblerren dibergentzia ${\displaystyle N0_{N}(\mu _{0},\Sigma _{0})}$ a ${\displaystyle N1_{N}(\mu _{1},\Sigma _{1})}$ da:

${\displaystyle D_{\text{KL}}(N0\|N1)={1 \over 2}\left(\log _{e}\left({\det \Sigma _{1} \over \det \Sigma _{0}}\right)+\mathrm {tr} \left(\Sigma _{1}^{-1}\Sigma _{0}\right)+\left(\mu _{1}-\mu _{0}\right)^{\top }\Sigma _{1}^{-1}(\mu _{1}-\mu _{0})-N\right).}$

Logaritmoa e oinarriarekin hartu behar da bi terminoetan (logaritmo neperiarrak); logaritmoari jarraituz, dentsitate-funtzioaren faktore biak diren adierazpenen logaritmo naturalak daude, edo, bestela, modu naturalean sortzen dira. Goiko dibergentzia nat-etan neurtzen da. Goiko adierazpena log_e 2 artean zatituz biten dibergentziari bide ematen zaio.

Parametroen estimazioa

Aldagai anitzeko banaketa normal baten kobariantza matrizearen probabilitate maximoaren estimatzailearen deribazioa da, agian harrigarriro, sotila eta dotorea. Ikus kobariantza matrizeen estimazioa.

Laburbilduz, N dimentsioko aldagai anitzeko normal baten probabilitate-dentsitate-funtzioa da:

${\displaystyle f(x)=(2\pi )^{-N/2}\det(\Sigma )^{-1/2}\exp \left(-{1 \over 2}(x-\mu )^{T}\Sigma ^{-1}(x-\mu )\right)}$

eta kobariantza matrizearen MV estimatzailea n behaketetako lagin baterako da:

${\displaystyle {\widehat {\Sigma }}={1 \over n}\sum _{i=1}^{n}(X_{i}-{\overline {X}})(X_{i}-{\overline {X}})^{T}}$

laginaren kobariantza matrizea besterik ez dena. Hau Itxaropena duen estimatzaile alboratuarena da:

${\displaystyle E[{\widehat {\Sigma }}]={n-1 \over n}\Sigma .}$

Laginaren kobariantza alboragabea da:

${\displaystyle {\widehat {\Sigma }}={1 \over n-1}\sum _{i=1}^{n}(X_{i}-{\overline {X}})(X_{i}-{\overline {X}})^{T}.}$

Entropia

Aldagai anitzeko banaketa normalaren entropia diferentziala^[4] da:

${\displaystyle {\begin{aligned}h\left(f\right)&=-\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }f(x)\ln f(x)\,dx\\&={\frac {1}{2}}\left(N+N\ln \left(2\pi \right)+\ln \left|\Sigma \right|\right)\\&={\frac {1}{2}}\ln\{(2\pi e)^{N}\left|\Sigma \right|\}\end{aligned}}}$

non ${\displaystyle \left|\Sigma \right|}$ den ${\displaystyle \Sigma }$ kobariantza matrizearen determinatzailea.

Aldagai anitzeko normaltasun-probak

Aldagai anitzeko normaltasun probek datu multzo jakin batek aldagai anitzeko banaketa normalarekin duen antzekotasuna egiaztatzen du. Hipotesi nulua da datu multzoa banaketa normalaren antzekoa dela, beraz, p-balio nahiko txiki batek datu ez-normalak adierazten ditu. Aldagai anitzeko normaltasun proben artean, Cox-Small proba^[5] eta Smith eta Jain-en^[6] Friedman-Rafsky probaren egokitzapena daude.

Banaketa-balioak simulatzea

Ausazko bektore bat simulatzeko oso erabilia den metodoa ${\displaystyle X}$ aldagai anitzeko banaketa normaletik ${\displaystyle N}$ -dimentsioa batez besteko bektorearekin ${\displaystyle \mu }$ eta kobariantza matrizea ${\displaystyle \Sigma }$ (simetrikoa eta definitu positiboa izateko eskatua) honela funtzionatzen du:

1. ${\displaystyle \Sigma }$-ren Choleskyren deskonposizioa kalkulatzen da; hau da, beheko matrize triangeluar bakarra ${\displaystyle A}$ hala nola ${\displaystyle A\,A^{T}=\Sigma }$ aurkitzen dugu. Kontuan har beste edozein ${\displaystyle A}$ matrize baldintza hori betetzen duena, hau da, ${\displaystyle \Sigma }$-ren erro karratua dela, erabil liteke, baina, askotan, halako matrize bat aurkitzea, Cholesky-ren deskonposizioaz gain, dezente zailagoa izango litzateke konputazionalki.
2. Dela ${\displaystyle Z=(z_{1},\dots ,z_{N})^{T}}$ osagaiak dituen bektorea ${\displaystyle N}$ aldagai normalak eta independenteak aldatzen direnak (sor daitezkeenak, adibidez, Box-Muller metodoa erabiliz.
3. Dela ${\displaystyle X=\,}$${\displaystyle \mu +AZ\,.}$

Erreferentziak

Kanpo estekak

• Datuak: Q1149000