Kovarianciamátrix

Egy $(0;0)$ központú kétdimenziós normális eloszlás, melynek kovarianzmátrixa $\mathrm{\Sigma }=\left(\begin{array}{cc}1& 0,5\\ 0,5& 1\end{array}\right)$

A valószínűségszámításban a $\mathrm{Cov}(\mathbf{X})$ kovarianciamátrix pozitív szemidefinit vagy pozitív definit mátrix, ami több valószínűségi változóhoz vagy valószínűségi vektorváltozóhoz definiálható. Átlóján szórásnégyzetek találhatók, a többi elem a megfelelő valószínűségi változók illetve koordináták kovarianciája. Az egydimenziós szórásnégyzet általánosítása.

Definíció

Legyen $\mathbf{X}$ valószínűségi vektorváltozó,

$\mathbf{X}=\left(\begin{array}{c}{X}_1\\ X_2\\ ⋮\\ X_n\end{array}\right)$.

Legyen $\mathrm{E}(X_i)={\mu }_i$ az $X_i$ várható értéke, $\mathrm{Var}(X_i)={\sigma }_i^2$ a szórásnégyzete, $\mathrm{Cov}(X_i,X_j)={\sigma }_{ij},i\ne j$ a két koordináta, $X_i$ és $X_j$ kovarianciája. $\mathbf{X}$ várható értéke

$\mathrm{E}(\mathbf{X})=\mathrm{E}\left(\begin{array}{c}{X}_1\\ X_2\\ ⋮\\ X_n\end{array}\right)=\left(\begin{array}{c}{\mu }_1\\ {\mu }_2\\ ⋮\\ {\mu }_n\end{array}\right)=\mathit{\mu }$,

vagyis a várható értékek vektora. Az $\mathbf{X}$ kovarianciamátrixa:

$\begin{array}{rl}\mathrm{Cov}(\mathbf{X})& =\mathrm{E}((\mathbf{X}-\mathit{\mu })(\mathbf{X}-\mathit{\mu }{)}^{\mathrm{\top }})\\ \\ & =\mathrm{E}\left(\begin{array}{cccc}(X_1-{\mu }_1{)}^2& (X_1-{\mu }_1)(X_2-{\mu }_2)& \cdots & (X_1-{\mu }_1)(X_n-{\mu }_n)\\ \\ (X_2-{\mu }_2)(X_1-{\mu }_1)& (X_2-{\mu }_2{)}^2& \cdots & (X_2-{\mu }_2)(X_n-{\mu }_n)\\ \\ ⋮& ⋮& \ddots & ⋮\\ \\ (X_n-{\mu }_n)(X_1-{\mu }_1)& (X_n-{\mu }_n)(X_2-{\mu }_2)& \cdots & (X_n-{\mu }_n{)}^2\end{array}\right)\\ \\ & =\left(\begin{array}{cccc}\mathrm{Var}(X_1)& \mathrm{Cov}(X_1,X_2)& \cdots & \mathrm{Cov}(X_1,X_n)\\ \\ \mathrm{Cov}(X_2,X_1)& \mathrm{Var}(X_2)& \cdots & \mathrm{Cov}(X_2,X_n)\\ \\ ⋮& ⋮& \ddots & ⋮\\ \\ \mathrm{Cov}(X_n,X_1)& \mathrm{Cov}(X_n,X_2)& \cdots & \mathrm{Var}(X_n)\end{array}\right)\\ \\ & =\left(\begin{array}{cccc}{\sigma }_1^2& {\sigma }_{12}& \cdots & {\sigma }_{1n}\\ \\ {\sigma }_{21}& {\sigma }_2^2& \cdots & {\sigma }_{2n}\\ \\ ⋮& ⋮& \ddots & ⋮\\ \\ {\sigma }_{n1}& {\sigma }_{n2}& \cdots & {\sigma }_n^2\end{array}\right)\\ \\ & =\mathrm{\Sigma }\end{array}$

A várható értékek vektora és a kovarianciamátrix az eloszlás legfontosabb jellemzői- Megadásuk: $X\sim (\mathit{\mu },\mathrm{\Sigma })$. A kovarianciamátrix, mint a kovarianciák mátrixa tartalmazza a koordináták szórásnégyzetét és a koordináták közötti lineáris kapcsolatot jellemző kovarianciákat. A különböző elemek száma $\frac{n^2+n}{2}$ vagy $\frac{n^2-n+2}{2}$. Ha a $X_1,\dots ,X_n$ koordináták egyike sem degenerált, és nincs tökéletes kollinearitás, akkor a kovarianciamátrix pozitív definit.

Kapcsolat a várható értékkel

Ha $\mathit{\mu }=\mathrm{E}(X)$ a valószínűségi vektorváltozó várható értéke, akkor

$\begin{array}{rl}\mathrm{Cov}(\mathbf{X})& =\mathrm{E}((\mathbf{X}-\mathit{\mu })(\mathbf{X}-\mathit{\mu }{)}^{\mathrm{\top }})\\ & =\mathrm{E}(\mathbf{X}{\mathbf{X}}^{\mathrm{\top }})-\mathit{\mu }{\mathit{\mu }}^{\mathrm{\top }}\end{array}$.

Ahol a vektorok és mátrixok várható értékei koordinátánként értendők. Egy $\mathit{\mu }$ várható értékű és adott kovarianciamátrixú valószínűségi vektorváltozó szimulálható a következő módon: Elkészítjük a kovarianciamátrix például Choleski-felbontását:

$\mathrm{Cov}(\mathbf{X})=\mathbf{D}{\mathbf{D}}^{\mathrm{\top }}$.

Ekkor a valószínűségi vektorváltozó:

$\mathbf{X}=\mathbf{D}\mathit{\xi }+\mathit{\mu }$

ahol $\mathit{\xi }$ valószínűségi vektorváltozó, melynek koordinátái egymástól független normális eloszlásúak.

Két vektor kovarianciamátrixa

Két vektor kovarianciamátrixa

$\mathrm{Cov}(\mathbf{x},\mathbf{y})=\mathrm{E}((\mathbf{x}-\mathit{\mu })(\mathbf{y}-\mathit{\nu }{)}^{\mathrm{\top }})$

ahol $\mathit{\mu }$ az $\mathbf{x}$ várható értéke és $\mathit{\nu }$ az $\mathbf{y}$ várható értéke.

Tulajdonságai

• Ha $i=j$, akkor a mátrixkoordináták számításának módja az i-edik vektorkoordináta szórásnégyzetét adja. Tehát a főátlón a szórásnégyzetek állnak, így nem lehetnek negatívok.
• Valós kovarianciamátrix szimmetrikus, mivel a kovariancia szimmetrikus.
• A kovarianciamátrix pozitív szemidefinit. Szimmetriája miatt főtengely-transzformációkkal diagonalizálható, és az így kapott mátrix szintén kovarianciamátrix. Mivel a főátlón csak szórásnégyzetek állnak, azért ez pozitív szemidefinit, ezért az eredeti is az.
• Megfordítva, minden pozitív szemidefinit $d\times d$ méretű szimmetrikus mátrix kovarianciamátrix.
• A szimmetria, pozitív szemidefinitség és diagonalizálhatóság miatt a kovarianciamátrixok ellipszoidként ábrázolhatók.
• Minden $\mathbf{A}\in {\mathbb{ℝ}}^{m\times n}$ mátrixra és $\mathbf{b}\in {\mathbb{ℝ}}^n$ vektorra teljesül, hogy $\mathrm{Cov}(\mathbf{A}\mathbf{X}+\mathbf{b})=\mathbf{A}\mathrm{Cov}(\mathbf{X}){\mathbf{A}}^{\mathrm{\top }}$.
• Minden $\mathbf{b}\in {\mathbb{ℝ}}^n$ vektorra teljesül, hogy $\mathrm{Cov}(\mathbf{X}+\mathbf{b})=\mathrm{Cov}(\mathbf{X})$.
• Ha $\mathbf{X}$ és $\mathbf{Y}$ korrelálatlan valószínűségi vektorváltozók, akkor

$\mathrm{Cov}(\mathbf{X}+\mathbf{Y})=\mathrm{Cov}(\mathbf{X})+\mathrm{Cov}(\mathbf{Y})$.

• Standardizált valószínűségi vektorváltozók esetén a kovarianciamátrix a korrelációs együtthatókat tartalmazza.

Regresszió

Ha a regressziós modell alakja

$y_{it}={\mathit{x}}_{it}^T\mathit{\beta }+{\mathit{e}}_{it}$,

és az ${\mathit{e}}_{it}$ hibatag idioszinkratikus, akkor a kovarianciamátrix

$\begin{array}{rl}\mathrm{V}(\mathbf{e})=\mathrm{E}(\mathbf{e}{\mathbf{e}}^T)& =\left(\begin{array}{ccc}\mathrm{E}({\mathit{e}}_1{\mathit{e}}_1^{\mathrm{\top }})& \cdots & \mathrm{E}({\mathit{e}}_1{\mathit{e}}_N^{\mathrm{\top }})\\ \\ ⋮& \ddots & ⋮\\ \\ \mathrm{E}({\mathit{e}}_N{\mathit{e}}_1^{\mathrm{\top }})& \cdots & \mathrm{E}({\mathit{e}}_N{\mathit{e}}_N^{\mathrm{\top }})\end{array}\right)=\left(\begin{array}{ccc}{\sigma }_{11}{\mathbf{I}}_T& \cdots & {\sigma }_{1N}{\mathbf{I}}_T\\ \\ ⋮& \ddots & ⋮\\ \\ {\sigma }_{N1}{\mathbf{I}}_T& \cdots & {\sigma }_{NN}{\mathbf{I}}_T\end{array}\right)=\left(\begin{array}{ccc}{\sigma }_{11}& \cdots & {\sigma }_{1N}\\ \\ ⋮& \ddots & ⋮\\ \\ {\sigma }_{N1}& \cdots & {\sigma }_{NN}\end{array}\right)\otimes {\mathbf{I}}_T\\ \\ & =\mathrm{\Sigma }\otimes {\mathbf{I}}_T=\mathrm{\Phi }\end{array}$

Hatékonysági kritérium

Egy pontbecslő hatékonysága illetve hatékonysága mérhető a kovarianciamátrixszal, mivel tartalmazza a különböző komponensek közötti kovarianciát. Általában, egy pontbecslő hatékonyságát a kovarianciamátrixszal mérik: minél kisebb a mátrix, annál jobb a becslés. Legyen $\tilde{\mathit{\theta }}$ és $\hat{\mathit{\theta }}$ torzítatlan $(K\times 1)$ valószínűségi vektorváltozó. Ha $\mathit{\theta }$ $(K\times 1)$ méretű valószínűségi vektorváltozó, akkor $\mathrm{Cov}(\hat{\mathit{\theta }})$ $(K\times K)$ méretű szimmetrikus pozitív definit mátrix. Azt mondjuk, hogy$\mathrm{Cov}(\hat{\mathit{\theta }})$ kisebb, mint $\mathrm{Cov}(\tilde{\mathit{\theta }})$, ha $\mathrm{Cov}(\tilde{\mathit{\theta }})-\mathrm{Cov}(\hat{\mathit{\theta }})$ pozitív szemidefinit.

Források

• Friedrich Schmid, Mark Trede: Finanzmarktstatistik. Springer-Verlag, Berlin 2006, ISBN 3-540-27723-4 (korlátozott előnézet a Google Könyvekben).

Fordítás

Ez a szócikk részben vagy egészben a Kovarianzmatrix című német Wikipédia-szócikk fordításán alapul. Az eredeti cikk szerkesztőit annak laptörténete sorolja fel. Ez a jelzés csupán a megfogalmazás eredetét és a szerzői jogokat jelzi, nem szolgál a cikkben szereplő információk forrásmegjelöléseként.