Minimisation, moindres carrés et équations normales


Colle de mathématiques

Sujet de colle de maths:

Énoncé du sujet

Soit $n$ et $p$ deux entiers naturels avec $p\leq n$. On munit $\R^n$ du produit scalaire canonique et on identifie $\R^n$ avec $\mathcal{M}_{n,1}(\R)$. On considère une matrice $A\in\mathcal{M}_{n,p}(\R)$ de rang $p$ et $B\in\mathcal{M}_{n,1}(\R)$.
  1. Démontrer qu'il existe une unique matrice $X_0$ de $\mathcal{M}_{p,1}(\R)$ telle que
    \[\|AX_0-B\|=\inf\{\|AX-B\|;\ X\in\mathcal M_{p,1}(\R)\}.\]

  2. Montrer que $X_0$ est l'unique solution de $A^T AX=A^T B$.
  3. Application : déterminer
    \[\inf\{(x+y-1)^2+(x-y)^2+(2x+y+2)^2;\ (x,y)\in\R^2\}.\]




Correction

Correction

  1. Puisque $A$ est de rang $p$, l'application $X\mapsto AX$ qui va de $\mathcal{M}_{p,1}(\R)$ dans $\text{Im}(A)$ est injective.
    Or, $\inf\{\|AX-B\|;\ X\in\mathcal{M}_{p,1}(\R)\}$ est la distance de $B$ à $\text{Im}(A)$.
    Cette distance est atteinte uniquement par le projeté orthogonal sur $\text{Im}(A)$ (qui est de dimension finie) de $B$. Ce projeté orthogonal, unique, appartenant à $\text{Im}(A)$, s'écrit donc de façon unique $AX_0$.
  2. On a
    \[\begin{array}{lcl} AX_0=p_{\textrm{Im}(A)}(B)&\iff& \forall Z\in \textrm{Im}(A),\ AX_0-B\perp Z\\[.4em] &\iff& \forall X\in \mathcal{M}_{p,1}(\R),\ AX_0-B\perp AX\\[.4em] &\iff& \forall X\in \mathcal{M}_{p,1}(\R),\ (AX)^T (AX_0-B)=0\\[.4em] &\iff& \forall X\in\mathcal{M}_{p,1}(\R),\ X^T (A^TAX_0-A^T B)=0\\[.4em] &\iff &A^T AX_0=A^T B \enar\]

    $X_0$ est donc bien l'unique solution de $A^T AX=A^T B$.
  3. Posons $A=\lp\begin{array}{cc}1&1\\ 1&-1\\ 2&1\enar\rp$, et $B=\lp\begin{array}{c} 1\\0\\-2\enar\rp$.
    On vérifie que le rang de $A$ est $2$. La borne inférieure est donc atteinte en $X_0=\lp\begin{array}{c} x_0\\y_0\enar\rp$ solution de $A^T AX_0=A^TB$.
    Or
    \[A^T A=\lp\begin{array}{cc} 6&2\\ 2&3 \enar\rp,\ A^TB=\lp\begin{array}{c} -3\\-1\enar\rp\]

    On vérifie que $x_0=-1/2$ et $y_0=0$, et donc l'inf recherché vaut $7/2$.


Tag:Espaces euclidiens

Autres sujets au hasard: Lancer de dés

Voir aussi:
LongPage: h2: 3 - h3: 0