Considérons la régression simple suivante: \[ y_{i}=\beta_{0}+\beta_{1} x_{i}+u_{i} \] où les hypothèses de Gauss-Marlov sont satisfaites. Supposons que vous savez que \( \beta_{0}=0 \). 1. (a) Donnez le modèle contraint et trouvez l'estimateur des MCO de \( \beta_{1} \) dans ce modèle. (b) Comment se compare la variance de l'estimateur en (a) relativement à celle de la régression (1) qui inclut une constante? (c) Considérez l'estimateur alternatif: Trouvez l'espérance de \( \tilde{\beta}_{1} \) si \( \beta_{0}=0 \) Cet estimateur est-il préférable à celui en (a)?

1. (a) Dans le cas où nous savons que \( \beta_{0} = 0 \), le modèle contraint devient : \[ y_{i} = \beta_{1} x_{i} + u_{i} \] Pour trouver l'estimateur des moindres carrés ordinaires (MCO) de \( \beta_{1} \), nous minimisons la somme des carrés des résidus : \[ \text{Minimiser } S(\beta_{1}) = \sum_{i=1}^{n} (y_{i} - \beta_{1} x_{i})^2 \] En prenant la dérivée de \( S(\beta_{1}) \) par rapport à \( \beta_{1} \) et en l'égalant à zéro, nous obtenons : \[ \frac{\partial S(\beta_{1})}{\partial \beta_{1}} = -2 \sum_{i=1}^{n} x_{i} (y_{i} - \beta_{1} x_{i}) = 0 \] Cela nous donne : \[ \sum_{i=1}^{n} x_{i} y_{i} = \beta_{1} \sum_{i=1}^{n} x_{i}^2 \] D'où l'estimateur des MCO de \( \beta_{1} \) est : \[ \hat{\beta}_{1} = \frac{\sum_{i=1}^{n} x_{i} y_{i}}{\sum_{i=1}^{n} x_{i}^2} \] (b) Pour comparer la variance de l'estimateur \( \hat{\beta}_{1} \) dans le modèle contraint avec celle de la régression qui inclut une constante, nous devons considérer la formule de la variance des estimateurs MCO. Dans le modèle avec constante, la variance de l'estimateur \( \hat{\beta}_{1} \) est donnée par : \[ \text{Var}(\hat{\beta}_{1}) = \sigma^2 \frac{1}{\sum_{i=1}^{n} (x_{i} - \bar{x})^2} \] où \( \bar{x} \) est la moyenne des \( x_{i} \). Dans le modèle contraint, la variance de \( \hat{\beta}_{1} \) est : \[ \text{Var}(\hat{\beta}_{1}) = \sigma^2 \frac{1}{\sum_{i=1}^{n} x_{i}^2} \] En général, la variance de l'estimateur dans le modèle contraint est plus grande que celle du modèle avec constante, car la somme des carrés des \( x_{i} \) est généralement plus petite que la somme des carrés des \( x_{i} \) centrés (c'est-à-dire \( (x_{i} - \bar{x})^2 \)). Cela signifie que l'inclusion d'une constante permet de mieux capturer la variation dans les données, ce qui réduit la variance de l'estimateur. (c) Considérons maintenant un estimateur alternatif \( \tilde{\beta}_{1} \). Si nous savons que \( \beta_{0} = 0 \), nous pouvons utiliser la méthode des moindres carrés pour estimer \( \beta_{1} \) en utilisant uniquement les observations où \( x_{i} \) est non nul. L'estimateur pourrait être défini comme suit : \[ \tilde{\beta}_{1} = \frac{\sum_{i=1}^{n} x_{i} y_{i}}{\sum_{i=1}^{n} x_{i}^2} \] L'espérance de cet estimateur, sous l'hypothèse que \( \beta_{0} = 0 \), est : \[ E(\tilde{\beta}_{1}) = E\left(\frac{\sum_{i=1}^{n} x_{i} y_{i}}{\sum_{i=1}^{n} x_{i}^2}\right) = \frac{\sum_{i=1}^{n} x_{i} E(y_{i})}{\sum_{i=1}^{n} x_{i}^2} = \frac{\sum_{i=1}^{n} x_{i} (\beta_{1} x_{i})}{\sum_{i=1}^{n} x_{i}^2} = \beta_{1} \] Cet estimateur est sans biais, tout comme l'estimateur \( \hat{\beta}_{1} \) trouvé en (a). Cependant, la question de savoir si cet estimateur est préférable à celui en (a) dépend de la variance. Si la variance de \( \tilde{\beta}_{1} \) est plus faible que celle de \( \hat{\beta}_{1} \), alors \( \tilde{\beta}_{1} \) serait préférable. En général, l'estimateur qui utilise toutes les données (comme \( \hat{\beta}_{1} \)) est souvent plus robuste, mais cela dépend des caractéristiques spécifiques des données.