L2正則化

リッジ回帰は、重回帰分析における L2正則化 の一種で、過剰適合を防止するために開発されました。重回帰分析では、予測変数（説明変数）が複数ある場合に、従属変数（目的変数）を予測するモデルを作成します。しかし、予測変数の数が多すぎると、モデルが複雑になりすぎる（過剰適合）可能性があり、未知のデータに正確に一般化できなくなることがあります。 リッジ回帰は、この問題に対処するために、モデルの係数の大きさにペナルティ項を課すことで、よりシンプルなモデルを見つけようとします。ペナルティ項は、係数の二乗和に比例した形で加算され、モデルの複雑さを抑制します。これにより、過剰適合の防止と予測精度の向上が期待できます。