Dalam analisis statistik, matriks dan regresi linier adalah dua konsep yang sangat penting. Dalam artikel ini, kita akan membahas estimasi parameter dan ketergantungan linear dalam regresi linier.
Estimasi Parameter Regresi Linier
Kita mulai dengan estimasi parameter regresi linier. Dalam contoh sederhana, kita memiliki data yang berisi variable predictor soap
dan variable outcome suds
. Kita dapat menggunakan matriks untuk menentukan estimasi parameter regresi linier.
Dengan menggunakan rumus least squares, kita dapat menentukan estimasi parameter regresi linier sebagai berikut:
(b = (X^{'}X)^{-1}X^{'}Y)
Menggunakan data Soap Suds dataset, kita mendapatkan hasil sebagai berikut:
(b = \begin{bmatrix}
4.4643 & -0.78571\
-0.78571& 0.14286
\end{bmatrix}\begin{bmatrix}
347\
1975
\end{bmatrix}=\begin{bmatrix}
-2.67\
9.51
\end{bmatrix})
Jadi, estimasi intercept adalah (b_{0}) = -2.67 dan estimasi slope adalah (b_{1}) = 9.51.
Ketergantungan Linear
Ketergantungan linear adalah konsep yang sangat penting dalam analisis statistik. Kita katakan bahwa kolom matriks A:
(A=\begin{bmatrix}
1& 2 & 4 &1 \
2 & 1 & 8 & 6\
3 & 6 & 12 & 3
\end{bmatrix})
adalah linearly dependent, karena setidaknya satu kolom dapat ditulis sebagai kombinasi linear dari kolom lainnya.
Namun, ketergantungan linear tidak selalu jelas. Contoh lain adalah matriks A:
(A=\begin{bmatrix}
1& 4 & 1 \
2 & 3 & 1\
3 & 2 & 1
\end{bmatrix})
Kolom-kolom dalam matriks ini linearly dependent, karena kolom pertama plus kolom kedua sama dengan 5 kali kolom ketiga.
Keterkaitan dengan Estimasi Parameter
Ketergantungan linear sangat penting dalam estimasi parameter regresi linier. Jika kolom-kolom matriks X (yaitu variable predictor) linearly dependent, maka estimasi parameter tidak dapat ditentukan secara unik.
Contoh lain adalah jika kita memiliki dua variable predictor soap1
dan soap2
, yang memiliki korrelasi sangat tinggi. Dalam kasus ini, software package seperti Minitab akan memberikan pesan error bahwa soap2
memiliki keterkaitan dengan variable predictor lainnya.
Kesimpulan
Dalam artikel ini, kita membahas estimasi parameter regresi linier dan ketergantungan linear. Kita lihat bahwa ketergantungan linear sangat penting dalam analisis statistik, dan bahwa kita harus berhati-hati saat mengumpulkan data untuk memastikan bahwa variable predictor tidak linearly dependent.
Referensi
Note: The article is written in Markdown format and contains mathematical equations and tables.