Pengembangan Regresi Linier dengan Menggunakan Matematika

Pengembangan Regresi Linier dengan Menggunakan Matematika

Dalam proses pengembangan regresi linier, kita dapat menggunakan matematika untuk memperoleh estimasi parameter yang paling sesuai. Salah satu contoh adalah dengan menggunakan metode least squares.

Misalnya, kita memiliki data sebagai berikut:

soap suds
4.0 33
4.5 42
5.0 45

Dalam contoh ini, kita ingin menentukan hubungan antara variable soap dengan variable suds. Kita dapat menggunakan matrix untuk mewakili data dan melakukan operasi matematika untuk memperoleh estimasi parameter.

Menggunakan Matrix untuk Meningkatkan Regresi Linier

Dalam contoh ini, kita akan menggunakan matrix untuk menghitung estimasi parameter. Kita mulai dengan membuat matrix X yang berisi nilai-nilai dari variable soap dan variable suds.

X = [1 2 4; 2 1 8; 3 6 12]
Y = [347; 1975]

Kemudian, kita dapat menghitung estimasi parameter dengan menggunakan formula:

b = (X' * X)^-1 * X' * Y

Dalam contoh ini, kita mendapatkan estimasi parameter sebagai berikut:

b0 b1
-2.67 9.51

Menghadapi Masalah Linear Dependence

Pada saat membangun model regresi linier, kita harus hati-hati dengan masalah linear dependence. Artinya, kita harus memastikan bahwa variable-variable yang kita gunakan sebagai predictor tidak saling terkait secara linear.

Misalnya, jika kita memiliki data sebagai berikut:

soap1 soap2 suds
4.0 8.0 33
4.5 9.0 42

Kita dapat melihat bahwa variable soap1 dan soap2 saling terkait secara linear, sehingga kita tidak dapat menentukan estimasi parameter yang sesuai.


Dalam artikel ini, kita telah belajar tentang pengembangan regresi linier dengan menggunakan matematika. Kita juga telah melihat pentingnya memperhatikan masalah linear dependence dalam proses pengembangan model regresi linier. Dengan demikian, kita dapat menghasilkan estimasi parameter yang sesuai dan menentukan hubungan antara variable-variable yang terkait.