Home » Machine Learning » [ML – 04] From Linear Regression model to Polynomial Regression model

[ML – 04] From Linear Regression model to Polynomial Regression model

Chào các bạn, trong bài viết trước chúng ta đã tìm hiểu về mô hình Linear Regression với ví dụ đơn giản nhất trên không gian 2 chiều cho h(x). Trong bài viết này chúng ta sẽ phát triển mô hình Linear Regression (hồi quy tuyến tính) lên mô hình tổng quát hơn “Polynomial Regression” (hồi quy đa thức). Trước tiên, chúng ta sẽ tổng kết lại về Linear Regression:

1. Nhắc lại về mô hình Linear Regression:


Mô hình hồi quy tuyến tính sử dụng hàm số tuyến tính (được biểu diễn dưới dạng một đường thẳng trên đồ thị) làm hàm tiên đoán h(x)
Screen Shot 2016-07-28 at 11.33.51 AM
Sai số của h(x) được tính toán dựa trên bình phương sai khác giữa h(x) và y thực tế. Do đó để tối thiểu sai số của h(x) ta sử dụng phương pháp (hay giải thuật) Least Mean Square (LMS).
Least Square
Screen Shot 2016-08-26 at 3.02.23 PM
Tối thiểu J(θ) để thu được hàm số dự đoán tốt nhất trong mô hình hồi quy tuyến tính bằng các giải phương trình J'(θ) = 0. Với hàm số J(θ) được xây dựng như trên chỉ là hàm bậc 2 nên đạo hàm của nó chỉ là hàm bậc 1 nên phương trình có nghiệm duy nhất. Một phương pháp khác là giảm dần giá trị θ theo độ dốc của hàm số (giải thuật Gradient Descent). Dạng của J'(θ) như sau:
Screen Shot 2016-08-26 at 3.10.58 PM
Trong đó θj là giá trị tại hàng j của vector θ.
xj trong h(θ) = ∑θjxj (x0 = 0)
Với giải thuật Gradient Descent giá trị của J(θ) sẽ giảm dần về điểm cực tiểu như sau:
Screen Shot 2016-07-26 at 2.25.22 PM

2. Phát triển Linear Regression thành Polynomial Regression:


Ta áp dụng mô hình Linear Regression trong trường hợp sau:
Under-fitting
Trong trường hợp này ta thấy có vẻ như dữ liệu không tập trung quanh đường thẳng h(x) mà có hơi hướng theo dạng đường cong hơn. Chính vì thế nên khi sử dụng hàm h(x) này, kết quả dự đoán sẽ không tốt. Khi mô hình không đáp ứng được xu hướng biến thiên của dự liệu, chúng ta có vấn đề như trên, chúng được gọi là “underfitting”. Quá trình chúng ta làm trong ML thực chất là “fit” hàm số phù hợp với sự biến thiên của dữ liệu, nên khi hàm số không biến thiên theo xu hướng của dữ liệu thì chúng chẳng hề “fit” với dữ liệu. Khi gặp vấn đề này chúng ta cần hàm số phức tạp hơn để hàm tiên đoán h(x) đạt hiệu quả tốt hơn.
Nếu như ta nâng h(x) thành hàm bậc 2, lúc đó h(x) có thể có dạng biểu diễn như sau (đường màu cam):
Screen Shot 2016-08-26 at 3.44.11 PM
Trông có vẻ tốt hơn nhiều so với hàm bậc 1. Vấn đề đặt ra là, khi h(x) có dạng đa thức bậc cao, liệu phương pháp xây dựng J(θ) và tối thiểu hoá J(θ) có thay đổi gì không ?
Tin tốt là chúng không thay đổi gì cả, cụ thể khi nâng lên bậc 2: h(x) = θ0 + θ1x + θ2x2
Nếu như đặt x1 = x ; x2 = x2 chúng ta quay về mô hình hồi quy tuyến tính.
Tương tự với bậc cao hơn, mọi hàm đa thức chúng ta đều có thể đưa về mô hình hồi quy tuyến tính.

Tuy nhiên nếu như vậy hàm số bậc càng cao thì khả năng “fit” với dữ liệu càng lớn, thậm chí sai số có thể bằng 0. Khi đó chúng ta sẽ gặp một vấn đề khác được gọi là “overfitting”, nhưng cách giải quyết vấn đề này tôi sẽ nói trong một bài viết sau.
Với việc phát triển mô hình hồi quy tuyến tính lên đa thức bậc cao hơn, chúng ta đã bước đầu hiểu về cách ML “scale” khi gặp vấn đề phức tạp. Hi vọng các bạn có cái nhìn rõ ràng hơn về cách phát triển ML với một vấn đề, hẹn gặp lại các bạn trong bài viết tiếp theo.

Tagged width:,