Home » Machine Learning » [ML – 03] Minimize cost function with Gradient descent algorithm

[ML – 03] Minimize cost function with Gradient descent algorithm

Trong bài viết trước chúng ta đã tìm hiểu về cách tối thiểu hoá hàm số, từ đó áp dụng vào tối thiểu hoá cost function J(θ). Hôm nay chúng ta sẽ đi vào tìm hiểu về giải thuật “Gradient descent” (xuống dốc) nhằm khắc phục nhược điểm của phương pháp tìm nghiệm của J'(θ) = 0 (đạo hàm của J(θ)) và giới thiệu về mô hình “Linear Regression” (Hồi quy tuyến tính).

1. Gradient descent:


Chúng ta đã biết đạo hàm của hàm số là hàm số mô tả sự biến thiên của slope trên từng điểm của hàm số đó. Bên cạnh đó slope tại một điểm trên hàm số hay đạo hàm tại điểm đó của hàm số cho ta biết hàm số đang tăng, giảm hay đạt cực đại, cực tiểu.
Screen Shot 2016-07-25 at 3.13.06 PM
Phương pháp thông thường trong toán học là ta giải phương trình J'(θ) = 0. Tuy nhiên phương trình không phải lúc nào cũng dễ giải và chi phí để giải phương trình khi số lượng biến lớn cũng khiến performance của hệ thống thấp.
Screen Shot 2016-07-25 at 4.48.32 PM
Vấn để được đặt ra là nếu không giải phương trình, với giá trị θ hiện tại (chẳng hạn ban đầu tất cả tham số θ = 0) làm sao để thay đổi θ để cho J(θ) nhỏ hơn (chưa phải nhỏ nhất), nếu như lặp lại quá trình này nhiều lần thì ta sẽ chọn được θ sao cho J(θ) gần với giá trị nhỏ nhất của J(θ) hay điểm cực tiểu của hàm số. Giả sử với θ hiện tại, giá trị của J(θ) như hình sau:
Screen Shot 2016-07-26 at 11.45.51 AM
Với θ hiện tại, J(θ) đang ở điểm A, rõ ràng ở vị trí A đồ thị trên đang có xu hướng giảm (đạo hàm hay slope tại điểm A < 0, nếu tăng θ thì J(θ) sẽ giảm). Ta tăng θ để A tiến đến điểm B như hình sau:
Screen Shot 2016-07-26 at 1.40.53 PM
Khi đó J(θ) giảm xuống (vì slope tại A 0 thì khi tăng θ thì J(θ) sẽ tăng, lúc này muốn giảm J(θ) ta phải giảm θ. Vậy với giá trị θ hiện tại, chúng ta đã biết tăng hay giảm θ để giá trị của J(θ) giảm xuống. Thử tưởng tượng rằng chúng ta làm việc này một cơ số lần, khi đó J(θ) sẽ giảm dần xuống giá trị cực tiểu gần nhất (cực tiểu địa phương – Local minimum).
Screen Shot 2016-07-26 at 2.00.20 PM
Giải thuật được mô tả như sau:
+ Khởi tạo θ bất kì (thường tất cả tham số θ được gán = 0).
+ Liên tiếp thay đổi θ := θ – α * J'(θ) đồng thời (tất cả các tham số θ phải được thay đổi cùng 1 lúc)
+ Dừng lại khi J(θ) có thay đổi không đáng kể.
Trong đó α được gọi là Learning rate (dùng để điều chỉnh tốc độ học của máy). Trước khi đi vào giải thích về tham số này, chúng ta nói một chút về nhược điểm của giải thuật này.
Screen Shot 2016-07-26 at 2.12.56 PM
+ Khi ta đang ở điểm A, có thể giải thuật này sẽ đi vào vòng lặp vô hạn do hàm số đi xuống mãi khi giảm θ. Tuy nhiên trong trường hợp này việc giải phương trình cũng không mang lại kết quả do bản thân hàm số J(θ) không có giá trị nhỏ nhất (Global minimum). Cách giải quyết là ta phải xây dựng hàm J(θ) có giá trị nhỏ nhất. Chẳng hạn:
Screen Shot 2016-07-26 at 2.20.03 PM
+ Khi ta đang ở điểm B và điểm C, áp dụng giải thuật trên sẽ đưa ta đến 2 điểm cực tiểu khác nhau. Rõ ràng tại C, ta sẽ giảm được J(θ) nhiều hơn, chính vì thế để đảm bảo J(θ) đạt được giá trị nhỏ nhất, ta phải cố gắng xây dựng J(θ) có dạng tương tự như parabolla. Khi đó J(θ) sẽ chỉ có một giá trị nhỏ nhất, và giải thuật chắc chắn đưa J(θ) xuống đáy của đồ thị.
Screen Shot 2016-07-26 at 2.25.22 PM
Trở lại với vấn đề về Learning rate α. Nếu như ta loại bỏ tham số α thì chẳng qua là để α = 1 (giải thuật trở thành θ := θ – J'(θ)). Việc xác định được các tham số θ nhanh hay chậm phụ thuộc vào tham số này, tuy nhiên nếu như lựa chọn không phù hợp có thể gây ra hệ luỵ nhất định. Cụ thể như sau:
+ α quá nhỏ: α nhỏ sẽ khiến cho các bước đi xuống dốc của J(θ) cũng nhỏ => việc học mất nhiều thời gian hơn.
+ α quá lớn: α lớn sẽ khiến cho các bước đi trở nên quá lớn, có thể khiến J(θ) lớn hơn giá trị hiện tại. Như hình vẽ sau:
Screen Shot 2016-07-26 at 2.38.08 PM

2. Linear Regression:


Bây giờ chúng ta sẽ đến với một mô hình cụ thể. Đặc biệt đây là mô hình đơn giản nhất trong ML, mô hình “Hồi quy tuyến tính” (Linear Regression).
Bài toán: Ta có một tập dữ liệu để máy học như sau:
Screen Shot 2016-07-27 at 1.21.45 PM
Vì là ví dụ nên lượng dữ liệu nhỏ, trên thực tế, chúng ta cần một lượng lớn dữ liệu để có thể xây dựng mô hình chính xác hơn. Ta đưa dữ liệu trên vào đồ thị như sau:
Screen Shot 2016-07-27 at 2.51.09 PM
Bây giờ chúng ta xây dựng một hàm số có dạng đồ thị là đường thẳng, và cố gắng khiến nó gần với f(x) nhất. Nhắc lại rằng hàm số có đồ thị là đường thằng có dạng như sau: y = θ1x + θ0 trong đó x là input và y là output. Trong hình vẽ trên, những điểm được vẽ bởi tập dữ liệu học chính là những điểm nằm trên đồ thị hàm số f(x). Chúng ta bắt đầu với đường thẳng h(x) = x + 1 (trong trường hợp này θ1 = 1 và θ0 = 1 là các tham số θ chúng ta vẫn nhắc tới từ trước đến giờ).
Screen Shot 2016-07-27 at 3.25.30 PM
Ta thấy rằng khi đó J(θ) sẽ là hàm số 2 biến θ1 và θ0, khi đó để mô tả J(θ) trên đồ thị chúng ta sẽ cần tới đồ thị 3 chiều (θ1, θ0 và J(θ)). Để đơn giản và trình bày trực tiếp trên đồ thị 2 chiều, tôi sẽ bỏ bớt 1 tham số θ0 hay mặc định cho θ0 = 0 tương đương với việc để J(θ) đi qua gốc toạ độ (0, 0). Đồ thị của chúng ta sẽ trở thành như sau:
Screen Shot 2016-07-27 at 3.33.31 PM
Với h(x) như trên thì khi x = 3 => h(x) = 3, có vẻ không được chính xác lắm. Ta sẽ thay đổi θ1 = 1 để h(x) dự đoán được kết quả gần với y = f(x) hơn. Sai số của h(x) và f(x) đơn giản nhất là j = h(x) – f(x) => J(θ) = ∑[h(x) – f(x)] = ∑[h(x) – y] (được tính trên tất cả dữ liệu chúng ta có cho máy học). Cụ thể trong ví dụ này: J(θ) = [h(1) – 1] + [h(2) – 2] + [h(3) – 1.3] + [h(4) – 3.75] + [h(5) – 2.25]
Tuy nhiên h(x) – f(x) tuỳ trường hợp sẽ có giá trị âm hoặc dương nên chúng không thể hiện được sự sai khác giữa h(x) và f(x). Nếu lấy giá trị tuyệt đối |h(x) – f(x)| sẽ khiến cho J(θ) trở nên phức tạp, nên để khắc phục ta bình phương chúng (phương pháp này còn gọi là Least Square – tối thiểu hoá diện tích hình vuông).
Least Square
=> J(θ) = ∑[h(x) – f(x)]2 = [h(1) – 1]2 + [h(2) – 2]2 + [h(3) – 1.3]2 + [h(4) – 3.75]2 + [h(5) – 2.25]2 = 10.515
Giờ chúng ta sẽ làm cho J(θ) nhỏ đi, để nguyên tham số θ1 ta có J(θ) = ∑[θ1x – y]2. Nhận thấy là hàm số J(θ) này là hàm bậc 2, đồ thị có dạng parabolla (đúng như trong giải thuật Gradient descent mong muốn). Trước tiên ta sẽ sử dụng phương pháp Normal Equation để tìm J(θ) nhỏ nhất.
Screen Shot 2016-07-28 at 10.56.09 AM
Nhưng vì số lượng dữ liệu đưa vào có thể thay đổi (chẳng hạn khi ta đưa thêm dữ liệu vào cho máy học) nên J(θ) = 1/m * ∑[h(x) – f(x)]2 sẽ tổng quát hơn. Bên cạnh đó vì J(θ) là hàm số bậc 2 nên khi đạo hàm ta sẽ thu được hàm số có dạng 2g(x) (vì f(x) = x2 thì f'(x) = 2x), nên để cho gọn ta thêm 1/2 vào J(θ) => J(θ) = 1/2m * ∑[h(x) – f(x)]2
Trong ví dụ trên sau khi giải phương trình ta có : θ = 45.15/55 ≃ 0.82. Đưa vào đồ thị ta có:
Screen Shot 2016-07-28 at 11.33.51 AM
Trông có vẻ ổn, các bạn hãy thử áp dụng giải thuật Gradient descent với ví dụ này xem có thu được kết quả tương tự không nhé.
Để ví dụ đơn giản nên tôi chỉ đưa ra mô hình “Linear Regression” trong trường hợp có 1 tham số θ. Với h(x) không nhất thiết đi qua gốc toạ độ chúng ta sẽ có thêm tham số θ0, khi đó J(θ) sẽ không dừng lại ở dạng parabolla mà sẽ là hàm số 2 biến phải được mô tả trong không gian 3 chiều và đồ thị của nó có dạng như sau:
Screen Shot 2016-07-28 at 11.23.52 AM
Đối với không gian n chiều, x không chỉ là một giá trị vô hướng mà là một vector với toạ độ trên n trục. Ta có mô hình Linear Regression tổng quát như sau:
– Tập dữ liệu với m cặp dữ liệu:
x = (x0, x1, … , xn)
y = f(x)
– Hàm tiên đoán hypothesys:
h(x) = θ0 + θ1 x1 + … + θn xn = ∑ θi xi (trong đó x0 = 1).
– Cost function:
J(θ) = 1/2m * ∑[h(x) – y] 2 = 1/2m * ∑[∑ θi xi – y]2
J'(θ) = 1/m ∑[(∑ θi xi – y)x]
Trong đó
J'(θj) = 1/m ∑[(∑ θi xi – y)xj] (xj là giá trị x tương ứng trong θj xj)
Đến đây hi vọng các bạn đã nắm được giải thuật Gradient descent và quá trình học trên một mô hình của ML như thế nào. Hẹn gặp lại các bạn trong bài viết sau.

Tagged width:,