Trong lĩnh vực Học máy có các phương pháp học sau:

1) Học có giám sát (supervised learning)

2) Học không có giám sát (unsupervised learning)

3) Học bán giám sát (semi-supervised learning)

4) Học tăng cường (reinforcement learning)

Không phải ngẫu nhiên người ta lại phân chia và đặt tên cho các phương pháp học như vậy.

Sau một thời gian tìm đọc tài liệu về học máy, cố gắng hiểu được bản chất và phân biệt được sự giống và khác nhau của các phương pháp học này, tôi đưa ra một bài toán ví dụ sau:

Cho một công-ten-nơ chứa đầy hoa quả. Nhiệm vụ phải chia số quả này thành các nhóm đúng với loại quả đó. (xoài ra xoài, cam ra cam, táo ra táo,…)

1) Với Học có giám sát (supervised learning)

Là kỹ thuật học sử dụng cho các bài toán phân lớp (Classification)

Để thực hiện được bài toán trên, trước tiên cần phải có 2 điều kiện:

Điều kiện 1: phải biết trước số nhãn lớp cần phân loại, tức là phải biết trong công-ten-nơ đó có nhưng loại quả gì. Giả sử trong công-ten-nơ đó có 5 loại quả là xoài, cam, táo, ổi, đào (đây chính là 5 loại nhãn lớp).

Điều kiện 2: phải có tập đặc trưng của mỗi loại quả, ví dụ các đặc trưng là: hình dáng, màu sắc, trọng lượng, độ cứng mềm, v.v… Tập đặc trưng này có được thông qua học một tập dữ liệu huấn luyện (chính là các công-ten-nơ của các chuyến hàng trước đó)

Khi thực hiện phân loại các loại quả trong công-ten-nơ đang xét, dựa vào đặc trưng của các loại quả (điều kiện 2), quả sẽ được đưa vào 1 trong 5 nhóm đã biết (điều kiện 1).

2) Học không có giám sát (unsupervised learning)

Là kỹ thuật học sử dụng cho các bài toán phân cụm, gom cụm (Clustering)

 

Để thực hiện được bài toán trên, cần phải có tập đặc trưng của mỗi loại quả. Tập đặc trưng này có được cũng thông qua học một tập dữ liệu huấn luyện (như điều kiện 2 của Học có giám sát).

 

Điểm khác của Học không giám sát so với Học có giám sát là: trước khi phân cụm, không biết trong công-ten-nơ đang xét có bao nhiêu loại quả và đó là những loại quả gì.

Khi thực hiện phân cụm, dựa vào đặc trưng của mỗi loại quả, sẽ đưa quả đang xét vào nhóm (cụm) có đặc trưng tương đồng với nó nhất. Khi đó, 2 quả bất kỳ ở cùng cụm sẽ tương đồng nhau, 2 quả khác cụm sẽ khác biệt nhau.

* Nhận xét

Giống nhau: Cả hai phương pháp học 1) và 2) đều cần phải có một tập huấn luyện (training data set) để hệ thống có thể “học” và rút ra được các đặc trưng dùng cho việc gán nhãn.

Khác nhau: Phương pháp 1) cần biết trước đầu ra chính là số nhãn lớp. Phương pháp 2) không cần biết trước đầu ra  (là số cụm và nhãn) để phân cụm.

 

Trên đây là cách hiểu của tôi về phương pháp Học có giám sát và Học không giám sát. Nhân đây tôi xin đưa một thắc mắc để các thành viên và những ai quan tâm đưa ra ý kiến để cùng thảo luận.

Thắc mắc: Học bán giám sát là gì? Học tăng cường là gì? Phân biệt sự khác nhau và giống nhau giữa các phương pháp học bán giám sát và học tăng cường. Cho ví dụ minh hoạ?

Em thấy k - means là học ko giám sát, trong khi đó xác định k cụm là do người dùng xác định hoặc có thể default, vậy số k đã được biết trước.Vậy thuật toán k - means phải là học nửa giám sát?

Đúng k means là thuật toán học không giám sát vì nó được dùng để phân cụm cho các dữ liệu chưa biết nhãn. Để dễ phân biệt bạn chú ý là việc biết (cho) trước k cụm không liên quan gì đến dữ liệu đầu vào (hay dữ liệu huấn luyện - training data set). Với học có giám sát dữ liệu đầu vào đều đã được gán nhãn trước, phương pháp học này dùng giải quyết bài toán phân lớp (classification). Với học không giám sát, không biết trước nhãn của dữ liệu (hay dữ liệu đầu vào đều chưa được gán nhãn), phương pháp này dùng để giải quyết bài toán phân cụm (clustering). Còn với học nửa giám sát, sử dụng tập dữ liệu đầu vào gồm cả dữ liệu đã gán nhãn và dữ liệu chưa gán nhãn, trong đó dữ liệu gán nhãn thường (rất) ít và dữ liệu chưa gán nhãn thường (rất) nhiều. Hai kỹ thuật tiêu biểu cho học nửa giám sát là Self-training và Co-training, bạn có thể tìm kiếm trên internet.

Chúc vui vẻ!

Có nhiều bạn gửi mail hỏi mình về Machine Learning, các bạn thông cảm vì đi làm bận nên không trả lời riêng các bạn, và cũng để mọi người có thể cùng trao đổi mình sẽ post lên đây để mọi người chia sẻ những kiến thức về ML.

 

Trước tiên mình nêu một số định nghĩa rất quan trọng trong ML.

 

Định nghĩa học máy

Học máy (hay máy học – Machine learning) là một thành phần quan trọng của trí tuệ nhân tạo nhằm nghiên cứu và phát triển các phương pháp, kỹ thuật giúp cho các hệ thống hay máy tính có khả năng học (Tiến Phong).

 

Vấn đề quá vừa dữ liệu (Over-fitting)

Thuật ngữ over-fitting ra đời dùng để chỉ một hiện tượng xuất hiện trong quá trình khai phá dữ liệu sử dụng phương pháp học máy. Hiện tượng này gây khó khăn đáng kể cho việc thiết kế, xây dựng hệ thống ngay từ bước chuẩn bị dữ liệu cho đến bước kiểm thử hệ thống. Khi hiện tượng over-fitting xảy ra sẽ làm cho hiệu quả của hệ thống giảm xuống và kết quả thu được từ hệ thống không còn độ tin cậy cao. Có thể định nghĩa hiện tượng over-fitting như sau:

 

Định nghĩa quá vừa dữ liệu

Một hàm mục tiêu hay một giả thiết học được h, sẽ được gọi là over-fitting (quá vừa dữ liệu) với một tập dữ liệu huấn luyện nếu tồn tại một hàm mục tiêu khác là h’ sao cho:

h’ kém phù hợp hơn, đạt độ chính xác kém hơn so với h trên tập dữ liệu huấn luyện, nhưng h’ lại đạt độ chính xác cao hơn h đối với toàn bộ tập dữ liệu (bao gồm cả tập dữ liệu liệu huấn luyện và tập dữ liệu kiểm tra)

 

Ví dụ quá vừa dữ liệu

Giả sử gọi D là tập toàn bộ các dữ liệu có thể có, Training_D là tập các dữ liệu huấn luyện

Giả sử Err_D(h) là mức lỗi mà giả thiết h sinh ra đối với tập D, và Err_Training_D(h) là mức lỗi mà giả thiết h sinh ra đối với tập Training_D.

Nếu tồn tại một giả thiết khác là h’ sao cho:

Err_Training_D(h) < Err_Training_D(h’) và

Err_D(h) > Err_D(h’)

Thì khi đó h được coi là quá vừa dữ liệu trên tập huấn luyện Training_D.

 

Nguyên nhân quá vừa dữ liệu

Vấn đề over-fitting thường do các nguyên nhân:

- Lỗi (nhiễu) trong tập huấn luyện phát sinh trong quá trình thu thập, xây dựng tập dữ liệu.

- Số lượng dữ liệu của tập huấn luyện quá nhỏ, không đại diện cho toàn bộ tập dữ liệu có thể có hay toàn bộ phân bố dữ liệu của bài toán.

 

Bản chất của học máy dưới góc nhìn của xác suất thống kê.

Có thể mô hình hoá một vấn đề máy học như sau:

Cho một dãy l quan sát: (x₁, y₁), (x₂, y₂), … , (x_l, y_l). Trong đó:

- x₁, x₂, …, x_l là các mẫu, x_i Rⁿ. Các mẫu x_i được phát sinh ngẫu nhiên theo một hàm phân bố xác suất F(x) nào đó mà ta không biết.

- y_i là các kết quả học tương ứng với mẫu x_i, y_i R. Thường thì y là kết quả của một hàm f(x) nào đó – đơn trị. Tuy nhiên trong trường hợp tổng quát thì y không đơn trị. Do đó y được xác định theo một hàm phân bố điều kiện F(y|x) mà ta cũng không biết.

- Bây giờ cho một mẫu x*, vấn đề của máy học là xác định một hàm f₀(x) mà có thể ước lượng tốt nhất giá trị y* tương ứng. Như vậy theo lý thuyết tương quan trong thống kê thì f₀(x) tốt nhất theo lý thuyết phải là kỳ vọng của y theo x theo phân bố F(y|x).f₀(x) còn được gọi là phương trình hồi quy.

Với x tuân theo phân bố F(x), y tuân theo phân bố có điều kiện F(y|x) thì hàm phân bố của cặp (x, y) là F(x, y) = F(x)F(y|x). Có thể thấy xác suất để có dãy (x₁, y₁), (x₂, y₂), … , (x_l, y_l) là tích F(x₁, y₁)F(x₂, y₂)…F(x_l, y_l).

Tuy nhiên, ở đây ta không biết F(x) lẫn F(y|x) nên không thể xác định chính xác kỳ vọng này. Tất cả dữ liệu mà ta biết chỉ là dãy hữu hạn các mẫu quan sát (x₁, y₁), (x₂, y₂), … , (x_l, y_l). Nhiệm vụ của máy học là xác định chính xác nhất có thể được hàm f₀(x) dựa trên các dữ liệu hữu hạn này.

Trong trường hợp khi y  R, tức đây là vấn đề hồi quy (regression).

Trong trường hợp bài toán phân lớp (classification) thì y {-1, 1} là trường hợp nhận dạng hai lớp, nếu y_i = -1 thì x_i thuộc lớp thứ nhất (không được quan tâm), còn y_i = 1 thì x_i thuộc lớp thứ 2 (lớp được quan tâm)

 

Một số phương pháp học máy

Trong lĩnh vực học máy có nhiều phương pháp học khác nhau, trong phần này đề cập đến 3 phương pháp học được sử dụng phổ biến nhất, gồm có: học không giám sát, học bán/ nửa giám sát và học có giám sát.

 

Phương pháp học không giám sát (Unsupervised Learning)

* Khái niệm học không giám sát

Học không giám sát là học với tập dữ liệu huấn luyện ban đầu hoàn toàn chưa được gán nhãn.

Học không giám sát là phương pháp học sử dụng cho lớp bài toán gom cụm, phân cụm (Clustering).

 

* Nội dung phương pháp học không giám sát

- Để thực hiện phân cụm, trước tiên cần một tập dữ liệu huấn luyện (training dataset) – là một tập các ví dụ học (training examples/instances). Trong đó, mỗi ví dụ học chỉ chứa thông tin biểu diễn (ví dụ: một vector các giá trị thuộc tính), mà không có bất kỳ thông tin gì về nhãn lớp hoặc giá trị đầu ra mong muốn (expected output).

- Áp dụng một thuật toán học không có giám sát (ví dụ k-Means) để học hàm/mô hình mục tiêu (trong trường hợp này là hàm phân cụm ứng với thuật toán được chọn).

- Sử dụng một phương pháp thử nghiệm (có thể kết hợp với một tập dữ liệu có gán nhãn) để đánh giá hiệu năng/chất lượng của hàm mục tiêu học được.

 

* Một số thuật toán học không giám sát

Có rất nhiều thuật toán học không giám sát được ra đời và phát triển nhằm giải quyết bài toán phân cụm phục vụ khai thác hiệu quả nguồn dữ liệu chưa gán nhãn nhiều và rất đa dạng. Việc lựa chọn sử dụng thuật toán nào tuỳ thuộc vào dữ liệu và mục đích của từng bài toán. Trong đó các thuật toán thường được sử dụng như: k-means, HAC (Hierarchical Agglomerative Clustering), SOM (Self-Organizing Map), DBSCAN, FCM,... (chi tiết các thuật toán này có thể tìm kiếm trên Internet)

 

Phương pháp học bán giám sát (Semi-Supervised Learning)

Trong thực tế, để có được một tập dữ liệu có chất lượng và đã được gán nhãn của một lĩnh vực, thường được thực hiện thủ công bằng tay bởi người có nhiều kinh nghiệm về lĩnh vực đó. Vì vậy, dữ liệu đã được gán nhãn thường ít và đắt. Trong khi đó, dữ liệu chưa được gán nhãn lại rất nhiều và phong phú. Phương pháp học bán giám sát (hay học nửa giám sát) được đặt ra để tận dụng cả hai nguồn dữ liệu này.

 

* Khái niệm học bán giám sát

Học bán giám sát là học với tập dữ liệu huấn luyện gồm cả dữ liệu đã được gán nhãn và dữ liệu chưa được gán nhãn.

Tuỳ vào từng mục đích cụ thể, học bán giám sát có thể được áp dụng cho bài toán phân lớp hoặc phân cụm.

 

* Nội dung phương pháp học bán giám sát

- Nội dung chính của học bán giám sát là hệ thống sử dụng một tập học (training set) gồm 2 phần: các ví dụ học có nhãn, thường với số lượng (rất) ít, và các ví dụ học không có nhãn, thường với số lượng (rất) nhiều. Thực tế cho thấy khi sử dụng kết hợp dữ liệu không có nhãn với một lượng nhất định dữ liệu có nhãn có thể tăng độ chính xác đáng kể.

- Một thuật toán học bán giám sát được sử dụng (ví dụ Self-training) sẽ học các ví dụ có nhãn, sau đó tiến hành gán nhãn cho một số (có lựa chọn) các ví dụ không có nhãn - một cách hợp lý, có đánh giá chất lượng công việc hay độ chính xác. Tiếp theo, chọn các ví dụ vừa được gán nhãn có độ tin cậy cao (vượt trên một ngưỡng chọn trước) đưa vào kết hợp với tập dữ liệu có nhãn, tạo thành một tập dữ liệu huấn luyện mới.

- Áp dụng một phương pháp kiểm thử (có thể kết hợp với một tập dữ liệu đã biết trước nhãn) để đánh giá hiệu năng/độ chính xác của mô hình.

 

* Một số thuật toán học bán giám sát

Một số thuật toán thường được sử dụng gồm có: thuật toán Cực đại kỳ vọng (EM - Expectation Maximization), SVM truyền dẫn (TSVM - Transductive Support Vector Machine), Self-training, Co-training và các phương pháp dựa trên đồ thị (graph-based).

Việc lựa chọn thuật toán nào dựa trên một số định hướng: nếu các lớp dữ liệu có tính phân cụm cao thì nên dùng EM với mô hình hỗn hợp sinh; nếu đã sử dụng SVM thì mở rộng thành TSVM; khi khó nâng cấp mô hình học có giám sát đã có, thì nên dùng self-training; nếu các đặc trưng của dữ liệu phân chia tự nhiên thành hai phần riêng rẽ thì nên dùng Co-training; còn nếu hai mẫu dữ liệu có đặc trưng tương tự nhau hướng tới một lớp thì sử dụng phương pháp dựa trên đồ thị.

 

Trong số các thuật toán học bán giám sát thông dụng, có 2 thuật toán tiêu biểu là Self-training và Co-training.

- Thuật toán Self-training:

Self-training là kỹ thuật học bán giám sát được sử dụng khá phổ biến do tận dụng được nguồn dữ liệu chưa gán nhãn lớn và ban đầu chỉ cần lượng nhỏ dữ liệu đã gán nhãn. Nội dung chính của Self-training là lặp nhiều lần phương pháp học có giám sát.

Gọi    D: là tập các dữ liệu đã được gán nhãn.

          C : là tập các dữ liệu chưa gán nhãn.

Thuật toán Self-training thực hiện như sau:

Lặp (cho đến khi C = Æ):

i. Huấn luyện bộ phân lớp có giám sát h trên tập D

ii. Sử dụng h để phân lớp dữ liệu trong tập C

iii. Tìm tập con C’ Í C có độ tin cậy cao nhất:

D + C’ Þ D ; C – C’ Þ C.

Ban đầu huấn luyện bộ phân lớp bằng cách cho bộ phân lớp học một tập dữ liệu huấn luyện đã được gán nhãn (tập này thường nhỏ so với tập dữ liệu chưa gán nhãn). Dùng bộ phân lớp đã được huấn luyện, phân lớp cho các dữ liệu chưa được gán nhãn. Trong số dữ liệu mới được gán nhãn, chọn các dữ liệu có độ tin cậy cao (lớn hơn một ngưỡng nào đó) kèm với nhãn vừa gán, đem bổ sung vào tập dữ liệu huấn luyện ban đầu. Sau đó, bộ phân lớp được học lại trên tập huấn luyện mới (gồm dữ liệu đã gán nhãn ban đầu và dữ liệu do bộ phân lớp mới gán nhãn) và thuật toán được lặp lại. Sau mỗi vòng lặp, bộ phân lớp sẽ bổ sung một số mẫu dữ liệu có độ tin cậy cao nhất cùng với dự đoán phân lớp của chúng vào tập dữ liệu huấn luyện. Tên gọi Self-training xuất phát từ việc sử dụng dự đoán của nó để huấn luyện chính nó.

 

- Thuật toán Co-training:

Thuật toán Co-training dựa trên giả thuyết rằng các đặc trưng của tập dữ liệu huấn luyện có thể được phân chia thành 2 tập con (trường hợp lý tưởng là hai tập con này thoả mãn điều kiện độc lập nhau - conditional independent). Nội dung chính của thuật toán như sau:

+ Dùng 2 bộ phân lớp phù hợp để học 2 tập con tương ứng (mỗi tập con huấn luyện một bộ phân lớp).

+ Mỗi bộ phân lớp thực hiện phân lớp cho các dữ liệu chưa gán nhãn, thu được kết quả là tập dữ liệu chưa gán nhãn kèm theo nhãn dự đoán của chúng. Trong tập kết quả của bộ phân lớp 1, chọn ra những mẫu dữ liệu (kèm nhãn đã dự đoán) có độ tin cậy cao nhất bổ sung vào tập huấn luyện của bộ phân lớp 2 và ngược lại.

+ Mỗi bộ phân lớp được học lại tập dữ liệu huấn luyện (gồm dữ liệu gán nhãn ban đầu và dữ liệu gán nhãn mới bổ sung từ kết quả của bộ phân lớp kia). Quá trình được lặp lại cho đến khi tập dữ liệu chưa gán nhãn rỗng hoặc số vòng lặp đạt tới một ngưỡng được xác định trước.

 

Thuật toán Co-training:

(1). Huấn luyện hai bộ phân lớp:   f ⁽¹⁾ từ (X_l ⁽¹⁾, Y_l), f ⁽²⁾ từ (X_l ⁽²⁾, Y_l).

(2). Phân lớp các mẫu dữ liệu chưa gán nhãn X_u với f ⁽¹⁾ và f ⁽²⁾ tách biệt nhau. (U là tập các mẫu dữ liệu chưa gán nhãn)

(3).  Chèn thêm vào f ⁽¹⁾ k-most-confident (x, f ⁽¹⁾(x)) tới các dữ liệu đã gán nhãn của f ⁽²⁾.

(4). Chèn thêm vào f ⁽²⁾ k-most-confident (x, f ⁽²⁾ (x)) tới các dữ liệu đã gán nhãn của f ⁽¹⁾.

(5). Lặp lại các quá trình trên.

 

Thuật toán Co-training trên có thể viết như sau:

L: là tập các mẫu dữ liệu đã gán nhãn

U: là tập các mẫu dữ liệu chưa gán nhãn

(1). L có thể phân chia thành hai tập con L₁ và L₂ (trường hợp lý tưởng thì L₁ và L₂ độc lập nhau).

(2). Cho bộ phân lớp h₁ học L₁ (hay L₁ huấn luyện bộ phân lớp h₁)

Cho bộ phân lớp h₂ học L₂ (hay dùng L₂ huấn luyện bộ phân lớp h₂)

(3). Dùng h₁ phân lớp cho U thu được tập U₁’ kèm nhãn dự đoán của chúng. Dùng h₂ phân lớp cho U thu được tập U₂’ kèm nhãn dự đoán của chúng.

(4). Từ U₁’ chọn ra u₁ mẫu dữ liệu kèm theo nhãn của nó, có độ tin cậy cao nhất. Bổ sung u₁ vào L₂. Khi đó, L₂ + u₁ => L₂.

Từ U₂’ chọn ra u₂ mẫu dữ liệu kèm theo nhãn của nó, có độ tin cậy cao nhất. Bổ sung u₂ vào L₁. Khi đó, L₁ + u₂ => L₁.

(5). Dùng L₁ mới huấn luyện bộ phân lớp h₁ (hay h₁ học L₁)

Dùng L₂ mới huấn luyện bộ phân lớp h₂ (hay h₂ học L₂)

(6). Lặp lại từ bước (3). cho đến khi tập U rỗng hoặc số vòng lặp đạt đến ngưỡng xác định trước.

 

Có thể viết rút gọn bằng cách bỏ bước (5). ở trên. Bước (6). đổi thành bước (5): Lặp lại từ bước (2). cho đến khi tập U rỗng hoặc số vòng lặp đạt đến ngưỡng xác định trước.

 

Phương pháp học có giám sát (Supervised Learning)

* Khái niệm học có giám sát:

Học có giám sát là học với tập dữ liệu huấn luyện ban đầu hoàn toàn được gán nhãn từ trước.

Học có giám sát là phương pháp học sử dụng cho lớp bài toán phân lớp, phân loại (Classification).

 

* Nội dung phương pháp học có giám sát:

- Để thực hiện phân lớp, trước tiên phải chuẩn bị một tập dữ liệu huấn luyện (trainning data set), để có tập dữ liệu huấn luyện phải thực hiện gán nhãn cho dữ liệu ban đầu, đây được gọi là quá trình thu thập tập huấn luyện.

- Lựa chọn một thuật toán phân lớp (ví dụ SVM) xây dựng bộ phân lớp để học tập dữ liệu huấn luyện. Hay nói cách khác, dùng tập dữ liệu huấn luyện để huấn luyện bộ phân lớp. Thuật ngữ học có giám sát được hiểu là học tập dữ liệu đã được gán nhãn trước (các dữ liệu kèm theo nhãn tương ứng này coi như đã được giám sát bởi người thực hiện gán nhãn).

- Sử dụng một tập dữ liệu kiểm tra (test data set) đã được gán nhãn trước, để kiểm tra tính đúng đắn của bộ phân lớp. Sau đó, có thể dùng bộ phân lớp để phân lớp cho các dữ liệu mới.

 

* Một số thuật toán học có giám sát:

Một số thuật toán thường được lựa chọn khi xây dựng bộ phân lớp gồm có: máy vector hỗ trợ (Support Vector Machine – SVM); k láng giềng gần nhất (K Nearest Neighbours – KNN); tiếp cận xác suất thống kê (Naïve Bayes – NB); Cây quyết định (Decision Tree – DT); sử dụng mạng nơron (Neural Network – Nnet); dựa trên vector trọng tâm (Centroid–base vector); hay tuyến tính bình phương nhỏ nhất (Linear Least Square Fit – LLSF). (Chi tiết các thuật toán này có thể tham khảo trên Internet).

Mình đính chính một vài lỗi soạn thảo nhỏ:

Trong phần “Bản chất của học máy dưới góc nhìn của xác suất thống kê”

- x₁, x₂, …, x_l là các mẫu, x_i thuộc Rⁿ. Các mẫu x_i được phát sinh ngẫu nhiên theo một hàm phân bố xác suất F(x) nào đó mà ta không biết.

- y_i là các kết quả học tương ứng với mẫu x_i, y_i thuộc R. Thường thì y là kết quả của một hàm f(x) nào đó – đơn trị. Tuy nhiên trong trường hợp tổng quát thì y không đơn trị. Do đó y được xác định theo một hàm phân bố điều kiện F(y|x) mà ta cũng không biết.

…

Trong trường hợp khi y thuộc R, tức đây là vấn đề hồi quy (regression).

Trong trường hợp bài toán phân lớp (classification) thì y thuộc{-1, 1} là trường hợp nhận dạng hai lớp, nếu y_i = -1 thì x_i thuộc lớp thứ nhất (không được quan tâm), còn y_i = 1 thì x_i thuộc lớp thứ 2 (lớp được quan tâm).

 

Phần “Thuật toán Self-training thực hiện như sau:”

Lặp (cho đến khi C = rỗng):

…

iii. Tìm tập con C’ <ký hiệu là con thực sự của> C có độ tin cậy cao nhất:

D + C’ => D; C – C’ => C.