Học có giám sát (Supervised Learning).

Học không giám sát (Unsupervised Learning).

Học tăng cường (Reinforcement Learning).

Phân tích chuỗi thời gian.

Phân lớp dự đoán nhãn định danh, Hồi quy dự đoán giá trị số liên tục.

Phân lớp cần dữ liệu huấn luyện, Hồi quy thì không.

Phân lớp chạy chậm hơn Hồi quy.

Không có sự khác biệt.

Tiền xử lý dữ liệu và Khai phá luật.

Xây dựng mô hình (Learning) và Sử dụng mô hình (Testing).

Phân cụm và Giảm chiều dữ liệu.

Trích xuất đặc trưng và Rời rạc hóa.

Tập huấn luyện (Training set).

Tập kiểm thử (Test set) tách biệt hoàn toàn với tập huấn luyện.

Tập dữ liệu ban đầu chưa qua xử lý.

Tập dữ liệu chứa toàn bộ các trường hợp nhiễu.

Nút gốc, nút nhánh và nút lá.

Nút cha và các nút láng giềng.

Các hàm số và các biến phụ thuộc.

Các trọng số và các lớp ẩn.

Một thuộc tính cần kiểm tra.

Một nhãn lớp (Class label).

Một tập con của dữ liệu.

Một giá trị trung bình.

ID3, C4.5, CART.

Apriori, FP-Growth.

K-Means, DBSCAN.

Naive Bayes.

Khoảng cách Euclid.

Entropy (Độ hỗn loạn thông tin).

Xác suất hậu nghiệm.

Chỉ số Gini.

$$1$$

$$0.5$$

$$0$$

Vô cùng

Entropy cao nhất.

Information Gain lớn nhất.

Gini Index lớn nhất.

Số lượng giá trị thuộc tính ít nhất.

Thiên vị (ưu tiên) các thuộc tính có quá nhiều giá trị (ví dụ: mã ID).

Tính toán quá phức tạp và chậm.

Không xử lý được các giá trị bị thiếu

Không thể dùng cho bài toán phân lớp nhị phân

Thay thế hoàn toàn Gini Index.

Khắc phục sự thiên vị của Information Gain đối với các thuộc tính nhiều giá trị.

Làm cho cây quyết định sâu hơn.

Tăng tốc độ xây dựng cây.

ID3.

CART.

C4.5.

Naive Bayes.

Cây quá đơn giản và không học được quy luật.

Cây quá phức tạp, học cả những nhiễu và chi tiết đặc thù của tập huấn luyện.

Cây không có nút gốc.

Dữ liệu huấn luyện có quá ít thuộc tính.

Dừng xây dựng cây khi dữ liệu còn quá ít.

Loại bỏ các nhánh gây nhiễu sau khi cây đã được xây dựng hoàn chỉnh.

Xóa bỏ các thuộc tính không quan trọng trước khi xây dựng cây.

Tăng thêm các nút lá để cây chi tiết hơn.

Loại bỏ các thuộc tính đó khỏi mô hình.

Rời rạc hóa bằng cách tìm một ngưỡng (threshold) phân tách tốt nhất.

Tính giá trị trung bình cộng của tất cả các giá trị.

Chuyển đổi tất cả thành giá trị 0 và 1.

Đi từ nút gốc dọc theo các nhánh đến mỗi nút lá.

Đi ngược từ nút lá lên đến nút gốc.

Chỉ lấy các nút nằm ở giữa cây.

Chọn ngẫu nhiên các nút trên cây.

Xác suất tiên nghiệm của các lớp.

Xác suất hậu nghiệm $$P(H\mid X)$$ của một lớp khi biết dữ liệu $$X$$ .

Khoảng cách giữa các mẫu dữ liệu.

Độ lỗi của mô hình phân lớp.

Vì nó là thuật toán đơn giản nhất.

Vì nó giả định các thuộc tính hoàn toàn độc lập với nhau trong một lớp.

Vì nó không cần tập dữ liệu huấn luyện.

Vì nó chỉ dự đoán được các nhãn lớp đơn giản.

Tập dữ liệu quá lớn khiến máy tính quá tải.

Có một xác suất thành phần bằng $$0$$ , làm triệt tiêu xác suất cuối cùng.

Dữ liệu bị nhiễu quá nhiều ở các nút lá.

Số lượng thuộc tính lớn hơn số lượng mẫu.

Xử lý cực tốt các thuộc tính phụ thuộc nhau.

Tốc độ thực hiện nhanh, hiệu quả với các tập dữ liệu lớn.

Luôn đạt độ chính xác cao hơn cây quyết định.

Tự động loại bỏ các nhánh cây không cần thiết.

Xác suất hậu nghiệm $$P(C_i\mid X)$$ nhỏ nhất.

Xác suất hậu nghiệm $$P(C_i\mid X)$$ lớn nhất (Maximum Posteriori).

Xác suất tiên nghiệm $$P(C_i)$$ lớn nhất.

Giá trị trung bình của các thuộc tính lớn nhất.

Một điểm trung tâm cho mỗi lớp.

Một siêu phẳng (Hyperplane) phân cách các lớp với lề (Margin) tối đa.

Một tập hợp các luật IF - THEN

Một cấu trúc phân cấp các nút

Các điểm dữ liệu nằm xa siêu phẳng nhất.

Các điểm dữ liệu nằm sát siêu phẳng nhất, trực tiếp định nghĩa siêu phẳng.

Các biến mục tiêu trong tập dữ liệu.

Các trọng số được gán cho mỗi neuron.

Kỹ thuật tia nhánh cây.

Hàm nhân (Kernel trick) để chuyển dữ liệu sang không gian chiều cao hơn.

Việc tính toán Entropy và Information Gain.

Việc bỏ qua các mẫu dữ liệu ở biên.

Học tích cực (Eager Learning).

Học lười (Lazy Learning).

Học không giám sát (Unsupervised Learning).

Học tăng cường.

Cấu trúc của một cây quyết định đã được huấn luyện.

Đa số phiếu bầu từ nhãn lớp của K láng giềng gần nó nhất.

Phương trình của siêu phẳng tối ưu.

Tổng xác suất Bayes của tất cả thuộc tính.

Khoảng cách Euclid.

Khoảng cách Manhattan.

Khoảng cách Minkowski.

Tất cả các phương án trên đều đúng.

Duy nhất một lớp đầu vào.

Lớp đầu vào, một hoặc nhiều lớp ẩn và một lớp đầu ra.

Các nút lá và nút nhánh như cây quyết định

Các phương trình hồi quy tuyến tính nối tiếp nha

Thuật toán Apriori.

Thuật toán Lan truyền ngược (Back-propagation).

Thuật toán Eclat.

Thuật toán K-Means.

Neuron (hay Perceptron).

Kernel.

Support Vector.

Node Leaf.

Thời gian huấn luyện lâu và khó giải thích cơ chế bên trong (Black box).

Không thể xử lý được dữ liệu có nhãn.

Chỉ hoạt động được với dữ liệu văn bản.

Không thể áp dụng cho bài toán phân lớp.

Nhiều mô hình hồi quy tuyến tính.

Nhiều cây quyết định được xây dựng ngẫu nhiên.

Một mạng thần kinh và một mô hình Bayes.

Nhiều siêu phẳng SVM khác nhau.

Lấy mẫu dữ liệu có thay thế để huấn luyện song song nhiều mô hình độc lập.

Xây dựng một cây duy nhất cực kỳ phức tạp.

Tập trung sửa lỗi của các mẫu bị phân lớp sai.

Giảm số lượng thuộc tính đầu vào.

Một cách song song và độc lập hoàn toàn.

Một cách tuần tự, mô hình sau tập trung học từ sai lầm của mô hình trước.

Chỉ áp dụng cho hồi quy tuyến tính.

Luôn sử dụng các mô hình cây quyết định.

Phân loại các đối tượng vào các nhóm định danh.

Dự đoán giá trị của một biến số liên tục dựa trên các biến độc lập.

Tìm kiếm các luật kết hợp trong giỏ hàng.

Gom nhóm dữ liệu không nhãn.

Phân lớp nhị phân (dự đoán xác suất thuộc về lớp 0 hoặc lớp 1).

Tính giá trị trung bình của tập dữ liệu.

Tìm khoảng cách giữa các cụm.

Dự đoán giá cổ phiếu theo thời gian.

Tính Entropy cho cây quyết định.

Tìm đường thẳng (hoặc siêu phẳng) khớp nhất với dữ liệu trong hồi quy.

Tính xác suất trong Naive Bayes.

Tỉa nhánh cho Random Forest.

Lưu trữ tập dữ liệu huấn luyện.

Hiển thị số lượng dự đoán đúng và sai cho mỗi lớp của mô hình.

Chuyển đổi dữ liệu định danh sang dữ liệu số.

Tính độ sâu của cây quyết định.

Tổng số mẫu dự đoán đúng chia cho tổng số mẫu dữ liệu.

Số mẫu dương tính đúng chia cho tổng số mẫu dự đoán dương tính.

Số mẫu dương tính đúng chia cho thực tế dương tính.

Tổng số lỗi chia cho tổng số mẫu.

Có bao nhiêu mẫu thực tế Đúng đã được mô hình tìm thấy?

Trong số những mẫu mô hình dự đoán là Đúng, có bao nhiêu mẫu thực sự Đúng?

Mô hình đã dự đoán đúng được bao nhiêu phần trăm trên tổng thể?

Có bao nhiêu mẫu bị mô hình bỏ sót?

Tỉ lệ các mẫu thực tế Đúng được mô hình dự đoán chính xác.

Tỉ lệ các mẫu thực tế Sai được mô hình dự đoán chính xác.

Độ ổn định của mô hình khi thay đổi dữ liệu.

Thời gian mô hình cần để đưa ra kết quả.

Giá trị trung bình cộng của Accuracy và Precision.

Trung bình điều hòa (Harmonic mean) của Precision và Recall.

Tổng của tất cả các phần tử trong ma trận nhầm lẫn.

Hiệu số giữa độ chính xác huấn luyện và kiểm thử.

Accuracy.

Precision, Recall và F1-score.

Số lượng thuộc tính.

Tốc độ huấn luyện.

Giảm kích thước của tập dữ liệu huấn luyện.

Đánh giá khả năng tổng quát hóa của mô hình một cách khách quan hơn.

Loại bỏ hoàn toàn các thuộc tính bị thiếu giá trị.

Làm cho mô hình chỉ học trên tập kiểm thử.

Precision và Recall.

True Positive Rate (TPR) và False Positive Rate (FPR).

Accuracy và Error Rate.

Support và Confidence.

Mô hình phân lớp càng kém.

Mô hình phân lớp càng tốt (khả năng phân tách lớp mạnh).

Mô hình đang bị hiện tượng quá khớp cực nặng

Mô hình chỉ đang dự đoán ngẫu nhiên

Giá tiền mua phần mềm khai phá dữ liệu.

Việc phân lớp sai nhãn này có thể gây hậu quả nặng nề hơn nhãn kia.

Thời gian cần thiết để thu thập dữ liệu.

Số lượng neuron trong lớp ẩn.

Độ chính xác (Accuracy).

Sai số bình phương trung bình (RMSE) hoặc Sai số tuyệt đối trung bình (MAE).

Ma trận nhầm lẫn.

Độ lợi thông tin (Information Gain).

Tránh thiên vị các thuộc tính có nhiều giá trị.

Tạo ra cây quyết định nhị phân.

Tăng độ phức tạp của các nút lá.

Xử lý các mẫu dữ liệu bị nhiễu.

Xóa bỏ các trọng số nhỏ.

Quyết định tín hiệu đầu ra của một neuron dựa trên tổng các đầu vào có trọng số.

Chuyển đổi dữ liệu số thành dữ liệu văn bản.

Đếm số lượng lớp ẩn trong mạng.

Sử dụng toàn bộ dữ liệu để huấn luyện.

Chia dữ liệu thành 2 tập riêng biệt: Huấn luyện (Train) và Kiểm thử (Test).

Giữ lại các mẫu bị sai để huấn luyện lại nhiều lần.

Chỉ lấy các mẫu dữ liệu mới nhất để đánh giá.

Độ lợi thông tin thu được sau khi phân chia.

Độ bất thuần (impurity) hay độ hỗn loạn của các mẫu dữ liệu.

Khoảng cách giữa các trọng tâm của các lớp.

Xác suất hậu nghiệm của các thuộc tính độc lập.

Cây quá sâu và chi tiết.

Cây quá đơn giản, không đủ khả năng học quy luật của dữ liệu.

Cây có quá nhiều nút lá cùng nhãn.

Cây học thuộc lòng toàn bộ dữ liệu huấn luyện.

Các thuộc tính hoàn toàn độc lập với nhau.

Các thuộc tính có mối tương quan (phụ thuộc) mạnh mẽ với nhau.

Tập dữ liệu huấn luyện có kích thước rất lớn.

Dữ liệu chỉ chứa các thuộc tính định danh.

Số lượng neuron trong mạng.

Sự cân bằng giữa việc tối đa hóa lề (Margin) và việc chấp nhận sai số huấn luyện.

Độ sâu tối đa của các nhánh cây.

Tốc độ học của mô hình Bayes.

Dữ liệu có quá nhiều thuộc tính (nhiều chiều).

Dữ liệu đã được chuẩn hóa min-max.

Số lượng mẫu dữ liệu quá ít.

Tất cả các thuộc tính đều là dữ liệu số.

Xác định số lượng lớp ẩn cần thiết.

Đo lường sự sai lệch giữa dự đoán và thực tế để cập nhật lại các trọng số.

Kích hoạt các neuron ở lớp đầu vào.

Chuyển đổi dữ liệu phi tuyến thành tuyến tính.

Tiết kiệm điện năng cho máy tính.

Dừng huấn luyện khi độ lỗi trên tập kiểm thử bắt đầu tăng để tránh Overfitting.

Xóa bỏ các neuron không hoạt động.

Giảm số lượng lớp ẩn trong mạng.

Các cây thành phần được xây dựng song song và độc lập.

Các cây thành phần được xây dựng theo thứ tự trước sau.

Chỉ sử dụng duy nhất một thuộc tính tốt nhất cho mọi nút.

Luôn tạo ra một cây duy nhất cực lớn.

Độ chính xác của nhãn lớp dự đoán.

Tỉ lệ sự biến thiên của biến phụ thuộc được giải thích bởi các biến độc lập.

Khoảng cách Euclid giữa các điểm dữ liệu.

Số lượng các luật kết hợp đã tìm thấy.

10.

5.

Tổng số mẫu dữ liệu N.

1.

Tỉ lệ các mẫu thực tế Sai được dự đoán đúng là Sai.

Tỉ lệ các mẫu thực tế Đúng được dự đoán đúng là Đúng.

Tỉ lệ các mẫu dự đoán Đúng nhưng thực tế là Sai.

Tổng số mẫu dự đoán đúng trên toàn bộ tập dữ liệu.

Tổng số mẫu được dự đoán là Dương tính.

Tổng số mẫu thực tế là Dương tính (Actual Positive).

Tổng số mẫu dữ liệu trong tập kiểm thử.

Tổng số dự đoán đúng của mô hình.

Loại bỏ bớt các mẫu thuộc lớp đa số.

Tăng số lượng mẫu thuộc lớp thiểu số bằng cách sao chép hoặc sinh mẫu mới.

Giảm số lượng thuộc tính để mô hình chạy nhanh hơn

Thay đổi nhãn lớp của các mẫu bị sai

Cây quyết định (Decision Tree).

K-láng giềng gần nhất (KNN).

Máy vector hỗ trợ (SVM).

Mạng thần kinh (Neural Networks).

Định lý Bayes.

Quy tắc chuỗi (Chain rule) của đạo hàm.

Khoảng cách Manhattan.

Phép nhân ma trận đơn giản.

$$y=ax+b$$

$$w^Tx+b=0$$

$$P(A\mid B)=P(B)P(B\mid A)P(A)$$

$$Gain(A)=Info(D)-InfoA(D)$$

Đánh giá độ chính xác của mô hình mà không cần tập kiểm thử riêng.

Tính toán độ sâu tối đa của các cây.

Lọc bỏ các mẫu dữ liệu bị nhiễu trước khi train.

Tăng tốc độ huấn luyện của rừng.

Chuyển đổi giá trị dự báo từ khoảng $$(-\infty,+\infty)$$ về khoảng $$(0,1)$$ .

Tìm đường thẳng phân cách tốt nhất giữa các điểm dữ liệu.

Tính toán độ lợi thông tin cho các nút lá.

Loại bỏ các vector hỗ trợ nằm quá xa.

Không cung cấp kết quả đánh giá chính xác.

Chi phí tính toán cao vì phải huấn luyện mô hình nhiều lần.

Chỉ áp dụng được cho các tập dữ liệu cực lớn.

Làm cho mô hình dễ bị hiện tượng quá khớp hơn.

Phân chia đa nhánh cho mỗi giá trị của thuộc tính đó

Luôn luôn chia thành đúng 2 nhánh nhị phân

Chuyển đổi các chữ thành số rồi tính trung bình

Chỉ lấy giá trị xuất hiện nhiều nhất làm nhánh

Mô hình dự đoán mọi mẫu đều đúng

Mô hình không bỏ sót bất kỳ mẫu thực tế dương tính nào (FN = 0)

Mô hình không dự đoán sai bất kỳ mẫu âm tính nào (FP = 0)

Mô hình chỉ hoạt động tốt trên tập huấn luyện

Sử dụng Information Gain và chỉ làm việc với thuộc tính định danh

Có thể xử lý trực tiếp các thuộc tính có giá trị số liên tục

Sử dụng kỹ thuật tỉa nhánh sau (Post-pruning) mặc định

Luôn tạo ra cây quyết định có độ sâu cố định

Vào lớp 0

Vào lớp 1 (thường chọn ngưỡng là 0.5)

Không thể phân lớp được

Vào lớp trung gian

Thứ tự xuất hiện của các mẫu trong file dữ liệu

Khoảng cách (các láng giềng gần hơn có trọng số cao hơn)

Độ lớn của giá trị nhãn lớp

Số lượng thuộc tính của mẫu đó

Dừng quá trình dự báo và báo lỗi

Bỏ qua thuộc tính bị thiếu và chỉ tính xác suất trên các thuộc tính hiện có

Thay thế giá trị thiếu bằng giá trị 0

Dự đoán nhãn lớp là nhãn phổ biến nhất

Giảm phương sai (Variance) của mô hình.

Giảm độ lệch (Bias) của mô hình.

Loại bỏ các thuộc tính không quan trọng.

Tăng tốc độ huấn luyện trên CPU.

Một điểm đơn lẻ.

Một đường thẳng.

Một mặt phẳng 3D.

Một đường cong parabol.

Naive Bayes.

Apriori.

K-Means.

FP-Growth.

Sử dụng các luật kết hợp với độ tin cậy bằng 0.

Luôn dự đoán nhãn lớp xuất hiện nhiều nhất trong tập huấn luyện cho mọi mẫu mới.

Không sử dụng bất kỳ thuộc tính nào để phân lớp.

Luôn cho kết quả chính xác bằng 0.

Tổng số lượng các vector hỗ trợ.

Khoảng cách ngắn nhất từ siêu phẳng đến các mẫu dữ liệu gần nhất.

Sai số của mô hình trên tập kiểm thử.

Độ sâu của cây quyết định tương ứng.

Giá trị trung bình cộng của dự đoán từ các cây.

Kết quả dựa trên đa số phiếu bầu (Majority Voting) từ các cây thành phần.

Kết quả của cây quyết định có độ chính xác cao nhất.

Kết quả của các cây được xây dựng cuối cùng.

Phi tuyến tính phức tạp.

Tuyến tính (có thể phân tách bằng một đường thẳng).

Các bài toán có hàng triệu thuộc tính.

Các bài toán không có dữ liệu huấn luyện.

$$[-\infty,+\infty]$$

$$[0,1]$$ (càng gần 1 mô hình càng khớp tốt).

$$[-1,1]$$

$$[0,100]$$

Làm cho cây sâu hơn.

Ngăn chặn hiện tượng quá khớp (Overfitting).

Tăng số lượng nút lá.

Xử lý các giá trị bị thiếu.

Nó chạy nhanh hơn rất nhiều.

Nó đảm bảo tỉ lệ các lớp trong mỗi fold giống với tỉ lệ lớp trong toàn bộ tập dữ liệu.

Nó không chia dữ liệu thành nhiều phần.

Nó chỉ áp dụng cho dữ liệu dạng chuỗi thời gian.

Để lưu trữ dữ liệu một cách khoa học hơn.

Để dự đoán các giá trị hoặc nhãn lớp cho các đối tượng mới chưa biết trong tương lai.

Để thay thế hoàn toàn vai trò của con người trong việc ra quyết định.

Để tìm ra các nhóm dữ liệu có đặc điểm tương đồng mà không cần nhãn

Xoá bỏ các bản ghi có giá trị thiếu

Phân bổ mẫu đó vào tất cả các nhánh con với trọng số tương ứng

Điền giá trị trung bình của toàn bộ tập dữ liệu

Coi giá trị thiếu là một nhãn lớp riêng biệt

Để thuật toán không bị thiên vị bởi các thuộc tính có đơn vị đo lỡn

Để làm cho dữ liệu trở nên đẹp hơn

Để chuyển đổi toàn bộ dữ liệu về dạng nhị phân

Để giảm bớt số lượng mẫu dữ liệu