Phân cụm FCM (Fuzzy C-Means) là một phương pháp phân cụm dữ liệu dựa trên lý thuyết tập mờ, cho phép mỗi điểm dữ liệu thuộc về nhiều cụm với mức độ thành viên (membership degree) khác nhau. Mức độ này phản ánh khả năng hoặc xác suất điểm dữ liệu thuộc về các cụm.
Hàm mục tiêu của FCM được sử dụng để tối ưu hóa mức độ thành viên (u_{ik}) và tâm cụm (v_k).
- Mức độ thành viên: (u_{ik})
- Tâm cụm: (v_k)
- Ma trận mức độ thành viên (u_{ik}) phải thỏa mãn điều kiện:
-
Khởi tạo ma trận thành viên với kích thước NxC (với (N) là số điểm dữ liệu và (C) là số cụm).
-
Tính tâm cụm:
-
Cập nhật lại ma trận thành viên:
-
Lặp lại bước 2 và 3 cho đến khi hội tụ (chênh lệch giữa các lần lặp nhỏ hơn một ngưỡng).
-
Gán nhãn dựa trên mức độ thành viên lớn nhất.
- Cho phép một điểm dữ liệu thuộc về nhiều cụm với mức độ thành viên khác nhau.
- Phù hợp với dữ liệu phức tạp và có giao thoa giữa các cụm.
- Hiệu quả phụ thuộc vào số cụm (c) và tham số mờ (m).
- Dễ bị ảnh hưởng bởi các điểm bất thường (outliers).
- Xử lý ảnh
- Khai thác dữ liệu
- Nhận dạng mẫu
- Phân tích thị trường
- Xây dựng hệ thống điều khiển mờ
Linear Regression là một thuật toán học máy thuộc nhóm học có giám sát (Supervised Learning).
Mục đích của giải thuật hồi quy tuyến tính là dự đoán giá trị của một hoặc nhiều biến mục tiêu liên tục (continuous target variable) (y) dựa trên một véc-tơ đầu vào (\mathbf{x}).
Hồi quy tuyến tính mô hình hóa mối quan hệ giữa biến đầu vào và biến mục tiêu bằng phương trình:
Hoặc dưới dạng vector:
Trong đó:
- (y): giá trị dự đoán
- (\mathbf{X}): ma trận đầu vào (kích thước (N \times (n+1)), bao gồm cả cột hệ số chặn 1)
- (\mathbf{w}): vector trọng số (bao gồm cả (w_0))
Sai số dự đoán thể hiện sự chênh lệch giữa giá trị thực tế (y_i) và giá trị dự đoán (\hat{y}_i):
Mục tiêu là làm cho sai số này càng nhỏ càng tốt.
Hàm mất mát phổ biến nhất là Mean Squared Error (MSE), được định nghĩa:
Trong đó:
- (N): số lượng mẫu dữ liệu
- (y_i): giá trị thực tế
- (\hat{y}_i): giá trị dự đoán
Tìm giá trị vector trọng số w sao cho hàm mất mát nhỏ nhất: