Chuyển tới nội dung chính

Hàm mất mát

Kéo thảTính lại thậtTrực giác hình học

Hàm mất mát

Kéo dự đoán, xem mỗi hàm mất mát phạt sai lệch nặng nhẹ ra sao.

Hàm mất mát biến một sai lệch thành một con số phạt. Kéo dự đoán ở chế độ hồi quy để so MSE với MAE, rồi chuyển sang phân loại để xem cross-entropy phản ứng thế nào khi bạn tự tin mà sai.

Hàm mất mát · kéo dự đoán, xem phạt
MSE = 2.25MAE = 1.50MSE ≈ 1.50× MAE
246losserrđíchMSE = err²MAE = |err|
Kéo dự đoán dọc trục (hoặc trượt thanh) để đổi err = dự đoán trừ đích. Đường parabol là MSE (bình phương lỗi), chữ V là MAE (trị tuyệt đối). Khi lỗi lớn, chấm trên MSE vọt lên cao hơn hẳn chấm trên MAE: đó là lý do MSE phạt lỗi lớn nặng hơn nhiều.
Điều rút ra

MSE phạt lỗi lớn nặng hơn MAE vì nó bình phương sai lệch, còn cross-entropy bùng nổ khi dự đoán tự tin nhưng sai, tức khi p→0 mà nhãn thật là 1.

Câu hỏi tự kiểm0/2 đúngchưa trả lời
  1. 1Có một điểm dữ liệu ngoại lệ với sai lệch rất lớn. Hàm mất mát nào nhạy với nó hơn?
  2. 2Nhãn thật là 1 nhưng mô hình dự đoán xác suất p tiến dần về 0. Cross-entropy sẽ ra sao?