Chuyển tới nội dung chính

PCA phân tích thành phần chính

Giảm chiềuHiệp phương saiTrị riêngTương tác thật

PCA phân tích thành phần chính

Kéo đám điểm và xem hai trục chính xoay theo. PCA tìm hướng dữ liệu trải rộng nhất rồi chiếu lên đó để giảm chiều mà vẫn giữ được nhiều thông tin nhất.

Dữ liệu thật thường có rất nhiều chiều, mà phần lớn trong số đó dư thừa. Hai phép đo có thể luôn đi cùng nhau, ba cột số đo cùng một thứ theo những đơn vị khác nhau, hay một tá đặc trưng thực ra chỉ xoay quanh vài xu hướng chính. Khi đó mô tả từng chiều một là lãng phí, vì các chiều kéo nhau chứ không độc lập. Câu hỏi tự nhiên là: có ít trục mới nào gói gọn được gần hết những gì dữ liệu đang nói không.

Ý tưởng của PCA là đi tìm hướng mà dữ liệu biến thiên mạnh nhất. Dọc theo hướng đó các điểm trải ra xa nhau, nên nó mang nhiều thông tin phân biệt các điểm nhất. Hướng trải rộng nhất là thành phần chính thứ nhất, gọi là PC1. Hướng trải rộng nhì, vuông góc với PC1, là PC2. Nếu chiếu mọi điểm xuống riêng PC1 ta đã ép dữ liệu hai chiều xuống một chiều mà vẫn giữ lại phần lớn sự khác biệt giữa các điểm.

Thử ngay​

PCA · tìm hướng dữ liệu trải rộng nhất
PC1 giữ 92.7% phương saiPC2 7.3%
PC1PC2tâm
Kéo từng điểm để đổi hình đám mây · trượt Xoay đám để quay cả đám quanh tâm. Mỗi thay đổi khiến engine tính lại trung bình, ma trận hiệp phương sai 2x2 và trị riêng / vector riêng của nó, rồi vẽ lại hai trục chính. PC1 (đỏ, dài) là hướng dữ liệu trải rộng nhất; PC2 (vàng, ngắn) vuông góc với nó. Các đoạn mảnh là hình chiếu điểm lên PC1: giữ lại đúng một con số cho mỗi điểm, tức là giảm từ hai chiều xuống một chiều.

Thử điều này:

  • Trượt Xoay đám: cả đám mây quay quanh tâm, và hai trục chính quay theo bám đúng hướng trải rộng nhất. Trục PC1 luôn nằm dọc theo chiều dài của đám.
  • Kéo một điểm ra thật xa theo phương vuông góc với PC1: phương sai của PC2 tăng lên, elip béo ra, và tỉ lệ PC1 ở góc phải tụt xuống vì dữ liệu không còn dồn về một hướng nữa.
  • Bóp đám cho gần thành một đường thẳng bằng cách kéo các điểm về sát trục PC1: PC1 tiến gần 100%, tức gần như toàn bộ thông tin nằm trên một chiều.
  • Bật tắt Chiếu lên PC1: các đoạn mảnh hạ mỗi điểm vuông góc xuống PC1. Những chân chiếu đó chính là dữ liệu sau khi giảm còn một chiều, giữ được nhiều nhất có thể.

Hướng phương sai lớn nhất​

Đám điểm được tóm bằng ma trận hiệp phương sai 2x2, đo mức trải theo mỗi trục và mức hai trục đi cùng nhau. Trị riêng lớn nhất của ma trận đó là phương sai theo PC1, còn vector riêng tương ứng chính là hướng PC1. Vì thế PC1 luôn chỉ đúng vào chiều đám mây kéo dài nhất, và tỉ lệ phương sai nó giải thích cho biết chiếu xuống một chiều thì mất mát bao nhiêu.

Điều rút ra

PC1 là hướng dữ liệu trải rộng nhất, nên chiếu lên nó là cách giảm chiều giữ lại được nhiều thông tin nhất.

Kiểm tra nhanh0/3 đúngchưa trả lời
  1. 1PCA chọn thành phần chính thứ nhất (PC1) theo tiêu chí nào?
  2. 2Trong sim, PC1 và PC2 được tính ra từ đâu?
  3. 3Khi đám điểm gần như nằm trên một đường thẳng, tỉ lệ phương sai của PC1 sẽ ra sao?