Đang tải nội dung…
LEARNDO / ĐỌC THEO LỘ TRÌNH
Mỗi ngày một bước, từ 2D đến 3D
Bắt đầu với lịch sử và ý tưởng, xây nền tảng, thực hành thị giác 2D, rồi đi vào hình học 3D và kiến thức chuyên sâu. Mỗi bài vẫn có ví dụ, bài tập và chuỗi đọc riêng.
Đây là lịch đọc từ 261 bài đang công khai, không phải ngày xuất bản. Ngày đăng gốc được giữ trên từng bài. Ngày cuối được cân đối để có 2–4 bài; thời gian dưới đây chưa tính thực hành.
87 ngày khám phá
Trang 11 / 13Ngày 71
3 bài · khoảng 54 phút đọc- Chuyên sâu & nghiên cứu · Chuyên sâu · 18 phútKhởi tạo trọng số bằng cách theo dõi năng lượng kích hoạt
So sánh độ lệch chuẩn cố định, Xavier và Kaiming trên cùng một mạng ReLU, đồng thời phân biệt phương sai với moment bậc hai.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 18 phútTheo dấu gradient qua nhánh residual và kiểm tra giới hạn của đường tắt
Đo gradient ở từng độ sâu trong hai chuỗi phép biến đổi, đồng thời xây phản ví dụ cho ý nghĩ rằng nhánh identity luôn ngăn gradient biến mất.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 18 phútTích lũy gradient đúng khi các microbatch không đều nhau
Chứng minh và kiểm tra tích lũy gradient bằng ba lô có 3, 4 và 6 mẫu, rồi chỉ ra lỗi chia loss đều theo số lô.
Ngày 72
3 bài · khoảng 34 phút đọc- Chuyên sâu & nghiên cứu · Chuyên sâu · 18 phútFP16 mất gradient nhỏ như thế nào và loss scaling cứu được gì
Đo underflow, sai số lượng tử và overflow bằng các phép ép kiểu CPU để hiểu giới hạn của FP16, BF16 và loss scaling.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 8 phútCross-entropy có trọng số lớp: mẫu số không luôn là số ảnh
Đối chiếu loss của PyTorch với hai cách lấy trung bình thủ công để phát hiện lỗi chuẩn hóa trọng số.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 8 phútKhi mọi pixel đều bị bỏ qua: tính loss mà không tạo NaN
Tự tổng hợp cross-entropy theo số target hợp lệ và kiểm tra cả batch chỉ chứa ignore_index.
Ngày 73
3 bài · khoảng 41 phút đọc- Chuyên sâu & nghiên cứu · Chuyên sâu · 8 phútLabel smoothing trộn vào đâu? Đối chiếu target mềm với công thức loss
Tạo target one-hot, trộn với phân bố đều và kiểm tra loss thủ công khớp label_smoothing của PyTorch.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 8 phútClipping theo chuẩn gradient: giảm độ dài, kiểm tra lại hướng
Dùng gradient có chuẩn biết trước để xác nhận giá trị trả về, chuẩn sau clipping và hướng của vector.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 25 phútPyTorch: xem gradient đầu vào bằng saliency map
Bạn sẽ tính gradient theo ảnh đầu vào để xem những vùng ảnh hưởng đến điểm dự đoán. Bài giải thích cách đọc và giới hạn của bản đồ này.
Ngày 74
3 bài · khoảng 58 phút đọc- Chuyên sâu & nghiên cứu · Chuyên sâu · 18 phútKiểm tra Grad-CAM bằng can thiệp vào vật thể và dấu hiệu phụ
Tạo một mô hình có cơ chế đã biết, tính Grad-CAM từ feature map và đối chiếu bản đồ nhiệt với mức giảm logit khi xóa từng vùng.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 22 phútĐọc t-SNE bằng lân cận thay vì đo khoảng cách giữa các cụm
Tự dựng t-SNE nhỏ, kiểm tra phân phối xác suất và so hai seed để thấy lân cận có thể được giữ trong khi khoảng cách toàn cục biến dạng.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 18 phútHồi quy hộp bằng offset và hiểu vì sao IoU có thể không cho gradient
Mã hóa hộp theo anchor, tối ưu bốn offset bằng Smooth L1 và kiểm tra vùng gradient bằng không của IoU khi hai hộp chưa giao nhau.
Ngày 75
3 bài · khoảng 60 phút đọc- Chuyên sâu & nghiên cứu · Chuyên sâu · 20 phútĐầu phân lớp 1×1: từ đặc trưng đến nhãn từng pixel
Viết đầu phân lớp pointwise, đối chiếu với phép nhân ma trận và kiểm tra vì sao một logit chỉ đọc một vị trí trên bản đồ đặc trưng.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 20 phútDilation và ASPP: đo vùng nhìn bằng gradient
Quan sát chín vị trí lấy mẫu của tích chập giãn, kiểm tra kích thước đầu ra và ghép nhiều tỉ lệ thành một mô-đun ngữ cảnh nhỏ.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 20 phútPyramid pooling: đưa ngữ cảnh toàn ảnh về từng pixel
Tự xây bốn mức pooling, phục hồi kích thước và kiểm tra rằng một giá trị ngữ cảnh toàn cục truyền gradient đến mọi vị trí.
Ngày 76
3 bài · khoảng 65 phút đọc- Chuyên sâu & nghiên cứu · Chuyên sâu · 20 phútNhánh phụ khi huấn luyện: gradient đi về đâu
Tách gradient từ mất mát chính và phụ, kiểm tra tính cộng và phát hiện lỗi detach khiến nhánh phụ không cập nhật phần mạng dùng chung.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 20 phútĐánh giá đường biên: khi Mask IoU chưa kể hết câu chuyện
So sánh IoU toàn vùng với IoU dải biên trên hai hình vuông cùng dịch hai pixel, có định nghĩa erosion và quy ước mặt nạ rỗng rõ ràng.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 25 phútChạy DeepLabv3 có sẵn trên ảnh thật bằng CPU
Dùng trọng số và transforms chính thức của Torchvision, phục hồi logit về kích thước ảnh rồi đọc bản đồ lớp VOC và lớp phủ trên ảnh mèo.
Ngày 77
3 bài · khoảng 34 phút đọc- Chuyên sâu & nghiên cứu · Chuyên sâu · 18 phútTách các vật thể chạm nhau bằng phiếu bầu hướng về tâm
Từ mặt nạ tiền cảnh chung, tạo offset có nhiễu, gom phiếu tại tâm và gán từng pixel về instance để hiểu một cơ chế hậu xử lý.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 8 phútTìm ảnh tương tự bằng embedding và cosine similarity
Một bộ phân loại chỉ trả lời ảnh thuộc lớp nào. Nếu muốn tìm những ảnh gần với một ảnh mẫu, ta cần giữ lại biểu diễn trước lớp quyết định.
- Chuyên sâu & nghiên cứu · Chuyên sâu · 8 phútMạng Siamese: học khoảng cách giữa hai ảnh
Hai ảnh khác màu nền vẫn có thể mang cùng một hình dạng. Mạng Siamese giúp ta đặt câu hỏi theo cặp: biểu diễn của hai ảnh nên gần hay xa nhau? Trong thí nghiệm này, hai nhánh dùng chung một encoder.