Mỗi ngày một bước, từ 2D đến 3D

Một ảnh nhiễu vẫn chứa cấu trúc mà người quan sát có thể nhận ra. Ta tạo cặp ảnh sạch và ảnh nhiễu để dạy một mạng nhỏ khôi phục cấu trúc đó.

Nếu chỉ có nhiều mẫu đạt nhưng rất ít mẫu lỗi, ta có thể thử học cách tái tạo mẫu bình thường. Một chi tiết lạ có thể làm sai số tăng.

Tự kiểm tra phép tái tham số hóa, KL của Gaussian và gradient bằng PyTorch trước khi xây một bộ sinh ảnh VAE.

Mô phỏng quá trình thuận DDPM, kiểm tra trung bình và phương sai, phân biệt khôi phục bằng nhiễu đã biết với sinh ảnh thực sự.

Bạn sẽ tách câu thành các đơn vị từ và đếm số lần xuất hiện. Từ đó, bạn tạo vector Bag of Words và nhận ra thông tin nào cách biểu diễn này bỏ mất.

Những từ xuất hiện trong ngữ cảnh giống nhau có thể mang thông tin liên quan. Bạn sẽ dùng ví dụ nhỏ để hiểu ý tưởng biểu diễn từ bằng vector.

Bạn sẽ tự huấn luyện một ví dụ Skip-gram bằng NumPy. Mô hình học vector từ thông qua việc dự đoán những từ xuất hiện gần nhau.

Đổi thứ tự từ có thể đổi nghĩa câu. Bạn sẽ theo dõi trạng thái của RNN để hiểu cách mạng mang thông tin từ bước trước sang bước sau.

Bạn sẽ theo dõi bộ nhớ của một ô LSTM qua từng bước. Ba cổng quên, ghi và đầu ra cho thấy mạng giữ hoặc thay thông tin như thế nào.

Bạn sẽ nối một bộ đọc chuỗi với một bộ tạo chuỗi. Ví dụ làm rõ cách dịch nhãn đầu ra và dùng từ đúng ở bước trước khi huấn luyện.

Bạn sẽ so sánh hai cách tính điểm chú ý của Bahdanau và Luong. Qua các trọng số cụ thể, bạn thấy bộ giải mã lấy thông tin từ chuỗi nguồn ra sao.

Bạn sẽ tự tính điểm chú ý từ Query, Key và Value. Ví dụ nhỏ cho thấy mô hình chọn và kết hợp thông tin từ các vị trí trong chuỗi ra sao.

Bạn sẽ ghép một khối mã hóa Transformer bằng NumPy. Bài nối cơ chế chú ý, kết nối tắt và chuẩn hóa thành một lượt tính hoàn chỉnh.

Đối chiếu phép cắt patch và lớp Conv2d, kiểm tra thứ tự token, rồi tính chi phí khi giảm kích thước mảnh ảnh.

Viết mục tiêu teacher–student với nhiệt độ, kiểm tra chiều KL và so sánh hai cách học trên dữ liệu mô phỏng có kiểm soát.

Dựng một thí nghiệm masked reconstruction nhỏ, kiểm tra loss chỉ ở patch bị che và xác nhận pixel bị che không rò rỉ vào đầu vào encoder.

Theo dõi riêng cập nhật student, teacher EMA và center, kiểm tra đường gradient và xây phản ví dụ cho suy nghĩ centering tự nó chống collapse.

Tính số patch, thử gom token thị giác và quan sát phần thông tin biến mất khi ảnh bị nén. Phân biệt phép đếm cấu trúc với chi phí bộ nhớ của mô hình thật.

Tự tạo ma trận cặp ảnh và câu, đo mất mát đối xứng và thấy vì sao thêm một nhãn ứng viên có thể đổi điểm softmax dù ảnh giữ nguyên.

Tính mất mát sigmoid theo cặp, so sánh cách chuẩn hóa và thấy tác hại của việc gán hai mô tả phù hợp thành cặp âm.

Bạn sẽ đổi danh sách vật thể cần tìm bằng mô tả bằng lời với YOLOE. Bài giúp bạn hiểu khả năng và giới hạn của cách phát hiện này.