Chúng "suy nghĩ" như thế nào? (Tokens, Context & Index)
Khám phá các khái niệm cốt lõi đằng sau cách LLM xử lý thông tin: tokens, cửa sổ ngữ cảnh (context window) và tầm quan trọng của việc lập chỉ mục (indexing) mã nguồn của bạn.
25 phút
Trung bình
Mục tiêu
Giải thích được token là gì và vai trò của nó.
Hiểu khái niệm "cửa sổ ngữ cảnh" và giới hạn của nó.
Phân biệt giữa lập chỉ mục cục bộ (local index) và từ xa (remote index).
Hiểu tại sao việc lập chỉ mục lại quan trọng đối với "bộ nhớ dài hạn" của AI.
Yêu cầu
Ứng dụng thực tế
Tối ưu hóa các câu lệnh (prompts) để nhận được kết quả tốt hơn.
Hiểu tại sao AI đôi khi "quên" các phần trước của cuộc trò chuyện.
Đánh giá các công cụ AI dựa trên khả năng lập chỉ mục và xử lý ngữ cảnh của chúng.