AI for everyone 2.2

Đúng hay sai: Do giới hạn kiến thức (knowledge cut-off), một LLM không thể trả lời câu hỏi về tin tức hôm nay. Nhưng với RAG (Retrieval-Augmented Generation) để cung cấp cho nó các bài báo từ tin tức, nó sẽ có thể làm được.

• Đúng (True) (correct)

• Sai (False)

Bạn muốn xây dựng một ứng dụng trả lời câu hỏi dựa trên thông tin có trong email của bạn. Kỹ thuật nào sau đây là phù hợp nhất?

• Fine-tuning một LLM trên email của bạn, bằng cách lấy một LLM được huấn luyện trước và tiếp tục huấn luyện nó trên email của bạn.

• Prompting (không sử dụng RAG), trong đó chúng ta tinh chỉnh lời nhắc theo từng bước cho đến khi LLM trả lời đúng.

• RAG, trong đó LLM được cung cấp ngữ cảnh bổ sung bằng cách truy xuất các email liên quan đến câu hỏi của bạn. (correct)

• Huấn luyện trước (pretraining) một LLM trên email của bạn.

Ý tưởng sử dụng LLM như một "reasoning engine" đề cập đến điều gì?

• Ý tưởng sử dụng LLM không phải như một nguồn thông tin, mà là để xử lý thông tin (trong đó ta cung cấp cho nó ngữ cảnh cần thiết thông qua các kỹ thuật như RAG). (correct)

• Ý tưởng sử dụng LLM để chơi trò chơi (như cờ vua) yêu cầu lập luận phức tạp, nhưng đầu ra là các nước đi trong trò chơi.

• "Reasoning engine" là một thuật ngữ khác để chỉ RAG.

• Điều này đề cập đến việc huấn luyện trước một LLM trên rất nhiều văn bản để nó có được khả năng suy luận tổng quát.

Đúng hay sai: Bằng cách cung cấp các nguồn thông tin đáng tin cậy cho một LLM thông qua RAG, chúng ta có thể giảm nguy cơ "hallucination" (ảo giác).

• Sai, vì LLM bây giờ bị giới hạn chỉ có thể tạo đầu ra bằng cách trích dẫn chính xác các đoạn văn từ tài liệu được cung cấp, mà chúng ta tin tưởng.

• Sai, vì LLM đã học từ rất nhiều văn bản trên internet (có thể hơn 100 tỷ từ) nên nó có xu hướng ảo giác, và việc thêm một đoạn văn bản ngắn vào prompt như trong RAG sẽ không tạo ra sự khác biệt đáng kể.

• Sai, vì cung cấp thêm thông tin chỉ làm LLM bị rối hơn và khiến nó có khả năng ảo giác cao hơn.

• Đúng, vì RAG cho phép LLM suy luận dựa trên thông tin chính xác được truy xuất từ nguồn đáng tin cậy để đưa ra câu trả lời đúng.

Một công ty thương mại điện tử đang xây dựng một ứng dụng phần mềm để phân loại email vào đúng bộ phận (Thời trang, Điện tử, Đồ gia dụng, v.v.). Họ muốn làm điều này với một mô hình nhỏ, 1 tỷ tham số, và cần độ chính xác cao. Kỹ thuật nào phù hợp?

• Huấn luyện trước một mô hình 1 tỷ tham số trên khoảng 1 tỷ ví dụ email và bộ phận tương ứng.

• Huấn luyện trước một mô hình 1 tỷ tham số trên khoảng 1.000 ví dụ email và bộ phận tương ứng.

• Fine-tune một mô hình 1 tỷ tham số trên khoảng 1.000 ví dụ email và bộ phận tương ứng.

• Fine-tune một mô hình 1 tỷ tham số trên khoảng 1 tỷ ví dụ email và bộ phận tương ứng.