Mô hình AI viết rất thuyết phục, và đó chính là lý do sai sót của nó dễ bị bỏ qua. Một câu trả lời có thể mạch lạc, tự tin mà vẫn sai. Hiện tượng này thường được gọi là “ảo giác”. Một quy trình kiểm tra ngắn sẽ giúp bạn không chuyển tiếp lỗi cho người khác.
Vì sao AI trả lời sai
Mô hình ngôn ngữ tạo ra những từ có khả năng xuất hiện tiếp theo cao nhất, dựa trên khuôn mẫu trong dữ liệu nó đã học. Nó không tra cứu sự thật trong một cơ sở dữ liệu. Kiến thức của nó có thể đã cũ, và khi thiếu thông tin, nó có thể lấp chỗ trống bằng nội dung chỉ nghe có vẻ đúng.
Năm bước kiểm tra nên làm
- Yêu cầu nguồn, rồi mở nguồn ra xem. Tài liệu tham khảo có thể bị bịa ra. Một trích dẫn chỉ có giá trị khi bạn đã thấy nó tồn tại và đúng với nội dung câu trả lời.
- Kiểm chứng số liệu, tên, ngày tháng và trích dẫn. Đây là những chi tiết dễ sai nhất và gây hậu quả lớn nhất khi sai.
- Hỏi về cách lập luận. Yêu cầu mô hình giải thích từng bước nó đi đến câu trả lời. Lỗ hổng dễ thấy ở các bước hơn là ở kết luận.
- Hỏi lại theo cách khác. Diễn đạt lại câu hỏi, hoặc hỏi xem câu trả lời đầu tiên có thể sai ở đâu. Các câu trả lời thiếu nhất quán là dấu hiệu cảnh báo.
- Kiểm tra tương xứng với mức độ quan trọng. Một danh sách ý tưởng chỉ cần lướt qua. Một con số đưa vào hợp đồng hay báo cáo cần được xác minh cẩn thận.
Dấu hiệu cho thấy bạn nên chậm lại
- Số liệu rất cụ thể nhưng không có nguồn.
- Trích dẫn nguyên văn gán cho một người hoặc một tài liệu.
- Câu hỏi về pháp lý, y tế, thuế hoặc tài chính.
- Sự kiện gần đây, giá cả hay bất cứ điều gì thay đổi nhanh.
Những điều trên không làm AI kém hữu ích đi. Chúng chỉ đặt AI vào đúng vai trò: một trợ lý nhanh nhẹn, giỏi việc mà bạn cần xem lại kết quả, chứ không phải một nguồn có thẩm quyền để tin tuyệt đối.