[GALLERY] Đừng tin tuyệt đối AI, sự thật khiến nhiều người bất ngờ

AI ngày càng thông minh và hữu ích, nhưng các chuyên gia cảnh báo người dùng không nên xem câu trả lời từ chatbot là nguồn thông tin tuyệt đối đáng tin cậy.

Sự bùng nổ của các công cụ trí tuệ nhân tạo như ChatGPT, Gemini hay Claude đang thay đổi cách con người tìm kiếm thông tin, nhưng đi kèm với đó là một nguy cơ ít người nhận ra: AI có thể trả lời sai hoàn toàn nhưng vẫn trình bày theo cách rất thuyết phục, khiến người dùng dễ tin tưởng mà không kiểm chứng lại.

Trong lĩnh vực công nghệ, hiện tượng này được gọi là “AI hallucination” hay “ảo giác AI”, dùng để mô tả những trường hợp mô hình trí tuệ nhân tạo tự tạo ra thông tin không có thật, từ tên nhân vật, tài liệu, số liệu cho tới các sự kiện chưa từng tồn tại, nhưng lại diễn đạt với giọng điệu chắc chắn như thể đó là sự thật đã được xác minh.

Nguyên nhân xuất phát từ cách hoạt động đặc trưng của các mô hình ngôn ngữ lớn, khi chúng không thực sự hiểu thế giới giống con người mà chủ yếu học từ khối dữ liệu khổng lồ để dự đoán từ hoặc câu nào có xác suất xuất hiện tiếp theo cao nhất trong một ngữ cảnh nhất định.

Chính vì vậy, AI thường rất giỏi tạo ra những câu trả lời nghe hợp lý, logic và mạch lạc, nhưng điều đó không đồng nghĩa với việc nội dung luôn chính xác, bởi mô hình có thể ghép nối nhiều mảnh thông tin khác nhau thành một câu chuyện có vẻ thuyết phục dù thực tế hoàn toàn sai lệch.

Một vấn đề khác là AI không có khả năng nhận thức theo kiểu “tôi không biết” như con người, nên thay vì thừa nhận thiếu dữ liệu, hệ thống thường cố gắng tạo ra câu trả lời được đánh giá là hữu ích nhất, đặc biệt khi trong quá trình huấn luyện những phản hồi đầy đủ và tự tin thường nhận được đánh giá tích cực hơn từ người dùng.

Các nhà phát triển AI đã liên tục cải tiến mô hình để giảm tỷ lệ ảo giác thông qua việc kết nối công cụ tìm kiếm, bổ sung cơ chế kiểm chứng thông tin và tăng khả năng cảnh báo khi dữ liệu không chắc chắn, nhưng hiện tượng này vẫn chưa thể bị loại bỏ hoàn toàn, nhất là ở các chủ đề chuyên sâu hoặc có ít dữ liệu tham chiếu.

Vì vậy, với những nội dung liên quan đến sức khỏe, tài chính, pháp luật, nghiên cứu học thuật, tin tức hoặc các quyết định quan trọng, người dùng được khuyến nghị nên yêu cầu AI cung cấp nguồn tham khảo, phân biệt rõ đâu là dữ kiện đã được xác minh và đâu là suy luận, đồng thời kiểm tra chéo với các nguồn thông tin đáng tin cậy khác.

Các chuyên gia cho rằng cách tiếp cận đúng đắn nhất hiện nay là xem AI như một trợ lý thông minh hỗ trợ tìm kiếm, tóm tắt và phân tích thông tin thay vì coi đây là “chân lý tuyệt đối”, bởi dù công nghệ đang tiến bộ rất nhanh, độ chính xác của AI vẫn phụ thuộc vào dữ liệu, thuật toán và giới hạn vốn có của các mô hình ngôn ngữ hiện đại.