[GALLERY] Amazon sốc vì cú lừa AI 200 tỷ USD, nhân viên đua nhau cày bot

Amazon hủy bảng xếp hạng AI sau khi phát hiện nhân viên tạo việc vô nghĩa, nuôi bot ảo để đối phó KPI, khiến chi phí vận hành tăng vọt.

Amazon đang đối mặt với một bài học đắt giá trong hành trình thúc đẩy ứng dụng trí tuệ nhân tạo khi nhiều nhân viên bị phát hiện lợi dụng các công cụ AI để “cày điểm” thay vì tạo ra giá trị thực tế cho doanh nghiệp.

Mọi chuyện bắt đầu từ Kirorank, bảng xếp hạng nội bộ được xây dựng nhằm theo dõi mức độ sử dụng AI của nhân viên trên nền tảng lập trình Kiro, với mục tiêu khuyến khích đội ngũ kỹ sư nhanh chóng làm quen và áp dụng công nghệ mới vào công việc hàng ngày.

Tuy nhiên, thay vì tập trung nâng cao năng suất, một số nhân sự lại tìm cách leo hạng bằng việc giao cho các AI agent thực hiện hàng loạt tác vụ không cần thiết, tạo ra những tương tác ảo chỉ để gia tăng lượng token tiêu thụ và cải thiện thành tích cá nhân trên bảng điểm.

Theo các nguồn tin nội bộ, tình trạng này đã khiến chi phí vận hành hệ thống AI tăng mạnh, buộc Amazon phải quyết định khai tử Kirorank sau khi nhận thấy công cụ vốn được tạo ra với ý định tích cực lại vô tình trở thành động lực cho các hành vi đối phó KPI và lãng phí tài nguyên.

Ông Dave Treadwell, Phó Chủ tịch cấp cao của Amazon, đã trực tiếp cảnh báo nhân viên không nên sử dụng AI chỉ để chứng minh rằng mình đang dùng AI, đồng thời nhấn mạnh giá trị thực sự phải đến từ hiệu quả công việc và chất lượng sản phẩm được tạo ra.

Áp lực sử dụng AI tại Amazon được cho là xuất phát từ yêu cầu của ban lãnh đạo khi hơn 80% lập trình viên phải ứng dụng AI hằng tuần, tạo ra môi trường cạnh tranh khiến nhiều người tìm cách “lách luật” nhằm đáp ứng các chỉ tiêu đánh giá hiệu suất.

Sự việc diễn ra trong bối cảnh Amazon đang chuẩn bị chi khoảng 200 tỷ USD cho đầu tư vốn, phần lớn dành cho hạ tầng trung tâm dữ liệu và các dự án AI, trong khi chi phí sử dụng mô hình ngôn ngữ lớn ngày càng tăng do nhiều nhà cung cấp chuyển sang hình thức tính phí theo mức độ sử dụng thực tế.

Để khắc phục tình trạng trên, Amazon đã triển khai hệ thống đánh giá mới mang tên “normalised deployments”, tập trung đo lường hiệu quả thực tế của các đoạn mã và sản phẩm được tạo ra bằng AI, qua đó hạn chế tình trạng “cày điểm ảo” và bảo đảm các khoản đầu tư khổng lồ vào trí tuệ nhân tạo mang lại giá trị kinh doanh bền vững.