Microsoft phát cảnh báo vì AI trên Windows 11 quá 'bá đạo'

Microsoft đang trong quá trình phát triển Windows 11, với kế hoạch chuyển đổi thành một 'agentic OS' trong tương lai. Tuy nhiên, công ty đã đưa ra cảnh báo về những rủi ro tiềm ẩn liên quan đến tính năng mới này.

Trước khi triển khai các tính năng thử nghiệm cho người dùng Windows Insider, Microsoft khuyến cáo người dùng Windows 11 chỉ nên kích hoạt các tính năng này nếu họ hiểu rõ về các tác động bảo mật.

Theo BGR, Microsoft xác nhận các thành phần tác nhân AI (trí tuệ nhân tạo) sẽ mặc định bị tắt do tính năng này có thể gây ra rủi ro tấn công cross-prompt injection (XPIA).

Tấn công này xảy ra khi các ứng dụng AI được cấp quyền truy cập vào tệp người dùng, có thể dẫn đến việc rò rỉ dữ liệu hoặc cài đặt phần mềm độc hại. Tài khoản Agentic, được cấp khi các tính năng tác nhân AI được bật, sẽ có quyền truy cập hạn chế vào thư mục hồ sơ người dùng, nhưng vẫn có khả năng gây ra những hậu quả không mong muốn.

Được gọi là Agent Workspace, các thành phần tác nhân AI thử nghiệm hiện đã có sẵn trong bản xem trước dành cho nhà phát triển và sẽ sớm được triển khai cho nhiều người dùng hơn.

Mặc dù chưa có ứng dụng nào hỗ trợ tính năng này, Copilot sẽ sớm có quyền truy cập vào Agent Workspace. Tuy nhiên, điều này cũng đặt ra lo ngại về quyền riêng tư, khi Copilot có thể nhìn thấy toàn bộ màn hình của người dùng.

Các thành phần của Agent Workspace được Microsoft đánh giá là rất nguy hiểm nên mặc định bị tắt.

Microsoft nhấn mạnh bảo mật không phải là một tính năng tạm thời mà là một cam kết liên tục sẽ được điều chỉnh theo thời gian. Agent Workspace được thiết kế để cho phép các ứng dụng AI truy cập vào tệp ở chế độ nền, trong khi người dùng tiếp tục sử dụng thiết bị của mình.

Tuy nhiên, người dùng vẫn có thể quản lý quyền truy cập và dừng tác nhân khi cần thiết. Hiện tại, nhiều người vẫn bày tỏ sự lo ngại và bất đồng quan điểm về tính năng mới này trên các diễn đàn trực tuyến.

Mặc dù vậy, Microsoft cho rằng, khi ngày càng nhiều người dùng tiếp cận các tính năng tác nhân AI thử nghiệm, họ sẽ có thêm thông tin về cách thức hoạt động và mức độ bảo mật của chúng.