Ông Mai Xuân Cường
| TIỂU SỬ
Mai Xuân Cường hiện đang là Giám đốc Trung tâm Dịch vụ An toàn thông tin – Công ty An ninh mạng Viettel, với gần 20 năm kinh nghiệm trong lĩnh vực an toàn thông tin. Ông hiện phụ trách các mảng dịch vụ offensive security, nghiên cứu chuyên sâu và các chương trình nghiên cứu tìm kiếm lỗ hổng bảo mật trên nhiều lĩnh vực như phần mềm, hệ thống, IoT, Automotive và các nền tảng công nghệ mới.
Trong thời gian gần đây, ông tập trung nghiên cứu các rủi ro ATTT liên quan đến AI Agent, autonomous workflow, AI-assisted offensive security và các mô hình triển khai AI trong doanh nghiệp dưới góc nhìn thực chiến và vận hành thực tế.
| CHỦ ĐỀ TRÌNH BÀY
Đảm bảo ATTT cho AI agent trong môi trường doanh nghiệp
| TÓM TẮT TRÌNH BÀY
Sự phát triển nhanh của AI Agent đang mở ra một xu hướng mới trong tự động hóa và vận hành hệ thống. Khác với chatbot truyền thống chỉ dừng ở mức hội thoại, AI Agent có thể suy luận, sử dụng công cụ, thực thi lệnh và tương tác trực tiếp với các hệ thống như email, trình duyệt, terminal hay workflow doanh nghiệp. Điều này giúp gia tăng đáng kể hiệu suất làm việc, nhưng đồng thời cũng tạo ra nhiều rủi ro mới về an toàn thông tin.
Bài trình bày tập trung phân tích các nguy cơ ATTT nổi bật trong hệ sinh thái AI Agent hiện nay dưới góc nhìn thực tế triển khai doanh nghiệp. Nội dung bao gồm các kịch bản như supply chain prompt injection thông qua dependency/skill độc hại, indirect prompt injection qua email và workflow doanh nghiệp, cũng như các rủi ro phát sinh khi AI Agent được cấp quyền truy cập vào hệ thống và công cụ nội bộ.
Bên cạnh phần threat modeling và demo minh họa, bài trình bày cũng chia sẻ một số hướng tiếp cận giúp doanh nghiệp triển khai AI Agent an toàn hơn như: AI Gateway, Prompt Firewall, sandbox runtime, kiểm soát skill/MCP ecosystem, cũng như cách phát hiện Shadow AI Agent thông qua EDR và telemetry hệ thống.
Thông qua các case study và demo thực tế, bài trình bày hướng tới việc giúp doanh nghiệp nhìn rõ hơn bề mặt tấn công mới của AI Agent và cách sử dụng AI một cách có kiểm soát trong môi trường doanh nghiệp.