Quản trị cho AI Agent trong hoạt động hành chính công: kiểm soát rủi ro, dữ liệu, trách nhiệm và niềm tin

40

20/06/2026 – (AIHanhChinhCong.vn) – Khi AI agent bắt đầu tham gia vào hoạt động hành chính công, vấn đề không còn dừng ở câu hỏi “AI có thể làm gì?”. Câu hỏi quan trọng hơn là: cơ quan nhà nước phải quản trị AI agent như thế nào để kiểm soát rủi ro, bảo vệ dữ liệu, giữ rõ trách nhiệm và duy trì niềm tin của người dân?

Trong các bài trước, chúng ta đã đi từ khái niệm Agent OS, tư duy lãnh đạo, bản đồ use case đến kế hoạch pilot 90 ngày. Nhưng mọi triển khai AI agent trong hành chính công sẽ thiếu nền tảng nếu chưa có khung quản trị. Bởi AI agent khác chatbot ở chỗ nó không chỉ trả lời. Nó có thể đọc tài liệu, phân loại hồ sơ, gợi ý xử lý, tạo dự thảo, gọi công cụ, nhắc nhiệm vụ và trong một số cấu hình có thể kích hoạt bước tiếp theo của quy trình. Khi AI chuyển từ “hỗ trợ thông tin” sang “tham gia hành động”, rủi ro quản trị tăng lên rõ rệt.

Các khung quốc tế như NIST AI Risk Management Framework nhấn mạnh việc quản trị AI phải đi theo vòng đời với các chức năng Govern, Map, Measure và Manage. OECD cũng nhấn mạnh AI trong khu vực công có thể nâng cao năng suất, chất lượng dịch vụ và trách nhiệm giải trình, nhưng phải đi kèm minh bạch, kiểm soát rủi ro, dữ liệu đáng tin cậy và sự giám sát phù hợp. Gần đây, Singapore ban hành Model AI Governance Framework for Agentic AI, trong đó nhấn mạnh AI agent có thể có quyền truy cập dữ liệu nhạy cảm và thực hiện hành động trong môi trường số, vì vậy cần giới hạn rủi ro từ đầu, duy trì trách nhiệm con người và thiết kế giám sát có ý nghĩa.

Bài viết này đề xuất một khung quản trị phù hợp cho cơ quan hành chính Việt Nam, kết hợp tư duy chống rủi ro, quy tắc đạo đức quốc tế và thực tế vận hành của chính phủ. Mục tiêu là hình thành một bộ quy tắc quản lý AI agent hành chính công đủ thực dụng để cơ quan nhà nước có thể áp dụng trước khi triển khai rộng.

Vì sao quản trị AI agent là điều kiện tiên quyết trong hành chính công?

Trong khu vực tư, sai sót của AI có thể gây tổn thất về chi phí, khách hàng hoặc uy tín. Trong khu vực công, sai sót của AI có thể ảnh hưởng trực tiếp đến quyền, nghĩa vụ, lợi ích và niềm tin của người dân. Một hướng dẫn thủ tục sai có thể khiến người dân nộp thiếu hồ sơ. Một bản tóm tắt sai có thể làm lãnh đạo hiểu lệch nội dung văn bản. Một cảnh báo pháp lý thiếu căn cứ có thể làm chậm xử lý công việc. Một quyền truy cập dữ liệu cấu hình quá rộng có thể tạo rủi ro lộ lọt thông tin.

Điểm đặc biệt của AI agent là nó nằm giữa công nghệ và quy trình công vụ. Nếu chatbot trả lời sai, rủi ro chủ yếu nằm ở thông tin. Nếu agent đề xuất sai tuyến xử lý, tự động phân loại sai hồ sơ, dùng dữ liệu không đúng nguồn hoặc tạo dự thảo vượt thẩm quyền, rủi ro đã đi sâu vào vận hành. Vì vậy, quản trị AI agent không thể là phần bổ sung sau khi triển khai. Nó phải được thiết kế ngay từ đầu.

Nói cách khác, trong hành chính công, không có AI agent đáng tin nếu không có hệ quản trị đáng tin. Công cụ càng mạnh thì yêu cầu kiểm soát càng cao. Agent càng được kết nối với nhiều dữ liệu, quy trình và công cụ, cơ quan càng phải biết rõ agent được làm gì, không được làm gì, ai kiểm duyệt, ai chịu trách nhiệm và bằng chứng vận hành được lưu ở đâu.

🔴 Xem thêm Chuỗi bài về Hệ điều hành Agent – Agent OS trong hành chính công: 

1) Agent OS là gì? Vì sao hành chính công cần một “hệ điều hành agent” thay vì chỉ dùng chatbot?
2) Lãnh đạo hành chính trong kỷ nguyên AI agent: từ giao việc cho con người sang thiết kế hệ vận hành thông minh
3) 12 trường hợp sử dụng Agent OS + Claude + Hermes cho cơ quan hành chính từ cấp xã đến cấp Bộ
4) Cơ quan hành chính đã sẵn sàng với Agent OS chưa? Bộ tiêu chí tự đánh giá trước khi triển khai

5) Thiết kế thí điểm Agent OS trong cơ quan hành chính: 90 ngày để thử nghiệm có kiểm soát và đo được hiệu quả

👉 Tham gia Cộng đồng AI Hành Chính Công TẠI ĐÂY

6 nhóm rủi ro trọng yếu cần kiểm soát

Một khung quản trị tốt phải bắt đầu bằng nhận diện rủi ro. Với AI agent trong hành chính công, có sáu nhóm rủi ro trọng yếu cần được đưa vào sổ quản lý ngay từ giai đoạn thiết kế use case. Những rủi ro này không nhằm làm cơ quan e ngại AI, mà giúp triển khai AI theo hướng có trách nhiệm hơn.

Sáu nhóm rủi ro này có mối liên hệ với nhau. Sai thông tin thường xuất phát từ dữ liệu kém chất lượng hoặc kho tri thức chưa được kiểm duyệt. Rủi ro bảo mật thường tăng khi phân quyền không rõ. Phụ thuộc quá mức dễ xảy ra khi đầu ra AI trôi chảy, có vẻ thuyết phục nhưng thiếu căn cứ. Thiếu trách nhiệm giải trình là rủi ro bao trùm, vì nếu không biết ai chịu trách nhiệm thì mọi cơ chế kiểm soát khác đều yếu.

Vì vậy, nguyên tắc đầu tiên của quản trị AI agent là không chỉ đánh giá agent theo “khả năng trả lời hay”, mà phải đánh giá theo “khả năng vận hành an toàn trong quy trình công vụ”. Một agent chỉ nên được đưa vào vận hành khi cơ quan đã xác định được rủi ro chính, mức độ tác động, biện pháp kiểm soát và người chịu trách nhiệm.

Quản trị AI agent không nhằm làm chậm đổi mới, mà giúp cơ quan triển khai AI an toàn, đúng thẩm quyền và duy trì niềm tin công vụ

Mô hình quản trị hành chính 4 bước: Thể chế hóa, Nhận diện, Đo lường và Điều hành

Để dễ áp dụng trong cơ quan nhà nước, có thể chuyển hóa các khung quốc tế thành mô hình quản trị hành chính 4 bước: Thể chế hóa – Nhận diện – Đo lường – Điều hành. Mô hình này tương thích với logic quản trị rủi ro vòng đời: trước hết phải đưa AI vào khuôn khổ tổ chức, sau đó nhận diện use case và rủi ro, tiếp theo đo lường chất lượng – tác động, cuối cùng điều hành bằng cơ chế giám sát, cải tiến và xử lý sự cố.

Thể chế hóa nghĩa là cơ quan phải ban hành hoặc tối thiểu phê duyệt một bộ nguyên tắc sử dụng AI agent. Bộ nguyên tắc này cần xác định mục tiêu, phạm vi, vai trò, dữ liệu được phép dùng, dữ liệu cấm dùng, nguyên tắc kiểm duyệt và trách nhiệm của từng nhóm tham gia. Nếu chưa thể ban hành quy chế đầy đủ, cơ quan vẫn nên có quyết định thí điểm, danh mục use case và phiếu giao nhiệm vụ cho từng agent.

Nhận diện nghĩa là mọi use case AI phải được ghi nhận trước khi triển khai. Cơ quan cần biết use case thuộc nhóm nào, phục vụ ai, dùng dữ liệu gì, có liên quan dữ liệu cá nhân không, có ảnh hưởng đến quyền lợi công dân không, AI chỉ đề xuất hay có khả năng kích hoạt hành động. Đây là bước giúp tránh tình trạng “AI bóng tối” trong cơ quan, tức là các nhóm tự dùng công cụ AI mà lãnh đạo, pháp chế hoặc an toàn thông tin không biết.

Đo lường nghĩa là không đánh giá AI bằng cảm tính. Cơ quan cần đo chất lượng đầu ra, tỷ lệ lỗi, thời gian tiết kiệm, mức độ chỉnh sửa, số lần cảnh báo sai, số lần agent không đủ căn cứ, mức độ hài lòng của người dùng và các chỉ số rủi ro như truy cập dữ liệu bất thường. NIST AI RMF nhấn mạnh quản trị AI cần gắn với đo lường rủi ro và đặc tính đáng tin cậy như an toàn, bảo mật, minh bạch, giải thích được, bảo vệ quyền riêng tư và công bằng.

Điều hành nghĩa là lãnh đạo không chỉ xem báo cáo kỹ thuật, mà phải có cơ chế ra quyết định: tiếp tục, mở rộng, điều chỉnh hoặc dừng use case. Điều hành cũng bao gồm xử lý sự cố, truyền thông nội bộ, cập nhật kho tri thức, thay đổi phân quyền và đánh giá định kỳ. Nếu AI agent là một phần của hệ vận hành, nó phải được điều hành như một năng lực tổ chức, không phải như một ứng dụng phụ.

Bộ quy tắc quản lý AI agent cho cơ quan nhà nước

Từ mô hình trên, mỗi cơ quan có thể xây dựng một bộ quy tắc quản lý AI agent ở mức tối thiểu. Bộ quy tắc này không thay thế quy định pháp luật hoặc quy chế nội bộ hiện hành. Nó đóng vai trò như “hàng rào vận hành” để mọi đơn vị cùng hiểu cách sử dụng AI an toàn, có trách nhiệm và có thể kiểm tra.

Điểm cốt lõi của bộ quy tắc này là đưa AI agent về đúng vị trí: một thành phần hỗ trợ trong hệ vận hành hành chính, không phải chủ thể có thẩm quyền hành chính. Khi quy tắc được viết rõ, cán bộ yên tâm hơn khi sử dụng AI; lãnh đạo dễ giám sát hơn; pháp chế và an toàn thông tin có cơ sở kiểm tra hơn; người dân cũng có thêm niềm tin rằng AI được dùng có kiểm soát.

Chính sách dữ liệu: phân loại, tối thiểu hóa, nhật ký truy cập và lưu vết quyết định

Dữ liệu là nền của AI agent. Nếu dữ liệu không được phân loại, agent sẽ rất dễ bị cấp quyền quá rộng. Nếu dữ liệu không có nguồn và phiên bản, agent có thể dùng tài liệu cũ hoặc hướng dẫn hết hiệu lực. Nếu không có nhật ký truy cập, cơ quan khó biết agent đã dùng dữ liệu nào để tạo đầu ra. Vì vậy, chính sách dữ liệu phải là một phần trung tâm của quản trị AI agent hành chính công.

Trước hết, cơ quan cần phân loại dữ liệu theo mức độ nhạy cảm. Nhóm dữ liệu công khai có thể dùng cho tra cứu, hướng dẫn chung hoặc chatbot công dân. Nhóm dữ liệu nội bộ chỉ dùng cho cán bộ có quyền. Nhóm dữ liệu cá nhân phải giới hạn theo mục đích, có phân quyền và nên ẩn danh trong giai đoạn thử nghiệm. Nhóm dữ liệu nhạy cảm hoặc mật không nên đưa vào pilot nếu chưa có khung pháp lý, hạ tầng bảo mật và phê duyệt phù hợp.

Thứ hai, phải áp dụng nguyên tắc tối thiểu hóa dữ liệu. Agent tóm tắt văn bản đến không cần truy cập toàn bộ hồ sơ cá nhân. Agent tổng hợp báo cáo tuần không cần đọc dữ liệu nhạy cảm của từng công dân. Agent hỗ trợ tra cứu thủ tục chỉ cần kho tri thức thủ tục đã duyệt, không cần truy cập dữ liệu xử lý hồ sơ cụ thể. Nguyên tắc này giúp giảm rủi ro ngay từ thiết kế.

Thứ ba, phải có nhật ký truy cập và lưu vết quyết định. Với mỗi đầu ra quan trọng, cơ quan cần biết agent đã dùng tài liệu nào, phiên bản nào, prompt nào, ai kiểm duyệt, chỉnh sửa ra sao và đầu ra cuối cùng được sử dụng ở đâu. Đây không chỉ là yêu cầu kỹ thuật. Nó là điều kiện để giải trình khi có phản ánh, khiếu nại hoặc kiểm tra nội bộ.

Con người là trung tâm: việc nào AI được đề xuất, việc nào chỉ con người quyết định

Trong hành chính công, nguyên tắc “con người là trung tâm” không nên được hiểu chung chung. Nó phải được chuyển thành danh mục việc AI được làm, việc AI chỉ được đề xuất và việc chỉ con người có thẩm quyền được quyết định. Nếu không phân loại rõ, cơ quan dễ rơi vào hai cực: hoặc không dám dùng AI ở đâu, hoặc dùng AI quá sâu vào vùng quyết định nhạy cảm.

AI có thể tự động hỗ trợ ở mức thấp đối với các việc như tóm tắt tài liệu, phân loại câu hỏi, gợi ý mẫu biểu, chuẩn hóa văn phong, nhắc hạn, kiểm tra thiếu trường thông tin hoặc tổng hợp dữ liệu mô tả. Những việc này có rủi ro thấp hơn nếu dữ liệu đầu vào rõ và đầu ra được kiểm tra.

AI chỉ nên đề xuất để con người duyệt đối với các việc như dự thảo công văn, gợi ý tuyến xử lý, cảnh báo thiếu căn cứ pháp lý, đề xuất phản hồi phản ánh, đối chiếu thành phần hồ sơ hoặc phân tích xu hướng điều hành. Ở nhóm này, AI có giá trị lớn nhưng không được trở thành người quyết định cuối cùng.

Chỉ con người có thẩm quyền được quyết định đối với phê duyệt hồ sơ, từ chối hồ sơ, xử phạt, kết luận khiếu nại, đánh giá kỷ luật, quyết định liên quan trợ cấp, đất đai, hộ tịch, quyền lợi công dân hoặc các vấn đề có tác động pháp lý trực tiếp. AI có thể chuẩn bị thông tin, nhưng không được thay thế trách nhiệm công vụ. Các khung về agentic AI cũng nhấn mạnh yêu cầu duy trì kiểm soát và trách nhiệm có ý nghĩa của con người, đặc biệt khi agent có khả năng hành động hoặc thay đổi môi trường số.

Kiểm toán, đánh giá, xử lý sự cố và truyền thông niềm tin

Quản trị AI agent không dừng ở phê duyệt triển khai. Khi agent đã vận hành, cơ quan cần kiểm toán và đánh giá định kỳ. Kiểm toán ở đây không chỉ là kiểm toán tài chính hay kỹ thuật, mà là kiểm tra xem agent có hoạt động đúng phạm vi, dùng đúng dữ liệu, tạo đầu ra đủ căn cứ, có nhật ký đầy đủ và không phát sinh rủi ro ngoài dự kiến hay không.

Đánh giá nên diễn ra theo nhiều lớp. Lớp nghiệp vụ kiểm tra độ đúng, độ hữu ích và độ phù hợp với quy trình. Lớp pháp chế kiểm tra căn cứ, thẩm quyền và rủi ro pháp lý. Lớp an toàn thông tin kiểm tra truy cập, bảo mật, nhật ký và khả năng bị khai thác. Lớp lãnh đạo đánh giá tác động đến hiệu suất, chất lượng dịch vụ, niềm tin và khả năng mở rộng. Nếu chỉ đánh giá bằng số lượt sử dụng, cơ quan sẽ bỏ qua các rủi ro cốt lõi.

Xử lý sự cố cũng phải có quy trình riêng. Khi phát hiện agent tạo thông tin sai, dùng dữ liệu không đúng, đề xuất vượt thẩm quyền hoặc có dấu hiệu lộ lọt dữ liệu, cơ quan cần có cơ chế dừng, khoanh vùng, thông báo nội bộ, sửa kho tri thức, đánh giá tác động và ghi nhận bài học. Với sự cố liên quan người dân hoặc dữ liệu cá nhân, truyền thông phải thận trọng, minh bạch và có trách nhiệm. Niềm tin không đến từ việc nói AI hoàn hảo, mà đến từ việc cơ quan chứng minh AI được kiểm soát và có cơ chế sửa sai.

Sổ đăng ký trường hợp sử dụng AI: nền tảng của trách nhiệm giải trình

Một công cụ quản trị rất thực tế là sổ đăng ký trường hợp sử dụng AI. Đây là danh mục chính thức ghi nhận mọi trường hợp sử dụng AI trong cơ quan. Nếu một đơn vị muốn dùng AI để tóm tắt văn bản, hỗ trợ tra cứu thủ tục, chuẩn hóa biểu mẫu hay phân loại phản ánh, use case đó phải được đăng ký trước khi triển khai rộng.

Sổ đăng ký không cần phức tạp ở giai đoạn đầu. Tuy nhiên, tối thiểu phải có tên use case, đơn vị phụ trách, mục tiêu, người dùng, dữ liệu được dùng, dữ liệu không được dùng, mức rủi ro, đầu ra dự kiến, người kiểm duyệt, trạng thái triển khai, KPI và lịch đánh giá. Đây là cách giúp lãnh đạo nhìn được bức tranh AI trong toàn cơ quan, tránh tình trạng mỗi phòng tự dùng một công cụ, mỗi nhóm tự tạo một agent và không ai chịu trách nhiệm tổng thể.

Sổ đăng ký use case AI cũng là cầu nối giữa đổi mới và kiểm soát nội bộ. Nó không làm chậm sáng tạo nếu được thiết kế gọn. Ngược lại, nó giúp các ý tưởng tốt được ưu tiên, các rủi ro được nhìn thấy sớm và các use case có giá trị được mở rộng có căn cứ.

Trước khi triển khai rộng, hãy xây sổ đăng ký trường hợp sử dụng AI

Nếu cơ quan đang chuẩn bị đưa AI agent vào nghiệp vụ, bước đầu tiên không nên là triển khai đại trà. Bước đầu tiên nên là lập sổ đăng ký trường hợp sử dụng AI và yêu cầu mọi đơn vị đăng ký các tình huống dự kiến sử dụng AI. Từ sổ đăng ký này, lãnh đạo có thể chọn use case ít rủi ro để pilot, xác định dữ liệu được phép dùng, phân vai kiểm duyệt và đặt KPI trước khi chạy thử.

AIHanhChinhCong.vn có thể đồng hành cùng cơ quan, địa phương và đơn vị chuyên môn trong việc xây dựng bộ quy tắc quản lý AI agent, thiết kế sổ đăng ký use case AI, phân loại rủi ro, chuẩn hóa chính sách dữ liệu, lập RACI trách nhiệm và chuẩn bị pilot Agent OS an toàn. Cách tiếp cận phù hợp với khu vực công không phải là “cấm vì sợ rủi ro” hay “mở rộng vì chạy theo xu hướng”, mà là quản trị để đổi mới có kiểm soát.

Quản trị AI agent trong hành chính công là điều kiện để AI tạo giá trị bền vững. Nếu không có quản trị, AI có thể tạo ra câu trả lời nhanh nhưng sai, quy trình nhanh nhưng khó giải trình, tự động hóa nhiều nhưng làm suy giảm niềm tin. Nếu có quản trị, AI agent có thể trở thành năng lực mới giúp cơ quan hành chính giảm lặp lại, chuẩn hóa tri thức, hỗ trợ cán bộ và phục vụ người dân tốt hơn.

Khung quản trị cần bắt đầu từ sáu nhóm rủi ro trọng yếu: sai thông tin, dữ liệu cá nhân, bảo mật, thiên lệch, phụ thuộc quá mức và thiếu trách nhiệm giải trình. Sau đó, cơ quan cần vận hành theo mô hình bốn bước: thể chế hóa, nhận diện, đo lường và điều hành. Trên nền đó, chính sách dữ liệu, phân quyền con người – AI, kiểm toán, xử lý sự cố và truyền thông niềm tin phải trở thành một phần của hệ vận hành, không phải phần phụ sau triển khai.

Bài tiếp theo của chuỗi sẽ giúp cơ quan chuyển từ khung quản trị sang hành động thực tế hơn: “Cơ quan hành chính đã sẵn sàng với Agent OS chưa? Bộ tiêu chí tự đánh giá trước khi triển khai”. Trước khi bước sang thử nghiệm, khuyến nghị rõ nhất là: mỗi cơ quan hãy xây sổ đăng ký trường hợp sử dụng AI trước khi cho phép triển khai rộng. Đó là bước nhỏ nhưng quyết định để AI agent đi vào hành chính công một cách an toàn, có trách nhiệm và đáng tin cậy.

TS. Nguyễn Trung Hòa