TRÍ TUỆ NHÂN TẠO, CHUYỂN ĐỔI SỐ VÀ AN TOÀN THÔNG TIN TRONG HỖ TRỢ CÔNG TÁC HÀNH CHÍNH
Công tác chuyển đổi số và hiện đại hóa nền hành chính công tại UBND cấp xã là nhiệm vụ trọng tâm nhằm xây dựng một chính quyền số tinh gọn, hiệu quả, phục vụ nhân dân. Trong tiến trình này, việc tích hợp trí tuệ nhân tạo (AI) tạo sinh như một công cụ hỗ trợ nghiệp vụ soạn thảo văn bản, tổng hợp tài liệu và xây dựng kế hoạch tuyên truyền đã mang lại những bước tiến vượt bậc về mặt hiệu suất thời gian cho công chức. Tuy nhiên, sự giao thoa giữa công nghệ số hiện đại và quy trình quản lý hành chính nhà nước cũng đặt ra những rủi ro an ninh nghiêm trọng chưa từng có, điển hình như sự lạm dụng công nghệ dẫn tới ỷ lại thuật toán, nhập liệu thiếu an toàn, làm lộ lọt thông tin cư dân, hoặc vô tình lan truyền tin giả do lỗi ảo giác của Al.
Để ngăn ngừa triệt để các rủi ro từ bản chất vận hành và hiện tượng ảo giác của Al, công chức khi sử dụng công nghệ phải tuân thủ nghiêm ngặt nguyên tắc: “Tuyệt đối không sử dụng trực tiếp sản phẩm từ Al làm văn bản trình ký khi chưa qua rà soát thủ công”. Mọi nội dung do Al tạo ra chỉ được coi là tài liệu tham khảo thô, phục vụ mục đích định hình cấu trúc hoặc gợi ý từ ngữ. Toàn bộ thông tin mang tính trạng thái pháp lý, số liệu báo cáo bắt buộc phải được đối chiếu trực tiếp với các nguồn văn bản gốc của quy phạm pháp luật hiện hành và cơ sở dữ liệu quản lý thực tế của địa phương trước khi đưa vào thể thức văn bản hành chính chính thức.
Hội nghị tập huấn triển khai sử dụng Claude Pro (AI) phục vụ công tác tham mưu, tổng hợp, xử lý văn bản và chuyển đổi số trong cơ quan đảng phường Thuận An.
Để chuẩn hóa quy trình xử lý văn bản có sự hỗ trợ của AI, công chức phải tuân thủ nghiêm ngặt quy trinh 3 bước kiểm chứng dữ liệu văn bản từ AI:
+ Bước 1: Phân lập dữ liệu có rủi ro lỗi cao. Công chức rà soát toàn bộ văn bản do Al khởi tạo và chủ động bóc tách, khoanh vùng các thông tin mang tính trạng thái cốt lõi. Những nhóm thông tin có tần suất xảy ra hiện tượng "ảo giác dữ liệu" cao nhất có thể gồm: căn cứ pháp lý, số liệu định lượng (số liệu thống kê, chỉ tiêu phát triển kinh tế - xã hội…) và thông tin định danh (tên các cơ quan ban hành, chức danh người có thẩm quyền ký, địa danh hành chính cụ thể…)
+ Bước 2: Truy vết nguồn gốc dữ liệu thủ công. Sau khi đã phân lập được các thông tin trọng yếu, công chức tuyệt đối không sử dụng các đường liên kết (hyperlink) do Al cung cấp (nếu có), vì hệ thống hoàn toàn có thể tự bịa đặt các liên kết giả mạo. Thay vào đó, công chức phải tiến hành đối chiếu thủ công trực tiếp thông qua các nguồn thông tin chính thống và có giá trị pháp lý, như: Cơ sở dữ liệu quốc gia về văn bản quy phạm pháp luật; Cổng thông tin điện tử của cơ quan nhà nước; Hồ sơ lưu trữ thực tế tại cơ quan./.