Một nhân viên có thể sao chép cả chuỗi email vào công cụ AI để nhờ tóm tắt, dù yêu cầu chỉ cần tên công ty, vấn đề và thời hạn phản hồi. Phần còn lại có thể chứa số điện thoại, giá thương lượng hoặc tài khoản truy cập.
Rủi ro còn nằm ở trình kết nối, log và kho lưu tệp. Đội ngũ cần nhìn toàn bộ đường đi của dữ liệu.
Lập bản đồ dữ liệu trước khi chọn mô hình
Với tác vụ phân loại email hỗ trợ, đầu vào có thể gồm người gửi, tiêu đề, nội dung, tệp đính kèm và lịch sử trao đổi. Đầu ra mong muốn chỉ là nhóm vấn đề, mức độ ưu tiên và người tiếp nhận. Nếu lịch sử trao đổi không ảnh hưởng đến ba trường này, không nên gửi toàn bộ lịch sử.
Bản đồ cần ghi nguồn, trường được lấy, nơi xử lý, nơi lưu kết quả và hệ thống nhận đầu ra. Một payload lỗi có thể được ghi nguyên văn vào log.
Bài lập danh mục dữ liệu trước khi triển khai AI agent cung cấp cách kiểm kê đầu vào trước khi tích hợp.
Phân loại dữ liệu theo cách đội ngũ có thể dùng hằng ngày
Đội nhỏ có thể dùng bốn nhóm: công khai, nội bộ, nhạy cảm và hạn chế nghiêm ngặt. Dữ liệu nội bộ chỉ đi qua công cụ được phép. Dữ liệu nhạy cảm phải giảm trường nhận diện hoặc dùng mã tham chiếu. Mật khẩu, khóa truy cập và thông tin thanh toán đầy đủ không được gửi vào quy trình AI thông thường.
Tên nhóm phải xuất hiện nhất quán trong chính sách, biểu mẫu và cảnh báo. Nếu mỗi nơi dùng một cách gọi, người dùng khó biết khi nào phải dừng.
Quy trình chuẩn bị dữ liệu cho một tác vụ AI
Bước 1: Chốt đầu ra cần thiết
Nêu trường AI phải tạo và quyết định vẫn do con người thực hiện.
Bước 2: Chọn trường đầu vào tối thiểu
Xóa trường không có vai trò, tách tệp đính kèm và thay thông tin nhận diện bằng mã khi phù hợp.
Bước 3: Kiểm tra điểm lưu dữ liệu
Kiểm tra cấu hình nhà cung cấp, log, bộ nhớ tạm và kho đầu ra. Gán thời hạn lưu cho từng điểm.
Bước 4: Đặt điều kiện chuyển người duyệt
Nếu dữ liệu thuộc nhóm không được phép hoặc đầu ra sắp kích hoạt hành động có rủi ro, hệ thống phải dừng và chuyển đủ ngữ cảnh cho người phụ trách.
Giảm dữ liệu trước khi gửi, không sửa sau khi đã gửi
Hệ thống có thể bỏ chữ ký email, số điện thoại và đoạn trao đổi cũ trước khi phân loại yêu cầu. Nếu cần liên kết kết quả với khách hàng, dùng mã hồ sơ nội bộ rồi ghép lại trong hệ thống có quyền truy cập phù hợp.
Che dữ liệu sau khi nhận đầu ra không thay đổi việc dữ liệu gốc đã đi qua nhà cung cấp. Prompt yêu cầu mô hình “không ghi nhớ” cũng không thay thế cấu hình lưu trữ.
Với tệp dài, chỉ trích phần liên quan theo quy tắc đã kiểm thử. Không gửi cả hợp đồng nếu tác vụ chỉ cần ngày hết hạn và điều khoản gia hạn.
Hệ thống xử lý gì, con người xác nhận gì
Hệ thống có thể xử lý
- Loại trường đã được xác định là không cần thiết.
- Chặn nguồn dữ liệu không có trong danh sách cho phép.
- Ghi trạng thái bằng mã tham chiếu thay cho nội dung gốc.
Con người cần xác nhận
- Mục đích mới có phù hợp với quyền sử dụng dữ liệu hiện có hay không.
- Ngoại lệ có được phép dùng dữ liệu nhạy cảm hay phải xử lý thủ công.
- Sự cố có cần dừng quy trình và thông báo cho người phụ trách không.
Quyền truy cập cần giới hạn theo vai trò. Người xem kết quả phân loại chưa chắc cần đọc email gốc. Người vận hành cần mã lỗi nhưng không cần dữ liệu khách hàng. Cách xác định quyền duyệt trong quy trình dùng AI giúp tách quyền thực hiện, quyền xem và quyền phê duyệt.
Đặt thời hạn lưu và kiểm tra việc xóa dữ liệu
Mỗi bản ghi cần có lý do lưu và thời điểm hết hạn. Nút xóa trên giao diện chưa đủ để xác nhận dữ liệu đã biến mất. Engineering cần kiểm tra bản sao lưu, hàng chờ, kho tệp và dịch vụ theo dõi lỗi. Cấu hình thời hạn lưu phải được kiểm tra bằng tài khoản thực tế.
Kiểm tra quy trình bằng dữ liệu không hợp lệ
Bộ test nên có email chứa chữ ký dài, tệp có thông tin tài khoản, prompt chèn yêu cầu bỏ qua quy tắc và bản ghi từ nguồn chưa được duyệt. Kết quả cần chứng minh dữ liệu bị loại trước khi gọi mô hình, yêu cầu bị chặn đúng trạng thái và người phụ trách nhận đủ thông tin để xử lý.
Sau khi đưa vào sử dụng, theo dõi lý do bị chặn. Nếu quy tắc quá rộng, người dùng có thể chuyển sang công cụ cá nhân, vì vậy cần sửa trải nghiệm thay vì chỉ thêm cảnh báo.
Đội ngũ muốn chuẩn hóa phạm vi dữ liệu, quyền duyệt và test case có thể bắt đầu với Coaching triển khai hệ thống AI. Đầu ra nên gồm bản đồ dữ liệu, quy tắc giảm thiểu, điểm dừng, người xử lý ngoại lệ và tiêu chí kiểm tra trước khi mở rộng quy trình.