“Human-in-the-loop” có thể hiểu là con người vẫn tham gia vào một hoặc nhiều điểm của quy trình AI. Thay vì để hệ thống tự đi từ đầu vào đến hành động cuối, con người đặt tiêu chí, xem lại kết quả hoặc phê duyệt bước có rủi ro.
Đây không phải thủ tục ký duyệt cho có. Một điểm kiểm soát chỉ hữu ích nếu người xem có đủ thông tin, thời gian và quyền để sửa hoặc dừng quy trình.
Ba vai trò của con người
Trước khi AI bắt đầu: xác định phạm vi
Người dùng chọn mục tiêu, dữ liệu được phép, công cụ và hành động bị cấm. Một yêu cầu như “xử lý email khách hàng” chưa đủ nếu không nói email nào, hệ thống được đọc hay được gửi, và điều gì cần chuyển cho nhân viên.
Trong khi AI làm việc: theo dõi tiến trình
Với nhiệm vụ nhiều bước, người dùng có thể kiểm tra nguồn, kế hoạch hoặc thay đổi trước khi quy trình đi tiếp. Việc xem từng bước có thể không cần thiết cho nhiệm vụ nhỏ, nhưng quan trọng nếu lỗi sớm có thể dẫn đến nhiều hành động tiếp theo.
Sau khi AI đưa kết quả: xác minh và quyết định
Con người đối chiếu thông tin, kiểm tra ngoại lệ và quyết định có sử dụng đầu ra hay không. Nếu AI tạo bản nháp, người chịu trách nhiệm duyệt trước khi gửi. Nếu AI phân tích dữ liệu, người xem lại phép tính và giả định.
Ví dụ: phân loại yêu cầu hỗ trợ
Một nhóm nhận nhiều thư cần được phân loại. AI có thể gợi ý nhóm chủ đề và mức độ ưu tiên dựa trên tiêu chí được cung cấp. Quy trình an toàn có thể là:
- AI đọc các thư nằm trong phạm vi được phép.
- AI gắn nhãn đề xuất và trích câu làm căn cứ.
- Nhân viên xem lại các trường hợp có dữ liệu thiếu, nhãn nhạy cảm hoặc mức ưu tiên cao.
- Người có thẩm quyền xác nhận trước khi phản hồi hoặc chuyển xử lý.
- Nhóm ghi nhận lỗi và cập nhật tiêu chí nếu nhãn không phù hợp.
AI hỗ trợ khâu sắp xếp, nhưng không tự quyết định quyền lợi của khách hàng hay gửi phản hồi trong ví dụ này. Nếu nhóm muốn tự động hóa thêm, cần đánh giá tác động và cơ chế khắc phục trước.
Đặt điểm kiểm soát theo mức rủi ro
Không cần con người phê duyệt mọi dấu phẩy. Mức kiểm tra nên tăng theo khả năng gây hại và độ khó đảo ngược:
- Rủi ro thấp, dễ sửa: tạo dàn ý riêng hoặc gợi ý tiêu đề; có thể xem sau khi tạo.
- Rủi ro vừa: tóm tắt tài liệu nội bộ hoặc phân loại yêu cầu; cần kiểm tra mẫu và trường hợp bất thường.
- Rủi ro cao hoặc khó đảo ngược: gửi thông điệp, thay đổi dữ liệu, đưa ra quyết định có ảnh hưởng; cần xác nhận rõ trước hành động.
Đây là cách phân loại để suy nghĩ, không thay thế quy trình chuyên môn hoặc quy định của tổ chức.
Một nút “phê duyệt” chưa đủ
Người duyệt cần biết hệ thống đã dùng nguồn nào, thay đổi gì và điều gì còn chưa chắc chắn. Nếu chỉ có nút đồng ý nhưng không có căn cứ, việc giám sát trở thành thao tác hình thức.
Thiết kế tốt nên cho phép xem bản nháp, nguồn liên quan, khác biệt trước và sau, quyền đang dùng và khả năng hoàn tác. Người duyệt cũng cần đủ thời gian; nếu khối lượng quá lớn, họ có thể bấm duyệt theo thói quen.
Giám sát có thể cải thiện hệ thống
Khi người dùng sửa đầu ra, hãy ghi lại loại lỗi thay vì chỉ sửa từng trường hợp. AI hiểu sai thuật ngữ nào? Nguồn nào gây nhầm? Tiêu chí ưu tiên nào chưa rõ? Những mẫu lặp lại giúp cải thiện dữ liệu, hướng dẫn hoặc điểm kiểm soát.
Điều này không có nghĩa mọi tổ chức đều nên lưu nội dung người dùng. Việc ghi nhận cần tuân theo quyền truy cập và chính sách dữ liệu phù hợp; đôi khi chỉ thống kê loại lỗi đã ẩn danh là đủ.
Khi nào quy trình nên dừng?
Đặt trước các điều kiện dừng: nguồn mâu thuẫn, thiếu thông tin bắt buộc, công cụ trả lỗi, đầu ra nằm ngoài phạm vi, hoặc hệ thống yêu cầu quyền mới. Dừng để hỏi người là một kết quả hợp lệ, không phải thất bại cần che giấu.
Quy trình cũng cần cách khôi phục: ai nhận việc khi AI dừng, cách báo lỗi và cách quay lại trạng thái trước đó nếu thao tác đã được thực hiện.
Điểm kiểm soát cũng cần gắn với một quyết định cụ thể: người duyệt đang xác nhận nguồn, nội dung hay quyền thực hiện? Nói rõ câu hỏi này giúp việc rà soát tập trung và tránh yêu cầu ký duyệt chung chung.
Một quy trình rõ còn nêu cách chuyển việc khi người duyệt không sẵn sàng, để hệ thống không tự bỏ qua điểm xác nhận.
Chọn người duyệt và tránh mỏi mệt
Không phải ai cũng đủ cơ sở để xác minh mọi loại đầu ra. Người kiểm tra nội dung chuyên môn cần hiểu tiêu chuẩn liên quan; người duyệt quyền truy cập cần biết phạm vi dữ liệu; người phê duyệt thông điệp cần hiểu người nhận và cam kết của tổ chức. Nếu người duyệt không có chuyên môn hoặc quyền dừng, hãy chuyển kết quả tới người phù hợp.
Khi mọi đầu ra đều yêu cầu xem xét, số lượng lớn có thể khiến việc duyệt trở thành máy móc. Có thể tập trung vào trường hợp ngoại lệ, lấy mẫu đầu ra rủi ro thấp và tăng cường kiểm tra khi lỗi tăng. Mức lấy mẫu cần dựa trên hậu quả và khả năng phát hiện lỗi; không có một tỷ lệ chung cho mọi nhóm.
Theo dõi cả lỗi lọt qua lẫn thời gian giám sát để biết cơ chế đang hoạt động hay chỉ tạo thêm việc. Nếu người kiểm duyệt liên tục thấy cùng một loại lỗi, sửa tiêu chí hoặc đầu vào thay vì chỉ yêu cầu họ chú ý hơn.
Điểm cần nhớ: Con người trong vòng kiểm soát cần quyền xem, sửa và dừng. Phê duyệt chỉ có ý nghĩa khi người duyệt hiểu nguồn, rủi ro và hành động sắp diễn ra.
Tóm lại
AI có thể đề xuất, phân tích hoặc chuẩn bị hành động; con người định phạm vi, kiểm tra phần cần thiết và phê duyệt các bước quan trọng. Mức giám sát nên phù hợp với hậu quả của sai sót.
Mục tiêu không phải giữ con người trong mọi thao tác. Đó là giữ quyền phán đoán ở đúng nơi mà bối cảnh, trách nhiệm và hậu quả đòi hỏi.