Phần lớn phần mềm nhân sự (HRM/HRIS) hiện nay đều vận hành theo mô hình SAAS – thuê bao trên nền tảng đám mây của nhà cung cấp. Mô hình này giúp doanh nghiệp triển khai nhanh, chi phí ban đầu thấp, nhưng khi các nhà cung cấp SAAS đồng loạt tích hợp tính năng AI (chatbot tuyển dụng, phân tích dự đoán, chấm điểm hồ sơ tự động…), rủi ro dữ liệu cũng thay đổi bản chất so với vài năm trước.
Bài viết này phân tích những rủi ro cụ thể mà bộ phận IT và nhân sự cần lường trước khi tiếp tục sử dụng – hoặc lựa chọn mới – một phần mềm nhân sự SAAS có tích hợp AI.
Vì sao rủi ro của phần mềm nhân sự SAAS thay đổi trong thời đại AI
Trước đây, rủi ro chính của phần mềm nhân sự SAAS chủ yếu xoay quanh việc dữ liệu được lưu trên máy chủ của bên thứ ba, thay vì hạ tầng nội bộ như mô hình phần mềm nhân sự on-premise. Doanh nghiệp lo ngại về quyền kiểm soát và khả năng bị gián đoạn nếu nhà cung cấp gặp sự cố.
Khi AI được tích hợp vào SAAS, thêm một lớp rủi ro mới xuất hiện: dữ liệu nhân sự (hồ sơ ứng viên, đánh giá hiệu suất, lương thưởng, thậm chí ghi âm phỏng vấn) có thể được dùng làm dữ liệu huấn luyện cho mô hình AI của nhà cung cấp – đôi khi nằm trong điều khoản sử dụng mà doanh nghiệp không đọc kỹ.
Những rủi ro cụ thể cần lường trước
- Dữ liệu bị dùng để huấn luyện mô hình AI: một số nhà cung cấp SAAS mặc định sử dụng dữ liệu khách hàng (bao gồm dữ liệu nhân sự nhạy cảm) để cải thiện mô hình AI, trừ khi doanh nghiệp chủ động tắt tùy chọn này (opt-out).
- Thiên vị thuật toán (algorithmic bias): các tính năng AI chấm điểm hồ sơ, dự đoán khả năng nghỉ việc có thể phản ánh thiên vị có sẵn trong dữ liệu lịch sử, dẫn đến quyết định tuyển dụng/đánh giá thiếu công bằng mà doanh nghiệp khó kiểm chứng vì thuật toán là “hộp đen”.
- Vị trí lưu trữ dữ liệu không rõ ràng: tính năng AI thường xử lý dữ liệu qua nhiều lớp hạ tầng (có thể ở nước ngoài), khiến việc xác định dữ liệu nhân sự đang “nằm ở đâu” trở nên phức tạp hơn so với SAAS truyền thống.
- Phụ thuộc nhà cung cấp (vendor lock-in) tăng cao hơn: khi doanh nghiệp đã quen với các gợi ý/báo cáo do AI tạo ra, việc chuyển sang nhà cung cấp khác đòi hỏi xây dựng lại toàn bộ dữ liệu huấn luyện, không chỉ đơn thuần là export dữ liệu thô như trước.
- Khó audit khi có sự cố: khi một quyết định nhân sự bị khiếu nại (ví dụ ứng viên cho rằng bị loại bởi AI một cách bất công), doanh nghiệp cần yêu cầu nhà cung cấp giải trình logic thuật toán – điều mà không phải hợp đồng SAAS nào cũng cam kết hỗ trợ.
Góc nhìn bộ phận IT
- Đọc kỹ điều khoản xử lý dữ liệu (Data Processing Agreement) của nhà cung cấp, đặc biệt mục liên quan đến việc dùng dữ liệu khách hàng để huấn luyện AI.
- Yêu cầu nhà cung cấp cung cấp tùy chọn opt-out khỏi việc chia sẻ dữ liệu cho mục đích huấn luyện mô hình, và xác nhận bằng văn bản.
- Ưu tiên nhà cung cấp công khai được vị trí trung tâm dữ liệu (data residency) xử lý các tác vụ AI, không chỉ dữ liệu lưu trữ thông thường.
Góc nhìn Ban lãnh đạo / Trưởng phòng Nhân sự
- Không nên để bộ phận nhân sự tự quyết định bật/tắt tính năng AI của phần mềm mà không có sự tham vấn của IT/pháp chế – đây là quyết định ảnh hưởng đến rủi ro pháp lý của cả doanh nghiệp.
- Với các quyết định nhân sự quan trọng (loại hồ sơ ứng viên, đánh giá sa thải), nên giữ vai trò con người ra quyết định cuối cùng, dùng gợi ý AI như tham khảo chứ không thay thế hoàn toàn.
- Đưa yêu cầu về minh bạch thuật toán AI vào tiêu chí đánh giá khi lựa chọn nhà cung cấp phần mềm nhân sự mới, không chỉ so sánh tính năng và giá.
Tiêu chuẩn liên quan
- ISO/IEC 27001 (An toàn thông tin): cần áp dụng cho cả dữ liệu tĩnh và dữ liệu được xử lý qua các tác vụ AI của nhà cung cấp SAAS, không chỉ dữ liệu lưu trữ thông thường.
- Nghị định về bảo vệ dữ liệu cá nhân (PDPA-style): việc dùng dữ liệu nhân sự để huấn luyện AI có thể cấu thành xử lý dữ liệu cá nhân ngoài mục đích ban đầu, cần có sự đồng ý rõ ràng hoặc điều khoản hợp đồng chặt chẽ.
- ISO 22301 (Duy trì hoạt động kinh doanh): cần có kế hoạch dự phòng nếu tính năng AI của nhà cung cấp gặp sự cố hoặc ngừng hỗ trợ đột ngột, tránh gián đoạn quy trình nhân sự đang phụ thuộc vào AI.
Câu hỏi thường gặp
1. Có nên tắt hoàn toàn tính năng AI trong phần mềm nhân sự SAAS không? Không nhất thiết. Nhiều tính năng AI (gợi ý lịch phỏng vấn, tổng hợp báo cáo) có rủi ro thấp và mang lại hiệu quả rõ rệt. Vấn đề cần kiểm soát là những tính năng dùng dữ liệu nhân sự để huấn luyện mô hình hoặc ra quyết định ảnh hưởng trực tiếp đến quyền lợi người lao động.
2. Doanh nghiệp nhỏ có cần lo lắng về rủi ro này không? Có, vì hầu hết doanh nghiệp nhỏ dùng chung các gói SAAS phổ thông giống doanh nghiệp lớn, và thường không có bộ phận pháp chế riêng để rà soát điều khoản dữ liệu – nên càng cần đọc kỹ hợp đồng trước khi kích hoạt tính năng AI.
3. Làm sao biết nhà cung cấp có dùng dữ liệu của mình để huấn luyện AI hay không? Tra cứu mục “Data Processing Agreement” hoặc “AI/Machine Learning” trong chính sách bảo mật của nhà cung cấp – theo quy định tại nhiều thị trường, nhà cung cấp phải công bố rõ mục đích sử dụng dữ liệu.
4. On-premise có phải là giải pháp an toàn hơn để tránh rủi ro AI không? On-premise giúp doanh nghiệp kiểm soát hạ tầng tốt hơn, nhưng không tự động loại bỏ rủi ro nếu doanh nghiệp vẫn tích hợp các API AI của bên thứ ba. Vấn đề cốt lõi là kiểm soát luồng dữ liệu, không chỉ nơi lưu trữ.
Kết luận
Phần mềm nhân sự SAAS tích hợp AI mang lại nhiều lợi ích vận hành, nhưng cũng đặt ra những câu hỏi mới về quyền kiểm soát dữ liệu mà mô hình SAAS truyền thống chưa từng gặp phải. Trước khi mở rộng ứng dụng AI vào quy trình nhân sự, doanh nghiệp nên tìm hiểu kỹ về HR Predictive Analytics – ứng dụng AI dự đoán xu hướng nhân sự để hiểu rõ cơ chế hoạt động và giới hạn của công nghệ này trước khi tin tưởng giao phó các quyết định quan trọng.