Quyền được giải thích là quyền được biết vì sao một quyết định có dùng máy lại đưa ra kết quả như vậy với mình, đủ rõ để mình kiểm tra, phản bác hoặc sửa. Nó không đòi bên ra quyết định phải công bố công thức hay mã nguồn. Nó đòi một lời giải thích mà người bình thường hiểu được và dùng được: những yếu tố chính nào dẫn tới kết quả, và mình có thể làm gì nếu thấy sai.
Ngày càng nhiều quyết định nhỏ mà quan trọng được máy đưa ra hoặc gợi ý: hồ sơ xin việc có được vào vòng phỏng vấn không, tài khoản bán hàng có bị khoá không, yêu cầu bồi thường bảo hiểm có được duyệt không. Khi người bị ảnh hưởng nhận về một dòng "rất tiếc, hồ sơ chưa phù hợp", họ không có gì để nắm. Bài này bàn giải thích thế nào mới gọi là đủ, chỗ nào khó thật sự, và cách hỏi để có cơ hội được trả lời.
Vì sao "rất tiếc, chưa phù hợp" là không đủ
Một bạn sinh viên mới ra trường ở Thủ Đức nộp hồ sơ vào hai mươi công ty qua các trang tuyển dụng trực tuyến, nhận về hai mươi email từ chối giống hệt nhau trong vòng vài giờ. Không có cuộc gọi nào, không có ai đọc. Bạn không biết lỗi nằm ở bằng cấp, ở cách viết hồ sơ, ở khoảng trống một năm đi làm thêm, hay đơn giản là bộ lọc tự động không đọc được tệp. Bạn sửa lung tung, nộp tiếp, và lại bị loại.
Lời từ chối không có lý do lấy đi của người ta hai thứ. Thứ nhất là cơ hội sửa: nếu biết lỗi ở định dạng tệp, sửa trong năm phút. Thứ hai là cơ hội phản bác: nếu máy loại vì một tiêu chí không chính đáng, như khoảng trống thời gian do nghỉ sinh con hay chăm cha mẹ ốm, người bị loại không có cách nào chỉ ra điều đó.
Với quyết định do người đưa ra, ta vẫn có thể hỏi người đó. Với quyết định do máy đưa ra hoặc gợi ý, nhiều khi chính nhân viên của bên ra quyết định cũng không biết vì sao. Họ chỉ thấy kết quả trên màn hình. Đó là lý do quyền được giải thích phải được đặt ra từ khâu thiết kế hệ thống, chứ không thể chờ tới khi có khiếu nại mới đi tìm câu trả lời.
Nói cách khác, giải thích không phải là phép lịch sự. Nó là điều kiện để mọi quyền khác, như quyền khiếu nại, quyền được đối xử công bằng, có thể dùng được trên thực tế.
Giải thích thế nào mới gọi là đủ
Nói rõ có dùng máy hay không. Người bị ảnh hưởng cần biết quyết định do người, do máy, hay máy gợi ý rồi người duyệt.
Nêu các yếu tố chính. Ba bốn yếu tố có ảnh hưởng lớn nhất, viết bằng lời thường, không phải danh sách hàng trăm biến.
Chỉ ra dữ liệu đã dùng. Quyết định dựa trên những thông tin nào về mình, để mình kiểm tra có đúng không.
Cho biết điều gì sẽ thay đổi kết quả. Ví dụ "nếu có xác minh thu nhập thì hồ sơ được xét lại", đây là phần hữu ích nhất cho người nhận.
Nêu đường khiếu nại. Gửi cho ai, trong bao lâu, theo hình thức nào.
Cho biết có người xem lại không. Và người đó có quyền thay đổi quyết định của máy hay chỉ chuyển tiếp.
Dùng ngôn ngữ của người nhận. Viết cho người không làm kỹ thuật đọc, tránh thuật ngữ thống kê.
Đúng với từng trường hợp. Một đoạn văn mẫu giống nhau cho mọi người không phải là giải thích.
Không đổ lỗi chung chung cho "hệ thống". "Hệ thống tự động từ chối" không trả lời câu hỏi vì sao.
Kịp thời. Giải thích đến sau khi hết hạn khiếu nại thì không còn tác dụng.
Trung thực về giới hạn. Nếu chính bên ra quyết định không giải thích được chi tiết, nên nói thẳng và cho đường xem lại bằng người.
Chỗ khó thật sự
Không phải mọi cái khó đều là lời thoái thác. Một số hệ thống trí tuệ máy hiện nay, nhất là loại học sâu với rất nhiều tham số, thật sự khó giải thích vì sao ra kết quả cụ thể. Người làm ra nó cũng chỉ nói được ở mức xu hướng, không nói được chính xác vì sao hồ sơ này bị loại còn hồ sơ kia được nhận. Đây là giới hạn kỹ thuật có thật, đang được nghiên cứu.
Từ giới hạn đó, có hai cách phản ứng. Cách thứ nhất: chấp nhận rằng hệ thống không giải thích được, và vì vậy không nên dùng nó cho những quyết định quan trọng với đời người như tuyển dụng, cho vay, phúc lợi, mà chỉ dùng cho việc ít hệ trọng hơn. Cách thứ hai: vẫn dùng, nhưng đi kèm người xem lại có thực quyền, để lời giải thích cuối cùng đến từ con người chịu trách nhiệm.
Một chỗ khó khác là bí mật kinh doanh. Doanh nghiệp lo rằng giải thích chi tiết sẽ lộ cách làm cho đối thủ, hoặc giúp người gian lận "lách" hệ thống. Lo lắng này có cơ sở, nhưng thường bị đẩy quá xa. Nói cho một người biết "hồ sơ của bạn bị đánh giá thấp vì thiếu kinh nghiệm thực tế trong ngành" không làm lộ công thức nào.
Cuối cùng là chi phí. Giải thích từng trường hợp tốn công, nhất là với hệ thống xử lý hàng triệu hồ sơ. Phía doanh nghiệp nhỏ lo không kham nổi. Phía người dân đáp rằng nếu một hệ thống có thể từ chối hàng triệu người trong vài giây thì cũng phải có cách trả lời hàng triệu người đó, ít nhất là những ai hỏi.
Những nơi quyền được giải thích hay bị cần tới
Tuyển dụng. Bộ lọc hồ sơ tự động, bài kiểm tra trực tuyến có chấm điểm, phỏng vấn qua video do máy phân tích.
Cho vay và thẻ tín dụng. Từ chối hồ sơ, hạ hạn mức, tăng lãi suất dựa trên điểm do máy tính.
Bảo hiểm. Từ chối bồi thường, tăng phí khi máy đánh giá rủi ro cao hơn.
Nền tảng bán hàng và làm việc. Khoá tài khoản, giảm phân đơn, ẩn sản phẩm mà không báo lý do.
Mạng xã hội. Gỡ bài, khoá tài khoản vì máy cho rằng vi phạm quy định cộng đồng.
Giáo dục. Hệ thống chấm bài, phát hiện gian lận, xếp lớp có dùng máy.
Dịch vụ công. Xét duyệt hồ sơ trợ cấp, xếp thứ tự ưu tiên xử lý.
Y tế. Máy gợi ý chẩn đoán, phân loại mức độ ưu tiên khám.
Thuê nhà. Một số dịch vụ sàng lọc người thuê dựa trên dữ liệu thu thập tự động.
Ngân hàng chặn giao dịch. Máy phát hiện "bất thường" khoá tài khoản, người dùng không biết vì sao và mất bao lâu để mở.
Giao thông. Hệ thống camera tự động ghi nhận vi phạm; người bị ghi nhận cần được xem bằng chứng.
Cách hỏi để có cơ hội được trả lời
Hỏi bằng văn bản qua kênh chính thức. Email chăm sóc khách hàng, mục hỗ trợ trong ứng dụng, thư tới bộ phận tuyển dụng.
Hỏi ba câu cụ thể. Quyết định có dùng máy không, các yếu tố chính là gì, có cách nào để được xem lại không.
Nêu thông tin để tìm hồ sơ. Mã hồ sơ, ngày nộp, vị trí ứng tuyển, số tài khoản.
Chỉ ra điều mình cho là sai. Nếu biết dữ liệu nào không đúng, nói thẳng và kèm bằng chứng.
Đề nghị người xem lại. Viết rõ "đề nghị một nhân viên xem lại hồ sơ".
Giữ giọng bình tĩnh. Người đọc thư cũng là nhân viên, thường không phải người làm ra hệ thống.
Lưu mọi thư từ. Ngày gửi, ngày trả lời, nội dung; hồ sơ này cần khi phải khiếu nại cao hơn.
Hỏi thời hạn trả lời. Để biết khi nào nên nhắc lại.
Tìm hiểu nơi khiếu nại tiếp. Cơ quan bảo vệ người tiêu dùng, công đoàn, trung tâm trợ giúp pháp lý tuỳ loại việc.
Chia sẻ trải nghiệm có chừng mực. Kể lại trên diễn đàn giúp người khác, nhưng tránh đăng thông tin cá nhân và tránh lời lẽ xúc phạm.
Nhờ người quen viết thư giúp. Người lớn tuổi, người ít chữ có quyền như mọi người; một người con, người cháu ngồi viết cùng là đủ.
Câu hỏi thường gặp
Doanh nghiệp có bắt buộc phải giải thích quyết định do máy đưa ra không?
Tuỳ quy định từng nơi và từng lĩnh vực; ở nhiều nơi, các quyết định có ảnh hưởng lớn như tín dụng, việc làm được yêu cầu nêu lý do hoặc cho người xem lại. Khi cần biết rõ nghĩa vụ cụ thể, nên hỏi người làm luật.
Giải thích có nghĩa là phải công khai thuật toán không?
Không. Giải thích đủ là nêu những yếu tố chính dẫn tới kết quả với từng người, dữ liệu đã dùng và đường để khiếu nại. Công thức chi tiết và mã nguồn có thể vẫn giữ kín.
Nếu máy không giải thích được thì sao?
Khi đó cần một người có thực quyền xem lại và chịu trách nhiệm về quyết định cuối cùng. Nhiều người cho rằng hệ thống không giải thích được thì không nên dùng một mình cho những quyết định hệ trọng.
Bị khoá tài khoản bán hàng mà không có lý do thì làm gì?
Gửi yêu cầu bằng văn bản qua kênh hỗ trợ chính thức, hỏi lý do cụ thể và đề nghị người xem lại, đồng thời lưu bản sao danh sách khách và đơn hàng ở nơi khác để không bị trói hoàn toàn vào một nền tảng.
Người bị ảnh hưởng có được xem dữ liệu máy đã dùng về mình không?
Theo quyền được biết về dữ liệu cá nhân mà nhiều nơi ghi nhận, người dân có thể yêu cầu biết dữ liệu nào về mình đang được giữ và dùng. Kết hợp với quyền được giải thích, đây là cách để kiểm tra máy có dùng thông tin sai hay không.
