Có nên để máy quyết định thay người trong những việc hệ trọng như xét hồ sơ trợ cấp, chấm thi, duyệt khoản vay, sàng lọc hồ sơ xin việc? Phần đông ý kiến hiện nghiêng về một lối: máy gợi ý, người quyết, và người chịu trách nhiệm. Nhưng phía muốn giao nhiều hơn cho máy có những lý lẽ đáng nghe, nhất là về sự nhất quán và về những thiên vị vốn có của chính con người.
Thử hình dung bộ phận một cửa ở một xã. Cán bộ nhận hàng chục bộ hồ sơ mỗi ngày, mỗi bộ một hoàn cảnh. Nếu máy sơ loại hồ sơ thiếu giấy tờ, cán bộ có thêm thời gian cho những ca khó. Nếu máy quyết luôn ai được, ai không, bác nông dân bị trả hồ sơ sẽ hỏi ai, và ai trả lời? Câu hỏi nằm ở khoảng giữa đó.
Lý lẽ cho việc giao nhiều hơn cho máy
Người quyết định có ngày mệt, có ngày vui, có người quen, có định kiến mà chính họ không nhận ra. Hai hồ sơ giống nhau nộp hai buổi khác nhau có thể nhận hai kết quả khác nhau. Máy, nếu được làm cẩn thận, áp cùng một tiêu chí cho mọi hồ sơ.
Máy cũng nhanh. Ở những nơi hồ sơ tồn đọng hàng tháng, người dân chờ đợi cũng là một kiểu bất công. Một bà mẹ đơn thân chờ trợ cấp ba tháng chịu thiệt nhiều hơn một sai sót nhỏ của máy, theo lý lẽ của phía này.
Thêm nữa, máy để lại dấu vết. Mỗi quyết định có thể được ghi lại tiêu chí nào, dữ liệu nào, nên về nguyên tắc dễ kiểm tra hơn quyết định trong đầu một con người. Phía này cho rằng nếu thiết kế đúng, máy có thể minh bạch hơn người.
Họ cũng chỉ ra rằng "người quyết" nhiều khi chỉ là hình thức: cán bộ quá tải sẽ bấm đồng ý theo gợi ý của máy mà không đọc kỹ. Vậy thà thừa nhận máy quyết rồi tập trung kiểm tra máy cho tốt còn hơn giữ một lớp người chỉ để ký.
Lý lẽ cho việc giữ người ở vị trí quyết định
Phía này bắt đầu từ chuyện sai hàng loạt. Một cán bộ sai thì sai một hồ sơ; một hệ thống sai thì sai hàng nghìn hồ sơ cùng lúc, cùng một kiểu, và có khi lâu mới phát hiện. Ở nhiều nơi trên thế giới đã có những vụ hệ thống tự động đánh giá sai hàng loạt người nhận trợ cấp, phải mất nhiều năm mới sửa xong hậu quả.
Máy học từ dữ liệu cũ, mà dữ liệu cũ mang theo thiên vị cũ. Nếu trước đây một nhóm người ít được duyệt vay, máy học ra rằng nhóm đó rủi ro, và tiếp tục không duyệt. Thiên vị của người được nhân bản và khoác thêm vẻ khách quan.
Rồi chuyện giải thích. Người bị từ chối có quyền hỏi vì sao. Cán bộ trả lời được: "hồ sơ thiếu xác nhận của thôn". Máy phức tạp thì nhiều khi chính người vận hành cũng không nói rõ được. Một quyết định không giải thích được thì người dân không biết sửa gì, không biết khiếu nại chỗ nào.
Cuối cùng, có những việc mà hoàn cảnh riêng quan trọng hơn quy tắc chung. Một gia đình vừa gặp hoạ, một học sinh làm bài thi trong lúc ốm. Người có thể linh động có lý do; máy chỉ thấy những gì được nhập vào.
Những nguyên tắc nhiều phía cùng chấp nhận
Người dân được biết có máy tham gia. Ít nhất phải biết hồ sơ của mình có qua máy xét hay không.
Có quyền yêu cầu người thật xem lại. Mọi quyết định bất lợi nên có đường để một người có thẩm quyền xem lại.
Có lời giải thích đủ hiểu. Không cần chi tiết kỹ thuật, nhưng phải nói được lý do chính.
Có người chịu trách nhiệm cụ thể. Không được nói "do máy" để né trách nhiệm.
Kiểm tra trước khi dùng. Thử với dữ liệu thật, xem máy có đối xử khác nhau giữa các nhóm không.
Kiểm tra định kỳ trong khi dùng. Máy đúng lúc đầu chưa chắc đúng mãi khi hoàn cảnh đổi.
Bắt đầu từ việc hỗ trợ, chưa vội thay. Sơ loại, kiểm tra thiếu giấy tờ, sắp xếp thứ tự trước.
Không dùng máy cho việc không thể đảo ngược khi chưa chắc. Mức thận trọng tăng theo mức hệ trọng.
Có cách đo sai lệch. Theo dõi tỷ lệ bị từ chối của từng nhóm, phát hiện chênh lệch bất thường.
Có kênh tiếp nhận phản ánh. Người dân báo được khi thấy sai, và phản ánh được trả lời.
Người vận hành được đào tạo. Biết máy giỏi gì, hay sai gì, khi nào không nên tin.
Không để người duyệt chỉ ký cho có. Khối lượng việc phải đủ để người duyệt thật sự đọc.
Việc nào nên thận trọng nhất
Trợ cấp xã hội. Người nhận thường yếu thế nhất, ít khả năng khiếu nại.
Tuyển sinh, chấm thi. Ảnh hưởng tới tương lai một con người, khó sửa nếu sai.
Duyệt vay cho hộ nghèo, hộ nông nghiệp. Dữ liệu về họ thường ít, máy dễ đánh giá sai.
Sàng lọc hồ sơ xin việc. Thiên vị về tuổi, giới, quê quán dễ lọt vào.
Ưu tiên khám chữa bệnh. Sai lầm có thể ảnh hưởng tính mạng.
Giám sát, cảnh báo vi phạm. Gán nhầm là ảnh hưởng danh dự người dân.
Phân bổ nguồn lực cho địa phương. Vùng thiếu dữ liệu có thể bị thiệt.
Quyết định về trẻ em. Trẻ không tự bảo vệ quyền lợi được.
Hồ sơ đất đai. Liên quan tài sản lớn, tranh chấp kéo dài nhiều năm.
Bảo hiểm. Máy định giá theo rủi ro có thể loại người cần bảo hiểm nhất.
Xử lý khiếu nại. Để máy trả lời khiếu nại về chính máy là vòng lặp không lối ra.
Mấy câu hỏi để tự cân nhắc
Bạn thích một người quyết định thất thường hay một máy quyết định nhất quán nhưng có thể sai đều? Câu trả lời có thể đổi theo từng việc.
Bạn cần gì để chấp nhận một quyết định bất lợi? Lời giải thích, cơ hội trình bày, hay chỉ cần đúng quy trình?
Có lúc nào bạn tin máy hơn người không? Ví dụ khi biết người có quan hệ, có lợi ích riêng.
Khi máy và người bất đồng, ai nên thắng? Và ai ghi lại lý do để học?
Mức sai bao nhiêu thì chấp nhận được? Người cũng sai, vậy máy cần sai ít hơn người bao nhiêu?
Ai được quyền xem máy xét theo tiêu chí gì? Công khai hết có thể bị lách, giấu hết thì mất niềm tin.
Cán bộ cơ sở cần gì để dùng máy cho đúng? Thời gian, đào tạo, quyền nói không với gợi ý của máy.
Người không có điện thoại thông minh có bị thiệt không? Khi máy chỉ đọc hồ sơ nộp trực tuyến.
Có nên thử ở vài nơi trước? Đo kết quả trước khi áp cho cả nước.
Ai đại diện người bị máy từ chối? Họ thường không có tiếng nói trong lúc thiết kế.
Bạn có muốn biết hồ sơ của mình đã qua máy không? Nếu có, bạn sẽ làm gì với thông tin đó?
Câu hỏi thường gặp
Máy quyết định có công bằng hơn người không?
Có thể nhất quán hơn, nhưng nhất quán không đồng nghĩa với công bằng. Nếu máy học từ dữ liệu có thiên vị, nó có thể bất công một cách đều đặn với cả một nhóm người.
Quyền được giải thích là gì?
Là nguyên tắc người bị ảnh hưởng bởi một quyết định có quyền biết lý do chính của quyết định đó. Nhiều nơi đang bàn cách áp nguyên tắc này cho quyết định có máy tham gia; quy định cụ thể tuỳ từng nơi.
Nếu máy quyết định sai thì ai chịu trách nhiệm?
Theo nguyên tắc chung, tổ chức đưa máy vào sử dụng và người có thẩm quyền ký quyết định vẫn chịu trách nhiệm. Không thể đổ lỗi cho máy như đổ cho một con người.
Người dân làm gì khi nghi bị máy xét sai?
Đề nghị được biết lý do, yêu cầu người có thẩm quyền xem lại, giữ lại giấy tờ, và dùng kênh khiếu nại thông thường. Phản ánh cụ thể giúp phát hiện lỗi hệ thống.
Chấm thi bằng máy có dùng được không?
Với câu trắc nghiệm thì đã dùng từ lâu. Với bài tự luận, nhiều người cho rằng máy chỉ nên hỗ trợ người chấm, vì đánh giá lập luận và sáng tạo còn khó và sai thì ảnh hưởng lớn tới học sinh.
