Khi máy tư vấn sai, trách nhiệm hiếm khi rơi vào một người duy nhất. Các cuộc bàn chính sách thường chia theo chuỗi: bên làm mô hình, bên đưa mô hình vào dịch vụ cụ thể, và người có chuyên môn dùng kết quả để quyết định. Nguyên tắc được nhiều người đồng thuận nhất là: ai đứng tên cung cấp dịch vụ cho người dân thì không được đẩy lỗi cho "cái máy".
Câu chữ thì gọn, áp vào thực tế thì rối. Một bệnh viện mua phần mềm của một công ty, phần mềm lại dựa trên mô hình của một công ty khác, bác sĩ đọc gợi ý của phần mềm rồi mới kê đơn. Khi có sai sót, mỗi mắt xích đều có lý do để nói "không phải lỗi phía mình". Bài này bày các mắt xích ra, cùng những câu hỏi mà chính sách đang phải trả lời.
Một tình huống để thấy cái rối
Hình dung một phòng khám tư ở quận Thanh Xuân dùng phần mềm hỗ trợ đọc kết quả xét nghiệm. Phần mềm đánh dấu một chỉ số là "trong ngưỡng bình thường", bác sĩ trẻ đang quá tải buổi chiều đọc lướt, đồng ý, cho bệnh nhân về. Hai tuần sau bệnh nhân quay lại với triệu chứng nặng hơn, và hoá ra ngưỡng mà phần mềm dùng không hợp với người cao tuổi.
Bên làm phần mềm nói: sản phẩm đã ghi rõ đây chỉ là công cụ hỗ trợ, bác sĩ quyết định. Bác sĩ nói: phần mềm do phòng khám mua, được giới thiệu là đã kiểm định. Phòng khám nói: phòng khám tin nhà cung cấp. Nhà cung cấp lại nói ngưỡng đó lấy theo mô hình gốc của một bên khác. Người bệnh, người duy nhất chắc chắn chịu thiệt, không biết gõ cửa nào.
Tình huống này không cần máy phải "thông minh" mới xảy ra; một bảng tính sai công thức cũng gây ra chuyện tương tự. Cái mới ở trí tuệ máy là số mắt xích nhiều hơn, mô hình gốc khó soi hơn, và lời khuyên của máy thường được viết rất thuyết phục, khiến người dùng chuyên môn dễ thả lỏng.
Vì vậy câu hỏi chính sách không chỉ là "ai sai" sau khi có chuyện, mà là "mỗi mắt xích phải làm gì trước" để chuyện ít xảy ra, và khi xảy ra thì người dân có đường đòi quyền lợi rõ ràng.
Các mắt xích và phần việc thường được đặt ra cho từng bên
Bên làm mô hình gốc. Được kỳ vọng công bố mô hình làm được gì, không nên dùng vào việc gì, đã thử những rủi ro nào.
Bên làm mô hình gốc, khi biết lỗi. Được kỳ vọng thông báo cho các bên đang dùng và có bản sửa, không im lặng vá.
Bên làm ứng dụng. Phải thử lại cho đúng việc của mình, với đúng nhóm người dùng của mình, không chỉ dựa vào lời của bên gốc.
Bên làm ứng dụng, khi quảng cáo. Không được nói quá năng lực; ghi "đã kiểm định" thì phải nói kiểm định theo tiêu chí nào.
Bên triển khai, như bệnh viện, ngân hàng, trường. Chọn công cụ hợp việc, huấn luyện nhân viên dùng, đặt quy trình kiểm tra.
Bên triển khai, với người dân. Là bên đứng tên dịch vụ, nên là đầu mối nhận khiếu nại và bồi thường trước, rồi mới đi đòi lại các bên phía sau.
Người dùng chuyên môn. Bác sĩ, kế toán, luật sư vẫn giữ nghĩa vụ nghề nghiệp; máy gợi ý không xoá trách nhiệm ký tên.
Người dùng chuyên môn, khi bị ép năng suất. Nếu cơ quan bắt xử lý quá nhanh để không thể kiểm, một phần trách nhiệm thuộc về người đặt chỉ tiêu.
Người dân tự dùng ứng dụng. Có phần tự chịu khi bỏ qua cảnh báo rõ ràng, nhưng cảnh báo phải dễ thấy, không giấu trong điều khoản dài.
Cơ quan quản lý. Đặt chuẩn tối thiểu, nhận báo cáo sự cố, có quyền yêu cầu ngừng dùng khi thấy nguy hiểm.
Bên kiểm định độc lập. Nếu có, chịu trách nhiệm về độ đúng của kết luận kiểm định mình đưa ra.
Bên bảo hiểm. Một số người đề xuất bảo hiểm bắt buộc cho hệ thống rủi ro cao, để người bị hại có tiền bồi thường nhanh.
Các hướng chính sách đang được bàn, và lý lẽ mỗi bên
Hướng thứ nhất là coi hệ thống trí tuệ máy như một sản phẩm: sản phẩm lỗi gây thiệt hại thì nhà sản xuất bồi thường, kể cả khi không chứng minh được họ cẩu thả. Người ủng hộ cho rằng cách này bảo vệ người dân tốt nhất, vì người dân không thể tự soi vào một mô hình để chứng minh lỗi. Người phản đối lo rằng doanh nghiệp nhỏ sẽ không dám làm gì, chỉ các công ty lớn đủ sức gánh rủi ro.
Hướng thứ hai là đặt nặng trách nhiệm ở bên triển khai: ai đưa máy vào việc với người dân thì người đó chịu trước. Lý lẽ là bên triển khai hiểu bối cảnh nhất, biết người dùng của mình là ai. Điểm yếu là bên triển khai, như một trường học hay một phòng khám nhỏ, thường không đủ chuyên môn để thẩm định công cụ mình mua.
Hướng thứ ba là giữ nguyên trách nhiệm nghề nghiệp của người dùng chuyên môn: bác sĩ vẫn là bác sĩ, máy chỉ là ống nghe đời mới. Hướng này quen thuộc và dễ áp, nhưng bị chê là đẩy hết gánh nặng cho người đứng cuối chuỗi, trong khi họ ít quyền nhất với công cụ.
Trên thực tế, nhiều đề xuất kết hợp cả ba, và đặt thêm nghĩa vụ chứng minh ngược: khi có sự cố ở hệ thống rủi ro cao, bên cung cấp phải chứng minh mình đã làm đủ phần việc, thay vì người bị hại phải chứng minh họ làm sai. Cách chia cụ thể ra sao vẫn là câu hỏi mở, và mỗi nơi đang thử một kiểu.
Người dân và tổ chức nên làm gì ngay bây giờ
Hỏi thẳng dịch vụ có dùng máy không. Bạn có quyền hỏi kết quả, lời khuyên mình nhận được có phần nào do máy tạo ra không.
Giữ lại bằng chứng. Chụp màn hình câu trả lời, lưu tin nhắn, ghi ngày giờ; khi tranh chấp, đây là thứ quý nhất.
Khiếu nại tới bên đứng tên dịch vụ. Đừng chấp nhận câu "do hệ thống"; hệ thống là của họ.
Với việc quan trọng, hỏi người có chuyên môn. Sức khoẻ, tiền bạc, giấy tờ đất đai: coi lời máy là bản nháp.
Tổ chức nên ghi trong hợp đồng mua phần mềm. Ai chịu khi phần mềm sai, nhà cung cấp hỗ trợ gì, báo lỗi trong bao lâu.
Tổ chức nên giữ nhật ký. Ghi lại đầu vào, kết quả máy đưa ra, ai duyệt; thiếu nhật ký thì không ai bảo vệ được mình.
Tổ chức nên có quy trình ngừng dùng. Khi phát hiện máy sai có hệ thống, ai được quyền tắt và báo cho người bị ảnh hưởng.
Đào tạo nhân viên về bẫy tin máy. Nhắc rằng máy trả lời trôi chảy không có nghĩa là đúng.
Không giao chỉ tiêu bắt buộc phải theo máy. Nhân viên phải được quyền không đồng ý với máy mà không bị phạt.
Báo sự cố cho cộng đồng nghề. Một bệnh viện gặp lỗi, chia sẻ cho bệnh viện khác đang dùng cùng công cụ là cứu người.
Theo dõi quy định mới. Khi có hướng dẫn chính thức về trách nhiệm, đối chiếu lại quy trình của mình.
Vì sao "lỗi tại máy" không được thành câu cửa miệng
Ai từng đi làm thủ tục đều quen câu "hệ thống lỗi, anh chị quay lại sau". Câu ấy có khi đúng, nhưng nó cũng là một cách để không ai phải nhận phần. Khi máy làm được nhiều việc trí óc hơn, cám dỗ dùng câu đó còn lớn hơn, vì máy có thể bị đổ cho cả những lỗi mà trước đây phải có người ký.
Giới nghiên cứu chính sách gọi hiện tượng này là khoảng trống trách nhiệm: quyết định có thật, thiệt hại có thật, nhưng không ai đứng ra nhận. Khoảng trống ấy làm người dân mất niềm tin, và làm chính tổ chức khó sửa sai, vì không ai thấy mình phải đi tìm gốc lỗi.
Cách lấp khoảng trống phần lớn rất đời thường: mỗi quy trình có dùng máy phải ghi tên một người chịu trách nhiệm về kết quả cuối, giống như mỗi công trình có một chỉ huy trưởng. Người đó không cần hiểu hết toán học bên trong, nhưng phải có quyền dừng, quyền hỏi nhà cung cấp, quyền báo cáo lên trên.
Văn hoá cũng quan trọng không kém quy định. Một cơ quan mà nhân viên dám nói "máy gợi ý thế này nhưng em thấy không ổn" là cơ quan ít sự cố hơn một nơi chỉ biết làm theo màn hình.
Câu hỏi thường gặp
Dùng ứng dụng miễn phí và bị tư vấn sai thì có đòi được gì không?
Tuỳ điều khoản và luật bảo vệ người tiêu dùng đang áp dụng. Miễn phí không có nghĩa là bên cung cấp được làm gì cũng được, nhất là khi họ quảng cáo dịch vụ là chính xác. Nên giữ bằng chứng và hỏi ý kiến người có chuyên môn pháp lý.
Bác sĩ có được đổ lỗi cho phần mềm không?
Theo nguyên tắc nghề nghiệp phổ biến, người ký tên quyết định chuyên môn vẫn chịu trách nhiệm chuyên môn. Phần mềm sai có thể là tình tiết để chia trách nhiệm với bên cung cấp, nhưng không xoá trách nhiệm của người dùng chuyên môn.
Máy có thể bị coi là chủ thể chịu trách nhiệm không?
Có người đặt câu hỏi này về lâu dài, nhưng hiện nay hướng chung vẫn là trách nhiệm thuộc về con người và tổ chức. Một cái máy không có tài sản để bồi thường, cũng không thể bị kỷ luật.
Doanh nghiệp nhỏ dùng công cụ có sẵn có phải chịu trách nhiệm như công ty lớn?
Phần lớn đề xuất cho rằng mức nghĩa vụ nên theo mức rủi ro của việc dùng, không chỉ theo quy mô. Một tiệm bánh dùng máy viết lời quảng cáo khác hẳn một phòng khám dùng máy đọc kết quả xét nghiệm.
Trong cơ quan nhà nước, khi máy gợi ý sai thì ai chịu?
Nguyên tắc chung là cán bộ có thẩm quyền ký quyết định vẫn chịu trách nhiệm về quyết định đó. Vì vậy cơ quan cần quy trình rõ cho việc kiểm tra kết quả máy trước khi ký.
