Khi bàn về minh bạch trí tuệ máy, người dân thường được nhắc tới ba quyền: quyền biết mình đang làm việc với máy chứ không phải với người, quyền biết nội dung nào do máy tạo ra, và quyền được nghe lý do khi máy góp phần vào một quyết định ảnh hưởng tới mình. Đây là những nguyên tắc đang được bàn ở nhiều nơi, mỗi nơi áp ở mức khác nhau.
Minh bạch không có nghĩa là công khai toàn bộ mã nguồn hay bắt người dân đọc tài liệu kỹ thuật. Một bà cụ gọi tổng đài điện lực không cần biết mô hình có bao nhiêu tham số; bà cần biết đầu dây bên kia là máy, và nếu cần thì bấm phím nào để gặp người thật. Minh bạch tốt là minh bạch vừa với người nhận.
Vì sao "được biết" lại quan trọng đến vậy
Con người điều chỉnh cách tin theo người đối diện. Khi biết mình đang hỏi một nhân viên mới, ta hỏi lại cho chắc. Khi biết mình đang đọc một bài quảng cáo, ta đọc dè dặt hơn. Khi không biết mình đang làm việc với máy, ta mất đi phản xạ điều chỉnh đó.
Thử hình dung một chị bán hàng online ở Long Biên nhắn tin hỏi một trang hỗ trợ vay vốn. Đầu bên kia trả lời rất nhanh, rất thân thiện, gọi "chị" ngọt xớt, hứa duyệt trong ngày. Chị tưởng đang nói chuyện với một nhân viên tận tâm và kể hết hoàn cảnh gia đình. Nếu chị biết đó là máy được viết kịch bản để chốt hồ sơ, có thể chị sẽ hỏi kỹ lãi suất hơn và kể ít đi.
Ở nội dung cũng vậy. Một bức ảnh lũ lụt, một đoạn ghi âm giọng người quen vay tiền, một bài bình luận ký tên "người dân địa phương" đều có thể do máy tạo. Biết được nguồn gốc là điều kiện tối thiểu để mỗi người tự cân nhắc.
Với quyết định, quyền được biết lý do là quyền để phản đối. Bị từ chối một khoản vay, một suất học bổng, một hồ sơ xin việc mà không biết vì sao thì không biết sửa gì, cũng không biết có bị đối xử bất công không.
Ba lớp minh bạch, nói cụ thể
Lớp một: biết đang làm việc với máy. Tổng đài, khung chat, cuộc gọi tự động nên nói rõ ngay từ đầu là hệ thống tự động.
Lớp một, kèm lối thoát. Biết là máy mà không có cách gặp người thật thì minh bạch chỉ còn nửa vời.
Lớp một, với giọng nói giống người. Giọng tổng hợp càng giống người, nghĩa vụ báo trước càng quan trọng.
Lớp hai: biết nội dung do máy tạo. Ảnh, video, giọng nói, bài viết do máy tạo nên có dấu hiệu nhận biết, nhất là khi đăng công khai.
Lớp hai, dấu ẩn và dấu hiện. Dấu hiện là dòng chữ ghi chú người xem thấy được; dấu ẩn là thông tin gắn trong tệp, phần mềm đọc được.
Lớp hai, giới hạn kỹ thuật. Dấu ẩn có thể bị xoá khi chụp lại màn hình hay chỉnh sửa, nên không thể coi là lá chắn duy nhất.
Lớp ba: biết lý do quyết định. Khi máy góp phần vào việc từ chối, xếp hạng, phân loại một người, người đó nên được nghe lý do chính.
Lớp ba, lý do bằng lời thường. "Thu nhập kê khai chưa đủ chứng từ" có ích hơn một điểm số không giải thích.
Lớp ba, quyền yêu cầu người xem lại. Được biết lý do đi kèm được đề nghị một người thật xem xét lại.
Minh bạch với cơ quan giám sát. Ngoài người dân, cơ quan có thẩm quyền cần được xem sâu hơn: tài liệu thử nghiệm, nhật ký sự cố.
Minh bạch về dữ liệu. Người dân nên biết dữ liệu mình nhập có được lưu, dùng để huấn luyện hay chia cho bên khác không.
Minh bạch về giới hạn. Dịch vụ nên nói rõ những việc máy không làm tốt, không chỉ khoe việc nó làm được.
Chỗ khó của minh bạch, nói thẳng
Chỗ khó thứ nhất là giải thích một hộp đen. Với nhiều mô hình lớn, ngay người làm ra cũng không nói chính xác được vì sao nó cho ra một kết quả cụ thể. Đòi "giải thích toàn bộ" là đòi điều chưa làm được. Hướng thực tế hơn là đòi giải thích ở mức quyết định: những yếu tố nào trong hồ sơ được dùng, yếu tố nào nặng ký, và có người nào xem lại không.
Chỗ khó thứ hai là mệt vì thông báo. Nếu mọi trang web đều gắn dòng "có dùng trí tuệ máy", người dân sẽ lướt qua như lướt qua thông báo cookie. Minh bạch phải chọn chỗ quan trọng để nói rõ, như khi máy quyết định chuyện tiền, việc làm, sức khoẻ, thay vì rải đều khắp nơi.
Chỗ khó thứ ba là bí mật kinh doanh. Doanh nghiệp lo nếu công khai quá nhiều, đối thủ sẽ sao chép, kẻ xấu sẽ tìm cách lách. Cân bằng thường được đề xuất là: công khai với người dân ở mức đủ hiểu, công khai sâu hơn với cơ quan giám sát theo cơ chế bảo mật.
Chỗ khó thứ tư là minh bạch giả. Một dòng chữ nhỏ cuối trang, viết bằng ngôn ngữ pháp lý, về mặt hình thức là đã thông báo, nhưng người dân chẳng ai đọc. Câu hỏi đáng đặt là: một người bình thường, trong lúc dùng dịch vụ, có thật sự nhận ra không.
Người dân có thể đòi hỏi minh bạch thế nào
Hỏi thẳng: "Đây là người hay máy trả lời?" Đây là câu hỏi chính đáng; dịch vụ tử tế sẽ trả lời thật.
Hỏi lý do khi bị từ chối. Đề nghị nêu lý do cụ thể bằng văn bản, không chấp nhận "hệ thống không duyệt".
Đề nghị người thật xem lại. Nhất là với hồ sơ vay, bảo hiểm, tuyển dụng, học bổng.
Đọc phần quyền riêng tư ở chỗ quan trọng. Không cần đọc hết; tìm đoạn nói dữ liệu được lưu bao lâu, có dùng huấn luyện không.
Nghi ngờ nội dung quá đúng ý mình. Ảnh, clip, ghi âm gây sốc nên được kiểm nguồn trước khi chia sẻ.
Kiểm cuộc gọi vay tiền bằng kênh khác. Giọng người thân có thể bị giả; gọi lại số quen hoặc hỏi một câu chỉ người nhà biết.
Góp ý cho dịch vụ thiếu minh bạch. Phản hồi qua kênh chính thức; nhiều người góp cùng một ý thì tổ chức phải nghe.
Chọn dịch vụ minh bạch hơn khi có lựa chọn. Thị trường cũng là một cách gửi tín hiệu.
Dạy người già trong nhà nhận biết tổng đài tự động. Người cao tuổi thường dễ tin giọng nói thân thiện nhất.
Với trường học của con, hỏi về công cụ dùng trong lớp. Phụ huynh có quyền biết con đang dùng công cụ gì và dữ liệu của con đi đâu.
Tham gia góp ý khi có dự thảo quy định. Kinh nghiệm thật của người dùng là thứ người soạn chính sách cần nhất.
Với dịch vụ công, mức kỳ vọng cao hơn
Khi một cửa hàng dùng máy để gợi ý sản phẩm, khách không thích thì đi cửa hàng khác. Khi một cơ quan nhà nước, bệnh viện công hay trường công dùng máy, người dân thường không có lựa chọn khác. Vì thế nhiều người cho rằng khu vực công nên minh bạch ở mức cao hơn doanh nghiệp.
Một hướng hay được nêu là lập danh mục công khai các hệ thống trí tuệ máy mà cơ quan đang dùng: dùng vào việc gì, từ khi nào, ai chịu trách nhiệm, người dân hỏi ở đâu. Danh mục như vậy không đòi hỏi công nghệ phức tạp, chỉ cần một trang thông tin được cập nhật đều.
Ví dụ, nếu một phường thử dùng hệ thống tự động trả lời câu hỏi về thủ tục, người dân đến làm giấy tờ nên được biết câu trả lời qua khung chat là của máy, có thể sai, và cán bộ nào chịu trách nhiệm kiểm lại nội dung mà máy được nạp.
Minh bạch ở khu vực công còn có lợi cho chính cán bộ: khi đã công bố rõ máy làm gì và người làm gì, cán bộ được bảo vệ khỏi những kỳ vọng sai, và người dân biết đúng chỗ để phản ánh.
Câu hỏi thường gặp
Minh bạch có nghĩa là phải công khai mã nguồn không?
Không. Với người dân, minh bạch chủ yếu là biết đang dùng máy, biết nội dung do máy tạo và biết lý do quyết định. Công khai mã nguồn là chuyện khác, có lợi có hại, và không phải điều kiện bắt buộc của minh bạch.
Ảnh do máy tạo có bắt buộc phải ghi chú không?
Nhiều nơi đang bàn hoặc thử yêu cầu đánh dấu, nhất là với nội dung giống người thật hoặc sự kiện thật. Quy định cụ thể khác nhau tuỳ nơi; dù chưa bắt buộc, ghi chú rõ vẫn là cách làm tử tế.
Ngân hàng có phải giải thích vì sao từ chối khoản vay không?
Mức nghĩa vụ phụ thuộc quy định đang áp dụng. Về nguyên tắc minh bạch, người bị ảnh hưởng nên được nghe lý do chính và được đề nghị xem lại. Bạn cứ đề nghị bằng văn bản và giữ lại phản hồi.
Làm sao biết một đoạn ghi âm có phải giọng giả?
Rất khó nhận bằng tai, vì giọng tổng hợp ngày càng giống thật. Cách chắc hơn là kiểm qua kênh khác: gọi lại số quen, hỏi chuyện riêng chỉ người đó biết, không chuyển tiền khi đang bị hối thúc.
Dòng chữ "có sử dụng trí tuệ nhân tạo" ở cuối trang có đủ chưa?
Về hình thức là có thông báo, nhưng nếu người dùng bình thường không nhận ra thì chưa đạt tinh thần minh bạch. Thông báo tốt xuất hiện đúng lúc, đúng chỗ người dân cần biết.
