Quản lý trí tuệ máy theo mức rủi ro nghĩa là quy tắc chặt hay lỏng tuỳ vào việc máy được dùng để làm gì, chứ không tuỳ vào công nghệ bên trong. Một hệ thống gợi ý bài hát gần như được để tự do; một hệ thống chấm hồ sơ vay vốn hay hỗ trợ đọc phim chụp y tế thì phải được kiểm tra, ghi chép và giám sát kỹ. Đây là cách tiếp cận được bàn và thử ở nhiều nơi trên thế giới.
Lý do đơn giản: cùng một mô hình có thể được dùng để viết thơ tặng mẹ hoặc để lọc hồ sơ xin việc. Quản mọi thứ như nhau thì hoặc quá chặt với việc vô hại, hoặc quá lỏng với việc nguy hiểm. Nhưng chia tầng thế nào, ai được quyền xếp tầng, và cái gì nằm ở ranh giới vẫn là những câu hỏi đang tranh luận.
Vì sao quản theo việc, không quản theo công nghệ
Hãy nghĩ tới con dao. Không ai cấp phép riêng cho dao làm bếp, nhưng dao mổ trong bệnh viện phải được tiệt trùng, ghi chép, người dùng phải có chứng chỉ. Cùng là lưỡi thép, quy tắc khác nhau vì việc khác nhau.
Trí tuệ máy cũng vậy, thậm chí rõ hơn, vì một mô hình tổng quát có thể được đưa vào cả trăm việc. Nếu quy tắc viết theo công nghệ, kiểu "mọi mô hình ngôn ngữ lớn phải xin phép", thì chị chủ tiệm hoa ở Ngọc Hà dùng máy viết lời chúc trên thiệp cũng vướng thủ tục, trong khi điều đáng lo lại nằm ở chỗ khác.
Quản theo việc cho phép tập trung sức giám sát vào chỗ con người dễ bị tổn hại nhất: sức khoẻ, việc làm, tiền bạc, giáo dục, an ninh, quyền tiếp cận dịch vụ công. Ở những chỗ đó, một lỗi của máy có thể thay đổi cuộc đời một người.
Cách tiếp cận này cũng hợp với tinh thần của chữ SI: năng lực tổng quát nghĩa là không thể đoán hết cách dùng, nên phải nhìn vào cách dùng cụ thể mà đặt quy tắc.
Các tầng rủi ro thường được bàn, kèm ví dụ
Tầng thấp nhất: rủi ro tối thiểu. Lọc thư rác, gợi ý phim, sửa lỗi chính tả, viết lời chúc; thường không cần thủ tục gì thêm.
Tầng có nghĩa vụ minh bạch. Chatbot nói chuyện với khách, nội dung ảnh và giọng do máy tạo; phải cho người dùng biết đó là máy.
Tầng rủi ro cao: tuyển dụng. Máy lọc hồ sơ, xếp hạng ứng viên ảnh hưởng thẳng tới sinh kế.
Tầng rủi ro cao: tín dụng và bảo hiểm. Máy chấm điểm khả năng trả nợ hay mức phí có thể khoá cửa với cả một nhóm người.
Tầng rủi ro cao: giáo dục. Máy chấm bài thi, xếp lớp, xét tuyển có thể ảnh hưởng tới tương lai học sinh.
Tầng rủi ro cao: y tế. Máy hỗ trợ chẩn đoán, phân loại bệnh nhân cấp cứu, gợi ý điều trị.
Tầng rủi ro cao: dịch vụ công thiết yếu. Máy xét trợ cấp, xử lý hồ sơ hành chính, phân bổ nguồn lực.
Tầng rủi ro cao: hạ tầng. Máy điều phối điện, nước, giao thông, nơi lỗi lan ra cả thành phố.
Tầng không chấp nhận được. Một số nơi cấm các cách dùng như chấm điểm công dân toàn diện hay thao túng tâm lý người dễ tổn thương.
Nghĩa vụ ở tầng cao thường gồm. Đánh giá tác động trước, dữ liệu có chất lượng, ghi nhật ký, có người giám sát, báo cáo sự cố.
Nghĩa vụ riêng cho mô hình gốc rất mạnh. Nhiều đề xuất thêm yêu cầu cho các mô hình nền tảng lớn vì chúng nằm dưới rất nhiều ứng dụng.
Tầng có thể đổi theo thời gian. Danh sách việc rủi ro cao cần được xem lại khi công nghệ và cách dùng đổi.
Những tranh cãi còn lại
Tranh cãi lớn nhất là ranh giới. Một ứng dụng học tiếng Anh cho trẻ có phải rủi ro cao vì liên quan tới giáo dục, hay rủi ro thấp vì chỉ là luyện tập? Một chatbot của bệnh viện chỉ trả lời giờ khám có phải "y tế" không? Định nghĩa quá rộng làm nhiều sản phẩm vô hại phải chịu thủ tục nặng; quá hẹp thì để lọt những thứ đáng lo.
Tranh cãi thứ hai là chi phí tuân thủ. Doanh nghiệp lớn có phòng pháp chế, có tiền thuê kiểm định. Một nhóm năm người làm phần mềm cho các phòng khám nhỏ thì không. Có người lo quy tắc tầng cao vô tình chỉ để lại thị trường cho các công ty lớn, nhiều khi là công ty nước ngoài. Đề xuất thường được nêu là có hướng dẫn mẫu, công cụ tự đánh giá miễn phí, và thời gian chuyển tiếp cho doanh nghiệp nhỏ.
Tranh cãi thứ ba là ai xếp tầng. Nếu để doanh nghiệp tự xếp, sẽ có cám dỗ tự hạ tầng để tránh thủ tục. Nếu cơ quan nhà nước xếp từng sản phẩm, sẽ quá tải. Nhiều nơi chọn cách liệt kê các loại việc rủi ro cao trong quy định, doanh nghiệp tự đối chiếu và chịu trách nhiệm nếu xếp sai.
Tranh cãi thứ tư đến từ chính chữ "tổng quát". Một hệ thống trò chuyện đa năng có thể được người dùng tự đem vào việc rủi ro cao, như hỏi về liều thuốc hay viết đơn kiện, dù bên làm ra không định thế. Quản theo việc thì ai chịu cho những cách dùng không lường trước? Đây là câu hỏi chưa có lời giải gọn.
Áp vào Việt Nam: những câu hỏi đáng bàn
Danh sách việc rủi ro cao có cần thêm đặc thù Việt Nam? Ví dụ các hệ thống liên quan tới đất đai, hộ tịch, hay giá nông sản ảnh hưởng tới hàng triệu hộ.
Rủi ro với tiếng Việt và giọng vùng miền. Máy nghe nhầm giọng miền Trung trong tổng đài khẩn cấp là rủi ro rất cụ thể.
Rủi ro với người cao tuổi và người ít dùng công nghệ. Cùng một hệ thống, nhóm này dễ thiệt hơn và ít khiếu nại hơn.
Rủi ro với đồng bào dân tộc thiểu số. Dữ liệu ít, ngôn ngữ ít được hỗ trợ, máy dễ sai hơn.
Năng lực kiểm định trong nước. Có đủ đơn vị và người hiểu việc để kiểm tra các hệ thống rủi ro cao không.
Chi phí cho doanh nghiệp vừa và nhỏ. Làm sao để quy tắc không đẩy họ ra khỏi cuộc chơi.
Khu vực công tự áp dụng trước. Cơ quan nhà nước dùng máy ở việc rủi ro cao có nên làm mẫu về đánh giá và công khai.
Sản phẩm nước ngoài phục vụ người Việt. Quy tắc áp thế nào với dịch vụ chạy từ nước ngoài.
Mạng xã hội và tin giả. Hệ thống gợi ý nội dung xếp vào tầng nào khi ảnh hưởng tới thông tin của cả xã hội.
Cơ chế cập nhật danh sách. Ai đề xuất đưa một loại việc vào hay ra khỏi danh sách rủi ro cao.
Tiếng nói của người bị ảnh hưởng. Người lao động, bệnh nhân, học sinh có được hỏi ý kiến khi xếp tầng.
Một ví dụ đi trọn các tầng
Thử theo một trường đại học ở Cầu Giấy dùng cùng một mô hình tổng quát cho bốn việc khác nhau, để thấy cách chia tầng vận hành ngoài đời.
Việc thứ nhất: phòng truyền thông dùng máy gợi ý lời đăng bài chúc mừng ngày nhà giáo. Đây là rủi ro tối thiểu, sai thì sửa câu chữ, không ai bị thiệt. Việc thứ hai: trang tuyển sinh có khung chat tự động trả lời câu hỏi về ngành học. Đây là tầng minh bạch: phải ghi rõ là máy trả lời, và có số điện thoại gặp cán bộ thật, vì thí sinh có thể chọn ngành dựa trên câu trả lời đó.
Việc thứ ba: phòng đào tạo thử dùng máy chấm sơ bộ bài luận đầu vào. Đây đã là rủi ro cao vì ảnh hưởng tới cơ hội học tập. Trường cần đánh giá xem máy có chấm thấp bài viết theo văn phong vùng miền hay không, giữ lại điểm và lý do, và bắt buộc giảng viên chấm lại những bài sát ngưỡng.
Việc thứ tư: một đề xuất dùng máy theo dõi biểu cảm sinh viên qua camera trong giờ thi để "phát hiện gian lận". Nhiều khung quy định trên thế giới coi kiểu suy đoán cảm xúc trong học đường là cách dùng rất đáng ngờ, thậm chí không chấp nhận. Cùng một trường, cùng một nền công nghệ, bốn việc nằm ở bốn tầng khác nhau.
Câu hỏi thường gặp
Ứng dụng chat trò chuyện thông thường có phải rủi ro cao không?
Theo cách chia phổ biến, trò chuyện thông thường thường thuộc tầng có nghĩa vụ minh bạch, tức phải cho biết là máy. Nó chỉ bị coi là rủi ro cao khi được dùng vào các việc như tuyển dụng, y tế, tín dụng.
Doanh nghiệp tự biết mình thuộc tầng nào bằng cách nào?
Thường bằng cách đối chiếu việc hệ thống được dùng với danh sách các loại việc rủi ro cao trong quy định áp dụng. Khi chưa có quy định cụ thể, tự hỏi "nếu máy sai thì ai bị thiệt và thiệt tới đâu" là điểm khởi đầu tốt.
Quản lý theo rủi ro có làm chậm đổi mới không?
Có thể làm chậm ở các việc rủi ro cao, và đó là chủ đích. Ở các việc rủi ro thấp, nó lại giúp doanh nghiệp yên tâm làm vì biết rõ mình không phải xin phép gì. Mức độ chậm phụ thuộc nhiều vào thủ tục có gọn hay không.
Người dân được lợi gì từ cách quản lý này?
Người dân được bảo vệ kỹ hơn ở những chỗ quan trọng với đời sống, như việc làm, sức khoẻ, tiền vay, mà không bị phiền ở những dịch vụ vô hại. Họ cũng có cơ sở để đòi giải thích khi một hệ thống rủi ro cao quyết định sai.
Có nơi nào cấm hẳn một số cách dùng trí tuệ máy không?
Có những khung quy định trên thế giới liệt kê một số cách dùng bị coi là không chấp nhận được, như thao túng người dễ tổn thương. Danh sách cụ thể khác nhau tuỳ nơi và vẫn được tranh luận.
