Thử nghiệm có kiểm soát, tiếng Anh hay gọi là sandbox, nghĩa là cho một sản phẩm hay cách làm mới chạy thật với người dùng thật, nhưng trong phạm vi hẹp, có thời hạn, có người giám sát và có cách đo kết quả. Hết hạn, các bên nhìn vào số liệu để quyết định mở rộng, sửa, hay dừng. Cơ chế này đã được dùng ở nhiều nước cho các lĩnh vực như tài chính công nghệ, và nay được bàn nhiều cho trí tuệ máy.
Lý do nó hợp: trí tuệ máy thay đổi nhanh hơn tốc độ soạn luật, và nhiều rủi ro chỉ lộ ra khi đưa vào đời thật. Cấm hẳn thì mất cơ hội, thả hẳn thì người dân gánh rủi ro. Thử nghiệm có kiểm soát là con đường ở giữa, với điều kiện được thiết kế nghiêm túc chứ không thành tấm giấy phép dễ dãi.
Hình dung một đợt thử nghiệm
Giả sử một nhóm khởi nghiệp ở Hà Nội làm hệ thống giúp cán bộ y tế xã sàng lọc sơ bộ người có nguy cơ tiểu đường từ hồ sơ khám định kỳ. Nếu chờ có quy định đầy đủ cho loại sản phẩm này, nhóm có thể phải chờ rất lâu. Nếu cho dùng ngay khắp nơi, một lỗi nhỏ có thể khiến nhiều người bị bỏ sót.
Một đợt thử nghiệm có kiểm soát sẽ trông thế này: chọn vài trạm y tế ở hai huyện, chạy trong một khoảng thời gian định trước. Mỗi kết quả máy đưa ra đều được một y sĩ xem lại. Người dân được báo là đang có thử nghiệm và có quyền từ chối. Nhóm khởi nghiệp và cơ quan y tế thống nhất trước sẽ đo gì: bao nhiêu ca máy phát hiện đúng, bao nhiêu ca bỏ sót, cán bộ mất thêm hay bớt thời gian.
Hết hạn, các bên ngồi lại với số liệu thật. Có thể kết luận là hệ thống hữu ích ở vùng này nhưng kém với người dân tộc thiểu số vì dữ liệu huấn luyện ít; có thể kết luận là cán bộ quá tin máy nên cần đổi quy trình; cũng có thể kết luận nên dừng.
Điều đáng giá nhất không phải là sản phẩm được duyệt hay không, mà là cơ quan quản lý học được rủi ro thật nằm ở đâu, để viết quy tắc chung sát với thực tế hơn.
Một khung thử nghiệm tốt cần những gì
Mục tiêu rõ. Thử để trả lời câu hỏi gì; "thử xem sao" không phải mục tiêu.
Phạm vi hẹp. Giới hạn số người dùng, địa bàn, loại việc; không cho lan rộng trong lúc thử.
Thời hạn cố định. Có ngày kết thúc; gia hạn phải có lý do và được công khai.
Tiêu chí đo đặt trước. Định nghĩa thành công và thất bại trước khi bắt đầu, tránh kết quả đẹp do chọn số sau.
Người dân được báo và đồng ý. Nhất là khi thử trong y tế, tài chính, giáo dục.
Có người duyệt kết quả của máy. Trong lúc thử, máy không được tự quyết việc ảnh hưởng tới người.
Có đường lui. Biết trước cách quay lại quy trình cũ nếu máy sai nhiều.
Có kênh báo sự cố. Người dùng và cán bộ báo lỗi dễ dàng, có người đọc và trả lời.
Có bảo vệ dữ liệu. Dữ liệu thu trong lúc thử chỉ dùng cho mục đích thử, hết hạn thì xử lý theo cam kết.
Có bồi thường nếu gây hại. Thử nghiệm không phải lý do để người dân tự chịu thiệt.
Có bên đánh giá độc lập. Không để chỉ bên làm sản phẩm tự chấm điểm.
Công khai kết quả. Cả kết quả xấu; giấu kết quả xấu là làm hỏng giá trị của thử nghiệm.
Chỗ dễ trượt của thử nghiệm có kiểm soát
Chỗ trượt đầu tiên là biến thử nghiệm thành "cửa sau". Một doanh nghiệp vào khung thử nghiệm, được miễn một số yêu cầu, rồi khung cứ được gia hạn mãi, phạm vi cứ nở ra dần. Đến lúc nhìn lại, sản phẩm đã dùng rộng rãi mà chưa bao giờ qua kiểm tra đầy đủ.
Chỗ trượt thứ hai là thiên vị. Nếu chỉ vài doanh nghiệp có quan hệ tốt mới được vào khung thử, cơ chế này thành lợi thế cạnh tranh không công bằng. Tiêu chí chọn và danh sách bên được thử cần công khai.
Chỗ trượt thứ ba là thử ở chỗ dễ. Thử hệ thống tư vấn tín dụng ở một quận trung tâm, người dùng toàn dân văn phòng quen công nghệ, kết quả sẽ đẹp. Đưa về một huyện nhiều người cao tuổi, kết quả có thể khác hẳn. Phạm vi thử nên có cả nhóm người dễ bị bỏ lại.
Chỗ trượt thứ tư là đo cái dễ đo. Đo tốc độ xử lý hồ sơ thì dễ, đo người bị từ chối oan thì khó, vì người bị từ chối thường không quay lại kêu. Khung thử nghiệm tốt chủ động đi tìm những người bị ảnh hưởng xấu, không chờ họ lên tiếng.
Ai được gì, ai phải làm gì trong một đợt thử
Doanh nghiệp được thử thật sớm hơn. Đổi lại phải chia sẻ số liệu và chịu giám sát chặt hơn bình thường.
Doanh nghiệp phải nói thật về rủi ro. Giấu rủi ro trong hồ sơ xin thử là làm hỏng niềm tin vào cả cơ chế.
Cơ quan quản lý được học từ thực tế. Thay vì viết quy định chỉ từ tài liệu và hội thảo.
Cơ quan quản lý phải có người đủ chuyên môn theo dõi. Thiếu người hiểu việc, giám sát chỉ còn trên giấy.
Người dân được dùng dịch vụ mới sớm. Nhưng có quyền từ chối, có quyền khiếu nại, có quyền được bồi thường.
Cán bộ tuyến đầu được góp tiếng nói. Y sĩ, giáo viên, cán bộ một cửa là người thấy rõ nhất máy giúp hay gây rối.
Nhà nghiên cứu được tiếp cận dữ liệu đánh giá. Trong khuôn khổ bảo vệ dữ liệu, để kết quả được kiểm chứng.
Báo chí được thông tin đúng mức. Công khai đủ để cộng đồng theo dõi, tránh đồn đoán.
Đối thủ cạnh tranh được biết tiêu chí. Để ai đủ điều kiện cũng có thể xin vào thử.
Tổ chức đại diện người dùng nên được mời. Hội người cao tuổi, hội người khuyết tật, hội phụ huynh giúp nhìn ra rủi ro mà kỹ sư không thấy.
Mọi bên cùng chấp nhận kết quả có thể là dừng. Một thử nghiệm mà không ai dám kết luận "dừng" thì không phải thử nghiệm.
Thử nghiệm không thay được quy tắc chung
Có người lo rằng khi đã có thử nghiệm, việc soạn quy tắc chung sẽ bị đẩy lùi mãi. Lo ngại này có cơ sở: thử nghiệm dễ làm, quy tắc chung khó làm, nên người ta dễ chọn việc dễ.
Thử nghiệm có kiểm soát tốt nhất khi được coi là bước học, dẫn tới quy tắc chung. Mỗi đợt thử nên kết thúc bằng một bản tổng kết: rủi ro nào đã lộ ra, quy trình nào hiệu quả, điều gì nên thành yêu cầu chung cho mọi sản phẩm cùng loại.
Cũng có những việc không nên đem ra thử theo kiểu này, vì hậu quả khi sai quá nặng hoặc không đảo ngược được, như các quyết định tước quyền tự do hay quyền cơ bản của một người. Với những việc ấy, nhiều người cho rằng cần quy tắc chặt từ đầu, hoặc không dùng máy.
Với người dân, điều nên nhớ là: một dịch vụ "đang thử nghiệm" không có nghĩa là bạn mất quyền. Bạn vẫn được biết, được từ chối, được khiếu nại.
Câu hỏi thường gặp
Sandbox có nghĩa là được miễn tuân thủ luật không?
Không hoàn toàn. Thường chỉ một số yêu cầu cụ thể được nới trong phạm vi và thời hạn thử, đổi lại các nghĩa vụ giám sát và báo cáo chặt hơn. Các quyền cơ bản của người dân vẫn phải được bảo vệ.
Doanh nghiệp nhỏ có xin vào thử nghiệm được không?
Tuỳ khung cụ thể, nhưng nguyên tắc tốt là tiêu chí công khai và không phân biệt quy mô. Doanh nghiệp nhỏ nên chuẩn bị kỹ hồ sơ rủi ro và kế hoạch đo lường, vì đó là phần cơ quan quản lý xem kỹ nhất.
Người dân làm sao biết mình đang tham gia một thử nghiệm?
Một khung thử nghiệm tốt yêu cầu thông báo rõ cho người tham gia. Nếu không chắc, bạn có quyền hỏi đơn vị cung cấp dịch vụ xem hệ thống mình đang dùng có trong diện thử không.
Thử nghiệm thất bại thì sao?
Thất bại là kết quả có giá trị nếu được ghi lại và công khai. Điều quan trọng là người bị ảnh hưởng được hỗ trợ, và bài học được dùng khi soạn quy tắc chung.
Vì sao không cho dùng thoải mái rồi sửa sau?
Với việc rủi ro thấp, cách đó có thể chấp nhận được. Với việc ảnh hưởng tới sức khoẻ, tiền bạc, quyền lợi của người dân, sửa sau thường có nghĩa là đã có người chịu thiệt, nên cần bước thử có kiểm soát.
