Mô hình nền tảng là một mô hình máy học rất lớn, được huấn luyện một lần trên lượng dữ liệu khổng lồ, rồi được nhiều công ty khác nhau dùng làm gốc để xây ứng dụng riêng. Ứng dụng trả lời khách của một chuỗi bán lẻ, công cụ tóm tắt văn bản của một văn phòng luật, phần mềm luyện nói tiếng Anh cho học sinh có thể cùng đứng trên một mô hình nền tảng.
Người làm chính sách nhắc nhiều tới khái niệm này vì nó tạo ra một chuỗi "một gốc, nhiều cành". Một điểm yếu ở gốc, chẳng hạn hiểu sai tiếng Việt có dấu hay mang định kiến về một vùng miền, có thể đi theo vào hàng nghìn sản phẩm mà người dùng cuối không hề biết. Hiểu chuỗi này là hiểu vì sao câu hỏi trách nhiệm trở nên rối hơn trước.
Một gốc, nhiều cành: hình dung cho dễ
Hãy nghĩ tới một xưởng làm phôi bánh mì cung cấp cho hàng trăm tiệm ở Hà Nội. Mỗi tiệm kẹp nhân riêng, đặt tên riêng, bán giá riêng. Khách ăn ổ bánh ở phố Hàng Cá chỉ biết tiệm, không biết xưởng phôi. Nếu một mẻ bột có vấn đề, cả trăm tiệm cùng dính, dù mỗi tiệm đều làm đúng phần mình.
Mô hình nền tảng giống xưởng phôi đó. Bên làm mô hình bỏ ra rất nhiều tiền và sức máy để huấn luyện một mô hình biết đọc, biết viết, biết lập luận ở mức chung. Các bên khác lấy mô hình này, "kẹp nhân" bằng cách tinh chỉnh thêm dữ liệu chuyên ngành, viết hướng dẫn riêng, gắn vào giao diện riêng, rồi bán cho người dùng.
Chữ "nền tảng" ở đây không có nghĩa là tốt hay vững, mà nghĩa là nằm ở dưới, làm chỗ dựa. Một mô hình nền tảng có thể rất giỏi viết văn nhưng kém tính toán, giỏi tiếng Anh nhưng hiểu tiếng Việt địa phương lơ mơ. Ứng dụng xây bên trên thừa hưởng cả cái giỏi lẫn cái kém.
Điểm khác với các phần mềm trước đây là độ rộng. Một mô hình nền tảng không được làm cho một việc cụ thể, nên bên làm nó cũng không lường trước hết người ta sẽ dùng nó vào việc gì. Đó chính là chỗ nối khái niệm này với chữ SI: năng lực rộng thì cách dùng cũng rộng, và rủi ro cũng khó khoanh vùng.
Phân biệt mô hình nền tảng với những thứ hay bị nhầm
Mô hình nền tảng khác ứng dụng. Ứng dụng là thứ bạn mở trên điện thoại; mô hình là phần "bộ não" chạy đằng sau, có khi của một bên khác.
Mô hình nền tảng khác chatbot. Chatbot là cách nói chuyện; một chatbot có thể dùng mô hình nền tảng, cũng có thể chỉ là kịch bản trả lời soạn sẵn.
Mô hình ngôn ngữ lớn là một loại mô hình nền tảng. Loại chuyên về chữ; ngoài ra còn mô hình nền tảng cho ảnh, cho âm thanh, hoặc kết hợp nhiều loại.
Tinh chỉnh không phải làm lại từ đầu. Tinh chỉnh là dạy thêm một ít trên nền có sẵn; rẻ hơn rất nhiều so với huấn luyện gốc.
Hướng dẫn hệ thống không đổi được bản chất mô hình. Một ứng dụng có thể dặn mô hình "chỉ trả lời về bảo hiểm", nhưng mô hình vẫn mang điểm mạnh yếu của gốc.
Trọng số mở khác mã nguồn mở hoàn toàn. Có mô hình công bố phần tham số để ai cũng tải về chạy, nhưng không công bố dữ liệu đã dùng huấn luyện.
Dùng qua mạng khác chạy tại chỗ. Gọi mô hình qua mạng thì dữ liệu của bạn đi ra ngoài; chạy tại máy chủ riêng thì giữ dữ liệu trong nhà nhưng tốn hạ tầng.
Tên ứng dụng không cho biết mô hình gốc. Hai ứng dụng khác tên, khác màu có thể dùng chung một gốc và mắc chung một kiểu lỗi.
Mô hình to hơn không chắc hợp hơn. Cho một việc hẹp như phân loại đơn khiếu nại, mô hình nhỏ được dạy kỹ có khi tốt hơn và rẻ hơn.
Mô hình không tự cập nhật hiểu biết. Nó biết những gì có trong dữ liệu tới lúc huấn luyện; chuyện mới hơn phải được nạp thêm qua cách khác.
Mô hình không "nhớ" từng người dùng theo mặc định. Việc nhớ hay không là do ứng dụng thiết kế, và đó là chỗ người dùng nên đọc kỹ điều khoản.
"Mô hình Việt" chưa chắc huấn luyện từ đầu. Nhiều sản phẩm gọi là mô hình tiếng Việt thực ra là tinh chỉnh trên một gốc nước ngoài; điều này không xấu nhưng nên nói rõ.
Vì sao chuỗi này làm câu hỏi trách nhiệm rối hơn
Thử tưởng tượng một ứng dụng tư vấn thủ tục đất đai do một công ty nhỏ ở Hà Đông làm, xây trên một mô hình nền tảng của nước ngoài. Một người dân hỏi về thủ tục tách thửa, ứng dụng trả lời sai một bước, người đó đi lại ba lần mới xong. Ai sai?
Công ty nhỏ sẽ bảo: bên mình chỉ dùng mô hình, mô hình trả lời sai. Bên làm mô hình sẽ bảo: đã có cảnh báo không dùng cho tư vấn pháp lý mà không kiểm tra. Người dân thì chẳng biết hai bên này là ai. Đây là kiểu câu hỏi mà quy tắc cũ, vốn viết cho một sản phẩm do một bên làm trọn, không trả lời gọn được.
Vì vậy nhiều cuộc bàn chính sách trên thế giới tách nghĩa vụ theo vị trí trong chuỗi. Bên làm mô hình gốc được kỳ vọng công bố mô hình làm được gì, không nên dùng vào việc gì, đã kiểm tra những rủi ro nào. Bên làm ứng dụng được kỳ vọng kiểm tra thêm cho đúng việc của mình và chịu trách nhiệm trước người dùng. Cách chia cụ thể ra sao vẫn đang được tranh luận, mỗi nơi một kiểu.
Với người dân, bài học gọn hơn: ứng dụng nào cũng có một "gốc" mình không nhìn thấy. Khi việc quan trọng, như sức khoẻ, tiền bạc, giấy tờ, hãy coi câu trả lời của ứng dụng là bản nháp để đi hỏi tiếp, không phải lời chốt.
Người dùng và doanh nghiệp nên hỏi gì
Ứng dụng này dựa trên mô hình của ai? Bên cung cấp tử tế thường nói được, ít nhất là nói loại mô hình và nơi chạy.
Dữ liệu mình nhập có được gửi cho bên làm mô hình không? Đây là câu quan trọng nhất với hồ sơ khách hàng, bệnh án, tài liệu nội bộ.
Dữ liệu có bị dùng để huấn luyện lại không? Nhiều dịch vụ cho phép tắt; hãy hỏi mặc định là bật hay tắt.
Mô hình đã được thử với tiếng Việt thế nào? Hỏi cụ thể: có thử với giọng vùng miền, với chữ viết không dấu, với từ địa phương không.
Ai sửa khi mô hình gốc có lỗi? Bên làm ứng dụng có cam kết cập nhật khi bên gốc vá lỗi hay đổi phiên bản không.
Đổi phiên bản gốc có báo trước không? Một bản cập nhật ở gốc có thể làm ứng dụng trả lời khác hẳn hôm qua.
Có ghi lại câu hỏi và câu trả lời để soát lại không? Khi có tranh chấp, nhật ký là thứ duy nhất cho biết máy đã nói gì.
Có người kiểm tra trước khi câu trả lời tới khách không? Với việc rủi ro cao, nên có bước người duyệt.
Ứng dụng có nói rõ nó là máy không? Khách hàng nên được biết mình đang trò chuyện với máy.
Có cách nào để khách khiếu nại câu trả lời sai? Một nút báo sai hay một số điện thoại thật là tối thiểu.
Ngừng dùng thì dữ liệu đi đâu? Hỏi trước chuyện xoá dữ liệu, đừng đợi lúc chấm dứt hợp đồng.
Có thể đổi sang gốc khác nếu cần không? Phụ thuộc vào một gốc duy nhất là rủi ro kinh doanh, nhất là khi giá hay điều khoản đổi.
Mô hình nền tảng và câu chuyện tiếng Việt
Phần lớn dữ liệu dùng để huấn luyện các mô hình nền tảng lớn là tiếng Anh và một số ngôn ngữ có nhiều tài liệu số. Tiếng Việt có mặt, nhưng tỷ lệ nhỏ hơn nhiều. Hệ quả dễ thấy là mô hình viết tiếng Việt trôi nhưng đôi khi dùng từ lạ tai, dịch máy móc thành ngữ, hay nhầm cách xưng hô.
Hệ quả khó thấy hơn nằm ở hiểu biết về đời sống Việt. Một mô hình có thể biết rất nhiều về hệ thống trường học nước khác nhưng mơ hồ về chuyện thi chuyển cấp, học thêm, hay cách một hộ kinh doanh nhỏ làm sổ sách. Khi ứng dụng xây trên gốc ấy để tư vấn cho người Việt, lỗ hổng hiểu biết đi theo.
Đây là lý do nhiều người đặt câu hỏi về dữ liệu tiếng Việt và năng lực tự làm mô hình trong nước, chủ đề mà danh mục dữ liệu và chủ quyền số của diễn đàn sẽ bàn kỹ hơn. Ở đây chỉ cần ghi nhớ: hiểu mô hình nền tảng là hiểu vì sao một ứng dụng "Việt" có thể vẫn mang cách nghĩ không Việt.
Không có gì sai khi xây trên gốc nước ngoài; điều nên đòi hỏi là sự rõ ràng, và việc kiểm tra kỹ với người dùng Việt trước khi đưa ra dùng rộng.
Câu hỏi thường gặp
Mô hình nền tảng có phải là trí tuệ tổng quát không?
Mô hình nền tảng là một khái niệm kỹ thuật, còn trí tuệ tổng quát là một cách gọi nhấn vào độ rộng năng lực và hệ quả xã hội. Nhiều hệ thống được bàn dưới chữ SI chính là các mô hình nền tảng lớn, nhưng hai chữ không thay nhau được.
Doanh nghiệp nhỏ có tự làm được mô hình nền tảng không?
Rất khó, vì huấn luyện gốc cần lượng dữ liệu và sức tính toán rất lớn. Doanh nghiệp nhỏ thường chọn tinh chỉnh hoặc dùng mô hình có sẵn qua dịch vụ, và nên tập trung vào kiểm tra kỹ cho đúng việc của mình.
Mô hình nền tảng có biết thông tin cá nhân của mình không?
Nếu thông tin của bạn từng xuất hiện công khai trên mạng, nó có thể nằm trong dữ liệu huấn luyện. Ngoài ra, ứng dụng bạn dùng có thể lưu những gì bạn nhập. Hai chuyện này khác nhau và nên được hỏi riêng.
Vì sao cùng một câu hỏi, hai ứng dụng trả lời khác nhau?
Vì chúng có thể dùng gốc khác nhau, hoặc cùng gốc nhưng được hướng dẫn và tinh chỉnh khác nhau. Ngay cả một ứng dụng cũng có thể trả lời khác giữa hai lần hỏi do cách mô hình chọn chữ.
Mô hình có trọng số mở thì an toàn hơn hay rủi ro hơn?
Có lý lẽ cả hai phía. Mở giúp nhiều người kiểm tra, tự chạy để giữ dữ liệu, tự sửa cho tiếng Việt. Nhưng mở cũng có nghĩa là không thu hồi được nếu có người dùng vào việc xấu. Đây là một trong những câu hỏi chính sách còn tranh luận nhiều.
