Máy có hiểu thật không, hay chỉ bắt chước rất giỏi? Hiện chưa có câu trả lời được mọi người đồng ý, kể cả trong giới nghiên cứu. Một phía cho rằng máy chỉ học cách đoán chữ tiếp theo từ hàng tỷ câu có sẵn nên không hiểu gì. Phía khác cho rằng nếu nó giải được những bài toán mới, giải thích được lý do, áp dụng sang tình huống chưa gặp, thì gọi đó là hiểu cũng không sai.
Câu hỏi nghe như chuyện của nhà triết học, nhưng nó hay bật ra ở bữa cơm gia đình: đứa cháu khen máy giải bài giỏi hơn cô giáo, ông nội bảo cái máy thì biết gì. Bài này trình bày lý lẽ các phía cho công bằng, rồi kéo về câu hỏi thực tế hơn với người dân: tin máy tới đâu, trong việc gì.
Lý lẽ của phía cho rằng máy chỉ bắt chước
Phía này bắt đầu từ cách máy được làm ra. Mô hình ngôn ngữ lớn được luyện để đoán chữ tiếp theo trong một câu, dựa trên lượng văn bản khổng lồ. Nó không sống trong thế giới, không ăn, không đau, không sợ. Vậy khi nó nói "nước sôi thì bỏng", nó chỉ đang lặp lại mẫu chữ thường đi với nhau.
Họ chỉ ra những lỗi rất lạ: máy giải được bài khó nhưng có khi sai bài dễ, đếm sai số chữ trong một từ, tự tin bịa ra nguồn trích dẫn không tồn tại. Một người hiểu thật thì ít khi sai kiểu đó. Lỗi kiểu đó gợi ý rằng máy đang khớp mẫu chứ không nắm bản chất.
Phía này cũng lo về chuyện con người tự gán. Người ta có thói quen thấy mặt người trên đám mây, thấy cảm xúc ở con mèo. Khi máy nói tiếng Việt trôi chảy, xưng hô lễ phép, ta dễ tin là có ai đó ở bên trong. Họ coi đó là ảo giác của người nghe, không phải phẩm chất của máy.
Từ đó họ rút ra một lời khuyên thực tế: đừng giao cho máy những việc cần hiểu thật, như tư vấn y tế, pháp lý, phán xử đúng sai, nếu không có người kiểm lại.
Lý lẽ của phía cho rằng đó đã là một dạng hiểu
Phía này hỏi ngược: vậy hiểu là gì? Ta không nhìn được vào đầu người khác. Ta nói học sinh hiểu bài khi em giải được bài mới, giải thích được cách làm, áp dụng được sang chỗ khác. Nếu máy làm được những điều đó, tại sao lại dùng một tiêu chuẩn khác cho máy?
Họ chỉ ra rằng để đoán chữ tiếp theo thật giỏi trên mọi loại văn bản, máy buộc phải tạo ra bên trong nó một cách biểu diễn nào đó về thế giới: quan hệ nhân quả, không gian, ý định của người nói. Một số thí nghiệm của giới nghiên cứu gợi ý điều này, dù cách diễn giải còn đang tranh cãi.
Về những lỗi lạ, họ cho rằng người cũng có lỗi lạ của người: ảo giác thị giác, nhớ sai, tự tin sai. Có lỗi không chứng minh là không hiểu, chỉ cho thấy cách hiểu khác với người.
Phía này cũng thận trọng: nói máy có một dạng hiểu không có nghĩa là máy có cảm xúc hay ý thức. Đó là những câu hỏi riêng, và họ thừa nhận chưa ai trả lời được.
Những điểm hai phía thường cùng đồng ý
Máy làm được nhiều việc trí óc ở mức hữu ích. Dù gọi là hiểu hay không, nó tóm tắt, dịch, viết nháp, giải bài được.
Máy có thể sai một cách tự tin. Không phía nào khuyên tin máy tuyệt đối.
Cách máy sai khác cách người sai. Nên cách kiểm tra cũng phải khác.
Lời nói trôi chảy không bằng đúng. Câu hay không phải bằng chứng câu đúng.
Chưa có phép thử nào được mọi người chấp nhận. Mỗi phép thử đưa ra đều bị phía kia tìm cách phản bác.
Câu hỏi về ý thức là câu hỏi khác. Hiểu theo nghĩa giải được việc chưa chắc kéo theo có cảm nhận.
Máy đang thay đổi nhanh. Điều đúng về máy hôm nay có thể không còn đúng sau một thời gian ngắn.
Người dùng hay gán cho máy nhiều hơn thực tế. Cả hai phía đều cảnh báo chuyện này.
Không nên dùng chuyện hiểu hay không để né trách nhiệm. Dù máy hiểu hay không, người đưa máy vào việc vẫn chịu trách nhiệm.
Cần nhiều nghiên cứu độc lập hơn. Nhiều kết luận hiện dựa vào thử nghiệm của chính bên làm ra máy.
Người không làm kỹ thuật vẫn nên tham gia bàn. Vì câu trả lời ảnh hưởng tới cách xã hội dùng máy.
Vì sao câu hỏi này quan trọng với người dân
Nó quyết định ta giao cho máy việc gì. Nghĩ máy hiểu thì dễ giao việc cần phán đoán. Nghĩ máy chỉ bắt chước thì giữ vai trò kiểm cho người.
Nó ảnh hưởng tới việc học của con cái. Nếu máy hiểu như thầy, học sinh có thể dựa vào máy nhiều hơn mức nên dựa.
Nó liên quan tới người già và trẻ nhỏ. Người tin máy là "người" có thể gắn bó cảm xúc quá mức.
Nó chạm tới luật trách nhiệm. Nếu có ai coi máy là chủ thể, câu hỏi ai chịu trách nhiệm trở nên rối hơn.
Nó chi phối quảng cáo. Doanh nghiệp có lợi khi người dùng tin máy hiểu, nên lời quảng cáo hay nghiêng về phía đó.
Nó ảnh hưởng nghề nghiệp. Việc nào cần hiểu thật thì người còn giữ vai trò lâu hơn, việc nào chỉ cần khớp mẫu thì dễ đổi nhanh.
Nó ảnh hưởng tới niềm tin vào thông tin. Câu trả lời trôi chảy dễ được tin hơn sách vở, kể cả khi sai.
Nó là chuyện văn hoá. Người Việt hay nhân cách hoá đồ vật thân quen, nên dễ xưng hô với máy như với người.
Nó đặt câu hỏi về chính con người. Nếu bắt chước đủ giỏi thì khác hiểu ở đâu, câu hỏi đó cũng bắt ta nghĩ lại cách mình học.
Nó ảnh hưởng tới chính sách thử nghiệm. Mức thận trọng khi đưa máy vào bệnh viện, toà án phụ thuộc nhiều vào việc ta tin máy hiểu tới đâu.
Nó giúp tránh cả hai cực. Không thần thánh hoá máy, cũng không coi thường thứ đang làm được việc thật.
Mấy câu hỏi để tự cân nhắc
Bạn dùng tiêu chuẩn gì để nói một học sinh hiểu bài? Rồi thử áp tiêu chuẩn đó cho máy, xem kết quả thế nào.
Một câu trả lời đúng do khớp mẫu có kém giá trị hơn không? Nếu đúng và giúp được việc, điều đó có quan trọng không?
Khi máy sai, bạn có nhận ra không? Nếu không nhận ra, vấn đề nằm ở máy hay ở cách dùng?
Việc gì bạn sẵn lòng giao cho máy mà không kiểm? Thường là việc sai thì không sao, như gợi ý món ăn.
Việc gì bạn nhất định phải kiểm? Thường là việc dính tới tiền, sức khoẻ, quyền lợi người khác.
Có lúc nào bạn thấy máy như đang có cảm xúc? Cảm giác đó đến từ máy hay từ cách mình đọc?
Bạn có xưng hô lịch sự với máy không, và vì sao? Nhiều người làm vậy vì thói quen, không phải vì tin máy có cảm xúc.
Nếu một ngày giới nghiên cứu đồng ý máy hiểu, bạn có đổi cách dùng không? Có thể câu trả lời cho thấy điều mình thật sự quan tâm.
Ai nên được quyền quyết định câu hỏi này? Nhà khoa học, nhà triết học, người làm luật hay người dùng?
Bạn muốn con mình nghĩ gì về máy? Đây có lẽ là câu thực tế nhất trong cả danh sách.
Lời quảng cáo nói máy hiểu, bạn tin tới đâu? Nhớ hỏi người nói có lợi gì từ câu đó.
Câu hỏi thường gặp
Máy có ý thức không?
Chưa ai chứng minh được điều đó, và cũng chưa có cách đo ý thức mà mọi người chấp nhận. Phần lớn nhà nghiên cứu cho rằng không nên khẳng định theo chiều nào khi chưa có bằng chứng.
Vì sao máy giải bài khó được mà vẫn sai bài dễ?
Vì cách máy học khác cách người học. Nó mạnh ở những dạng đã gặp nhiều và có thể vấp ở chỗ người thấy hiển nhiên. Đó là lý do luôn nên kiểm kết quả trong việc quan trọng.
Nói chuyện lịch sự với máy có ý nghĩa gì không?
Với máy thì chưa rõ. Với người dùng, nhiều người thấy giữ thói quen lịch sự có ích cho chính mình và cho trẻ con đang học cách nói chuyện.
Phép thử nào cho biết máy hiểu hay không?
Đã có nhiều phép thử được đề xuất, từ trò chuyện xem có phân biệt được với người không tới các bài toán suy luận mới. Chưa phép thử nào được chấp nhận rộng rãi là đủ.
Nếu máy chỉ bắt chước thì có nguy hiểm không?
Nguy hiểm không phụ thuộc nhiều vào chuyện hiểu hay bắt chước, mà vào việc máy được giao làm gì và có ai kiểm hay không. Một hệ thống chỉ bắt chước vẫn gây hại được nếu được tin quá mức.
