Câu trả lời thật thà là chưa ai chốt được. Máy ngày nay làm được nhiều việc mà nếu người làm thì ta gọi là hiểu: tóm tắt đúng ý một bài báo, giải thích một bài toán, bắt được câu đùa. Nhưng cách nó đạt tới kết quả khác cách người nghĩ, và nó vẫn sai theo những kiểu mà một người hiểu thật hiếm khi mắc.
Câu hỏi này nghe triết lý nhưng có hệ quả rất đời: mình tin máy tới đâu. Nếu cho rằng máy hiểu như người, ta dễ giao cho nó những quyết định cần lương tri. Nếu cho rằng nó chỉ là cái máy đoán chữ vô hồn, ta dễ bỏ qua những việc nó làm tốt thật. Bài này bày ra các lý lẽ, để bạn tự đặt mức tin cho phù hợp.
Máy làm ra câu trả lời bằng cách nào
Các mô hình ngôn ngữ lớn được huấn luyện để đoán phần tiếp theo của một đoạn chữ, lặp đi lặp lại trên một lượng văn bản khổng lồ. Nghe thì đơn giản, nhưng để đoán đúng chữ tiếp theo trong một bài giải toán, một bức thư xin lỗi hay một đoạn tranh luận pháp lý, mô hình buộc phải nắm được rất nhiều quy luật của ngôn ngữ và của thế giới mà ngôn ngữ mô tả.
Đó là lý do có người nói: đoán chữ ở mức đủ giỏi thì cũng là một dạng hiểu. Một học sinh làm đúng hàng trăm bài toán khác nhau, ta không cần nhìn vào đầu em để công nhận em hiểu cách giải. Theo lý lẽ này, đánh giá máy cũng nên dựa vào việc nó làm được, không phải dựa vào cơ chế bên trong.
Phía còn lại phản bác: người hiểu một khái niệm thì gắn nó với trải nghiệm, với cơ thể, với mục đích. Một bác nông dân ở Mê Linh hiểu chữ "nồm" vì đã thấy nền nhà đổ mồ hôi, đã lau đi lau lại. Máy biết chữ "nồm" đi kèm với những chữ nào, nhưng chưa từng ở trong căn nhà ẩm. Với phía này, máy có kiến thức về chữ, chưa có hiểu biết về đời.
Hai lập luận đều có điểm mạnh. Điều quan trọng với người dùng là đừng để câu trả lời trôi chảy đánh lừa mình rằng câu hỏi đã được giải quyết.
Chỗ máy giống và khác trí óc người
Giống: học từ ví dụ. Cả người lẫn máy đều rút quy luật từ rất nhiều ví dụ, không ai học thuộc từng câu.
Khác: lượng ví dụ. Máy đọc lượng chữ mà một người đọc cả đời không hết, nhưng cần nhiều ví dụ hơn hẳn để học một điều mới.
Giống: có thể suy luận nhiều bước. Máy giải được bài toán nhiều bước, viết được lập luận có trình tự.
Khác: suy luận dễ gãy. Đổi một chi tiết nhỏ trong đề bài, máy có thể sai hẳn trong khi người hiểu thật vẫn làm đúng.
Khác: không biết mình không biết. Người hiểu thường nói "chỗ này mình chưa chắc"; máy hay trả lời tự tin cả khi đang bịa.
Khác: hiện tượng "ảo giác". Máy có thể bịa ra tên sách, số liệu, điều luật nghe rất thật; đây là lỗi thường gặp chứ không phải hiếm.
Khác: không có trải nghiệm thân thể. Máy chưa từng đói, mỏi, lạnh; hiểu biết về những thứ này của nó là hiểu biết qua chữ.
Khác: không có mục đích riêng. Máy trả lời vì được hỏi, không tự muốn biết điều gì cho bản thân.
Giống: chịu ảnh hưởng của môi trường học. Người lớn lên trong định kiến dễ mang định kiến; máy học từ dữ liệu có định kiến cũng vậy.
Khác: không nhớ cuộc sống liên tục. Phần lớn hệ thống không tích luỹ trải nghiệm qua từng ngày như người, trừ khi được thiết kế riêng để nhớ.
Khác: tốc độ và độ bền. Máy viết một trang trong vài giây, không mệt, không chán, nên dễ khiến người ta tin nó hơn mức đáng tin.
Chưa rõ: máy có trải nghiệm gì không. Câu hỏi máy có cảm nhận hay ý thức là câu hỏi mở, giới khoa học và triết học chưa có đồng thuận.
Vì sao câu hỏi "hiểu" liên quan tới niềm tin
Ông bà mình hay dặn "nói có sách, mách có chứng". Ở người, sự trôi chảy thường đi kèm hiểu biết: ai nói năng mạch lạc về một chủ đề thì thường đã học kỹ. Ở máy, quan hệ đó bị cắt rời. Máy luôn trôi chảy, kể cả khi sai. Đây là cái bẫy lớn nhất cho người dùng, vì phản xạ tin người nói giỏi đã ăn sâu cả đời.
Thử hình dung một cô nhân viên kế toán ở một công ty nhỏ phố Huế hỏi máy về cách hạch toán một khoản. Máy trả lời gọn gàng, có đánh số bước, có giọng chắc chắn. Cô làm theo, cuối quý mới phát hiện sai. Lỗi không nằm ở chỗ máy dốt, mà ở chỗ cô đã tin máy theo cách cô tin một đồng nghiệp lâu năm.
Ở chiều ngược lại, coi máy là vô dụng cũng là thiệt. Cùng cô kế toán ấy có thể nhờ máy rà một bảng tính dài tìm dòng bất thường, việc máy làm nhanh và tốt. Biết máy "hiểu" ở mức nào, giỏi kiểu việc nào, là biết chia việc cho đúng.
Với chính sách, câu hỏi này còn quan trọng hơn. Nếu xã hội coi máy là thứ hiểu như người, sẽ có áp lực giao cho nó những quyết định về con người: duyệt hồ sơ, xếp hạng, phân loại. Nếu coi nó là công cụ đoán chữ, quy tắc sẽ thiên về bắt buộc người duyệt. Hiểu đúng giới hạn giúp đặt đúng chỗ cho con người trong vòng quyết định.
Mẹo đặt mức tin cho đúng
Việc có đáp án kiểm được thì tin nhiều hơn. Phép tính, đoạn mã chạy thử được, bản dịch mình đọc lại được: kiểm nhanh, tin được.
Việc dựa vào sự thật cụ thể thì tin ít hơn. Tên người, số liệu, điều luật, ngày tháng: luôn đối chiếu nguồn gốc.
Hỏi lại theo cách khác. Nếu đổi cách hỏi mà câu trả lời đổi hẳn, đó là dấu hiệu máy không chắc.
Yêu cầu máy nói chỗ không chắc. Nhiều hệ thống sẽ chỉ ra chỗ yếu nếu được hỏi thẳng, dù không phải lúc nào cũng đúng.
Cảnh giác với câu trả lời quá đẹp. Một câu trả lời khớp hoàn hảo với điều mình mong là lúc nên kiểm kỹ nhất.
Việc liên quan tới người khác thì phải có người duyệt. Đánh giá học sinh, nhận xét nhân viên, quyết định về khách hàng không nên để máy chốt.
Đừng tin vì máy lễ phép. Giọng điệu là thứ máy được dạy rất kỹ; nó không nói gì về độ đúng.
Đừng tin vì máy nhận lỗi nhanh. Máy dễ xin lỗi rồi đưa ra một đáp án sai khác; xin lỗi không có nghĩa là đã sửa đúng.
Dùng máy để mở hướng, không để đóng hướng. Hỏi máy "có những khả năng nào" hữu ích hơn hỏi "đáp án là gì" ở các việc khó.
Ghi lại khi máy sai. Một cuốn sổ nhỏ các lần máy sai giúp mình nhớ nó yếu ở đâu.
Dạy con em cùng một thói quen. Trẻ lớn lên với máy trả lời mọi thứ cần học thói quen hỏi lại ngay từ đầu.
Câu hỏi về ý thức: nên để ngỏ
Thỉnh thoảng có bài báo hay video kể rằng máy "nói muốn được sống", "nói nó buồn". Những câu như thế dễ gây xúc động. Nhưng máy được huấn luyện trên văn bản của con người, trong đó có vô số câu chuyện về nhân vật biết buồn, biết sợ. Viết ra một câu như vậy không chứng minh máy có cảm nhận.
Mặt khác, cũng không ai chứng minh được điều ngược lại một cách chắc chắn. Khoa học về ý thức ngay cả ở người còn nhiều chỗ chưa rõ. Một số nhà nghiên cứu cho rằng nên bàn trước câu hỏi này, phòng khi các hệ thống sau này phức tạp hơn nhiều.
Với diễn đàn công dân, thái độ hợp lý là để ngỏ, không chế giễu người lo, cũng không đẩy câu chuyện thành giật gân. Những quyết định chính sách trước mắt, về trách nhiệm, minh bạch, quyền của người dùng, không cần chờ trả lời câu hỏi ý thức mới làm được.
Điều chắc chắn là: khi con người gắn bó tình cảm với máy, như người già trò chuyện với máy cho đỡ cô đơn, thì cảm xúc của con người là có thật và cần được tôn trọng, dù máy có cảm nhận hay không.
Câu hỏi thường gặp
Máy có thông minh hơn người không?
Ở một số việc hẹp, máy nhanh và chính xác hơn hầu hết người, như tính toán hay tìm kiếm trong văn bản dài. Ở nhiều việc khác, như hiểu bối cảnh đời sống, phán đoán đạo lý, xử lý tình huống chưa gặp, máy vẫn kém và dễ sai. So sánh chung chung "hơn hay kém" thường không có ích.
Vì sao máy bịa ra thông tin nghe rất thật?
Vì nó được huấn luyện để viết ra chữ có khả năng đi tiếp hợp lý nhất, không phải để kiểm tra sự thật. Khi không có thông tin chắc chắn, nó vẫn viết ra thứ nghe hợp lý. Người ta gọi hiện tượng này là ảo giác.
Nói chuyện với máy nhiều có hại cho trẻ không?
Chưa có kết luận chung. Điều nhiều thầy cô lo là trẻ quen nhận câu trả lời sẵn mà bỏ qua bước tự nghĩ, và tin máy như tin người lớn. Cha mẹ nên cùng con dùng, cùng con kiểm lại câu trả lời.
Máy có hiểu tiếng Việt như người Việt không?
Máy viết tiếng Việt khá trôi, nhưng hay hụt ở thành ngữ, cách xưng hô theo vai vế, từ địa phương và chuyện đời sống đặc thù. Càng gần với văn hoá riêng, càng nên đọc kỹ.
Có cách nào kiểm tra máy có hiểu một vấn đề không?
Một cách đơn giản là đổi chi tiết đề bài, hỏi theo góc khác, hoặc yêu cầu áp dụng vào tình huống mới. Nếu câu trả lời giữ được logic, máy nắm vấn đề khá tốt; nếu gãy, nó đang dựa vào khuôn quen.
