Ở tập 7, Frieren đã hỏi một con quỷ “Loài quỷ không có tập tính nuôi con, vậy tại sao ngươi lại dùng từ “mẹ”?”. Con quỷ trả lời, vì nó khiến cho loài người không thể xuống tay với chúng, đó là một từ tuyệt vời như pháp thuật vậy. Những con quỷ không hiểu và không thể hiểu bản chất, hay những cảm xúc từ “mẹ” đó mang lại, chúng chỉ dùng với mục đích duy nhất là lừa dối con người.
img_0
Các chatbot AI cũng tương tự, chúng “hiểu” một từ qua các định nghĩa và ví dụ, từ ngữ là những token đầu vào và đầu ra không hơn không kém, tất cả nhằm mục đích làm hài lòng người sử dụng.Dù có một vài con quỷ đã rất cố gắng để hiểu con người, tất cả đều có chung một cái kết là thất bại.
Con quỷ ở đầu bài viết, vốn đã giết một đứa trẻ. Khi bị dồn vào đường cùng, nó nói từ “mẹ”, và “đau”, trưởng làng đã mủi lòng và tha thứ cho nó, và đem con quỷ về chung sống cùng mình. Mọi chuyện đều suôn sẻ tới khi con quỷ giết trưởng làng, và đưa đứa con của trưởng làng cho gia đình của đứa trẻ bị sát hại trước đó, vì nó cảm thấy sự thù địch từ gia đình đó, và nghĩ rằng làm vậy thì gia đình kia sẽ không còn căm ghét, thù địch nó nữa. Nó không hiểu rằng, gia đình kia chưa bao giờ căm ghét nó không phải vì muốn một đứa con mới. Nó cũng không hiểu rằng đứa con nó dâng cho họ thì khác đứa con trước đó họ mất ở đâu cả. Trong mắt nó, "mẹ" chỉ là một người phụ nữ đi cùng một đứa trẻ con, không hơn không kém. Có một ranh giới không thể xoá nhoà và thấu hiểu giữa quỷ và người, giữa hai loài khác nhau.
Con người và AI về bản chất cũng khác nhau như thế. Liệu các AI sẽ không bao giờ hiểu rõ được loài người thực sự muốn gì, hay khi thu thập được lượng thông tin đủ lớn, chúng sẽ học được cách con người hiểu ngôn ngữ, học được cách bắt chước một đứa trẻ học các từ mới, học được những thứ đằng sau mà từ ngữ thật sự muốn nói. Thật buồn cười khi thứ tiến đến thấu hiểu loài người nhất, là những cỗ máy, thay vì một loài khác, thứ thậm chí, không phải sinh vật sống.
Quả là thú vị để sống và chứng kiến. What an era to live in.