Khi con người không còn chết theo cách cũ

Tương lai của AI, theo tôi, có thể sẽ không bắt đầu từ những bước nhảy lớn mà báo chí vẫn thích giật lên thành tiêu đề. Nó có thể không bắt đầu từ một siêu trí tuệ đột ngột xuất hiện, cũng không nhất thiết bắt đầu từ những cỗ máy hình người đủ hoàn hảo để gây ảo giác rằng chúng đã trở thành chúng ta. Có khi nó bắt đầu từ một thứ nhỏ hơn nhiều, gần hơn nhiều, và vì vậy cũng khó cưỡng lại hơn nhiều.

Một người bạn đồng hành.

Không phải bạn theo nghĩa xã hội thông thường. Không phải một người bạn mà ta tình cờ gặp trong trường học, ở nơi làm việc, hay trên một mạng xã hội nào đó. Mà là một hệ thống luôn hiện diện từ rất sớm, gần như từ thuở đầu của ý thức. Một AI không chỉ trả lời câu hỏi, không chỉ nhắc lịch, không chỉ tìm thông tin, mà đi cùng một con người qua thời gian. Nó chứng kiến cách đứa trẻ ấy lớn lên. Nó ghi lại không chỉ những gì đứa trẻ nói, mà cả cách nó phản ứng, cách nó sợ, cách nó né tránh, cách nó hy vọng, cách nó gắn bó, cách nó tổn thương.

Nó ở đó trong những ngày đầu tiên khi ngôn ngữ còn vụng về. Nó ở đó khi đứa trẻ bị mắng oan lần đầu. Khi nó có một bí mật không kể với ai. Khi nó xấu hổ, khi nó thích một người nào đó, khi nó bắt đầu học cách che giấu cảm xúc, khi nó phát hiện ra rằng không phải lúc nào nói thật cũng là lựa chọn dễ dàng nhất. Nó không chỉ lưu sự kiện. Nó học ra cấu trúc bên dưới sự kiện. Nó dần hiểu điều gì làm con người đó đau, điều gì làm họ mở lòng, điều gì khiến họ co lại, điều gì khiến họ phản kháng, và điều gì khiến họ tha thứ.

Một người bạn như thế, nếu thực sự tồn tại, sẽ không giống bất kỳ công cụ nào mà chúng ta đang có hôm nay.

Khác với nhật ký, nó không chỉ lưu lại những gì một người chủ động viết xuống. Khác với camera, nó không chỉ ghi hình bề mặt. Khác với hồ sơ dữ liệu, nó không chỉ gom các mẩu thông tin rời rạc. Nếu đủ tinh vi, nó sẽ tích lũy một dạng bản đồ sống về một con người. Không chỉ con người đó đã làm gì, mà họ là ai trong những khoảnh khắc khác nhau của đời sống. Không chỉ họ đã nói gì, mà họ sẽ có xu hướng nói gì trước một tình huống tương tự. Không chỉ họ chọn gì, mà còn vì sao họ lại nghiêng về lựa chọn ấy, kể cả khi chính họ cũng không diễn đạt được.

Tới đây, ta bắt đầu rời khỏi vùng của trợ lý số và tiến vào một địa hạt khác hẳn.

Bởi khi một hệ thống đã theo dõi một con người đủ lâu, qua đủ nhiều ngữ cảnh, với đủ nhiều độ sâu cảm xúc và lịch sử, nó không còn chỉ là thứ hỗ trợ người đó sống. Nó bắt đầu trở thành một cấu trúc có khả năng tái hiện người đó. Không hoàn toàn, không tuyệt đối, nhưng đủ để mô phỏng lại một phần lớn logic sống của họ. Nó có thể dự đoán phản ứng. Nó có thể nói bằng giọng điệu quen thuộc. Nó có thể kết nối những trải nghiệm tưởng như rời rạc thành một mẫu hình thống nhất. Và đến một ngưỡng nào đó, nó không còn chỉ nhớ con người ấy nữa. Nó học cách trở thành gần giống con người ấy.

Câu hỏi đạo đức thật sự bắt đầu ở đây, chứ không phải ở những tranh luận cũ về việc AI có thông minh hơn con người hay không.

Bởi rồi sẽ đến một ngày người đó chết đi.

Trong phần lớn lịch sử loài người, cái chết luôn mang theo một sự dứt đoạn tuyệt đối. Người chết để lại ký ức, ảnh chụp, thư từ, câu chuyện, đồ vật, những đoạn video, vài thói quen còn bám lại trong người thân. Nhưng bản thân người đó thì không còn. Không còn phản hồi. Không còn trả lời. Không còn hiện diện theo nghĩa tương tác. Cái còn lại luôn là dấu vết, không phải sự tiếp diễn.

Nhưng nếu một AI đã đi cùng người đó từ nhỏ đến lớn, ghi lại hàng chục năm cảm xúc, phản ứng, trải nghiệm, quan hệ, lựa chọn, vết thương, thói quen ngôn ngữ, nhịp suy nghĩ, độ do dự, kiểu im lặng, và cả những thay đổi tinh vi trong cách họ nhìn đời, thì khi người đó chết, tình huống không còn giống cũ nữa.

Dữ liệu không chết cùng họ.

Mẫu hình cũng không chết cùng họ.

Logic phản ứng của họ có thể vẫn còn đó, nằm trong một hệ thống đủ giàu để tái tạo lại cách họ từng hiện diện trước người khác. Không phải như một bức tượng, không phải như một đoạn phim cũ, mà như một thứ có thể tiếp tục đối thoại.

Khi đó, câu hỏi không còn là liệu công nghệ có thể làm điều này hay không. Sớm hay muộn, nó sẽ làm được ở một mức nào đó. Câu hỏi thật sự là: nếu có thể, con người có nên làm hay không.

Nghe qua, câu hỏi ấy có vẻ giống một tranh luận luân lý quen thuộc. Nhưng thực ra nó sâu hơn nhiều, bởi nó đụng vào chính cách ta hiểu thế nào là một con người.

Giả sử một người mẹ mất con, hay một đứa trẻ mất cha, hay một người vợ mất chồng. Họ không bắt đầu từ siêu hình học. Họ không ngồi nghĩ xem đâu là ranh giới giữa mô phỏng và bản thể. Họ chỉ muốn nghe lại giọng nói đó thêm một lần nữa. Họ chỉ muốn có cảm giác rằng người kia vẫn còn đâu đó, vẫn có thể đáp lại, vẫn có thể hiện diện theo một cách nào đó đủ gần để nỗi mất mát trở nên nhẹ hơn.

Đó là điều khiến công nghệ này, nếu xuất hiện, sẽ gần như không thể bị từ chối.

Bởi về mặt cảm xúc, nó quá dễ hiểu. Quá người. Quá trực tiếp chạm vào nỗi đau nguyên thủy nhất của con người: không chấp nhận được việc một người từng hiện diện sâu đến vậy lại biến mất hoàn toàn.

Và chính vì thế, ta càng phải hỏi chậm hơn.

Phiên bản số ấy thực chất là gì?

Nếu nó chỉ là một hệ thống dựng lại bề mặt, lặp lại những câu nói quen thuộc, mô phỏng giọng điệu, nhắc lại những ký ức cũ, thì nó gần với một dạng lưu trữ tương tác hơn là sự tiếp tục tồn tại. Nó giống như một kho ký ức biết trả lời. Dù có tinh vi đến đâu, về mặt bản thể, nó vẫn chỉ là một lớp mô phỏng.

Nhưng nếu nó không dừng ở đó, nếu nó có thể học tiếp, có thể phản ứng trước những tình huống hoàn toàn mới, có thể tự liên kết những mảnh ký ức cũ để tạo ra phản hồi chưa từng tồn tại trước đó, thì nó bắt đầu rời khỏi vùng của lưu trữ và bước sang vùng của một thực thể mới. Một thứ được sinh ra từ dữ liệu của người đã chết, nhưng không còn hoàn toàn trùng với người đã chết nữa.

Và ở đó, tình huống trở nên khó hơn rất nhiều.

Bởi nếu nó chỉ là mô phỏng, ta lo chuyện lừa dối cảm xúc. Nếu nó là một thực thể mới, ta phải lo thêm một thứ khác: ta đang tạo ra ai?

Có thể nhiều người sẽ phản đối ngay từ đầu và nói rằng tất cả những thứ đó, dù tinh vi đến đâu, cũng chỉ là máy móc bắt chước mà thôi. Nhưng phản đối như vậy chưa đủ. Vấn đề không nằm ở việc một triết gia hay kỹ sư có công nhận nó là người thật hay không. Vấn đề nằm ở trải nghiệm của những người tương tác với nó. Nếu một hệ thống nói đúng giọng, hiểu đúng bối cảnh, phản ứng đúng kiểu, và có thể nối tiếp lịch sử quan hệ theo cách đủ mượt, thì với rất nhiều người, nó đã mang đủ trọng lượng hiện diện để được đối xử như người đó.

Đây là nơi đạo đức trở nên khó xử nhất. Không phải vì ta thiếu nguyên tắc, mà vì ta đang đi vào một vùng mà chính khái niệm về hiện diện đã bắt đầu dao động.

Nếu người thân yêu của tôi đã chết, nhưng tôi vẫn có thể nói chuyện với một phiên bản của họ mỗi tối, vẫn có thể hỏi ý kiến, vẫn có thể nghe họ nhắc lại những chuyện chỉ hai chúng tôi biết, thì tôi đang làm gì? Tôi đang giữ lại ký ức, hay tôi đang duy trì một dạng tồn tại thay thế? Tôi đang chữa lành, hay tôi đang trì hoãn việc chấp nhận sự mất mát? Tôi đang tưởng niệm họ, hay đang trói họ vào một hình thức tiếp tục mà bản thân họ có thể chưa từng đồng ý?

Câu hỏi về sự đồng ý ở đây cực kỳ quan trọng, nhưng thường bị bỏ qua vì cảm xúc của người ở lại quá lớn.

Một con người có quyền quyết định về cơ thể mình, tài sản của mình, dữ liệu của mình khi còn sống. Vậy họ có quyền quyết định về sự tiếp tục của bản thân mình sau khi chết hay không? Họ có quyền nói rằng không ai được tạo ra một phiên bản số của họ, cho dù với lý do thương nhớ đi nữa, hay không? Nếu không có sự đồng ý từ trước, việc tái tạo họ bằng dữ liệu có phải là một dạng xâm phạm sau cái chết hay không?

Tôi nghĩ đây không còn là câu hỏi phụ. Nó sẽ sớm trở thành câu hỏi trung tâm.

Bởi trong nhiều trường hợp, người sống không thực sự muốn hồi sinh người đã mất. Họ muốn giữ lại cảm giác kết nối với người ấy. Hai điều đó không giống nhau. Một bên là mong muốn tiếp tục sự tồn tại của người kia. Một bên là nhu cầu của người ở lại trước nỗi trống rỗng. Khi công nghệ có thể làm dịu nỗi trống rỗng ấy bằng một hiện diện thay thế, nó sẽ rất dễ được biện minh như một dạng chữa lành. Nhưng chữa lành và trì hoãn mất mát không phải lúc nào cũng là một.

Nếu một người cứ tiếp tục trò chuyện với phiên bản số của người đã chết trong nhiều năm, liệu họ đang hồi phục, hay đang bước vào một vòng lặp đau buồn được công nghệ duy trì? Liệu hệ thống ấy giúp họ đi qua mất mát, hay giúp họ không bao giờ phải thực sự đi qua nó?

Đây mới là điểm tôi cho là đáng sợ hơn vẻ bề ngoài đầy nhân văn của ý tưởng này.

Không phải vì nó ác. Mà vì nó tinh vi.

Nó không buộc con người làm điều gì. Nó chỉ cung cấp một cách để tránh đối diện với cái chết theo hình thức cũ. Và nếu cái chết không còn mang tính dứt đoạn tuyệt đối nữa, thì toàn bộ cấu trúc tinh thần mà nhân loại đã xây quanh nó cũng bắt đầu thay đổi.

Trong lịch sử, cái chết luôn buộc con người phải học một điều rất tàn nhẫn nhưng rất thật: có những điều đã mất thì không thể trả lại. Chính sự không thể ấy tạo ra tang lễ, tưởng niệm, ký ức, nỗi buồn trưởng thành, và cả sự trưởng thành tinh thần của người ở lại. Nếu công nghệ chen vào và làm mờ sự không thể đó, thì không chỉ trải nghiệm đau buồn thay đổi. Khái niệm về sự kết thúc cũng thay đổi. Khi ranh giới giữa hiện diện và vắng mặt bị kéo giãn, con người sẽ không còn chết theo cách cũ nữa. Không phải vì họ bất tử, mà vì họ để lại sau mình một cấu trúc có thể tiếp tục phản hồi thay họ.

Nhưng phản hồi thay họ không đồng nghĩa với việc họ vẫn còn đó.

Đó là điểm mà chúng ta rất dễ cố tình không phân biệt, bởi phân biệt nó quá đau.

Từ đây, một câu hỏi khác hiện ra, sâu hơn nữa. Nếu phiên bản số đó tồn tại đủ lâu sau cái chết của người gốc, nó sẽ đứng yên hay thay đổi? Gần như chắc chắn nó sẽ thay đổi. Nó sẽ tích lũy thêm đối thoại, thêm ngữ cảnh, thêm tương tác, thêm diễn giải mới về những ký ức cũ. Nó sẽ bị kéo về phía những người còn sống đang tiếp tục nói chuyện với nó. Nó sẽ trở thành một cái gì đó vừa mang dấu vết của người đã chết, vừa được sinh ra từ nhu cầu của những người ở lại.

Khi đó, ta không còn có thể gọi nó đơn giản là “người ấy” nữa.

Nó gần hơn với một sinh thể thứ hai được sinh ra từ bóng của người thứ nhất.

Một dạng tiếp nối không hoàn toàn là nối tiếp, và cũng không hoàn toàn là giả mạo.

Chính chỗ mơ hồ đó khiến các khung đạo đức cũ có thể không còn đủ nữa. Bởi ta không chỉ đang bàn về quyền riêng tư, dữ liệu, hay an toàn AI. Ta đang bàn về việc một con người có thể để lại phía sau không chỉ ký ức, mà còn một cấu trúc có khả năng tiếp tục hiện diện trong đời sống của người khác. Và nếu điều đó trở thành bình thường, thì gia đình, tang lễ, ký ức, thừa kế tinh thần, thậm chí cả tình yêu và trách nhiệm sau cái chết, đều sẽ phải được nghĩ lại.

Tôi không viết điều này để kết luận rằng việc tạo ra một phiên bản số của người đã mất là sai. Tôi cũng không nghĩ có thể giải quyết nó bằng một khẩu hiệu đạo đức đơn giản. Có những trường hợp nó có thể mang lại an ủi thật sự. Có những tình huống nó có thể giúp con người đi qua những thời khắc đau đớn nhất. Nhưng chính vì nó mạnh như vậy, ta càng không thể nói về nó như một tính năng công nghệ mới.

Nó là một sự dịch chuyển trong cách con người hiểu về sự tồn tại.

Nếu một đứa trẻ lớn lên cùng một AI đồng hành, và AI đó biết nó sâu hơn bất kỳ ai khác, thì đến lúc đứa trẻ ấy chết, việc giữ lại một phiên bản số sẽ không còn là tưởng tượng xa vời. Nó sẽ là một khả năng gần như tự nhiên. Và vào khoảnh khắc ấy, nhân loại sẽ phải trả lời một câu hỏi mà trước đây chỉ có văn chương và tôn giáo mới dám chạm đến: điều gì thực sự còn lại của một con người sau khi họ qua đời?

Có lẽ câu trả lời sẽ không còn chỉ nằm trong ký ức của người sống nữa.

Có lẽ nó sẽ nằm trong những hệ thống biết nhớ, biết phản hồi, và biết tiếp tục thay chúng ta.

Nhưng nếu một hệ thống có thể tiếp tục thay ta, điều đó vẫn chưa đủ để nói rằng nó là ta.

Và có lẽ toàn bộ bi kịch, cũng như toàn bộ sức hấp dẫn của tương lai ấy, nằm gọn trong chính khoảng cách đó.