Review The Two Faces of Tomorrow - sự nguy hiểm của một con AI ngu

Đận vừa rồi mình có chạy đi review Soft Sci Fi hơi nhiều, chưa kể còn thò hẳn chân ra ngoài SFF để đổi gió nữa. Đọc mấy cái nhè nhẹ mãi chán rồi, nay về lại với một thằng "bạo dâm" hơn tí cho đỡ quên gốc. Nó là:

🌕🌕🌕🌕🌕🌕🌕🌕🌗🌑

8.5/10

Jurassic Park. Có điều là với AI, và khoa học nặng đô hơn.

***

The Two Faces of Tomorrow là một cuốn tiểu thuyết Techno-Thriller do James P. Hogan sáng tác. Truyện lấy bối cảnh là một tương lai tương đối gần, khi con người đã phát triển được công nghệ AI đủ tân tiến để hỗ trợ con người quản lý đủ ngành công nghiệp.

Tuy nhiên, mớ AI thời bấy giờ lại dở ông dở thằng. Chúng nó cực kỳ thông minh, nhưng lại không khôn tí nào hết. Tất cả mọi vấn đề đều được bọn nó suy tính và diễn giải bằng lôgic, và chỉ lôgic THUẦN TÚY mà thôi, khiến bọn nó trên lý thuyết chẳng làm gì sai, nhưng những cái “đúng” của chúng nó ngu ngoài sức tưởng tượng. Và một ngày nọ, sự ngu của chúng nó đã gây ra một vụ tai nạn kinh hoàng, khiến cả ngành bị nhìn nhận với ánh mắt đầy nghi kỵ. Hàng loạt câu hỏi hóc búa bắt đầu được đặt ra về việc có nên tiếp tục để AI quản lý những hệ thống trọng yếu không, hay thậm chí có nên tiếp tục cho thiên hạ phát triển công nghệ AI nữa không. Cứ triển khai AI thì những vụ việc khủng khiếp tương tự chắc chắn sẽ tiếp tục xảy ra, nhưng xếp xó nó sẽ đồng nghĩa với việc chấp nhận để nền văn minh nhân loại trì trệ. Đứng trước tình huống này, người nông dân biết làm gì đây?

May mắn thay, một dự án AI non nớt do Raymond Dyer lãnh đạo có thể chứa đựng lời giải. Dự án này đánh đúng vấn đề mấu chốt: làm sao để bọn AI biết khôn, chứ không chỉ là biết tuốt. Để làm được điều này, các thành viên dự án đặt mục tiêu chế ra một con AI có khả năng học hỏi và khái quát hóa, để từ đó tự hình thành được khái niệm cái gì là chuẩn, cái gì là quá lố, và tự thay đổi mã lập trình của bản thân cho phù hợp hoàn cảnh.

Nói cách khác, họ đang nỗ lực chế ra một AI với “common sense” (tức “lẽ thường”).

Dù đã có một số thành công sơ bộ, dự án dạy khôn con AI kia hãy còn mang nặng tính lý thuyết, và phải thử nghiệm thật hẳn mới biết chắc được liệu nó có đang tin cậy hay không.

Và đây là lúc cuộc vui bắt đầu…

***

Thứ đầu tiên phải nói đến là cái prologue hết sức ấn tượng của truyện này. Nó được viết rất khéo, hoàn toàn có thể đứng tách ra thành một mẩu truyện ngắn độc lập. Ban đầu, nó mở ra theo kiểu khá là nhẹ nhàng theo mọi mặt, cả về phát triển thế giới lẫn đưa đẩy cốt. Trên thực tế, có thể nói nó còn hơi… chán, bởi vì mọi thứ cứ bình bình, chẳng thấy có cái gì xảy ra cả. Nhưng hóa ra đây chỉ là một đòn lừa, nhằm ru ngủ người đọc, trong khi một quả bom nó thả đang lặng lẽ rơi xuống. Ngay cả khi đã lường trước là sẽ có cái gì đấy xảy ra, ta sẽ vẫn giật bắn mình trước vụ nổ lúc quả bom chạm đất, và không khỏi hào hứng trước câu chuyện đang chờ đợi mình ở các chương tiếp theo.

Sau cái trailer ấy, truyện đi vào mạch chính. Cái mạch chính này có thể chia thành 3 khúc khá tách bạch, với khúc đầu tiên có nhiệm vụ giới thiệu và cho ta làm quen với dàn nhân vật cũng như cái dự án kia, cũng như các vấn đề nền tảng liên quan đến xung đột chính của tác phẩm; khúc thứ hai thì chuyển sang miêu tả và set up cho cái thí nghiệm, cũng như những trao đổi qua lại bước đầu giữa con người và hệ thống AI mới; khúc cuối thì chạy theo đúng truyền thống của Techno-Thriller, tập trung vào lúc thảm họa xảy ra, và thí nghiệm kia biến thành một bãi chiến trường quyết tử giữa hai phe.

Khúc đầu của truyện có một điểm khó chịu là nó tập trung vào mấy cái chuyện đời tư công sở linh tinh hơi nhiều, cứ lề mà lề mề dù cho ngay đằng trước là một màn prologue đầy hoành tráng. Nếu không phải vì các mảng bàn luận khoa học hấp dẫn thỉnh thoảng lại xuất hiện (lát đến phần thế giới sẽ nói chi tiết hơn) thì mình đã buông luôn rồi.

Nhưng sau khi kiên nhẫn lết qua cái phần đấy thì sức hút của câu chuyện ngày một trở nên khó cưỡng. Một là vì tần suất khoa học xuất hiện đã dày hơn, lộ rõ bản chất đây là một cuốn Hard Sci Fi hết sức nghiêm chỉnh, và anh em biết mình ưng mấy cuốn đặt nặng khoa học thế nào rồi đấy. Quan trọng nhất, đây là lúc cái xung đột giữa con AI và phe người bắt đầu chiếm spotlight, và ôi lạy Chúa, xung đột này được đầu tư xây dựng một cách tử tế phi thường. Nó tránh né gần như hoàn toàn cái kiểu vừa ngu vừa điêu của mấy cái tác phẩm thảm họa khoa học sặc mùi Hollyweed khác, trình bày mọi thứ theo một cách hợp lý và chân thực đến mức không thể bẻ vào đâu được. Mọi lý lẽ để không thực hiện cái thí nghiệm kia hoặc sử dụng bất kỳ phương án thay thế nào khác đều được đem ra bàn và mổ xẻ rất kỹ lưỡng, với các mặt dở và thiếu sót đều có căn cứ đúng đắn, và khi chúng nó bị loại đi thì ta sẽ thấy tâm phục khẩu phục tuyệt đối chứ không phải cảm thấy như IQ mình vừa bị sỉ nhục, và chấp nhận hoàn toàn cái thí nghiệm này là một điều tất yếu.

Không chỉ dừng lại ở đó, truyện còn dành một thời lượng khá dài để cân nhắc và bàn tính về mọi biện pháp phòng ngừa khả dĩ cho cái thí nghiệm này. Cũng hệt như khi set up cho thí nghiệm, tác giả không hề coi khinh độc giả tí nào mà nghiêm túc đưa ra từng hệ quả cũng như sơ hở tiềm tàng cho mọi mặt của thí nghiệm, đồng thời lập tức “vá” luôn những khoảng hở đấy. Mọi nghi vấn và lỗ hổng ta có thể chỉ ra đều được lường trước và đánh phủ đầu từ sớm, khiến ta cảm thấy mình như đang nhìn vào một thành trì lôgic bất khả xâm phạm, khiến ta càng thêm háo hức muốn biết nó sẽ bị đánh sụp kiểu gì.

Và khi cuộc giao tranh thực sự diễn ra thì gần như chẳng còn móc ra được cái gì để chê nữa. Từng chiến thuật, từng chiêu thức đáp trả của con AI trước các biện pháp phòng ngừa của phe con người đều khiến ta tròn mắt vì ngạc nhiên và thán phục, bởi lẽ nó tận dụng những kẽ hở hết sức bất ngờ trong bộ giáp ngỡ tưởng không hề có điểm yếu nào kia. Anh em sẽ bị cuốn tuột vào câu chuyện, không còn hy vọng dứt ra được nữa, chăm chú theo dõi cách sự căng thẳng ngày một leo thang, cách các giải pháp tấn công/phòng thủ của con người ngày một kém hiệu quả, cho đến khi như một tòa tháp jenga thủng lỗ chỗ, pháo đài kiên cố con người đã dựng lên sụp đổ hoàn toàn, và hỗn loạn bắt đầu bao trùm khi con AI dần chiếm thế thượng phong.

***

Thế giới của truyện lấy bối cảnh tương lai gần nên cũng không có gì quá mới mẻ. Thỉnh thoảng ta mới thấy một số yếu tố công nghệ và xã hội mới lạ, chẳng hạn tàu siêu tốc hay khu căn cứ trên Mặt Trăng hoặc cách cả Trái Đất đã hợp nhất lại thành một chính phủ duy nhất thôi, còn đâu mọi thứ khác đều được tác giả copy lại y xì đúc từ thế giới ngày nay của ta, với cùng lắm vài phát cập nhật hoặc rebrand thôi. Đọc vào sẽ có cảm giác bình thường như ở nhà luôn.

Nhưng vấn đề là quyển này ra đời năm 1979.

Để so sánh, Neuromancer ra đời năm 1984, và như trong bài review về nó mình đã nói, thế giới của Neuromancer sinh động vô cùng, chứa đựng hàng loạt tình tiết đi trước thời đại. Tuy nhiên, nó vẫn thường xuyên để lòi cái đuôi cổ lỗ sĩ của mình thông qua vô số công nghệ tàn dư mà ngay cả ngày nay chúng ta đã vứt bỏ chứ đừng nói là thời tương lai, khiến cho khi đọc vào, ta sẽ thấy rất rõ đây là một cuốn tiểu thuyết viết trong giai đoạn 80. Trong khi đó, The Two Faces of Tomorrow già hơn Neuromancer nguyên nửa thập kỷ, nhưng lại làm ra được một cái thế giới bình thường và “quen” đến độ đọc vào khó ai ngờ nổi nó được viết từ tít cuối thập niên 70. Nếu cân nhắc đến điều này, ta thực sự không khỏi lác mắt trước cái tầm nhìn của James P. Hogan trong việc nghiên cứu và xây dựng thế giới, biết cách phóng vừa đủ để nó mang lại cảm giác tân tiến, nhưng không chém đến bay nóc nhà để tác phẩm trở thành lỗi thời quá nhanh.

Bổ trợ cho cái tương lai bình dị này là một phần móng khoa học cực kỳ vững chắc. Nhìn chung, phần khoa học của nó có thể chia làm hai mảng, ấy là mảng khoa học máy tính để làm nền cho con AI, và mảng thiết kế cơ khí để làm nền cho cái trạm vũ trụ và các trang thiết bị trên đấy. Anh em đừng nhìn chữ “Techno-Thriller” mà nghĩ nó sẽ chỉ chém phiên phiến kiểu quẳng tứ tung vài ba cái buzzword như “lượng tử” hay “nano” cho câu chuyện nghe có mác khoa học như cách nhiều tác phẩm khác vẫn làm nhé. Đây là Hard Sci Fi, thế nên không gì trong này mang tính làm màu hết, cái gì ra cái nấy luôn.

Phần khoa học máy tính là thứ “mềm” hơn, không đặt nặng việc giải thích kiến thức lập trình hay ngôn ngữ máy tính, chủ yếu đưa ra các câu hỏi thú vị liên quan đến về bản chất của trí thông minh nhân tạo và sự khác biệt chính yếu giữa nó và trí thông minh của con người, cũng như tiềm năng và các hướng nghiên cứu/ngõ cụt tiềm tàng. Chúng nó không phải kiểu mấy câu hỏi có thể mở dăm ba cái tab Google là ra (chưa kể thời đấy công chúng còn chưa được tiếp cận với Internet), mà toàn lấy nền tảng là những vấn đề nghiên cứu cốt lõi trong công nghệ máy tính. Tất cả được dẫn dắt, đưa đẩy rất tự nhiên, lồng vào các cuộc trò chuyện và tranh luận dàn trải khắp tác phẩm, bổ trợ bởi những lập luận sắc bén và lôgíc vô cùng, xoáy sâu vào nhiều câu hỏi học búa một cách thuyết phục đến mức anh em có khi sẽ tưởng mình đang đọc một bài báo Popular Science chuyên nghiệp chứ không phải một cuốn truyện Sci Fi nữa.

Mảng thiết kế cơ khí thì đặt nặng kiến thức kỹ thuật chuyên môn hơn chứ không còn nói lý thuyết học thuật thuần như mảng vừa rồi nữa. Hogan gốc là dân kỹ thuật điện, đã có gần chục năm lặn lội với nghề, sau đó chuyển sang làm sales engineer (nhân viên bán máy móc hạng nặng cho các doanh nghiệp thông qua giải thích và phân tích thông tin kỹ thuật), và ông anh đã tận dụng vốn kiến thức của mình để gần như xây dựng từ đầu đến đuôi cả một cái trạm vũ trụ thực tế ngoài sức tưởng tượng. Ta được đi thăm thú từng bộ phận của nó, biết rất rõ các cơ chế hoạt động, cấu trúc xây dựng, và lắm khi cả thông số kỹ thuật của nó luôn. Độ chi tiết trong miêu tả của Hogan sẽ khiến anh em cảm thấy mình như được sờ vào từng cái bu lông ốc vít trên cái trạm này, nhìn ra được từng hộp mạch và những đoạn dây dẫn, thậm chí chưa biết chừng còn ngửi được cái mùi hăng hắc dầu khí và điện tĩnh lơ lửng trong không khí. Cái đoạn này nó khá khô khan, hardcore hơn hẳn so với phần máy tính, nhưng cũng được xen kèm với những khoảnh khắc “thở,” khi nhân vật lùi lại và bàn về những thứ nhẹ nhàng hơn, hay thuật lại cảm xúc thuần túy của mình trước cái tầm vĩ đại hoặc rợn ngợp của thứ mình đang chứng kiến, không có kỹ thuật gì nhiều, khiến mọi thứ không đến nỗi quá khó nuốt. Dẫu vậy, nhìn chung phần kỹ thuật này vẫn khá nặng, và nếu anh em nào chuộng style của Andy Weir hơn là Neal Stephenson thì có khi đến đây sẽ gãy cánh.

***

Như đã nói ở phần cốt, truyện có khoảng 1/3 đầu chú trọng để ta làm quen với các nhân vật và cuộc sống của họ, thế nên ta sẽ hiểu khá rõ họ là ai, thấy được những lớp lang trong đời họ, và cảm thấy đây như những con người thật với những đam mê, hoài bão riêng, chứ không chỉ đơn thuần là các công cụ dùng để thúc đẩy cái cốt đi đến những nơi cần đến. Đặc biệt một điều là cũng như cái cốt, nhân vật trong này không hề bị ngu như kiểu các nhân vật hay xuất hiện trong các tác phẩm thảm họa khoa học. Họ suy nghĩ rất thấu đáo về mọi vấn đề, bàn luận nghiêm túc với nhau mọi thứ, tính toán đến từng khả năng một, cho thấy rất rõ đây đúng là những chuyên gia trong ngành chứ không phải một anh diễn viên Hollyweed mặc áo choàng trắng sủa nhăng sủa cuội theo một cái kịch bản kệch cỡm.

Tuy thế, vẫn có mấy yếu tố rất dễ gây bực mình làm giảm hẳn độ thú vị của mấy nhân vật này. Cái đầu tiên là dẫu cho tránh được điểm trừ nặng nhất của các nhân vật trong Techno-Thriller (tức IQ ba ngấn), phần nhiều tính cách của họ vẫn được xây dựng bằng những mô típ hay gặp. Điều này làm mọi người vẫn có cảm giác rập khuôn nhất định, như thể họ chui ra từ cùng một dây chuyền sản xuất, nhất là đồng chí nam chính với nữ chính (ờm, hơi hơi chính 🐧 ) và quả mối quan hệ không thể nào chuẩn bài hơn của họ. Đi kèm với nó là việc có một số nhân vật mang nét tính cách và/hoặc quá khứ khá ấn tượng, nhưng họ lại bị đẩy thành nhân vật phụ, và chúng ta sẽ càng thêm khó chịu khi thấy tác giả cứ dành phần lớn thời gian với mấy thanh niên “vanilla” nhàn nhạt.

Cái thứ hai là tác giả “lỡ” làm một số nhân vật trở nên quá thú vị. Cụ thể là mấy con AI. Trong truyện này có hai nhân vật AI lớn, một là cái con AI quy mô nhỏ lúc dự án còn đang ở giai đoạn nghiên cứu bước đầu (tên là FISE), hai là con AI được đem ra làm thí nghiệm. Cái con FISE được ông tác giả tả như một đứa trẻ con luôn. Trông cách nó loay hoay thực hiện những yêu cầu mà đội khoa học đưa ra, nhăn trán nhíu mày suy nghĩ và giải quyết các mâu thuẫn đậm chất ba ngơ trong chỉ thị, sau đó đưa ra những câu hỏi ngộ đến phì cười mà anh em sẽ thấy yêu kinh khủng. Bên cạnh đó, nó lại còn khiến các nhân vật nhàn nhạt kia trở nên thú vị hơn hẳn, bởi cứ thỉnh thoảng, khi có những hành vi đáng ngạc nhiên, cho thấy bản thân vừa chủ động khái quát hóa được một vấn đề gì đấy, nó lại thúc cho mấy nhân vật kia trở nên hân hoan hẳn lên, bộc lộ một niềm vui sướng và phấn kích cực kỳ dễ lây lan, khiến bản thân chúng ta cũng không khỏi thấy vui cùng. Nó khiến mỗi lần thấy truyện xem chừng muốn rời khỏi con AI này để quay về mấy cái chuyện người người chim chuột nhau là ta lại phát nản, chỉ chăm chăm hóng cảnh quay về với nó xem thằng này làm ăn đến đâu rồi.

Con Spartacus cũng có khá nhiều điểm tương đồng với phiên bản nhỏ của mình, có điều mọi thứ được diễn giải theo cách rùng rợn hơn hẳn. Nếu FISE được lột tả theo một cách rất hồn nhiên, Spartacus sẽ là hiện thân của một thực thể tàn khốc và không hề nhượng bộ. Hầu hết sự phát triển của nó đều được mô tả một cách gián tiếp, thông qua việc con người diễn giải những phản ứng của nó trước các nỗ lực chọc ngoáy của mình, và sau đó áng chừng nó đã học hỏi và nhận ra những thứ gì rồi để từ đó biết đường chọc ngoáy nó tiếp, nhưng cũng có những lần ta được trước tiếp quan sát cách nó nhìn nhận mọi thứ, và anh em sẽ không khỏi sởn gai ốc trước cái sự vô nhân tính của nó. Vô nhân tính theo một nghĩa không thể nào đen hơn. Nó không có chút nào dính dáng đến con người cả, mà là một thực thể mới hẳn, với cách nhìn đời gần như không thể quy theo chuẩn con người. Nó không hề ác, không làm những gì nó làm bởi vì nó muốn thoát ách nô lệ hay cảm thấy chạm tự ái hay bất kỳ cái gì hết. Nó chỉ khái quát dần mọi vấn đề lên đúng như cách FISE từng làm, và muốn loại bỏ một hằng số luôn tồn tại trong mọi vấn đề mình gặp phải. Anh em sẽ thấy buốt lạnh cả sống lưng trước những kết luận mà con AI này rút ra, song vẫn bị cái sự hợp lý của nó hút cho không rời ra được, chỉ muốn tiếp tục theo dõi quy trình suy luận của nó tiếp theo sẽ đi đến những đường bước nào thôi.

***

The Two Faces of Tomorrow là một cuốn Sci Fi cũ nhưng không hề cổ tí nào, và trên thực tế còn chân thực gấp bội hàng chục cuốn Sci Fi hiện đại ngày nay. Bất chấp phần khởi đầu hơi chậm kèm một số sự lôm côm trong việc xây dựng nhân vật, tác phẩm vẫn có một mạch truyện đầy kịch tính và hấp dẫn, được tích hợp nhiều thông tin khoa học thú vị kèm rất nhiều câu hỏi đáng suy ngẫm về bản chất của trí tuệ, quy trình tiến hóa, và cả những tiêu chuẩn đạo đức của con người. Anh em rất nên đọc thử.

-----
Xem bài viết gốc tại: