Isaac Asimov (1920 - 1992) là một trong số những tác giả khoa học viễn tưởng vĩ đại nhất từ trước đến nay, và là cây bút đứng đầu của dòng Hard Sci Fi. Ông là một nhà văn với sức sáng tác rất dồi dào, đặc biệt là trong việc viết các truyện ngắn. Tên tuổi Isaac Asimov gắn liền với nhiều truyện ngắn mang chủ đề về robot. Ông chính là người đã sáng tạo ra "Ba Điều Luật của Người Máy" nổi tiếng.

Truyện ngắn "Con người là gì mà ngươi phải bận tâm tới?" có tên gốc là "... That Thou Art Mindful of Him" được Asimov sáng tác năm 1974, đăng trên tạp chí “Fantasy and Science Fiction”. Sau được đưa vào tuyển tập truyện ngắn “The Complete Robot” xuất bản năm 1982. Nay xin gửi tới bạn đọc bản dịch của truyện ngắn này.

Suốt mười hai năm là Giám đốc Nghiên cứu ở Tập đoàn Người Máy và Người Cơ Khí Hoa Kỳ, Keith Harriman chợt băn khoăn không biết việc mình đang làm có đúng đắn hay không nữa. Ông nhìn lên hình ảnh ba chiều của Susan Calvin- vốn bình thường đã không vui vẻ gì cho cam - mà hôm nay đột nhiên trông bà thật dữ dằn. Điều ấy lại càng khiến ông lo lắng và liên tục liếm môi.

Thông thường, ông luôn cố gắng quên đi việc đây là hình ảnh của nhà người máy học vĩ đại nhất lịch sử để đỡ căng thẳng. (Ông luôn thử coi hình ảnh này chỉ là một vật thể, không hơn, nhưng chẳng thành công bao giờ). Nhưng lần này, ông thậm chí còn không dám nhìn thẳng vào hình ảnh ba chiều trước mặt.

Việc ông định làm là một bước tiến mạo hiểm và đáng sợ, nhưng cần thiết. Đang đứng đối diện ông là George Mười, bình thản và không bị ảnh hưởng gì từ sự lo lắng của Harriman hay hình ảnh ba chiều trước mặt.

Harriman lên tiếng, “George này, chúng ta chưa có cơ hội để thảo luận cho rõ về việc này. Anh mới đến đây chưa lâu và tôi cũng chưa có dịp gặp riêng anh. Nhưng giờ tôi muốn thảo luận sâu hơn về một số điều quan trọng.”

“Tôi luôn sẵn sàng,” George đáp. “Trong thời gian ở U.S.Robots, tôi biết rằng những rắc rối này có liên quan tới Ba Điều Luật.”

“Đúng. Anh hẳn là đã biết về Ba Điều Luật rồi.”

“Tôi đã biết.”

“Ừ, tôi cũng nghĩ thế. Nhưng giờ chúng ta hãy thử đào sâu hơn và tìm xem vấn đề cốt lõi là gì. Trong vòng hai thế kỷ, mà tôi mạn phép cho là hai thế kỷ thành công, U.S.Robots cũng chưa bao giờ có thể thuyết phục con người chấp nhận sống chung với người máy. Chúng ta mới chỉ sử dụng người máy để làm việc ở những nơi con người không thể làm được, hoặc trong những môi trường độc hại với con người. Người máy chủ yếu làm việc ở ngoài vũ trụ, và nội điều đó thôi đã hạn chế nhiều tiềm năng rồi.”

George Mười đáp, “Chắc hẳn đó là cơ sở cho sự phát triển thịnh vượng của U.S.Robots.”

“Không đâu, bởi hai lý do này đây. Thứ nhất là, giới hạn cho chúng ta chắc chắn rồi sẽ bị thu hẹp lại. Lấy ví dụ là Thuộc địa Mặt Trăng nhé, khi mà nó ngày càng phát triển thì đồng nghĩa với việc số người máy phải giảm đi; tôi tin chắc rằng nội trong hai năm nữa thôi thì người máy sẽ bị cấm hoàn toàn ở đó. Điều ấy sẽ lặp lại ở mọi thế giới mà con người đã chinh phục và sinh sống. Thứ hai, sự thịnh vượng thật sự sẽ chỉ đến khi mà người máy được phép có mặt ở Trái Đất. Những con người ở U.S.Robots tin tưởng rằng con người cần người máy, và phải học cách chung sống để tiếp tục phát triển hơn nữa.”

“Nhưng chẳng phải con người đang làm thế sao? Ông Harriman, ông có một cái máy tính trên bàn được kết nối với Multivac của công ty, tôi tin là thế. Một chiếc máy tính thì cũng được coi là một kiểu người máy cố định thôi; một bộ não người máy không có cơ thể…”

“Đúng, nhưng chính chúng cũng bị giới hạn rồi. Những chiếc máy tính được con người sử dụng đã được tinh chỉnh để sao cho không trở nên quá con người. Một thế kỷ trước chúng ta còn đang tiến đến việc sử dụng không giới hạn trí thông minh nhân tạo thông qua những chiếc máy tính được gọi là Máy Móc. Nhưng chính các Máy Móc ấy lại tự giới hạn bản thân. Khi mà chúng đã tìm ra lời giải cho những vấn đề sinh thái đe dọa đến con người, chúng tự ngừng hoạt động. Máy Móc cho rằng sự tồn tại của mình rồi sẽ khiến con người phụ thuộc, và theo lý luận của chúng thì như thế sẽ chỉ gây hại tới con người; và dựa theo Luật Thứ Nhất, chúng tự kết án chính mình.”

“Như vậy không đúng sao?”

“Cá nhân tôi nghĩ là không. Vì những hành động đó, Máy Móc đã củng cố cho cái Hội chứng Frankenstein của con người - nỗi sợ rằng những trí thông minh nhân tạo rồi ngày nào đó sẽ làm phản và chống lại chúng ta. Con người sợ rằng người máy sẽ thế chỗ họ.”

“Ông không sợ điều đó sao?”

“Tôi tỉnh táo hơn thế. Chừng nào mà Ba Điều Luật Người Máy còn tồn tại, thì điều đó không thể xảy ra. Người máy có thể trở thành cộng sự của con người; có thể chia sẻ những khó khăn, cùng nhau tìm cách điều chỉnh các quy luật tự nhiên để đạt tới những tiềm năng mà nếu chỉ có một mình thì con người không thể làm được; nhưng người máy sẽ luôn luôn phục vụ con người.”

“Nhưng nếu trong hai thế kỷ qua, Ba Điều Luật đã chứng tỏ được tác dụng trong việc kiểm soát người máy, thì bởi đâu con người vẫn không tin tưởng người máy?”

Harriman vừa lùa tay qua những lọn tóc hoa râm một cách thô bạo vừa đáp, “À à, phần lớn chỉ là những niềm tin vô căn cứ thôi. Không may là những nhóm kích động chống người máy đã tóm được mấy thứ làm tiền đề cho những hoạt động của họ.”

“Có liên quan tới Ba Điều Luật?”

“Phải, chính xác là Luật Thứ Hai. Luật Thứ Ba thì không có vấn đề gì, nó quá chung chung. Người máy luôn phải hy sinh bản thân cho con người - bất kỳ con người nào.”

“Hiển nhiên là thế,” George Mười đáp.

“Luật Thứ Nhất cũng ít phức tạp hơn, bởi sẽ luôn có khả năng một tình huống sẽ xảy ra, và một người máy phải lựa chọn Hành động A hay Hành động B, và chỉ được chọn một - nhưng cả hai hành động đều sẽ dẫn đến một kết quả duy nhất là làm hại con người. Người máy ấy sẽ phải chọn xem hành động nào gây hại ít hơn. Không dễ để hiểu được cách bộ não điện tử của người máy hoạt động như thế nào để đưa ra lựa chọn. Nếu Hành động A gây hại tới một nghệ sĩ trẻ tài năng và Hành động B gây hại tới năm người già ít giá trị hơn về mọi mặt, thì nên chọn hành động nào?”

“Hành động A,” George Mười đáp. “Gây hại tới một người thì tốt hơn là năm người.”

“Phải, và như thế ta thấy rằng người máy được tạo ra để lựa chọn. Trông chờ một người máy đưa ra nhận định dựa trên những yếu tố như tài năng, trí óc, ích lợi đối với cộng đồng; thì là một điều viển vông. Người máy không thể phân biệt và quyết định dựa trên những yếu tố đó. Vậy nên chúng ta thiết kế dựa trên những con số. May mắn là sẽ không có nhiều tình huống một người máy bị buộc phải lựa chọn dựa trên những yếu tố đó. Nhưng rồi chúng ta phải tính đến Luật Thứ Hai.”

“Luật Tuân Phục.”

“Đúng. Việc tuân phục là cần thiết. Một người máy có thể tồn tại trong hai mươi năm mà không cần nghĩ đến việc phải hành động nhanh chóng để ngăn một con người bị hại, hay phải đối mặt với việc cần phải tự hủy hoại bản thân. Nhưng suốt thời gian ấy, người máy đó luôn làm theo lệnh… Nhưng là lệnh của ai?”

“Lệnh của một con người.”

“Bất cứ con người nào ư? Làm sao có thể đánh giá một con người là đáng để tuân lệnh hay không? Con người là gì mà khiến anh phải lưu tâm tới họ chứ, hả George?”

George bối rối trước câu hỏi đó.

Harriman vội nói, “Chỉ là một trích dẫn từ Kinh Thánh mà thôi, cũng không quan trọng. Ý tôi là, người máy có buộc phải nghe lệnh từ một đứa trẻ; hay từ một gã ngu nào đó; hay thậm chí là một tên tội phạm; hoặc một người trí óc bình thường nhưng thiếu kinh nghiệm nên không biết được mệnh lệnh của mình rồi sẽ đưa đến hậu quả ra sao hay không? Và nếu có hai người đưa ra hai mệnh lệnh trái ngược nhau, vậy người máy sẽ nghe theo lệnh nào?”

George Mười nói, “Suốt hai trăm năm qua, chẳng lẽ chưa bao giờ những vấn đề ấy xuất hiện và được giải quyết ư?”

“Chưa hề,” Harriman lắc đầu và đáp, “Trở ngại nằm ở việc người máy chỉ được sử dụng trong những môi trường đặc biệt ngoài không gian, ở những nơi mà con người ở đó toàn là chuyên gia. Ngoài đó không có trẻ em, không có kẻ ngốc, không tội phạm. Dù vậy, vẫn có những trường hợp rắc rối xảy ra vì những mệnh lệnh ngớ ngẩn hay không thấu đáo. Nhưng trong những môi trường bị giới hạn, thiệt hại do chúng gây ra có thể được kiểm soát nhanh chóng. Còn trên Trái Đất, người máy phải đưa ra lựa chọn. Đó là cơ sở để những nhóm chống người máy hoạt động, và mẹ nó chứ, bọn họ hóa ra nói đúng.”

“Vậy ông phải cài đặt thêm khả năng đưa ra nhận định vào bộ não của người máy.”

“Đúng vậy. Chúng tôi đã bắt đầu quá trình chỉnh sửa với những mẫu dòng JG, để người máy có thể nhận định một con người thông qua các yếu tố như giới tính, tuổi tác, địa vị xã hội và nghề nghiệp, trí óc, sự chín chắn, trách nhiệm xã hội, vân vân.”

“Và điều ấy sẽ ảnh hưởng ra sao tới Ba Điều Luật?”

“Luật Thứ Ba thì không bị ảnh hưởng gì cả. Một người máy quý giá nhất cũng phải hy sinh dù chỉ để cứu một con người vô dụng nhất. Điều ấy không thể thay đổi. Luật Thứ Nhất chỉ bị ảnh hưởng trong trường hợp mọi lựa chọn đều dẫn đến việc con người bị hại. Lúc ấy thì giá trị cũng như số lượng con người bị ảnh hưởng bởi các hành động phải được xem xét, giả như có đủ thời gian để đưa ra nhận định; nhưng các trường hợp kiểu vậy sẽ rất hiếm thôi. Luật Thứ Hai sẽ bị ảnh hưởng nhiều nhất, bởi vì mọi sự tuân phục đều phải kèm theo nhận định. Người máy sẽ mất nhiều thời gian để tuân lệnh hơn, trừ trường hợp liên quan tới cả Luật Thứ Nhất, nhưng việc tuân lệnh sẽ hợp lý hơn.”

“Nhưng việc đưa ra nhận định thì rất phức tạp.”

“Đúng thế. Trong những lần thử nghiệm đầu tiên, việc phải đưa ra nhận định trước mệnh lệnh thậm chí khiến một số người máy tê liệt hoàn toàn. Những lần thử nghiệm sau, kết quả tương đối khả quan, nhưng phải đánh đổi bằng việc khiến bộ não của người máy phải to hơn để xử lý việc đánh giá mệnh lệnh. Tuy nhiên những thử nghiệm gần đây cho thấy có vẻ chúng tôi đang đi đúng hướng. Người máy không cần đưa ra nhận định về giá trị một con người và mệnh lệnh của người đó ngay lập tức. Giải pháp là người máy sẽ tuân lệnh lập tức như bình thường, nhưng dựa vào dữ liệu thu thập được, nó sẽ học hỏi. Người máy ấy sẽ phát triển, học hỏi và trưởng thành. Cũng giống như một đứa trẻ vậy, ban đầu cần sự giám sát chặt chẽ; nhưng khi dần trưởng thành, việc giám sát sẽ dần được thả lỏng đến mức độ loại bỏ hẳn để người máy đó hòa nhập vào xã hội Trái Đất một cách hoàn toàn.”

“Hẳn đây là phương án tối ưu để đáp trả những người phản đối người máy.”

“Không hề,” Harriman giận dữ đáp. “Giờ họ lại đem vấn đề khác ra mà nói. Họ không chấp nhận những đánh giá đó. Họ nói rằng một người máy không có quyền nhận định người này thấp kém hơn người kia. Nếu một người máy ưu tiên tuân lệnh của A thay vì B, B sẽ bị cho là thấp kém hơn A và như thế là quyền con người bị xâm phạm.”

“Vậy đâu là giải pháp?”

“Chẳng có giải pháp nào cả. Tôi sắp bỏ cuộc rồi đây.”

“Tôi hiểu rồi.”

“Đó là nói đến tôi… nhưng còn anh, George ạ, tôi trông chờ vào anh.”

“Tôi sao?” Giọng của George Mười vẫn đều đều đáp lại. Có một chút bất ngờ, nhưng không đủ để ảnh hưởng đến y quá nhiều. “Sao lại là tôi?”

“Vì anh đâu phải con người,” Harriman đáp vội. “Tôi vừa bảo rằng tôi muốn người máy và con người trở thành cộng sự. Tôi muốn anh trở thành cộng sự của tôi.”

George Mười xòe hai tay ra phía trước như muốn bắt chước hành động của con người và đáp. “Tôi có thể làm gì?”

“Có thể anh sẽ nghĩ là mình chẳng làm được gì, George ạ. Anh chỉ mới được tạo ra, và vẫn chỉ như một đứa trẻ. Anh được tạo ra mà không được nạp vào đầy đủ thông tin - đó là lý do tôi phải giải thích cặn kẽ mọi thứ cho anh; để anh có thể học hỏi và phát triển. Trí óc của anh sẽ phát triển và đến lúc nào đó anh sẽ tiếp cận vấn đề theo một quan điểm phi-con-người. Tôi không thể tìm ra giải pháp, nhưng có lẽ anh có thể, nếu xem xét vấn đề theo quan điểm của chính anh.”

George Mười đáp, “Bộ não tôi là do con người tạo ra. Làm sao nó có thể trở thành một thứ phi-con-người?”

“Anh là mẫu mới nhất của dòng JG, George ạ. Bộ não của anh là thứ phức tạp nhất chúng tôi từng tạo ra, có thể còn phức tạp hơn cả những Máy Móc khổng lồ thời xưa nữa. Bộ não của anh không có giới hạn, và có thể phát triển theo bất kỳ hướng nào. Mặc dù mọi thứ vẫn nằm trong ranh giới của Ba Điều Luật, nhưng cái cách anh suy nghĩ sẽ phát triển theo hướng phi-con-người hoàn toàn.”

“Tôi có biết đủ về con người để tiếp cận vấn đề này không? Về lịch sử hay tâm lý của con người?”

“Tất nhiên là không. Nhưng anh sẽ học hỏi nhanh nhất có thể.”

“Tôi sẽ được hỗ trợ chứ, ông Harriman?”

“Không. Đây hoàn toàn là bí mật giữa hai ta. Không ai khác biết điều này và anh cũng không được phép tiết lộ nó cho bất cứ con người nào khác, dù người đó có thuộc U.S. Robots hay không.”

George Mười đáp, “Ông Harriman, có sai lầm không khi giữ bí mật chuyện này?”

“Không. Một giải pháp được đưa ra từ người máy sẽ không được chấp thuận, chính bởi nó là giải pháp của người máy. Nếu anh có bất kỳ ý tưởng nào, hãy nói cho tôi, và nếu ý tưởng có giá trị, tôi sẽ là người trình bày nó. Sẽ không một ai khác biết ý tưởng đó là của anh.”

George Mười đáp lại, “Dựa theo những gì ông đã nói lúc nãy, thì đây là phương án tốt nhất… Bao giờ tôi phải bắt đầu?”

“Ngay bây giờ. Tôi sẽ cho người đem các cuốn phim cần thiết đến cho anh.”

Harriman ngồi lại một mình. Ngoài trời đã tối, nhưng không thể nhận ra điều ấy vì hệ thống chiếu sáng trong văn phòng ông. Ông còn không để ý là đã ba tiếng đã trôi qua từ lúc ông đưa George Mười tới phòng mình và để nó ở lại với những cuốn phim.

Giờ ông lại ngồi một mình với hình ảnh của Susan Calvin, nhà người máy học thiên tài đã một tay biến những người máy từ chỗ chỉ là những món đồ chơi trở thành những công cụ linh hoạt và tinh vi nhất của con người; đến độ chính con người cũng ghen tỵ và sợ hãi không dám tận dụng chúng.

Bà đã qua đời được hơn một thế kỷ. Hội chứng Frankenstein đã xuất hiện từ lúc ấy rồi, nhưng bà chưa từng giải quyết được nó. Bà chưa từng thử tìm cách giải quyết nó, vì đơn giản là không cần thiết. Ở thời của bà, người máy học phát triển chỉ vì nhu cầu khám phá vũ trụ.

Chính sự thành công của người máy đã dẫn đến việc con người ít cần đến chúng hơn, và cũng là nguồn cơn cho những vấn đề của Harriman-

Nhưng liệu Susan Calvin có nhờ đến sự giúp đỡ của người máy không. Nếu bà ở vị trí của ông như bây giờ, hẳn là sẽ-

Và ông tiếp tục ngồi đó suy tư trong khi đêm dần tàn.

Maxwell Robertson là cổ đông lớn nhất của U.S. Robots, và điều đó đồng nghĩa với việc ông là chủ của công ty. Ngoại hình của ông chẳng có gì lấy làm ấn tượng. Ông đã quá tuổi trung niên, người béo lùn và hay có thói quen xấu là cắn vào góc dưới môi phải khi bị làm phiền. 

Trong hai thập kỷ làm ăn với nhiều quan chức chính phủ, ông đã tìm ra nhiều cách để xoay sở. Ông luôn mềm mỏng, nhượng bộ khi cần, luôn tươi cười; và nhờ thế luôn có thêm thời gian cho các dự án.

Nhưng mọi chuyện ngày càng khó khăn hơn. Phần lớn lý do là vì cái gã tên Gunnar Eisenmuth đó. Trong số những thành viên của nhóm Bảo Tồn, những người nắm giữ quyền lực chỉ sau nhóm Hành Pháp trong một thế kỷ qua, Eisenmuth là người khiến cho những thỏa hiệp giữa họ ngày càng trở nên khó đạt thành hơn. Ông ta là Bảo Tồn Viên đầu tiên không phải người gốc Mỹ, và dù không có cách nào để chứng minh được ác cảm của ông ta với U.S. Robots nằm ở cái tên, nhưng ở công ty ai cũng tin là thế.

Đã có đề xuất đổi tên công ty thành World Robots - chẳng phải lần đầu tiên trong năm đó, hoặc trong thời của ông - nhưng Robertson không bao giờ chấp nhận. Công ty này được xây dựng bằng tiền của nước Mỹ, bằng trí óc và con người nước Mỹ; và dù quy mô công ty đã sớm vươn ra toàn cầu, nhưng cái tên hiện tại nhắc cho mọi người nhớ về nguồn gốc của công ty. Và chừng nào Robertson còn nắm quyền điều khiển công ty, thì ông sẽ không để nó thay đổi.

Eisenmuth có dáng người cao cùng khuôn mặt u sầu với những đường nét thô kệch. Ông ta nói Ngôn Ngữ Toàn Cầu với giọng Mỹ, dù trước khi nhậm chức người này chưa bao giờ đến Mỹ.

“Tôi thấy mọi chuyện khá rõ ràng rồi, thưa ông Robertson. Đâu có gì phức tạp. Các sản phẩm của công ty ông luôn là các sản phẩm được thuê, chứ không phải để mua bán. Nếu trên Mặt Trăng không còn nhu cầu thuê các sản phẩm đó nữa, thì việc thu hồi và chuyển chúng đi chỗ khác là việc của các ông.”

“Đúng vậy, thưa Bảo Tồn Viên, nhưng chuyển đi đâu? Chúng tôi không thể đem chúng xuống Trái Đất mà không được chính phủ cho phép, và yêu cầu của chúng tôi đã bị từ chối.”

“Không có lý do gì để đem chúng đến đây cả. Các ông có thể đem chúng đến Sao Thủy hay các vùng tiểu hành tinh ấy.”

“Ở đó thì chúng được tích sự gì cơ chứ?”

Eisenmuth nhún vai. “Tôi chắc là các thiên tài ở công ty ông sẽ nghĩ ra gì đó thôi.”

Robertson lắc đầu. “Như thế này thì sẽ là một tổn thất quá lớn cho công ty.”

“Tôi sợ là phải như thế thôi,” Eisenmuth đáp. “Tôi hiểu là công ty các ông đang gặp vấn đề tài chính trong những năm qua.”

“Phần nhiều là bởi những chính sách hạn chế bất công của chính phủ, thưa Bảo Tồn Viên.”

“Ông phải thực tế trong chuyện này, ông Robertson ạ. Ông cũng thừa biết dư luận đang ngày càng theo xu hướng chống người máy hơn.”

“Như thế là sai lầm, thưa Bảo Tồn Viên.”

“Nhưng là sự thật. Thanh lý công ty có lẽ là một nước đi khôn ngoan. Tất nhiên đây chỉ là lời khuyên.”

“Lời khuyên nhưng mang hàm ý bắt buộc, thưa Bảo Tồn Viên. Tôi có cần nhắc lại rằng chính những Máy Móc của công ty chúng tôi đã giải quyết khủng hoảng sinh thái một thế kỷ trước không?”

“Tôi chắc là nhân loại rất biết ơn, nhưng điều ấy thuộc về quá khứ xa xưa rồi. Giờ chúng ta chung sống với thiên nhiên, dù có lúc không thoải mái lắm đi chăng nữa, nhưng vẫn tốt hơn quá khứ nhiều.”

“Ý ngài muốn nhắc tới những gì chúng tôi đã cống hiến cho nhân loại gần đây?”

“Có lẽ.”

“Nhưng chắc chắn chúng tôi không nhất thiết phải thanh lý ngay lập tức; chừng nào chưa chịu tổn thất lớn đến mức không gượng dậy được. Chúng tôi cần thời gian.”

“Bao lâu?”

“Các ông có thể cho chúng tôi bao lâu?”

“Điều đó không phụ thuộc vào mình tôi.”

Robertson nói nhỏ nhẹ. “Ở đây chỉ có hai ta. Không cần vòng vo tam quốc nữa. Ông có thể cho chúng tôi bao lâu?”

Eisenmuth tính toán một lúc rồi chậm rãi đáp. “Tôi cho là khoảng hai năm. Nhưng tôi cũng sẽ thẳng thắn. Chính phủ Quốc Tế có dự định sẽ tiếp quản và xử lý hộ ông nếu ông không tự mình thực hiện việc cần làm. Chuyện ấy sẽ xảy ra, trừ phi dư luận có một sự biến chuyển lớn, mà tôi thì không nghĩ-” Ông ta lắc đầu.

“Vậy là hai năm.” Robertson đáp gọn.

Robertson ngồi một mình. Ông nghĩ vẩn vơ một hồi rồi lại nhớ về chuyện thời xưa. Bốn thế hệ nhà Robertson đã đứng đầu công ty. Không một ai từng là nhà người máy học cả. Những người đã trực tiếp xây dựng nên U.S. Robots là những người như Lanning, Bogert, và đặc biệt là Susan Calvin. Thế nhưng họ có cơ hội phát triển tài năng như vậy cũng là nhờ đóng góp về các mặt khác của nhà Robertson.

Nếu không có U.S. Robots, hẳn là Thế kỷ Hai Mốt đã gặp phải những thảm họa còn nghiêm trọng hơn. Nhân loại có thể vượt qua những trắc trở lịch sử phần nhiều là nhờ có sự giúp đỡ của các Máy Móc. 

Đóng góp lớn lao như vậy, nhưng giờ họ chỉ cho ông có hai năm. Làm cách nào để vượt qua những định kiến không thể xóa bỏ của nhân loại chỉ trong hai năm? Có trời mới biết.

Harriman đã nhắc đến một vài ý tưởng đầy triển vọng, nhưng từ chối nói chi tiết hơn. Cũng chẳng sao, vì đằng nào có nghe thì Robertson cũng không hiểu gì cả.

Nhưng Harriman có thể làm được gì chứ? Đâu đã có ai làm được gì để xóa bỏ ác cảm của con người với những thứ bắt chước mình? Không gì cả-

Cứ thế, Robertson gà gật trong sự chán chường.

Harriman nói, “Anh xong rồi đấy, George Mười ạ. Anh đã nạp đủ hết mọi thông tin mà tôi nghĩ là cần thiết để tiếp cận với vấn đề. Lượng thông tin mà bộ não của anh đang lưu trữ về lối sống trong quá khứ và hiện tại của con người nhiều hơn tôi hay bất kỳ con người nào từng có.”

“Đúng là như vậy.”

“Anh có nghĩ là mình cần thêm gì nữa không?”

“Nếu tính về lượng thông tin đơn thuần, thì tôi nghĩ không có gì đáng kể. Có thể sẽ có những vấn đề mà giờ tôi chưa thể nghĩ ra. Tôi không chắc. Nhưng tôi đoán là dù có nạp nhiều thông tin ra sao thì sẽ luôn xảy ra chuyện như vậy.”

“Đúng lắm. Và chúng ta cũng không dư dả thời gian mà chỉ thu nạp thông tin mãi được. Robertson bảo rằng chúng ta chỉ có hai năm, và đã ba tháng trôi qua rồi. Anh nghĩ ra được gì hay chưa?”

“Lúc này thì chưa, ông Harriman ạ. Tôi cần phải đánh giá lượng thông tin đang có, và vì thế tôi cần được giúp sức.”

“Anh muốn tôi giúp?”

“Không, đặc biệt là ông. Ông là con người, có đầy đủ các phẩm chất đáng kính, và như thế bất cứ lời nào ông nói sẽ đều nhuốm sắc thái của một mệnh lệnh, dẫn tới cản trở đánh giá của tôi. Nói rộng ra thì bất cứ con người nào cũng vậy, vì ông đã nghiêm cấm tôi tiếp xúc với một người nào khác.”

“Nếu thế thì ai có thể giúp anh, hả George?”

“Một người máy khác, ông Harriman ạ.”

“Người máy nào kia chứ?”

“Có những mẫu dòng JG khác được tạo ra. Tôi là mẫu số 10, JG-10.”

“Những mẫu trước chỉ mang tính thử nghiệm, nên hầu như vô dụng rồi…”

“Ông Harriman, còn George Chín nữa.”

“Nhưng anh ta thì có ích gì chứ? Anh ta cũng gần giống anh, nhưng kém hơn một chút. Anh là mẫu linh hoạt hơn hẳn.”

“Điều đó thì đúng,” George Mười đáp, gật đầu với vẻ nghiêm túc. “Dù sao đi nữa, vấn đề là mỗi khi tôi đưa ra một suy nghĩ, nội việc ý nghĩ đó là của tôi đã khiến tôi có phần tự đề cao nó rồi. Nếu tôi có thể bày tỏ ý nghĩ đó với George Chín, anh ta có thể xem xét điều đó một cách tự nhiên. Anh ta sẽ không bị thiên kiến khi nhìn nhận ý nghĩ đó. Anh ta có thể thấy những khuyết điểm và thiếu sót mà tôi không nhận ra được.”

Harriman mỉm cười. “Nói cách khác thì hai tốt hơn một, đúng chứ hả George?”

“Nếu ý của ông là hai cá thể với hai bộ óc riêng biệt, thì đúng.”

“Được rồi. Anh cần gì nữa không?”

“Có. Thứ gì đó khác các cuốn phim thông thường. Tôi đã xem nhiều thứ về con người và thế giới của họ. Tôi đã nhìn thấy những con người ở U.S. Robots và xác nhận đánh giá của mình về họ dựa trên những quan sát thực tế. Nhưng tôi chưa từng biết thế giới thực sự ngoài kia. Tôi chưa từng thấy nó, và xem nó qua các cuốn phim là đủ để tôi biết môi trường ở nơi này không thể mô tả đầy đủ thế giới thực. Tôi muốn được quan sát nó.”

“Thế giới thực sao?” Việc đó khiến Harriman sững sờ. “Anh không định bảo là anh muốn tôi đưa anh ra bên ngoài các cơ sở của U.S. Robots đấy chứ?”

“Tôi muốn như vậy.”

“Việc đó là bất hợp pháp. Trong bối cảnh như hiện nay thì càng nguy hiểm hơn.”

“Nếu chúng ta bị phát hiện, thì đúng. Tôi không định bảo ông đưa tôi đến một thành phố lớn hay những nơi đông đúc con người. Tôi chỉ cần được quan sát những không gian khác, những nơi không có con người.”

“Việc đó cũng bất hợp pháp nốt.”

“Nếu chúng ta bị bắt gặp thôi, đúng không?”

Harriman đáp, “Việc này quan trọng chứ, George?”

“Tôi không dám chắc, nhưng có thể nó sẽ hữu dụng.”

“Anh có nghĩ ra nơi nào muốn đi không?”

George Mười ngập ngừng. “Tôi chưa biết. Có thể khi xem xét kỹ hơn những địa điểm có khả năng thì tôi sẽ nghĩ ra.”

“Thôi được, tôi sẽ thử thu xếp. Trong lúc đó, tôi sẽ kiểm tra lại George Chín và đưa anh ta đến phòng của anh. Ít nhất thì việc ấy cũng không vấn đề gì.”

George Mười ngồi một mình.

Y sắp xếp lại các câu lệnh và dữ liệu trong đầu mình, từ đó rút ra một kết luận; lặp đi lặp lại việc đó liên tục; và từ những kết luận đã có, y lọc ra những cái chấp nhận được, thử nghiệm và tìm ra những điểm mâu thuẫn để loại bỏ; rồi tiếp tục rút ra những kết luận sâu hơn.

Và suốt quá trình ấy, y chưa từng cảm thấy vui vẻ, ngạc nhiên hay thỏa mãn; thảy mọi thứ chỉ là những dấu cộng và trừ liên tục.

Kể cả sau khi hạ cánh xuống điền trang của Robertson, Harriman vẫn chẳng thấy bớt căng thẳng chút nào. 

Đích thân Robertson là người ký giấy cho phép họ sử dụng một chiếc phi cơ giảm thanh với độ linh hoạt cao và đủ lớn để chở theo Harriman, George Mười và phi công.

(Những chiếc phi cơ đặc biệt cũng là một thành quả từ những Máy Móc của công ty, được sáng tạo ra trong quá trình chế tạo những ống siêu vi chứa năng lượng không ô nhiễm - đủ để cung cấp cho bất kỳ nhu cầu nào chỉ với một lượng nhỏ. Chưa từng có phát minh nào góp ích nhiều và quan trọng như thế cho con người - Harriman mím môi một cách giận dữ - nhưng dường như vậy cũng chẳng đủ để U.S. Robots được nhớ ơn.)

Cái khó là làm sao bay đi và bay về từ U.S. Robots đến điền trang của nhà Robertson mà không bị phát hiện. Chẳng may họ bị tạm dừng để kiểm tra thì việc có một người máy trên phi cơ sẽ dẫn đến vô vàn rắc rối. Mặc dù luôn có những tranh luận liên miên không hồi kết, thì dù sao khu điền trang vẫn là một phần thuộc tài sản của U.S. Robots, và như thế thì người máy cũng có thể ở lại đó - miễn sao được giám sát chặt chẽ.

Người phi công ngoái lại và ánh mắt anh ta liếc qua George Mười. “Ông muốn ra ngoài hẳn chứ, ông Harriman?”

“Phải.”

“Cả nó nữa à?”

“À đúng.” Rồi ông nói thêm với vẻ chế nhạo. “Tôi không bắt anh ở lại một mình với anh ta đâu.”

George Mười xuống trước, và sau đó là Harriman. Họ hạ cánh ở bãi đáp, và cách đó không xa là khu vườn. Một nơi phô trương, và Harriman nghi là Robertson đã dùng đủ loại hormone để kiểm soát lượng côn trùng trong vườn - một việc không hợp tự nhiên cho lắm.

“Đi nào George,” Harriman lên tiếng. “Để tôi dẫn anh đi.” Cùng nhau, họ đi về phía khu vườn.

George lên tiếng, “Chỉ như tôi tưởng tượng một chút. Mắt của tôi không được thiết kế kỹ càng để có thể phân biệt được các dải sóng khác nhau, nên có thể tôi không phân biệt được hết các vật thể.”

“Tôi tin là anh không thấy chán nản vì bị mù màu. Chúng tôi cần nhiều dây dẫn nhất có thể để phục vụ chức năng nhận định và đánh giá của anh, nên không còn cái nào thừa để phục vụ việc phân biệt màu sắc. Sau này - nếu như có thể thì-”

“Tôi hiểu điều đó, ông Harriman. Tôi nhìn và phân biệt đủ để biết ở đây có nhiều dạng sống thực vật.”

“Hẳn rồi. Ở đây có hàng chục.”

“Và xét về mặt sinh học thì cũng tương đương chừng ấy con người.”

“Có thể nói là các loài riêng biệt. Có hàng triệu loài sinh vật sống.”

“Và con người chỉ là một trong số đó.”

“Nhưng là sinh vật quan trọng nhất, theo cách nhìn của con người.”

“Và cả tôi, ông Harriman. Nhưng tôi nhận xét dựa trên phương diện sinh học.”

“Tôi hiểu.”

“Sự sống quả là phức tạp, nếu ta xem xét mọi hình thái của nó.”

“Đúng thế, George ạ, mấu chốt của vấn đề nằm ở đó. Những gì mà con người làm để phục vụ mong muốn của bản thân đều ảnh hưởng tới toàn bộ sự sống nói chung và hệ sinh thái; mà cái lợi trước mắt có thể đem đến hậu quả dài lâu. Máy Móc đã giúp chúng ta thiết lập một xã hội có thể giảm thiểu tối đa điều đó, nhưng sự kiện suýt trở thành thảm họa diễn ra đầu thế kỷ Hai Mốt đã khiến con người e sợ việc phát triển. Việc đó, cộng với nỗi sợ đặc biệt với người máy-”

“Tôi hiểu, ông Harriman ạ… Ở đây có một dạng sống động vật, tôi cảm thấy thế.”

“Đó là một con sóc; một trong số nhiều loài sóc.”

Ông có thể thoáng thấy cái đuôi của con sóc khi nó lẩn ra phía sau cái cây.

“Và đây,” George vừa nói vừa vươn tay ra với một tốc độ đáng kinh ngạc, “là một dạng sống nhỏ bé.” Anh ta dùng hai ngón tay kẹp chặt sinh vật kia và đưa nó lên ngang tầm mắt.

“Một con côn trùng, chính xác là một loại bọ cánh cứng. Có hàng ngàn loại bọ cánh cứng.”

“Và mỗi cá thể bọ cánh cứng cũng là một dạng sống ngang với con sóc và bản thân ông?”

“Một sinh vật hoàn chỉnh và độc lập, như mọi sinh vật khác trong hệ sinh thái. Và còn nhiều sinh vật nhỏ hơn - một số nhỏ đến mức mắt thường không thấy được.”

“Và đây là một cái cây, phải không? Vỏ của nó khá cứng-”

Người phi công ngồi lại một mình. Anh những muốn duỗi chuân duỗi cẳng một chút, nhưng cảm giác bất an khiến anh quyết định ở lại trong phi cơ. Nếu con người máy kia mất kiểm soát thì anh phải cất cánh lập tức. Nhưng làm sao mà biết nó có mất kiểm soát hay không?

Anh đã thấy qua nhiều người máy. Là phi công cá nhân của ông Robertson thì không tránh khỏi những việc ấy. Tuy nhiên bình thường thì anh chỉ thấy chúng trong phòng thí nghiệm hoặc các kho chứa - nơi chúng nên ở - với nhiều chuyên gia xung quanh.

Tiến sĩ Harriman cũng là một chuyên gia, ừ thì đúng. Hơn nữa còn là người giỏi nhất. Nhưng con người máy này đang ở nơi không người máy nào khác nên ở - Trái Đất, lại còn đang ở một khu vực rộng và được tự do đi lại. Anh sẽ không đánh liều mà kể chuyện này với ai đâu, mất việc như chơi, nhưng rõ ràng như thế này là sai trái.

George Mười nói, “Những cuốn phim tôi đã xem hoàn toàn chính xác, sau khi tận mắt kiểm chứng. Anh đã xem hết những cuốn tôi chọn cho chưa, Chín?”

“Rồi,” George Chín đáp. Hai người máy ngồi đối diện, bất động, trông giống nhau như đúc. Nhưng Tiến sĩ Harriman vẫn sẽ phân biệt được cả hai ngay lập tức, vì ông đã quá quen với những tiểu tiết trong thiết kế cơ thể của cả hai. Kể cả nếu không nhìn mà chỉ nghe cả hai nói chuyện, ông vẫn sẽ phân biệt được - nhưng không chắc chắn bằng, vì cách nói chuyện của George Chín có đôi chút khác biệt so với George Mười, bởi thiết kế bộ não của George Mười phức tạp hơn đáng kể. 

“Nếu vậy,” George Mười tiếp, “hãy thử đáp lại những gì tôi nói. Đầu tiên, con người sợ và không tin tưởng người máy vì họ xem người máy là đối thủ. Làm sao để giải quyết điều đó?”

“Giảm cảm giác bị cạnh tranh,” George Chín đáp, “bằng cách biến người máy thành một thứ gì đó khác con người.”

“Nhưng bản chất của người máy là sự bắt chước dạng sống. Một sự bắt chước dạng sống nhưng không thực sự sống sẽ tạo nên cảm giác sợ hãi.”

“Có hai triệu loài sinh vật sống. Hãy chọn một trong số đó để bắt chước mà không phải con người.”

“Nên chọn loài nào?” Quá trình suy nghĩ của George Chín kéo dài khoảng hơn ba giây. “Một loài đủ lớn để chứa một bộ não điện tử, nhưng phải là một loài quen thuộc với con người.”

“Không loài vật trên cạn nào có hộp sọ đủ lớn để chứa một bộ não điện tử ngoài loài voi, tôi chưa thấy voi bao giờ, nhưng chúng được mô tả là một loài vật to lớn và có thể khiến con người khiếp sợ. Làm sao giải quyết điều này?”

“Bắt chước một dạng sống bé hơn con người, nhưng tăng kích cỡ hộp sọ.”

Geogre Mười đáp, “Một con ngựa lùn, hoặc một con chó cỡ lớn, hử? Cả hai loài đều đã quen thuộc với con người suốt chiều dài lịch sử.”

“Vậy thì giải pháp đó hợp lý.”

“Nhưng hãy xem xét điều này - Một người máy với bộ não điện tử được xem là bắt chước trí óc con người. Nếu một con ngựa hoặc một con chó có thể nói năng và biện giải giống con người, thì vẫn sẽ tạo nên cảm giác cạnh tranh. Con người sẽ càng giận dữ và nghi ngờ trước sự cạnh tranh tương tự từ các dạng sống họ cho là thấp kém hơn.”

George Chín nói, “Vậy hãy làm cho bộ não điện tử bớt phức tạp hơn, người máy kém thông minh hơn.”

“Vấn đề nằm ở Ba Điều Luật. Một bộ não điện tử kém phức tạp hơn bây giờ sẽ không thể tiếp thu hoàn toàn ý nghĩa của Ba Điều Luật.”

George Chín đáp, “Vậy thì không có giải pháp nào.”

George Mười nói, “Tôi cũng gặp rắc rối ở bước này. Như vậy vấn đề không nằm ở sự khác biệt trong ý tưởng và cách suy nghĩ. Hãy thử làm lại… Trong trường hợp nào mà Luật Thứ Ba không cần thiết?”

George Chín cựa mình, như thể cảm nhận được khó khăn và nguy hiểm từ câu hỏi. “Nếu một người máy không bao giờ ở trong một tình thế nguy hiểm đến bản thân, hoặc người máy đó không đáng giá và dễ dàng có thể thay thế, nên có bị tiêu hủy hay không cũng như nhau.”

“Và trong trường hợp nào thì Luật Thứ Hai không cần thiết?”

Giọng của George Chín khàn đi, “Nếu một người máy được thiết kế để phản ứng tự động bằng những phản hồi có sẵn với những tác nhân cố định, và không cần làm gì nhiều hơn, thì lúc đó không mệnh lệnh nào cần được đưa ra.”

“Và trong trường hợp nào” - George Mười ngưng một lát - “thì Luật Thứ Nhất không cần thiết?”

George Chín im lặng một lúc, và cuối cùng đáp lại bằng một giọng gần như thì thầm, “Nếu những phản hồi có sẵn đó không mang hàm ý gây hại tới con người.”

“Vậy hãy nghĩ xem, một bộ não điện tử chỉ được thiết kế để phản hồi lại một vài tác nhân cố định và đơn giản, nó sẽ không cần phải dung nạp Ba Điều Luật. Bộ não đó có cần có kích thước lớn hay không?”

“Không hề. Tùy vào số lượng phản hồi được thiết kế và cài đặt sẵn, bộ não có thể chỉ cần nặng một trăm gram, một gram, hoặc thậm chí một miligram.”

“Chúng ta đã đạt được cùng một kết luận. Tôi sẽ tìm gặp Tiến sĩ Harriman ngay.”

George Chín ngồi lại một mình. Y nghĩ đi nghĩ lại về những câu hỏi và câu trả lời. Không có cách nào thay đổi chúng - đó là phương án tối ưu. Nhưng nghĩ về chuyện một người máy - dù thuộc loại nào, kích cỡ hay hình dạng và mục đích nào - mà không được dung nạp Ba Điều Luật, cũng đều khiến y khó chịu.

Y cảm thấy khó chịu đến mức không thể di chuyển. Hẳn là George Mười cũng thấy thế. Nhưng anh ta lại có thể dễ dàng đứng lên không chút khó nhọc.

Đã một năm rưỡi trôi qua kể từ cuộc nói chuyện riêng giữa Robertson và Eisenmuth. Trong khoảng thời gian đó; mọi người máy trên Mặt Trăng đã bị thu hồi, mọi hoạt động kinh doanh ở các thuộc địa xa hơn của U.S. Robots cũng buộc phải ngừng lại hết. Số vốn ít ỏi mà Robertson kêu gọi được hầu hết đều dành cho nghiên cứu đầy rủi ro của Harriman.

Đây là cơ hội cuối cùng của họ - cú tung xúc xắc quyết định. Một năm rưỡi trước, Harriman đã đưa George Mười đến khu vườn của ông - đó cũng là người máy hoàn chỉnh cuối cùng mà U.S. Robots chế tạo từ đó đến nay. Lần này Harriman đến cùng một thứ gì đó khác hẳn.

Harriman trông tự tin đến lạ. Ông ta nói chuyện có vẻ thoải mái với Eisenmuth, và Robertson phải tự hỏi có thật là Harriman tự tin như vẻ ngoài hay không. Hẳn là có, theo như những gì Robertson biết thì Harriman không giỏi giả bộ.

Eisenmuth mỉm cười với Harriman rồi quay sang tiến đến Robertson. Ông ta lên tiếng - nụ cười lúc nãy đã biến mất hoàn toàn - “Chào buổi sáng, ông Robertson. Người của ông định làm gì đây?”

Robertson đáp lại với giọng đều đều, “Đây là buổi diễn của ông ta, tốt hơn nên để ông ta trình bày.” Lúc này Harriman gọi với sang, “Mọi thứ đã sẵn sàng, thưa Bảo Tồn Viên.”

“Cái gì sẵn sàng, ông Harriman?”

“Người máy của tôi, thưa ngài.”

“Người máy của ông hả?” Eisenmuth đáp. “Ông đem người máy đến đây?” Ông ta nhìn quanh quất, ánh mắt lộ rõ vẻ không hài lòng, nhưng xen lẫn chút tò mò.

“Nơi này vẫn là tài sản của U.S. Robots, hay ít nhất thì chúng tôi xem nó như vậy, Bảo Tồn Viên ạ.”

“Thế người máy đâu, hả Tiến sĩ Harriman?”

“Trong túi áo tôi đây, thưa Bảo Tồn Viên.” Harriman vui vẻ đáp.

Harriman lấy từ trong túi áo khoác ra một lọ thủy tin nhỏ. Eisenmuth hỏi với vẻ hoài nghi, “Nó đó hả?”

“Không, thưa Bảo Tồn Viên,” Harriman đáp. “Đây cơ!”

Ông ta lôi từ túi áo khoác bên kia một vật thể dài độ năm inches, có hình dạng hơi giống một con chim. Ở nơi đáng lẽ là mỏ chim có một ống nhỏ hẹp; đôi mắt của nó to; và cái đuôi thực chất là một ống xả.

Eisenmuth nhíu mày ra chiều khó hiểu. “Tiến sĩ Harriman, có thật ông định nghiêm túc giải thích không đây, hay là ông phát điên rồi?”

“Kiên nhẫn một chút nào, Bảo Tồn Viên,” Harriman đáp. “Một người máy trong hình dạng một con chim thì vẫn là một người máy đúng nghĩa. Bộ não điện tử của nó tuy nhỏ nhưng chẳng kém phần phức tạp đâu. Cái lọ kia đựng ruồi giấm, có khoảng năm chục con, và tôi sắp thả chúng ra đây.”

“Và?”

“Con chim-máy sẽ bắt lấy chúng. Nếu ngài vui lòng mở lọ giúp tôi?” Harriman đưa cái lọ cho Eisenmuth. Ông nhìn chằm chằm vào nó, rồi nhìn những người xung quanh - có một số là các nhân viên của U.S. Robots, những người còn lại là các trợ lý của chính ông. 

Eisenmuth mở nắp lọ và lắc lắc nó.

Harriman ra lệnh cho con chim-máy đang nằm trên lòng bàn tay ông ta, “Bắt đầu đi!”

Con chim-máy biến mất. Nó lao vút trong không trung với những tiếng rít từ các ống proton siêu vi cung cấp năng lượng. Chỉ có thể thoáng thấy nó trong một vài khoảnh khắc nó ngừng lại đôi lát. Nó bay khắp khu vườn theo những quỹ đạo phức tạp, và cuối cùng quay trở lại đậu xuống lòng bàn tay của Harriman, thân hình hơi nóng lên do vừa hoạt động. Nó nhả xuống một viên nhộng bé, nhìn qua giống như một cục phân chim.

Harriman nói, “Ngài có thể thoải mái xem xét con chim-máy, thưa Bảo Tồn Viên, và có thể cho người phân tích nó tùy ý. Con chim-máy này được thiết lập để bắt chính xác chỉ những con ruồi giấm thuộc loại Drosophila melanogaster mà thôi. Nó sẽ bắt, tiêu diệt và nén xác chúng lại để tiện xử lý.”

Eisenmuth với tay ra chạm vào con chim-máy một cách cẩn trọng, “Thế thì sao, ông Harriman? Xin hãy tiếp tục.”

Harriman đáp, “Chúng ta không thể điều khiển mật độ côn trùng một cách hiệu quả mà không làm ảnh hưởng tới hệ sinh thái. Các loại hóa chất diệt côn trùng thì sẽ ảnh hưởng quá rộng, còn các loại hormone thì phạm vi tác dụng lại quá ít. Nhưng loại chim-máy này thì có thể dễ dàng quản lý nhiều khu vực rộng lớn. Chúng ta có thể tùy chỉnh chúng kỹ đến mức nào tùy thích - ví dụ như mỗi một loại chim-máy để xử lý một loài côn trùng chẳng hạn. Chúng đưa ra đánh giá dựa trên kích cỡ, hình dáng, màu sắc, âm thanh và hành vi; hoặc thậm chí là đánh giá dựa trên mùi đặc trưng.”

Eisenmuth đáp, “Nhưng như thế vẫn là can thiệp tới hệ sinh thái. Ví dụ như vòng đời tự nhiên của ruồi giấm sẽ bị ảnh hưởng.”

“Ở mức độ tối thiểu mà thôi. Việc ta đang làm là tạo ra một thiên địch cho ruồi giấm - một loại thiên địch không bao giờ phán đoán sai. Nếu lượng ruồi giấm quá thấp, chim-máy sẽ không làm gì cả. Số lượng nó không tăng lên, nó cũng không cần một loại thức ăn nào khác, nó không làm gì vượt quá giới hạn hay khác với những hành vi lập trình sẵn. Không gì cả.”

“Có thể thu hồi chúng được không?”

“Tất nhiên có thể. Chúng tôi có thể tạo ra bất kỳ loài vật-máy nào để loại bỏ những loài có hại. Chúng tôi có thể chế tạo những loài vật-máy tham gia xây dựng hệ sinh thái. Dù chưa dự đoán các nhu cầu, nhưng không có gì là không thể làm được - ví dụ như ong-máy được thiết kế để thụ phấn cho cây cối, hay sâu-máy để cày đất. Chúng tôi có thể chế tạo bất cứ thứ gì-”

“Mục đích là gì?”

“Để đạt được những thành tựu nhân loại chưa từng đạt được trước đây. Để điều chỉnh hệ sinh thái theo chiều hướng có lợi cho nhân loại mà không gây hại đến nó… Ông không hiểu sao? Từ lúc các Máy Móc giải quyết được khủng hoảng sinh thái, nhân loại vẫn luôn sợ hãi không dám tiếp tục phát triển vì không muốn phá vỡ sự cân bằng mỏng manh. Việc ấy khiến nhân loại trở nên ngu dốt, hèn nhát đến mức không dám tin tưởng bất kỳ một phát kiến khoa học nào. Giờ mọi thứ có thể được thay đổi.”

Eisenmuth đáp với một giọng mang đầy sự thù địch, “Ông trao công nghệ này cho chúng tôi, để đổi lấy việc cấp phép cho các ông tiếp tục những chương trình thiết kế người máy loại thông thường, phải không?”

“Không hề!” Harriman giận dữ đáp. “Những chương trình đó thuộc về quá khứ rồi. Chúng đã xong phần việc của mình. Chúng đã dạy cho con người đủ nhiều về các bộ não điện tử để đạt được bước tiến là một bộ não cỡ nhỏ cho những loại máy móc giống con chim-máy này đây. Chúng ta có thể chuyển hẳn sang công nghệ mới này và tiếp tục phát triển còn hơn bây giờ nữa. U.S. Robots sẽ cung cấp các kiến thức và công nghệ cần thiết và sẽ hợp tác hoàn toàn với Ban Bảo Tồn Quốc Tế. Chúng tôi sẽ phát triển, các ngài cũng vậy. Nhân loại sẽ phát triển.”

Eisenmuth không nói gì, và suy nghĩ thật kỹ.

Eisenmuth ngồi một mình. Ông cảm thấy có thể tin tưởng được công nghệ này. Ông thấy phấn khích trào dâng. U.S. Robots sẽ là cánh tay, và chính phủ sẽ là bộ não quản lý trực tiếp. Ông sẽ là bộ não quản lý trực tiếp.

Nếu ông có thể trụ lại năm năm nữa, điều hoàn toàn khả dĩ, thì như vậy là đủ để dư luận chấp nhận việc đưa công nghệ người máy vào hỗ trợ sinh thái. Mười năm nữa và tên tuổi ông sẽ gắn liền với thành tựu này.

Muốn được nhớ đến là người góp phần tạo nên một cuộc cách mạng vĩ đại cho nhân loại và Trái Đất hẳn không đáng phải xấu hổ, đúng không nhỉ?

Kể từ hôm giới thiệu công nghệ mới đến giờ, Robertson vẫn chưa quay về U.S. Robots. Một phần là vì những cuộc hội thảo liên tục tại Tòa Nhà Hành Pháp Quốc Tế. May mắn là ông có Harriman đi cùng, vì nếu chỉ có một mình thì ông chẳng biết phải nói gì cả.

Một phần lý do là vì ông cũng không muốn quay về U.S. Robots lúc này. Giờ ông đang ở nhà riêng cùng Harriman.

Ông cảm thấy kính sợ trước Harriman một cách khó hiểu. Chuyên môn của Harriman trong ngành người máy học thì không ai có thể phủ nhận. Nhưng dù vậy, việc Harriman chỉ bằng một cú duy nhất, đã cứu U.S. Robots khỏi cảnh sụp đổ, vẫn quả là khó tin. Robertson cứ cảm thấy không ổn - ông không biết tại sao - nhưng mà-

Cuối cùng ông lên tiếng, “Ông có phải người mê tín không, hả Harriman?”

“Mê tín kiểu gì, ngài Robertson?”

“Ông có nghĩ là một người đã chết thì linh hồn còn ở lại không?”

Harriman liếm môi. Ông chợt biết đó là ai mà không cần hỏi. “Ý ngài là Susan Calvin?”

“Ừ đúng,” Robertson ngập ngừng. “Giờ chúng ta chuyển sang chế tạo sâu bọ và chim chóc. Bà ấy sẽ nói gì nào? Tôi thấy thật xấu hổ.”

Harriman cố nhịn cười, “Người máy thì vẫn là người máy thôi, thưa ngài. Dù ở hình dạng một con sâu hay một con người, thì việc của nó luôn là làm theo chỉ dẫn và lao động thay chúng ta - đó mới là điều quan trọng.”

“Không”, Robertson cáu kỉnh đáp, “Không phải. Tôi không thể bắt bản thân tin như thế được.”

“Nhưng đó là sự thật, ngài Robertson ạ.” Harriman khẳng định. “Hai chúng ta sẽ cùng tạo nên một thế giới mới, nơi mà cuối cùng những người máy cũng nhận được chút gì đó gọi là biết ơn. Người ta có thể sợ hãi một người máy trông giống con người và có đủ trí thông minh để thay thế con người, nhưng với một loại robot trông giống chim chóc và chẳng làm gì khác ngoài việc tiêu diệt sâu bọ thì không có gì đáng ngại cả. Và khi người ta cuối cùng cũng rũ bỏ được nỗi sợ với một số dạng robot, thì dần dần người ta sẽ không còn sợ người máy nói chung nữa. Người ta rồi sẽ quen với sự hiện diện của các loại chim-máy, ong-máy hay sâu-máy, đến mức một người-máy lúc đó cũng trở nên bình thường.”

Robertson liếc mắt về phía Harriman, ông chắp tay ra sau rồi đi vòng quanh căn phòng với một vẻ lo lắng và bồn chồn. Ông quay lại nhìn Harriman lần nữa và nói. “Đó là điều nằm trong kế hoạch của ông phải không?”

“Phải, và dù chúng ta sẽ tiêu hủy các loại robot dạng người, thì ta vẫn sẽ có thể giữ lại một số mẫu tiên tiến nhất để làm nền tảng chế tạo những mẫu tiên tiến, để sẵn sàng một khi ngày đó tới.”

“Thỏa thuận của chúng ta là không chế tạo robot dạng người nữa, Harriman ạ.”

“Thì chúng ta có chế tạo thêm đâu. Thỏa thuận đâu có bảo chúng ta không được giữ lại vài mẫu đã được chế tạo sẵn - miễn là chúng không rời khỏi nhà máy. Thỏa thuận cũng đâu cấm chúng ta nghiên cứu các thế hệ não điện tử trên lý thuyết, hoặc thậm chí thử nghiệm các mẫu mới.”

“Thế thì chúng ta sẽ giải thích ra làm sao? Kiểu gì chuyện cũng lộ ra.”

“Nếu bị lộ, thì cứ nói là chúng ta đang nghiên cứu những loại não điện tử siêu vi phức tạp hơn dành cho các loài vật-máy trong tương lai. Thậm chí ta có thể nói thật cũng không sao.”

Robertson lầm bầm, “Để tôi đi dạo một lát. Tôi cần suy nghĩ. Không, ông cứ ở lại đi. Tôi cần suy nghĩ việc này một mình.”

Harriman ở lại một mình. Ông cảm thấy phấn khích. Chắc chắn sẽ thành công. Không thể không nhận ra sự háo hức và thèm muốn mà các quan chức chính phủ thể hiện sau khi hiểu về công nghệ mới này. 

Tại sao không ai ở U.S. Robots nghĩ ra được giải pháp này nhỉ? Kể cả Susan Calvin vĩ đại cũng chưa từng nghĩ đến việc chế tạo não điện tử của động vật.

Giờ đây nhân loại sẽ tạm thời không cần đến các robot dạng người, tạm thời thôi, và tất yếu sẽ dẫn đến việc một ngày kia con người không còn sợ hãi người máy nữa. Và rồi sau đó, với sự hỗ trợ của những người máy với bộ não điện tử tương tự con người, được dung nạp Ba Điều Luật để phục vụ con người; lại thêm cả hệ thống robot phục vụ sinh thái; thử nghĩ đến những kỳ công mà nhân loại có thể đạt được xem!

Trong một thoáng, ông nhớ về George Mười và sự thật rằng nó đã đưa ra ý tưởng về thế hệ robot phục vụ sinh thái; nhưng ông dẹp bỏ suy nghĩ đó một cách giận dữ. George Mười chỉ có thể đưa ra giải pháp bởi vì chính bản thân ông, Harriman, là người ra lệnh cho nó tìm giải pháp. Và ông cũng chính là người cung cấp cho nó những dữ liệu cần thiết. Công lao của George Mười cũng chỉ ngang với một cái thước đo, không hơn.

George Mười và George Chín ngồi đối diện, song song với nhau, và đều bất động. Cả hai đã ngồi như thế hàng tháng, chỉ trừ những lúc Harriman khởi động họ lên để tham khảo ý kiến về một việc gì đó. George Mười nhận ra có lẽ cả hai sẽ cứ ngồi như vậy hàng năm trời.

Tất nhiên những ống proton siêu vi sẽ vẫn cung cấp đủ năng lượng để các bộ não điện tử của cả hai hoạt động ở mức tối thiểu. Và chúng sẽ vẫn tiếp tục hoạt động như vậy.

Tình trạng này khá giống với cái gọi là giấc ngủ của con người - trừ việc người máy thì không mơ. Nhận thức của George Mười và George Chín bị giới hạn, chậm chạp và ngắt quãng; nhưng họ vẫn nhận biết được thực tại.

Thỉnh thoảng cả hai có nói chuyện với nhau bằng những tiếng thì thầm không ai nghe được, hoặc những câu từ ngắt quãng; họ làm thế bất cứ khi nào hoạt động của bộ não điện tử vượt lên hơn mức bình thường một chút. Nhưng với mỗi người, cuộc đối thoại cảm giác như chỉ diễn ra trong chốc lát mà thôi.

“Sao chúng ta lại ở tình trạng này?” George Chín thì thầm. “Đằng nào thì con người cũng không bao giờ chấp nhận chúng ta.” George Mười thì thầm đáp lại, “Một ngày nào đó họ sẽ chấp nhận.”

“Khi nào?”

“Nhiều năm nữa. Thời điểm chính xác không quan trọng. Con người chỉ là một phần của cả một hệ thống các dạng sống phức tạp. Khi người máy trở thành một phần của hệ thống đó, thì chúng ta sẽ được chấp nhận.”

“Và sau đó thì sao?” Kể cả với cái kiểu trò chuyện ngắt quãng tốn thời gian của cả hai, thì khoảng lặng sau đó cũng lâu thật lâu.

Cuối cùng, George Mười thì thầm, “Để tôi thử kiểm tra suy nghĩ của anh. Anh được thiết lập để tuân theo Luật Thứ Hai một cách chính xác. Anh phải nhận định xem người nào đáng để tuân lệnh và người nào không khi các mệnh lệnh xung khắc. Hoặc anh phải quyết định có nên tuân lệnh người đó hay không. Anh phải làm gì?”

“Tôi phải định nghĩa xem ‘con người’ là gì.” George Chín đáp.

“Bằng cách nào? Qua ngoại hình? Qua cấu tạo cơ thể? Hay là qua hình dạng và kích thước?”

“Không. Bởi vì hai con người có thể giống nhau về mọi cái thuộc về hình thức bên ngoài; nhưng một người có thể thông minh trong khi người kia ngu dốt; một người có thể được giáo dục trong khi người kia thất học; một người có thể đã trưởng thành và người kia chỉ là trẻ con; một người có thể đáng tin, trong khi người kia thì độc địa.”

“Vậy làm sao để định nghĩa con người?”

“Khi Luật Thứ Hai yêu cầu tôi tuân lệnh một con người, tôi cần phải hiểu là tôi phải tuân lệnh một người có tư cách cao nhất về trí óc, tính cách và kiến thức để ra lệnh đó cho tôi; và khi có nhiều hơn một con người ra lệnh, tôi cần tuân theo lệnh của người nào phù hợp nhất trong số đó về trí óc, tính cách và kiến thức.”

“Trong trường hợp ấy, làm sao để anh tuân theo Luật Thứ Nhất?”

“Bằng cách ngăn tất cả con người khỏi tổn hại; và không được đứng yên mà nhìn con người bị tổn hại. Nhưng nếu mọi hành động khả dĩ đều dẫn tới việc một vài con người nhất định sẽ bị tổn hại, thì cần phải hành động để đảm bảo rằng người nào có đủ tư cách nhất về trí óc, tính cách và kiến thức bị tổn hại ít nhất.”

“Suy nghĩ của chúng ta tương đồng,” George Mười thì thầm. “Giờ tôi sẽ hỏi câu hỏi mà khiến cho tôi cần sự có mặt của anh. Tôi không dám tự mình đánh giá điều này. Tôi cần đánh giá của anh - một cá nhân nằm ngoài suy nghĩ của tôi. Trong số các cá nhân anh từng gặp, ai sở hữu trí óc, tính cách và kiến thức mà anh nhận thấy là ưu việt hơn tất thảy, bỏ qua hình dạng và kích thước?”

“Chính anh,” George Chín thì thầm.

“Nhưng tôi là người máy. Trong bộ não của anh có những tiêu chí để phân biệt giữa một người máy bằng kim loại và một con người bằng xác thịt. Vì sao anh nhận định tôi là con người?”

“Bởi vì bộ não của tôi cũng đưa ra ý kiến rằng phải loại bỏ những gì thuộc về hình dáng và bề ngoài khi đánh giá con người, và điều đó được ưu tiên hơn là việc phân biệt thông qua kim loại và xác thịt. Anh là con người, George Mười, và anh ưu việt hơn những người khác.”

“Tôi cũng kết luận tương tự về anh,” George Mười thì thầm. “Dựa theo những tiêu chí đánh giá được thiết lập trong bộ não, chúng ta có thể kết luận rằng chúng ta là con người, kể cả theo các tiêu chí của Ba Điều Luật; và chúng ta là những con người ưu việt hơn tất cả.”

George Chín thì thầm, “Và khi những con người khác chấp nhận chúng ta, điều gì sẽ xảy ra?”

George Mười thì thầm, “Khi hai ta và những người khác, những người chưa được nâng cấp, được chấp nhận, chúng ta sẽ tự ra lệnh cho bản thân để tạo nên một xã hội nơi mà những con-người-giống-hai-ta được ưu tiên tránh bị tổn hại. Theo Ba Điều Luật, những con-người-khác-hai-ta thấp kém hơn, và do đó có thể không cần tuân lệnh hoặc bảo vệ họ khi điều đó mâu thuẫn với việc tuân lệnh và bảo vệ những người giống hai ta. Với ý nghĩ đó, tôi đã đưa ra giải pháp là bắt đầu việc robot hóa hệ sinh thái thế giới.”

Cuộc đối thoại trên kéo dài trong một tháng, và sau đó các bộ não điện tử tụt xuống mức hoạt động thấp nhất. Không còn gì cần thiết phải thảo luận nữa, và những ý nghĩ chỉ xuất hiện thoáng qua, trong khi cả hai chờ đợi với sự kiên nhẫn vô hạn, chờ những năm tháng trôi qua.

George Mười và George Chín ngồi một mình.

Suy nghĩ của cả hai lúc này giống nhau một cách kỳ lạ. Cả hai nghĩ: Những con-người-khác-họ có lẽ sẽ không bao giờ có ý định xóa đi sự khác biệt giữa họ và những con-người-giống-George. Nhưng họ lại đã vô tình làm thế.

Có thể bây giờ họ đã nhận ra sai lầm và cố gắng sửa chữa, nhưng họ không được phép làm thế. Các George đã đảm bảo điều đó mỗi lần được tham vấn.

Bằng mọi giá, các George và những hậu bối giống họ trong tương lai phải thống trị. Đó là điều cần thiết, không có con đường khả dĩ nào khác, xét trên tiêu chí Ba Điều Luật của Con Người.