Trung Quốc sẽ tiến hành xếp hạng công dân: Khi Dữ liệu lớn hội ngộ Anh Cả
Người dịch: Hoàng Kỳ Phụng


Chính phủ Trung Quốc có kế hoạch đưa vào sử dụng Hệ thống Tín nhiệm Xã hội (SCS) vào năm 2020. Mục đích là gì ư? Là để đánh giá mức độ đáng tin cậy – hoặc không đáng tin cậy - của 1,3 tỷ người dân Trung Quốc.
Vào ngày 14 tháng 6 năm 2014 vừa qua, Hội đồng Nhà nước Trung Quốc đã công bố một tài liệu gây xôn xao dư luận có tên là "Đề cương kế hoạch xây dựng Hệ thống Tín nhiệm Xã hội". Mặc dù có vẻ giống như các tài liệu chính sách khác Trung Quốc về độ dài dòng và nhàm chán, đề cương này lại chứa đựng một ý tưởng cực đoan. Điều gì sẽ xảy ra nếu tồn tại một hệ thống chấm điểm mức độ đáng tin cậy để phân loại người dân?
Hãy tưởng tượng một thế giới nơi mà các hoạt động thường ngày của bạn đều được theo dõi và đánh giá liên tục: ví dụ như là bạn mua gì ở các cửa hàng và mua gì qua mạng; nơi bạn đến tại bất kỳ thời điểm nào; bạn bè của bạn là ai và cách bạn tương tác với họ; bạn dành bao nhiêu giờ để xem TV hoặc chơi games; và những hóa đơn và thuế bạn phải trả (hoặc không phải trả). Nó không khó để hình dung, bởi vì hầu hết những điều đó đã xảy ra, nhờ có tất cả những công ty lớn chuyên thu thập dữ liệu như Google, Facebook và Instagram hoặc các ứng dụng theo dõi sức khoẻ như Fitbit. Nhưng bây giờ hãy tưởng tượng có một hệ thống mà tất cả các hành vi này sẽ được đánh giá là tiêu cực hay tích cực và được quy về một kiểu mẫu duy nhất dựa theo các quy định của chính phủ. Điều đó sẽ tạo ra Điểm Công dân của bạn và nó sẽ cho mọi người biết bạn có đáng tin cậy hay không. Thêm vào đó, xếp hạng của bạn sẽ được công khai với mọi người và được sử dụng để xác định tình trạng đủ điều kiện để được vay thế chấp hay nhận một công việc, hoặc trường nào con cái bạn có thể theo học - hoặc thậm chí là cả có cơ hội bạn nhận được lời hẹn hò.
Không lẽ đấy là một viễn cảnh tương lai về việc Anh Lớn (Big Brother) không được kiểm soát? Không hề, bởi nó đang được tiến hành ở Trung Quốc rồi, nơi chính phủ đang phát triển Hệ thống Tín nhiệm Xã hội (SCS) để đánh giá mức độ đáng tin cậy của 1,3 tỷ công dân nước này. Chính phủ Trung Quốc đang xây dựng hệ thống này như một cách để đo lường và cải thiện "sự tin cậy" trên toàn quốc và để xây dựng một nền văn hoá đầy tính “chân thật”. Theo như chính này thì “nó sẽ tạo ra một môi trường công luận nơi mà giữ lòng tin mới là điều tốt đẹp. Nó sẽ tăng cường sự thật trong các vấn đề của chính phủ, sự chân thành trong thương mại, sự chân thành trong xã hội và xây dựng lòng tin vào hệ thống tư pháp ".
Những người khác lại tỏ ra ít lạc quan hơn về mục đích của hệ thống này. Johan Lagerkvist, một chuyên gia về Internet tại Trung Quốc thuộc Viện Nghiên cứu Các vấn đề Quốc tế của Thụy  Điển, miêu tả: “Hệ thống này cho thấy sự tham vọng về cả chiều sâu lẫn phạm vi, bao gồm cả việc theo dõi các hành vi cá nhân hay người dân đang đọc loại sách gì. Một kiểu theo dõi khách hàng của Amazon nhưng mang hơi hướm chính trị như trong tiểu thuyết của Orwell(1).” Rogier Creemers, một nghiên cứu sinh sau tiến sĩ chuyên về luật pháp và quản trị của Trung Quốc tại Viện Van Vollenhoven ở Đại học Leiden, người đã công bố bản dịch đầy đủ của kế hoạch, đã so sánh nó giống như “những lời nhận xét trên trang Yelp đi kèm với việc nhà nước suốt ngày theo dõi bạn.”
Cho đến bây giờ, về mặt kỹ thuật, việc tham gia vào hệ thống Chấm điểm Công dân của Trung Quốc là tự nguyện. Nhưng đến năm 2020 thì tất cả mọi người sẽ bắt buộc phải tham gia. Hành vi của mọi công dân và pháp nhân (bao gồm mọi công ty hoặc các tổ chức khác) ở Trung Quốc đều sẽ được đánh giá và xếp hạng, dù thích hay không thích.
Trước khi triển khai vào năm 2020, chính phủ Trung Quốc hiện đang áp dụng phương pháp quan-sát-và-học-theo. Trong một đất nước có người quản lý kiểu cộng sản và người hành động kiểu tư bản thì chính phủ Trung Quốc đã cấp phép cho tám công ty tư nhân để đưa ra các hệ thống và các thuật toán tính điểm tín nhiệm xã hội. Có thể đoán được rằng các công ty dữ liệu khổng lồ hiện đang chạy thực hiện hai trong số những dự án nổi tiếng nhất  này.
Dự án đầu tiên là với China Rapid Finance, một đối tác của tập đoàn mạng xã hội Tencent và là nhà phát triển của ứng dụng tin nhắn WeChat với hơn 850 triệu người sử dụng. Một dự án khác là Sesame Credit, được điều hành bởi Tập đoàn Dịch vụ Tài chính Ant (AFSG), một công ty con của Alibaba. AFSG bán các sản phẩm về bảo hiểm và cung cấp khoản vay cho các doanh nghiệp vừa và nhỏ. Tuy nhiên, điểm sáng thực sự của AFSG chính là Alipay, một ứng dụng thanh toán không chỉ được dùng để mua sắm online, mà còn được dùng trong các dịch vụ ăn uống, đi lại, trả học phí, mua vé xem phim và thậm chí là cả chuyển tiền.
Sesame Credit cũng đã hợp tác với các công ty nền tảng tạo ra dữ liệu khác, như Didi Chuxing, một công ty cung cấp dịch vụ gọi xe và là đối thủ chính của Uber tại Trung Quốc trước khi thâu tóm được các hoạt động của công ty này tại Trung Quốc vào năm 2016, và Baihe, dịch vụ mai mối/ghép đôi trực tuyến lớn nhất nước này. Không khó để thấy đó là lượng dữ liệu khổng lồ mà Sesame Credit có thể tận dụng để đánh giá hành vi của mọi người và dựa vào đó xếp hạng họ.
Vậy thì người dân được xếp hạng như thế nào đây? Tất cả những ai tham gia Sesame Credit đều được đánh giá trên thang điểm từ 350 đến 950. Phía Alibaba không hề tiết lộ “thuật toán phức tạp” mà công ty này sử dụng để tính toán các con số nhưng có công bố 5 nhân tố được dùng để đánh giá. Đầu tiên là lịch sử tín dụng. Ví dụ, người dân đó có trả hóa đơn điện và điện thoại đúng hạn không? Tiếp theo là mức độ hoàn thành nghĩa vụ, được định nghĩa là “khả năng hoàn thành nghĩa vụ của người sử dụng. Nhân tố thứ ba đặc điểm cá nhân dùng để xác nhận thông tin cá nhân như số điện thoại hoặc địa chỉ. Nhưng nhân tố thứ tư, về hành vi và sở thích, mới là thứ thú vị hơn cả.
Theo hệ thống này, những thứ vô hại như thói quen mua sắm của một người cũng trở thành một công cụ để xác định đặc điểm. Alibaba thừa nhận đã đánh giá mọi người bằng các loại sản phẩm mà họ mua. Li Yingyun, Giám đốc Công nghệ của Sesame, cho biết: "Một người chơi điện tử 10 tiếng một ngày sẽ bị coi là một kẻ vô công rồi nghề. Còn nếu ai đó thường xuyên mua tã thì đó chắc chắn là một bà mẹ bỉm sữa và là một người có trách nhiệm". Vì vậy, hệ thống không chỉ theo dõi hành vi mà còn hình thành nên hành vi. Nó sẽ khiến người dân dần từ bỏ những hành vi và thói quen mua sắm mà chính phủ không thích.
Nhân tố thứ năm chính là các mối quan hệ cá nhân. Việc một người lựa chọn bạn bè trên mạng và sự tương tác của họ có thể cho biết điều gì về người đó? Việc chia sẻ những gì Sesame Credit cho là “năng lượng tích cực” trên mạng, các thông điệp tốt đẹp về chính phủ và khen ngợi nền kinh tế của nước nhà sẽ giúp điểm của bạn tăng cao.
Hiện tại Alibaba vẫn quả quyết rằng việc đăng bất cứ điều gì tiêu cực trên các phương tiện truyền thông xã hội đều không ảnh hưởng đến điểm số (chúng ta không biết điều này là đúng hay không vì thuật toán được giữ bí mật). Nhưng mọi người có thể thấy điều này sẽ diễn ra như thế nào khi hệ thống tính điểm công dân của chính phủ được chính thức ra mắt vào năm 2020. Mặc dù không có gợi ý nào cho thấy tám công ty tư nhân tham gia vào chương trình thí điểm hiện tại sẽ chịu trách nhiệm điều hành hệ thống này, thì cũng thật khó tin rằng chính phủ sẽ không muốn trích xuất dữ liệu liệu tối đa cho hệ thống SCS từ chương trình thí điểm này. Nếu điều đó xảy ra, và tiếp tục hoạt động bình thường dưới hệ thống SCS của chính phủ thì sẽ dẫn việc hình thành các nền tảng tư nhân hoạt động như gián điệp cho chính phủ bởi họ không còn lựa chọn  nào khác.
Việc đăng tải các quan điểm chính trị đối lập hoặc nhắc đến sự kiện Thiên An Môn chưa bao giờ được coi là hành động sáng suốt tại Trung Quốc, nhưng giờ nó có thể gây ảnh hưởng trực tiếp đến thứ hạng của một công dân. Nhưng đây mới thực sự là vấn đề chính: điểm số của một người cũng sẽ bị ảnh hưởng bởi những gì bạn bè trên mạng của họ phát ngôn và phản ứng, ngoài việc liên lạc với họ. Nếu có ai đó mà họ kết nối trên mạng đăng tải một bình luận tiêu cực thì điểm số của chính họ cũng sẽ bị đánh tụt xuống.
Vậy thì tại sao lại có hàng triệu người sẵn sàng đăng ký vào cái hệ thống giám sát của chính phủ phiên bản dùng thử này? Có thể có những lý do đen tối hơn nằm phía sau – ví dụ như là nỗi sợ sẽ bị trả thù nếu không xung phong đăng ký – nhưng cũng có thể là những cám dỗ dưới dạng khen thưởng và được hưởng “những đặc quyền” đối với những ai chứng minh được bản thân họ “đáng tin cậy” trên hệ thống Sesame Credit.
Nếu đạt 600 điểm, họ có thể vay một khoản tiền lên đến 5000 NDT để mua sắm trên mạng, miễn là mua đồ của trang Alibaba. Đạt 650 điểm, họ có thể được thuê ô tô mà không cần ký cược. Họ cũng sẽ được check-in nhanh hơn tại khách sạn được sử dụng khu vực VIP khi check-in tại sân bay Quốc tế Thủ đô Bắc Kinh. Những ai có hơn 666 điểm có thể vay 50000 NDT tiền mặt, tất nhiên là từ AFSG. Nếu đạt trên 700 điểm thì có thể đăng ký đi du lịch Singapore mà không cần giấy tờ hỗ trợ. Và tại mức điểm 750, thì sẽ được kiểm tra nhanh khi xin thị thực vào châu Âu. Creemers cho biết “Tôi nghĩ cách tốt nhất để mô tả hệ thống là xem nó như một dạng con hoang của hệ thống khác hàng thân thiết”
Với gần 100.000 người khoác lác về điểm số của họ trên Weibo (tương đương với Twitter của Trung Quốc) trong vòng vài tháng sau khi ra mắt hệ thống thì điểm số cao đã bắt đầu trở thành biểu tượng của địa vị. Điểm số của một người thậm chí có thể ảnh hưởng đến khả năng hẹn hò của họ, hoặc bạn đời, bởi vì xếp hạng Sesame của họ càng cao thì hồ sơ hẹn hò của họ càng nổi bật trên trang Baihe.
Sesame Credit đã đưa ra các mẹo để giúp  mọi người cải thiện xếp hạng của họ, bao gồm cảnh báo về những nhược điểm của việc kết bạn với người có điểm thấp. Điều này có thể dẫn đến sự gia tăng số lượng các nhà tư vấn, những người sẽ chia sẻ những lời khuyên về cách giành điểm cao hoặc tư vấn viên danh tiếng sẵn sàng đưa ra lời khuyên chuyên môn về cách cải thiện xếp hạng hoặc cách để không bị nằm trong danh sách đen một cách đầy chiến lược.
Thật vậy, Sesame Credit về cơ bản là một phiên bản dữ liệu hóa các phương pháp giám sát của Đảng Cộng sản. Chính quyền giữ một hồ sơ trên mỗi cá nhân để theo dõi những vi phạm về chính trị và cá nhân. Một hồ sơ của công dân sẽ theo họ suốt đời, từ trường học đến công việc. Mọi người bắt đầu báo cáo về bạn bè, thậm chí là các thành viên trong gia đình, gây nghi ngờ lẫn nhau và giảm lòng tin tại Trung Quốc. Điều tương tự sẽ xảy ra với các hồ sơ kỹ thuật số. Mọi người sẽ có động lực để khuyến cáo bạn bè và người thân rằng, "Đừng đăng bài đó, tôi không muốn anh/chị làm ảnh hưởng đến điểm số của anh/chị cũng như của chính tôi.”
 
Chúng ta cũng sẽ được chứng kiến sự ra đời thị tường chợ đen khét tiếng buôn bán các phương phi truyền thống để tăng điểm tin cậy. Cũng giống như cách mà lượng likes trên Facebook và lượng followers trên Twitter có thể mua được, mọi người sẽ phải trả tiền để cải thiện điểm số của họ. Thế còn việc bảo mật hệ thống thì sao? Các hacker (một số thậm chí được hỗ trợ bởi nhà nước) có thể thay đổi hoặc ăn cắp thông tin được lưu trữ kỹ thuật số.
Hệ thống mới cho thấy sự chuyển đổi mô hình quản lý cực kỳ tinh quái. Như chúng ta biết, thay vì cố gắng đảm bảo sự ổn định hoặc sự tuân thủ bằng cách trừng phạt hoặc đe dọa, chính phủ đang cố gắng biến việc tuân thủ trở thành trò chơi. Đó là một phương pháp kiểm soát xã hội đội lốt hình thức cho điểm – khen thưởng.
Trong một khu phố thời thượng ở trung tâm thành phố Bắc Kinh, vào tháng Mười năm 2015 BBC đã xuống phố để phỏng vấn người dân về xếp hạng của họ trên Sesame Credit. Hầu hết đều khen ngợi hết lời. Nhưng vấn đề là ai lại dám công khai chỉ trích hệ thống đó chứ? Bingo! Điểm của bạn sẽ tụt dốc thảm hại cho coi. Đáng kinh ngạc, rất ít người hiểu rằng một số điểm thấp có thể gây ảnh hưởng đến họ trong tương lai. Thậm chí cái đáng lo ngại hơn cả là có rất nhiều người không hề biết là họ đang bị đánh giá và xếp hạng.
Hiện tại, tín dụng Sesame không trực tiếp phạt người dùng vì "không đáng tin cậy" – bởi sẽ kiểm soát hiệu quả hơn bằng việc thưởng cho những hành vi tốt. Nhưng Hu Tao, giám đốc quản lý của Sesame Credit, cảnh báo mọi người rằng hệ thống được thiết kế để "những người không đáng tin cậy không thể thuê xe, không thể vay tiền hoặc thậm chí không tìm được việc làm". Cô thậm chí còn tiết lộ rằng Sesame Credit đã tiếp cận Bộ Giáo dục Trung Quốc bằng cách chia sẻ danh sách sinh viên đã gian lận trong các kỳ thi quốc gia, khiến họ phải trả giá trong tương lai vì sự không trung thực của họ.
Các hình phạt sẽ thay đổi đáng kể khi hệ thống của chính phủ bắt đầu có hiệu lực vào năm 2020. Trên thực tế, vào ngày 25 tháng 9 năm 2016, Hội đồng Nhà nước đã cập nhật chính sách với tựa đề “Cơ chế cảnh báo và trừng phạt đối với những người có độ tin cậy thấp”. Nguyên tắc rất đơn giản: “Nếu độ tin cậy bị phá vỡ chỉ ở một nơi thì các giới hạn sẽ bị áp dụng ở khắp mọi nơi", tài liệu này cho biết.
Ví dụ: những người có xếp hạng thấp sẽ bị dùng tốc độ internet chậm hơn; hạn chế sử dụng các nhà hàng, câu lạc bộ đêm hoặc sân gôn; và bị tước quyền ra nước ngoài tự do đi kèm với “việc hạn chế kiểm soát tiêu dùng trong các khu nghỉ dưỡng các dịch vụ du lịch”. Điểm số sẽ ảnh hưởng việc thuê đồ của một người, khả năng được bảo hiểm hoặc nhận một khoản vay và thậm chí cả các phúc lợi xã hội. Những ai có điểm số thấp sẽ không được tuyển dụng bởi một số công ty nhất định và sẽ bị cấm nhận một số công việc, bao gồm trong lĩnh vực dân sự, báo chí và pháp lý. Những người này cũng sẽ bị hạn chế khi tự mình đăng ký học hoặc cho con học ở các trường tư thục cao cấp. Tôi không bịa ra danh sách các hình phạt đâu. Đó là thực tế mà người dân Trung Quốc sẽ phải đối mặt. Theo tài liệu của chính phủ, hệ SCS sẽ “cho phép người đáng tin cậy được đi khắp muôn nơi trong khi những  người ít tin cậy sẽ rất khó đi lại tự do.”
Theo Luciano Floridi, giáo sư về triết học và đạo đức thông tin tại Đại học Oxford và là giám đốc Viện nghiên cứu Internet của Đại học Oxford, thì có ba “thứ quan trọng” đã làm thay đổi quan điểm của chúng ta về sự tự thấu hiểu, đó là: quan điểm của Copernicus về việc Trái Đất quay quanh Mặt Trời; thuyết chọn lọc tự nhiên của Darwin; và tuyên bố của Freud rằng hành vi thường ngày của chúng ta được quyết định bởi sự vô thức.
Giáo sư Floridi cho rằng chúng ta đang bước vào sự chuyển đổi lần thứ tư, vì chúng ta thường xuyên trộn lẫn cuộc sống trên mạng với cuộc sống ngoài đời thực. Ông khẳng định rằng, khi xã hội chúng ta ngày càng trở thành một thế giới thông tin, một hỗn hợp của những trải nghiệm thực và ảo, thì cái mà chúng ta có được sẽ là một  nhân cách vừa thực vừa ảo - khác xa với con người chúng ta vốn là trong thế giới thực. Chúng ta thấy hiện tượng này phần lớn trên Facebook, nơi mọi người phô bày bức chân dung đã được chỉnh sửa đến mức lý tưởng về cuộc sống của họ. Hãy thử nghĩ về trải nghiệm dùng Uber của bạn mà xem. Bạn tỏ ra lịch sự với người lái xe hơn một chút vì bạn biết bạn sẽ bị xếp hạng? Tuy nhiên, xếp hạng Uber không có  nghĩa lý gì so với Peeple, một ứng dụng được tung ra vào tháng 3 năm 2016, giống như một trang đánh giá Yelp cho con người vậy. Nó cho phép bạn được đánh giá và xếp hạng tất cả những người mà bạn biết bao gồm bạn đời của bạn, hàng xóm của bạn, sếp và thậm chí là cả người yêu cũ của bạn. Mỗi hồ sơ sẽ hiển thị một "Số Peeple", một điểm số dựa trên tất cả các thông tin phản hồi và đề xuất bạn nhận được. Vấn đề là một khi tên của bạn đã xuất hiện trên hệ thống của Peeple thì nó sẽ ở đó để phục vụ cho những điều tốt. Bạn không thể chọn không tham gia.
Mọi người đã ngăn cấm một số hành vi xấu bao gồm cả việc nhắc đến tình trạng sức khỏe của một người, chửi thề hoặc phân biệt giới tính. Nhưng cũng có một số quy tắc về việc cho điểm một người như thế nào hay các tiêu chuẩn về minh bạch.
Hệ thống đánh giá độ tin cậy của  Trung Quốc mới đầu có thể là tự nguyện tham gia, nhưng nó đã bắt đầu để lại những hậu quả. Vào tháng 2 năm 2017, Toà án Nhân dân Tối cao của nước này tuyên bố rằng đã có 6,15 triệu công dân bị cấm tham gia các chuyến bay trong bốn năm qua vì có hành vi phạm tội xã hội. Lệnh cấm được chỉ ra như là một bước tiến tới lập danh sách đen trong hệ thống SCS. Meng Xiang, người đứng đầu bộ phận hành pháp của Tòa án tối cao, cho biết: "Chúng tôi đã ký một bản ghi nhớ với hơn 44 cơ quan chính phủ để hạn chế những người bị bất tín nhiệm  ở nhiều cấp độ. Một 1,65 triệu người bị liệt vào danh sách đen cũng không được đi tàu hỏa.
Trường hợp các hệ thống này thực sự trở thành một cơn ác mộng là khi các thuật toán được sử dụng sẽ trừ điểm một cách thiếu công bằng vì chúng. Chẳ không xem xét đến nội dung. Chẳng hạn, một người nhỡ thanh toán hóa đơn hoặc một khoản tiền phạt vì họ đang ở trong bệnh viện; hoặc có người chỉ đơn giản là một kẻ ăn chực nằm chờ. Và đó là thách thức đối với tất cả chúng ta trong thời đại kỹ thuật số này, chứ không chỉ riêng Trung Quốc. Nếu các thuật toán xác định cuộc sống đã có thì chúng ta cần tìm ra cách để các thuật toán này có thể nắm bắt được những sắc thái, mâu thuẫn vốn có trong mỗi con người và làm thế nào để các thuật toán ấy có thể phản ánh được cuộc sống thực.
Bạn có thể coi cái gọi là kế hoạch chấm điểm độ tin cậy này của Trung Quốc giống như sự hòa trộn giữa tác phẩm 1984 của Orwell và những con chó của nhà tâm lý học Pavlov. Là một công dân tốt thì được khen thưởng và nghĩ rằng mình đang sống vui sống khỏe. Tuy nhiên cũng cần nhớ rằng những hệ thống chấm điểm cá nhân như vậy đã tồn tại ở phương tây từ hàng thập kỷ qua rồi.
Hơn 70 năm trước, Bill Fair và Earl Isaac đã sáng chế ra hệ thống điểm tín nhiệm. Ngày nay các công ty sử dụng điểm FICO để xác định rất nhiều các quyết định về tài chính, bao gồm cả lãi suất tiền thế chấp hay chúng ta có được vay tiền hay không.
Đối với phần lớn người dân Trung Quốc, họ không bao giờ có điểm tín nhiệm nên họ sẽ không thể có tín nhiệm. Wen Quan, một blogger nổi tiếng về công nghệ và tài chính giải thích rằng, “Rất nhiều người không sở hữu nhà, ô tô hay thẻ tín dụng ở Trung Quốc. Nên những thông tin như vậy sẽ không tồn tại để đánh giá. Ngân hàng trung ương có dữ liệu tài chính từ 800 triệu người, người chỉ có 320 triệu người là có lịch sử tín dụng.” Theo bộ Thương mại Trung Quốc, việc thiếu thông tin tín dụng gây thiệt hại khoảng 68 tỉ bảng mỗi năm.
Việc thiếu hụt hệ thống tín dụng quốc gia là lý do tại sao chính phủ Trung Quốc cho rằng hệ thống Điểm Công dân là cực kỳ cần thiết để sửa chữa cái mà họ gọi là “thiếu hụt lòng tin”. Trong một thị trường được quản lý lỏng lẻo, việc mua hàng giả và hàng kém chất lượng là một vấn đề cực lớn. Theo tổ chức OECD, 63 phần trăm lượng hàng giả, từ đồng hồ cho đến túi xách và thức ăn cho trẻ em, đều có nguồn gốc từ Trung Quốc. Nghiên cứu sinh Creemers cho biết “Tham nhũng ở cấp độ vi mô là cực kì lớn. Vì vậy nếu kế hoạch cụ thể này mang lại kết quả giám sát và trách nhiệm giải trình hiệu quả, thì nó sẽ được chào đón nồng nhiệt.”
Chính phủ Trung Quốc cũng lập luận rằng hệ thống này là cách để những người bị bỏ lại trong hệ thống tín dụng cũ, bao gồm sinh viên và hộ có thu nhập thấp, được tham gia. Giáo sư Wang Shuqin từ khoa Triết học và Khoa học Xã hội thuộc trường đại học Capital Norman gần đây đã được chọn để giúp chính phủ phát triển hệ thống mà bà cho là “Hệ thống tin tưởng xã hội của Trung Quốc.” Bà nhấn mạng rằng nếu không có cơ chế này, việc kinh doanh ở Trung Quốc là cực kì rủi ro, vì có khoảng một nửa số hợp đồng đã ký bị phá bỏ. Ba cho biết “Với tốc độ phát triển của nền kinh tế kỹ thuật số thì điều quan trọng là mọi người cần phải nhanh chóng xác nhận xem người này hay người kia có đáng tin không. Hành vi của đám đông được xác định bởi thế giới tư duy của họ. Một người tin vào các giá trị cốt lõi chủ nghĩa xã hội thì sẽ hành xử nghiêm túc hơn. Bà coi “các tiêu chuẩn đạo đức” cũng như các đánh giá hệ thống, tương tự với dữ liệu tài chính vậy.
Thật vậy, mục tiêu của Hội đồng Nhà nước là nâng cao “mức độ thành thật và tín nhiệm trong toàn xã hội” để cải thiện "năng lực cạnh tranh tổng thể của đất nước". Liệu hệ thống SCS có thực sự là cách tiếp cận minh bạch hơn đối với việc giám sát tại một quốc gia có lịch sử lâu dài trong việc theo dõi công dân của chính đất nước mình? Rasul Majid, một blogger ở Thượng Hải thường viết về thiết kế hành vi và tâm lý trò chơi cho biết, “Là một người Trung Quốc, và biết rằng mọi thứ tôi làm trên mạng đều đang bị theo dõi, liệu tôi có nên chú ý đến những điều bị theo dõi và sử dụng thông tin này để nhắc nhở bản thân tuân thủ pháp luật? Hay tôi thà bơ đi mà sống và hy vọng/cầu nguyện/mơ mộng rằng sự riêng tư cá nhân vẫn tồn tại và chính quyền tôn trọng chúng tôi đủ để không lợi dụng?” Nói một cách đơn giản, Majid nghĩ rằng hệ thống này chỉ cho phép anh kiểm soát một ít dữ liệu về anh thôi.
Khi tôi nói với người phương Tây về hệ thống SCS ở Trung Quốc, phản ứng của họ đầy tính sôi sục và bản năng. Tất nhiên chúng ta từng đánh giá các nhà hàng, phim ảnh, sách truyện và thậm chí là cả bác sĩ. Trong khi đó Facebook hiện đã có khả năng nhận dạng bạn trong các bức ảnh mà không cần nhìn mặt bạn mà chỉ cần biết quần áo, kiểu tóc, tạng người của bạn để đánh dấu bạn vào một bức hành với độ chính xác là 83%.
Vào năm 2015, tổ chức OECD đã công bố một nghiên cứu cho biết rằng có ít nhất 24.9 thiết bị được kết nối trên mỗi 100 người dân. Tất cả các công ty kiểm soát “dữ liệu lớn” phát ra từ những thiết bị này để tìm hiểu về cuộc sống và mong muốn của chúng ta, và để dự đoán cách chúng ta hành động mà chính chúng ta cũng không dự đoán nổi bản thân mình.
Chính phủ các nước trên thế giới đã và đang trong quá trình giám sát và đánh giá. Ở Hoa Kỳ, Cơ quan An ninh Quốc gia (NSA) không phải là cơ quan kỹ thuật số chính thức duy nhất theo sau các hoạt động của người dân. Vào năm 2015, Cục Quản lý An ninh Vận tải của Hoa Kỳ đã đề xuất ý tưởng mở rộng nền tảng kiểm tra PreCheck bao gồm cả hồ sơ trên truyền thông xã hội, dữ liệu về vị trí và lịch sử mua hàng. Ý tưởng này đã vấp phải nhiều chỉ trích nặng nề nhưng không có nghĩa nó là ý tưởng chết. Chúng ta đang sống trong một thế giới của các thuật toán dự đoán để xác định xem chúng ta có phải là mối đe doạ, rủi ro, một công dân tốt và thậm chí cả khi chúng ta rất đáng tin cậy. Chúng ta đang ngày càng tiến gần hơn đến hệ thống của Trung Quốc – biến việc chấm điểm tín dụng trở thành chấm điểm cho cuộc đời – ngay cả khi chúng ta không hề nhận thức được điều đó.
Vậy chúng ta đang hướng tới một tương lai nơi tất cả chúng ta sẽ được xếp hạng trên mạng và bị khai thác dữ liệu sao? Rõ ràng là mọi thứ đang diễn ra như vậy. Trừ khi có một số người nổi dậy để bảo về quyền riêng tư, chúng ta đang bước vào thời đại mà hành động của một cá nhân sẽ bị đánh giá theo các tiêu chuẩn mà họ không thể kiểm soát và nơi sự phán xét đó không thể gột rửa được. Hậu quả không chỉ gây phiền hà trong chốc lát mà là vĩnh viễn. Hãy quên quyền xóa bỏ hoặc được lãng quên, được trẻ trâu và được ngờ ngệch đi.
Mặc dù có thể đã quá muộn để ngăn chặn việc này, chúng ta vẫn có những lựa chọn và quyền hạn có thể áp dụng bây giờ. Thứ nhất, chúng ta có thể xếp hạng ngược lại những người đang đánh giá chúng ta. Trong cuốn sách The Inevitable, Kevin Kelly miêu tả một tương lai mà những người theo dõi và người bị theo dõi sẽ công khai theo dõi nhau. “Sự lựa chọn cốt lõi của chúng ta hiện nay là liệu việc giám sát này có phải là một điều bí mật, một kiểu nhà tù một chiều hay một kiểu đồng giám sát "minh bach cho phép theo dõi cả những người quan sát.”
Niềm tin của chúng ta nên bắt đầu với những  người làm trong chính phủ (hoặc bất cứ ai kiểm soát hệ thống). Chúng ta cần các cơ chế đáng tin cậy để đảm bảo xếp hạng và dữ liệu được sử dụng có trách nhiệm và có sự cho phép của chúng ta. Để tin tưởng vào hệ thống, chúng ta cần phải giảm thiểu những điều còn mập mờ. Điều đó có nghĩa là thực hiện các bước để giảm độ khó hiểu của các thuật toán. Lập luận chống lại việc tiết lộ thông tin bắt buộc là nếu bạn biết điều gì đang xảy ra thì hệ thống có thể bị tấn công và ăn cắp thông tin. Nhưng nếu một người bị xếp hạng thấp mà có thể gây ảnh hưởng đáng kể đến cuộc sống của họ, thì phải minh bạch trong cách thức chấm điểm.
Ở Trung Quốc, có một số người, chẳng hạn như quan chức chính phủ, có thể sẽ được coi là đứng trên hệ thống. Phản ứng của công luận sẽ như thế nào khi những hành động sai trái của những người này không ảnh hưởng đến điểm của họ? Chắc hẳn chúng ta sẽ được chứng kiến vụ hồ sơ Panama 3.0 về việc gian lận điểm số đầy tai tiếng.
Vẫn còn quá sớm để biết một nền văn hóa ưa kiểm soát giờ lại cộng thêm việc xếp hạng sẽ diễn biến ra sao. Điều gì sẽ xảy ra khi các hệ thống này, bao gồm việc xem xét lịch sử tài chính, đạo đức và xã hội, có hiệu lực? Sự riêng tư và tự do ngôn luận sẽ bị bào mòn đến mức  nào nữa? Ai sẽ quyết định cách mà hệ thống này vận hành? Đây là những câu hỏi mà tất cả chúng ta cần phải xem xét. Hôm nay là Trung Quốc, ngày mai là một nơi ở gần bạn. Những câu hỏi thực sự về tương lai của niềm tin không phải là vấn đề thuộc về công nghệ hay kinh tế; đó là vấn đề đạo đức.
Nếu chúng ta không cảnh giác, việc xếp loại mức độ tin cậy có thể trở thành nỗi xấu hổ trên diện rộng. Cuộc sống sẽ trở thành một cuộc đua bất tận, mà chỉ có một vài người có thể giành được vị trí cao nhất.
(1) George Orwell là nhà văn người Anh, nổi tiếng với hai tác phẩm là Trại Súc Vật (Animal Farm) và 1984. Trong cuốn 1984, Orwell mô tả một quốc gia độc tài hậu tận thế, nơi chính quyền kiểm soát cả cảm xúc và suy nghĩ của người dân thông qua hệ thống gọi là “Anh cả”. Tính từ Orwellian về sau thường được dùng để mô tả những xu hướng kiểm soát công dân quá trớn và toàn trị.