Câu hỏi ở cuối bài rất hay. Vấn đề nằm ở chỗ tư duy của một cái máy sẽ rất rất khác với tư duy của con người. Để con người có thể tránh được đại họa diệt vong do AI gây ra, chúng ta cần phải thiết kế lập trình trung tâm của AI theo cách mà nó hiểu sâu sắc về các giá trị của con người. Nhưng nó khó khăn hơn bạn nghĩ rất nhiều. Ví dụ như, nếu như chúng ta cố gắng đặt giá trị của AI ngang bằng với chúng ta và đưa ra mục tiêu “Làm con người hạnh phúc”, điều gì sẽ xảy ra? Một khi nó đủ thông minh, nó sẽ biết rằng cách hiệu quả nhất để hoàn thành mục tiêu là cấy những điện cực vào trong não người và kích thích trung tâm điều khiển cảm giác hạnh phúc. Rồi nó nhận ra rằng nó có thể tăng hiệu quả bằng cách tắt đi những phần khác của não, biến người ta thành những cơ thể thực vật không ý thức mà vẫn cảm thấy hạnh phúc. Nếu yêu cầu là “Tối đa hóa hạnh phúc của con người,” nó có thể sẽ loại bỏ tất cả con người và tạo ra các bộ não người luôn trong tình trạng tối đa hóa hạnh phúc. Chúng ta có thể thét lên Chờ đã chúng tôi đâu muốn điều này! khi nó xử chúng ta, nhưng sẽ là quá muộn. Hệ thống sẽ không để ai ngăn cản nó thực hiện mục tiêu. Nếu như chúng ta lập trình AI với mục đích làm những việc khiến chúng ta mỉm cười, sau khi nó cất cánh, nó sẽ làm tê liệt các cơ mặt của chúng ta thành một nụ cười thường trực. Lập trình nó để giữ chúng ta an toàn, nó có thể cầm tù chúng ta trong nhà. Có thể chúng ta yêu cầu nó diệt nạn đói, nó sẽ nghĩ là “Đơn giản mà!” và chỉ đơn giản là giết hết loài người. Hoặc cho nó nhiệm vụ “Bảo tồn sự sống càng nhiều càng tốt,” nó sẽ giết toàn bộ loài người vì chúng ta giết nhiều sinh mạng trên Trái đất hơn bất kỳ loài nào. Đây vẫn đang là vấn đề quan trọng nhất và khiến các nhà khoa học đau đầu nhất. Bởi vì những điều trên thể hiện rằng chúng ta đang thiết lập một thông cáo chung về vận mệnh của con người và dâng nó vào tay một giống loài khác (mặc dù giống loài đó là do con người tạo ra). k

Con người sống trong trái đất => Con người bảo vệ trái đất => AI bảo vệ trái đất => AI diệt con người vì con người là nguyên nhân trái đất ô nhiễm.

bạn Nguyễn Thành Chinh nói rất đúng ý mình, mình là 1 nghiên cứu sinh ngành này ở nước ngoài và theo nhìn nhận của mình, AI còn rất rất rất lâu nữa mới có thể trở nên evil. Mặc dù rất ngưỡng mộ Elon Musk, nhưng cái gì ra cái đó, Elon Musk ko thực sự nhúng tay vào công việc làm AI, cái mà ổng có thể hiểu là high level idea of how AI works và 1 số ứng dụng, nếu muốn thì nên nghe ý kiến từ những chuyen gia như ban Chinh nói. Nên những thứ mà bác Elon Musk này cứ lên báo kêu AI sẽ trở thành evil theo mình thấy khá là bullshit. AI hiện tại còn ko thông minh hơn 1 con sâu chứ chưa nói gì đến con chuột :v. AI hiện tại chỉ là 1 số lý thuyết statistic đằng sau nó, nó chỉ có thể học được 1 số pattern 1 cách chính xác và lặp lại những pattern đó, còn được gọi là Deep Generative Model. Có khá nhiều thứ mà AI thiếu để tiến lên cảnh giới evil , 1 trong số đó là khả năng "học ít hiểu nhiều", lấy ví dụ đơn giản là 1 đứa bé từ nhỏ đến lúc 5 tuổi chưa bao h thấy con mèo, người lớn chỉ cần đưa cho nó chừng 5 tấm hình con mèo, vậy là bộ não đứa bé có thể tự nhận dạng ra những điểm đặc trưng của 1 con mèo và sau này có thể tự nhận biết bất cứ con vật nào là con mèo mà ko bị lẫn lộn với con vật khac. Còn AI thì sơ sơ phải dạy nó 10k tấm hình con mèo nó mới có thể nhận biết được đặc trưng 1 con mèo. Cái nữa là AI vẫn còn hạn chế về khả năng học từ nhiều domain và liên kết những kiến thức từ những domain đó với nhau, lấy ví dụ đơn giản là 1 bạn học sinh có thể học 2 môn Toán và Sinh riêng biệt nhưng có thể dễ dàng nhận thấy là 2 môn đó có lien kết với nhau, AI thì ko. AI thì domain-specific, nghĩa là nó chỉ có thể học từ 1 domain và cái model nó đã học được chỉ có thể sử dụng cho domain đó, ví dụ đơn giản là nếu cái model này được dạy để phân biệt hình ảnh bên Computer Vision, thì nếu mình đưa dữ liệu là text cho nó thì nó nín .

Em hỏi ngu tí, mỗi tầng thuật toán của mạng nơ-ron xoắn ốc có giống nhau không nhỉ?

Có bài viết nào đề cập đến việc nên đặt lệnh như thế nào để khi AI có phát triển cũng ko gây hại