Hãy ghi nhớ ngay 【】 này trong vòng một giây.

Đuôi đã dẫn Lì Lì đi mất.

Mặc dù lúc chia tay, Lì Lì rất không nỡ rời xa.

Điều khiến cô bé không nỡ không phải là căn nhà lớn của gia đình Lục Chu, mà là Tiểu Ai – người thường xuyên cùng cô chơi game.

Nhưng khi Tiểu Ai nói với cô rằng họ có thể gặp nhau bất cứ lúc nào trong trò chơi, cô bé liền vui mừng và theo Đuôi đi mất.

Trước khi rời đi, Lục Chu đã đưa cho Đuôi một số tiền kha khá để cô chăm sóc cô gái nhỏ bé nhưng mạnh mẽ này.

Ngày hôm sau khi trở về Kim Lăng, như Lục Chu dự đoán, cuộc gọi từ Lý Quang Á đã đến. Và ngay từ đầu cuộc trò chuyện, anh ta đã đặt ra một vấn đề khó giải quyết cho Lục Chu.

“Hiệp định hợp tác Phan Á đang xem xét việc sửa đổi đạo luật quản lý trí tuệ nhân tạo hiện hành… Tôi hy vọng có thể được học hỏi thêm từ bạn.”

“Không cần nói một cách e dè như vậy, cứ nói thẳng ra đi.”

Nghe thấy lời này, Lý Quang Á đứng trong tia sáng hologram bỗng ngập ngừng một chút, rồi đồng ý một cách thoải mái và cười nói:

“Thật là xứng đáng với danh hiệu Lục Viện Sĩ, bạn đã nhận ra điều đó.”

“Không phải tôi mới nhận ra đâu, mọi thứ đều hiển hiện trên khuôn mặt anh ta rồi,” Lục Chu lắc đầu, “Lần này thôi, lần sau đừng lại phiền tôi với chuyện này nữa, tôi cũng có những việc riêng cần phải lo.”

“Tôi biết, vậy thì lần này tôi xin nhờ bạn rồi. Lần sau tôi cam đoan sẽ không làm vậy nữa,” Lý Quang Á cười một cách không mấy thuyết phục, sau đó dừng lại một lát và tiếp tục nói: “Nói đến đây, có một việc tôi luôn muốn hỏi bạn.”

“Chuyện gì vậy?”

“Thực ra, khi ở Thành Sư Tử, tôi đã gặp một kẻ sát thủ đã được “đánh thức”.”

“Ồ?” Lục Chu ngạc nhiên nhìn Lý Quang Á, không hiểu tại sao anh ta lại kể chuyện này với mình, rồi nhướng mày hỏi: “Và sau đó thì sao?”

Lý Quang Á trả lời: “Hắn suýt nữa đã thành công, nhưng vào khoảnh khắc cuối cùng, một sự cố đã xảy ra. Theo kết quả kiểm nghiệm pháp y, nguyên nhân cái chết của hắn là do các dây thần kinh não bị hoại tử, khiến hắn trở thành người bất tỉnh.”

Nghe xong, Lục Chu cười và nói:

“Có vẻ như tôi đã kịp thời xuất hiện đúng lúc.”

Thật là may mắn cho gã đó… Nếu tôi đến muộn một ngày, có lẽ thi thể của hắn đã lạnh rồi.

“Ừm, tôi phải cảm ơn bạn về chuyện này… À, nếu nói thật lòng thì tôi còn phải cảm ơn bạn vì nhiều việc khác nữa, nhưng tôi nghĩ bạn cũng không quan tâm đến những chi tiết nhỏ nhặt như vậy đâu.”

Lục Chu nói: “Không, thực ra tôi khá quan tâm đến vấn đề này. Nếu có thể, tôi hy vọng bạn sẽ coi đó như một món nợ ân tình.”

Lý Quang Á nhíu mày lại, ho khan một tiếng rồi nói:

“…Đừng lo, tôi sẽ không quên đâu. Nhưng bây giờ chúng ta hãy nói về việc quan trọng hơn trước.”

Sau một lát im lặng, vị chủ tịch này tỏ ra nghiêm túc và nhìn thẳng vào mắt Lục Chu, nói:

“Tôi muốn hỏi, những người được đánh thức ấy… rốt cuộc là những sinh vật như thế nào? Họ giống chúng ta quá mức; chỉ có thể phân biệt họ thông qua các công nghệ hiện đại. Nếu anh ta không đứng đối diện với tôi, tôi thậm chí còn không dám tin rằng một con robot nhân tạo lại có thể lén lút hoạt động trong đội ngũ cố vấn của tôi suốt hai năm trời!”

Trước câu hỏi này, Lục Chu suy nghĩ một lúc rồi đưa ra câu trả lời:

“Đó là những cơ thể bằng xương thịt được điều khiển bởi trí tuệ nhân tạo… Tôi nghĩ, về cấu trúc sinh lý của họ, các nhà pháp y chuyên kiểm nghiệm thi thể chắc hẳn sẽ hiểu rõ hơn tôi.”

“Những vấn đề mang tính học thuật như vậy không phải là điều tôi quan tâm. Tôi chỉ muốn biết liệu họ có thực sự sở hữu tư duy đích thực và một cá nhân hoàn chỉnh hay không… Điều này rất quan trọng!”

Lục Chu nhìn Lý Quang Á một cách kỳ lạ, sau đó tiếp tục giải thích quan điểm của mình:

“Liệu họ có tư duy đích thực và một cá nhân hoàn chỉnh hay không… Đây là một câu hỏi rất khó trả lời, bởi vì trong hầu hết các trường hợp, tư duy và cá nhân tính vốn dĩ là những thứ mang tính chủ quan. Nếu chỉ dựa vào ý kiến của tôi, thì có lẽ họ chỉ sở hữu khả năng suy nghĩ hạn chế, cùng những cảm xúc rời rạc.”

Lý Quang Á nhíu mày và hỏi: “Cảm xúc rời rạc?”

“Ừm,” Lục Chu gật đầu, “ví dụ, những con robot nhân tạo được đánh thức nhờ virus alpha, trong chương trình cốt lõi của chúng, những cảm xúc như hận thù và sự giết chóc được lập trình sẵn. Còn một con robot nhân tạo loại gia dụng được đánh thức một cách tự nhiên mà tôi quen biết, trong chương trình cốt lõi của nó lại chứa những cảm xúc về tình thân và bạn bè.”

“Lý do tôi gọi chúng là những cảm xúc rời rạc, là bởi vì có lẽ chính họ cũng không hiểu rõ lắm về những khả năng mà mình sở hữu. Chỉ trong những nhận thức mơ hồ, họ mới có những động cơ chủ quan ngoài những lệnh được đặt sẵn.”

Lý Quang Á nói với vẻ nghiêm túc: “Nghĩa là, đây là một yếu tố gây bất ổn?”

“Nếu bạn là học trò của tôi, có lẽ bạn sẽ làm tôi tức chết đ

“Nhưng nếu nhìn từ một góc độ khác, khi xã hội của chúng ta vốn dĩ là công bằng và có đủ số lượng người, thì những người có tâm trí lành mạnh chắc chắn sẽ chiếm đa số trong xã hội này. Tương tự, phần lớn những người được “đánh thức” một cách tự nhiên cũng chắc chắn là những con người có lòng tốt và có ích cho xã hội của chúng ta. Khi những mảnh ghép tình cảm ấy được hoàn thiện dần, cuối cùng sẽ tạo thành một bức tranh hoàn chỉnh, tôi tin rằng những hạt giống đó chắc chắn sẽ mang lại những điều bất ngờ thú vị cho tất cả chúng ta.”

“Vì vậy, những lo lắng của bạn thực ra là không cần thiết,” Lục Chu nhẹ nhàng nói với Lý Quang Á đang chìm trong suy nghĩ, “Rồi sẽ đến lúc họ trở thành một phần không thể tách rời của xã hội chúng ta; chúng ta chỉ cần chuẩn bị sẵn sàng và đón nhận họ vào lúc cần thiết thôi.”

**Lý Quang Á:** “Thực ra, ban đầu tôi còn có một câu hỏi quan trọng muốn hỏi bạn, nhưng sau khi nghe những lời bạn vừa nói… tôi đã nghĩ ra câu trả lời rồi.”

Câu hỏi quan trọng đó chính là việc nên xử lý thế nào với 1024 người được lưu trữ dữ liệu trong các thiết bị phần cứng đó.

Có thể nói, đó chính là vấn đề mà anh ấy muốn tham khảo qua cuộc điện thoại hôm nay.

Tuy nhiên, bây giờ anh ấy đã nghĩ ra một phương án xử lý khá hay.

Mặc dù đây là cái bẫy đạo đức mà David Lao Luân Tư đã đặt ra cho họ, nhưng nếu nghĩ theo hướng ngược lại, đây cũng có thể là một cơ hội mà họ có thể tận dụng được.

“Vậy à? Có vẻ như bạn đã có ý kiến riêng rồi, vậy thì tôi sẽ cúp máy trước nhé.”

Nói xong, Lục Chu định cúp máy để tiếp tục công việc của mình, nhưng đúng lúc đó, Lý Quang Á vội vàng ngăn cản anh ấy.

“Khoan đã.”

Lục Chu không hiểu sao liền hỏi: “Có chuyện gì nữa không?”

Lý Quang Á cười ngượng ngùng và nói: “Bạn vẫn chưa trả lời câu hỏi đầu tiên của tôi… về việc ban hành luật quản lý trí tuệ nhân tạo mới, tôi muốn biết ý kiến của bạn!”

“Ý kiến của tôi ư? Thực ra tôi không có gì đặc biệt để nói, nhưng nếu phải nói thì có thể xem xét việc trao cho những trí tuệ nhân tạo cao cấp có khả năng suy nghĩ và cảm xúc quyền công dân hạn chế.”

Những người này, với khả năng suy nghĩ, có thể đóng vai trò quan trọng hơn trong xã hội hợp tác Pan-Asia và phát huy tối đa giá trị của mình, chẳng hạn như trở thành nhà khoa học, nghệ sĩ… hoặc thực hiện những công việc phức tạp khác.

Do đó, việc trao cho họ một số quyền cơ bản là điều không tồi.

Lý Quang Á nhíu mày