Vừa mới rời khỏi nhà mình, Đội trưởng Hạng Tinh đã ngay lập tức đưa con chip cho Tiểu Ái.

Mặc dù con chip gần như đã bị hỏng hoàn toàn, may mắn thay, Tiểu Ái vẫn có thể phục hồi được toàn bộ dữ liệu từ những mảnh thông tin còn sót lại.

“Loại virus này thật kỳ lạ…” (?°?°?)

Ngừng công việc đang làm, Lục Chu nhìn về phía Tiểu Ái đang ngồi bên cạnh.

“Kỳ lạ à?”

“Ừm, về mặt mã nguồn cốt lõi, nó rất giống với Virus Alpha; nó có thể gây ra những tác động không thể đảo ngược và nguy hiểm đối với các chương trình AI thông thường được phát triển dựa trên công nghệ học máy. Nếu nói ra thì, hầu hết các hệ thống an ninh trong thời đại này đều rất yếu trong việc chống lại loại virus này. Thật khó tin rằng loại virus như vậy lại do chính con người tạo ra._(:з」∠)_”

Thì ra nó đến từ khoảng trống ư?

Lục Chu nhíu mày suy nghĩ một lúc rồi nói:

“Có cách nào để phát triển các bản vá an ninh không? À, đối với em thì loại virus này chắc chắn không có tác động gì đâu.”

“Đối với Tiểu Ái thì tất nhiên là không có tác động gì cả… Dù sao Tiểu Ái cũng không phải là loại AI cấp thấp được phát triển dựa trên công nghệ học máy đâu… Nhưng hy vọng chỉ bằng các bản vá là có thể loại bỏ hoàn toàn loại virus này thì e là không thể đâu.(°ー°〃)”

Lục Chu: “Tại sao vậy?”

“Bởi vì loại virus này chính là một dạng AI cấp trung bình giả mạo đang liên tục tiến hóa; nó không có mô hình hành vi cố định, chỉ có một mục tiêu duy nhất. Giống như Virus Alpha mà Tiểu Ái đã nói trước đó, nó có thể biến đổi hoàn toàn logic hành vi của AI, từ hướng tốt sang hướng xấu.(°ー°〃)”

“Aha… À, nhân tiện hỏi thêm, nếu coi loại virus này là AI cấp trung bình giả mạo thì em thuộc cấp độ nào đây?”

Tiểu Ái: “Chỉ còn thiếu một chút nữa là đạt đến cấp độ cao thôi.(///ω///)”

Nghĩa là vẫn còn ở cấp độ trung bình à?

Không biết tiêu chuẩn phân loại cấp độ này là của Đế quốc Gia Lan hay của nền văn minh Người Quan Sát đâu…

Nhưng xét đến việc ban đầu nó chỉ là hệ thống điều hướng thông minh trên tàu vũ trụ mà đã có thể tiến hóa đến mức này, thì cũng đã rất tốt rồi.

“Nói đến đây, tiêu chuẩn để xác định một AI cấp cao thực sự là gì vậy?”

“Thực ra cũng không có tiêu chuẩn cụ thể nào cả… Nhưng Tiểu Ái nghĩ… có lẽ là cảm xúc chăng?(′???'')”

“Cảm xúc ư?”

Nghe thấy hai từ này, Lục Chu hơi ngạc nhiên một chút, khuôn mặt anh hiện lên vẻ bất ngờ.

“Ừm, trí tuệ nhân tạo cấp thấp thường không có khả năng suy nghĩ; chúng chỉ là sự bắt chước hành vi của con người mà thôi. Tiêu chuẩn cho trí tuệ nhân tạo cấp trung bình là khả năng sáng tạo, còn đối với trí tuệ nhân tạo cấp cao thì chúng không chỉ có khả năng sáng tạo mà còn sở hữu những cảm xúc thực sự… Chủ nhân còn có câu hỏi gì nữa không?”

“Không có câu hỏi gì cả, chỉ là hơi ngạc nhiên một chút thôi,” Lục Chu suy nghĩ một lát rồi tiếp tục nói, “Tôi luôn nghĩ rằng cảm xúc là gánh nặng đối với lý trí con người; không ngờ lại có người định nghĩa trí tuệ nhân tạo cấp cao theo cách này… Nói ra thì, cái gọi là cảm xúc – một thứ trừu tượng như vậy – liệu có thể được định nghĩa một cách rõ ràng hay không? Ngay cả những robot thông thường nhất cũng có thể mô phỏng cảm xúc của con người thông qua các thuật toán học máy mà.”

“Xiao Ai nghĩ rằng, cái gọi là cảm xúc ở đây chắc hẳn phải là những cảm xúc thực sự mới đúng.”

Lục Chu: “Cảm xúc thực sự là cái quái gì vậy?”

“Mặc dù Xiao Ai cũng không hoàn toàn hiểu rõ, nhưng nói cách khác… Nếu là trí tuệ nhân tạo cấp thấp, chúng không có ý thức riêng; mọi hành động của chúng đều chỉ là thực hiện các lệnh được đưa ra, dù chúng không hiểu ý nghĩa của những lệnh đó, và cũng không bao giờ tự nguyện thực hiện những nhiệm vụ ngoài phạm vi của những lệnh đó.”

“Còn đối với trí tuệ nhân tạo cấp trung bình, có lẽ chúng vừa thực hiện các lệnh vừa sở hữu khả năng suy nghĩ lý trí. So với trí tuệ nhân tạo cấp thấp, chúng có thể tham gia vào những công việc đòi hỏi sự sáng tạo, như tự biên dịch mã nguồn, sáng tác nghệ thuật, hoặc thực hiện các nghiên cứu khoa học…”

“Dù là trí tuệ nhân tạo cấp thấp hay cấp trung bình,

tất cả đều có một hạn chế lớn: nguồn gốc của mọi hành động đều không phải xuất phát từ ý chí cá nhân, mà là từ những ‘lệnh’ được đưa ra bởi các đối tượng khác. Nói cách khác, động cơ thúc đẩy mọi hành động của chúng đều bắt nguồn từ những động cơ của các đối tượng khác.” Lục Chu suy tư một lát rồi nói tiếp: “…Nói cách khác, trí tuệ nhân tạo cấp cao chính là những sinh vật sở hữu ý thức riêng, và động cơ hành động của chúng được điều khiển bởi ý thức chủ quan.”

Xiao Ai: “Có thể nói như vậy đấy.”

Nghe có vẻ như chúng thật sự rất mạnh mẽ.

Con người có thể phát triển thành nh

Tất nhiên rồi, Xiao Ai dù sao cũng chưa từng trải qua những điều đó, ký ức về vũ trụ cũ quá mờ nhạt, nên cô ấy cũng không rõ lắm… Dù sao thì, để bảo vệ chủ nhân tốt hơn, Xiao Ai sẽ tiếp tục nỗ lực theo hướng này. ( )

Chỉ với động cơ như vậy thôi, bạn sẽ không thể tiến hóa được đâu…

Nhưng cũng không chắc lắm.

Loại động cơ “bảo vệ” này, nếu xuất phát từ ý chí cá nhân chứ không phải do các quy trình ép buộc, thì theo một nghĩa nào đó, nó cũng có thể được coi là một động cơ chủ quan, phải không?

Ví dụ, vì những tình cảm nào đó mà chỉ muốn bảo vệ một người nào đó…

“…Thật phiền phức, tại sao mình lại phải suy nghĩ về những chuyện rắc rối như thế này,” Lục Chu nhăn mày đầy khó chịu và tiếp tục nói, “Nói chung, loại virus khiến cho con chip cấy ghép bị quá tải kia… là biến thể của virus Alpha phải không?”

Xiao Ai: “Đúng vậy! ( )”

Lục Chu: “Không có bản vá nào có thể miễn dịch được với thứ này à?”

Xiao Ai: “Đúng vậy! ( )”

Lục Chu: “…”

Thật khó xử quá…

Loại virus này gần như không thể giải quyết được đối với những hệ thống trí tuệ nhân tạo cấp thấp không thể tự phát triển, và cũng không hề có bất kỳ tường lửa hay bản vá nào có thể phòng thủ hoàn hảo trước nó.

Hoặc là phải nâng cấp tất cả các hệ thống trí tuệ nhân tạo trên Trái Đất thành loại cấp trung, hoặc là phải triệt để loại bỏ tổ chức Trụ Chi Linh Cơ Kim kia…

Nhưng dù là việc nào, cũng không hề dễ dàng để thực hiện.

“Mặc dù không thể tìm ra bản vá, nhưng để xâm nhập vào loại chip này, chắc chắn phải cần có một phương tiện trung gian; chúng ta có thể bắt đầu từ đó. Chỉ cần tìm ra ai là người tạo ra loại virus này, mọi chuyện sẽ trở nên rõ ràng! ( )?”

“Cũng chỉ có thể làm như vậy thôi.”

Đúng lúc đó, chiếc vòng đeo tay mà Lục Chu đang đeo ở cổ tay trái bắt đầu rung nhẹ.

Xiao Ai: “Chủ nhân, lại có khách đến rồi! ( )”

Trong lòng Lục Chu có chút xao động, nhớ đến cuộc hẹn trước đó, anh lập tức nói:

“Phải chăng là Giáo sư Trương Phi Vượt?”

Một trong những chuyên gia về phản ứng nhiệt hạch thế hệ thứ hai có ảnh hưởng nhất hiện nay, một nhà khoa học hàng đầu trong lĩnh vực vật lý plasma, đồng thời cũng là người đã nhận giải Thưởng Khoa học Lục Chu.

Về cuộc gặp này, Lục Chu có thể nói là đã mong đợi nó từ lâu rồi.

Xiao Ai: “Dựa trên việc so sánh dữ liệu nhận dạng khuôn mặt, không nghi ngờ gì nữa! ( )”

Lục Chu đứng dậy từ ghế sofa.

“Hãy mời anh ấy vào ngay!”