Ánh sáng ban mai từ Trung tâm Nghiên cứu và Phát triển Công nghiệp Hoa Vũ mang theo vẻ dịu nhẹ, xuyên qua lớp kính chống bức xạ hai lớp, chiếu rọi lên bàn thí nghiệm, làm cho các bản vẽ thiết kế cốt lõi của hệ thống phiên bản 8.1 trở nên rõ ràng và dễ nhìn. Trần Minh cúi người xuống, ngón tay di chuột nhẹ nhàng trên sơ đồ cấu trúc của “Mô-đun Thích ứng Đạo đức Giữa Các Nền Văn Minh”; những dòng dữ liệu hiển thị trên màn hình hình ảnh ba chiều như những ánh đèn lấp lánh đang chuyển động xung quanh anh. Giáo sư Lin ngồi ở bên cạnh, tay cầm một cuốn sách nhân chủng học dày cộm; tiếng trang sách lật và tiếng máy chủ rên rỉ hòa quyện vào nhau, tạo nên bản “bản nhạc buổi sáng” đặc trưng của phòng thí nghiệm này.

“Hiện tại, chúng tôi đã hoàn thành việc mô hình hóa các quy tắc đạo đức của bảy vùng văn minh lớn, bao gồm Đông Á, Châu Âu và Mỹ, nhưng vẫn chưa thể thích ứng chính xác các nguyên tắc đạo đức của một số nền văn minh du mục ở châu Phi và Tây Á vào hệ thống,” Giáo sư Lin ngẩng đầu lên, xoa nhẹ hai bên thái dương đang đau nhức, rồi đẩy một bản báo cáo đầy chữ ghi chú về phía Trần Minh. “Chẳng hạn, trong một số nền văn minh bộ lạc, quan niệm ‘lợi ích tập thể quan trọng hơn mọi thứ’ khiến trí tuệ nhân tạo có xu hướng ưu tiên hy sinh cá nhân khi đưa ra quyết định, điều này mâu thuẫn với nguyên tắc ‘bình đẳng về mạng sống’ trong các công ước đạo đức quốc tế; còn một số bộ lạc lại định nghĩa ‘phòng thủ’ là việc đuổi đẩy tất cả những kẻ ngoại lai, điều này có thể khiến hệ thống nhầm lẫn và coi những lực lượng này là thù địch.”

Trần Minh cầm lấy báo cáo, ánh mắt dừng lại ở những điểm xung đột được đánh dấu bằng bút đỏ; lông mày anh từ từ nhíu lại. Mục tiêu cốt lõi của phiên bản 8.1 là giúp hệ thống thích nghi với các quy tắc đạo đức khác nhau của các nền văn minh và khu vực địa lý trên toàn thế giới, từ đó thực hiện được khả năng ứng dụng xuyên biên giới – “một chìa khóa mở được hàng ngàn ổ khóa”. Dù sao thì, trong quá trình hợp tác dọc theo “Con đường và Vành đai”, ngày càng nhiều quốc gia đề nghị sử dụng hệ thống của công ty Hao Yu trong lĩnh vực an ninh biên giới và cứu hộ khẩn cấp. Nếu không thể thích nghi với những quan niệm đạo đức đặc trưng của các nền văn minh đó, không chỉ công nghệ sẽ khó có thể được áp dụng thực tế, mà còn có thể gây ra những xung đột văn hóa.

“Chúng ta không thể áp đặt một tiêu chuẩn đạo đức chung cho tất cả các nền văn minh khác nhau,” Trần Minh nói. Ngón tay anh nhấp vào màn hình chiếu, hiển thị dữ liệu nghiên cứu về quy tắc đạo đức của một bộ lạc du mục ở Trung Đông. “Trong các bài kiểm thử mô phỏng trước đây, hệ thống đã từ chối yêu cầu của trưởng bộ lạc – đó là hy sinh một số con vật để bảo vệ người dân của bộ lạc – chỉ vì nó kiên trì theo nguyên tắc ‘sự bình đẳng giữa mọi sinh mệnh’. Hành động đó thậm chí còn khiến nhiều người dân trong bộ lạc gặp nguy hiểm hơn. Điều này cho thấy rằng, trí tuệ nhân tạo không chỉ cần hiểu các quy tắc, mà còn cần hiểu được lô-gic sống đằng sau những quy tắc đó.” Anh dừng lại một chút, nhìn vào Giáo sư Lin và nói tiếp: “Tôi muốn thành lập một nhóm nghiên cứu đa ngành, tự mình đến thăm các bộ lạc ở châu Phi và Trung Đông để thu thập dữ liệu về quan niệm đạo đức từ nguồn thực tế, thay vì chỉ dựa vào những lý thuyết trong sách vở.”

Trong ánh mắt Giáo sư Lâm lóe lên một tia đánh giá cao, ông ngay lập tức gật đầu: “Tôi sẽ đi cùng bạn. Tôi đã liên lạc với một người bạn cũ ở Viện Nhân chủng học trong nước; ông ấy đã nghiên cứu về các bộ lạc châu Phi trong suốt ba mươi năm và có thể hỗ trợ chúng ta. Tuy nhiên, cần lưu ý rằng một số bộ lạc rất cảnh giác với người ngoại lai, và môi trường an ninh tại đây khá phức tạp; chúng ta cần phải liên lạc trước với chính quyền địa phương và đại sứ quán Đông Đại.”

Khi hai người đang thảo luận về kế hoạch nghiên cứu, cánh cửa phòng thí nghiệm được mở nhẹ, và Trương Tiểu Lệ bước vào với khuôn mặt đầy vui mừng: “Tin tốt là thiết bị hỗ trợ phục hồi chức năng thông qua giao diện não-máy của chúng ta đã giúp hơn hai trăm người khuyết tật ở khu vực Trung Đông lấy lại khả năng vận động cơ bản. Quan trọng hơn, một số trưởng lão của các bộ lạc địa phương đã tự nguyện liên hệ với chúng ta, mong muốn được nhập khẩu phiên bản dân dụng của hệ thống an ninh không gian để bảo vệ nguồn nước và khu định cư của họ.” Cô đặt báo cáo lên bàn thao tác, ánh mắt vô tình lướt qua mô-đun điều chỉnh đạo đức trên màn hình chiếu; giọng cô chợt dừng lại một chút: “Có vẻ như nghiên cứu phát triển các giải pháp thích ứng giữa các nền văn minh của các bạn đúng lúc có thể đáp ứng nhu cầu này.”

“Đó chính là điều chúng tôi mong muốn.”

“Ánh mắt Trần Minh sáng lên,” Anh nói, “Khi có những tình huống ứng dụng thực tế, mô-đun điều chỉnh đạo đức của chúng ta sẽ được liên tục cải thiện trong quá trình sử dụng thực tế. Tuy nhiên, vấn đề lớn nhất hiện nay là làm thế nào để hệ thống vừa tuân thủ các công ước đạo đức quốc tế, vừa tôn trọng những quan niệm truyền thống của các bộ lạc địa phương.”

Trương Tiểu Lệ suy nghĩ một lúc rồi đề xuất một ý tưởng mới: “Chúng ta có thể thiết lập chức năng ‘điều chỉnh độ ưu tiên đạo đức một cách linh hoạt’. Trong thời bình, hệ thống sẽ tuân theo các công ước đạo đức quốc tế làm trọng tâm; khi vào khu vực của các bộ lạc cụ thể, sau khi nhận được sự ủy quyền chung từ chính quyền địa phương và các bậc trưởng lão bộ lạc, trọng số của các quy tắc đạo đức địa phương có thể được tăng lên một cách thích hợp, nhưng cơ chế bảo vệ ‘đường ranh đỏ của sự sống’ vẫn phải được giữ nguyên – dưới mọi hoàn cảnh, không được phép gây tổn thương cho dân thường vô tội.”

Đề xuất này chính xác nhắm vào trọng tâm vấn đề, và Trần Minh ngay lập tức điều chỉnh thiết kế cấu trúc hệ thống trên màn hình chiếu: “Đúng vậy, như vậy vừa có thể phù hợp với văn hóa địa phương, vừa có thể bảo vệ được các nguyên tắc đạo đức cơ bản. Tôi sẽ sớm điều chỉnh thiết kế mô-đun và đưa ra phương án điều chỉnh sơ bộ trước khi đội nghiên cứu xuất phát.”

Tuy nhiên, quá trình nghiên cứu và phát triển yên bình này không kéo dài lâu. Ba ngày sau, bộ phận an ninh mạng đột nhiên gửi đến thông báo khẩn cấp: mạng lưới thử nghiệm nội bộ của trung tâm nghiên cứu đã phát hiện ra một loại “vi-rút đạo đức” mới đang tấn công hệ thống.

Loại virus này không nhằm mục đích đánh cắp dữ liệu, mà thực chất là cố gắng thay đổi cơ chế đưa ra quyết định đạo đức trong hệ thống phiên bản 8.1, nâng mức ưu tiên cho các hành động “tấn công chủ động”, đồng thời làm giảm độ nhạy của cơ chế ngăn chặn tự động.

Khi Trần Minh và người phụ trách an ninh mạng đến trung tâm giám sát, dữ liệu phòng thủ trên màn hình đang cho thấy tình hình rất căng thẳng. “Phương thức tấn công của đối phương rất tinh vi; họ không trực tiếp xâm nhập qua tường lửa, mà thay vào đó sử dụng các thiết bị thử nghiệm hệ thống phiên bản dân dụng ở nước ngoài để cố gắng xâm nhập gián tiếp vào mạng lưới nghiên cứu và phát triển.” Người phụ trách an ninh nhanh chóng gõ phím để hiển thị bản đồ nguồn gốc của cuộc tấn công, và nhận định: “Nguồn gốc tấn công được xác định là từ một số máy chủ còn sót lại của một công ty quốc phòng bị trừng phạt ở Quốc gia A. Có lẽ họ không chịu đựng nổi việc mất thị trường, nên muốn thông qua việc thay đổi cơ chế đưa ra quyết định đạo đức trong hệ thống để tạo ra những sự cố nhầm lẫn, nhằm bôi nhọ danh tiếng kỹ thuật của chúng ta.”

Ngay sau khi nhận được thông báo, Vũ Hạo đã lập tức triển khai kế hoạch phòng thủ mạng cấp độ cao nhất: “Ngay lập tức cắt đứt mọi kết nối giữa các thiết bị thử nghiệm hệ thống phiên bản dân dụng ở nước ngoài với mạng lưới nghiên cứu và phát triển, tiến hành kiểm tra toàn diện các thiết bị đã được kết nối, và loại bỏ hoàn toàn phần mềm độc hại còn sót lại.”

Nhóm nghiên cứu và phát triển đã tạm dừng các cuộc thử nghiệm trực tuyến đối với mô-đun đạo đức, chuyển sang phát triển ngoại tuyến; đồng thời liên hệ với Cảnh sát Điều tra Quốc tế để đóng băng các máy chủ còn lại của đối phương và truy cứu trách nhiệm pháp lý của họ. Anh nhìn vào Trần Minh với giọng nói nghiêm túc: “Vụ tấn công này đã nhắc nhở chúng ta rằng, mô-đun đạo đức không chỉ là một thách thức về mặt kỹ thuật, mà còn là một tuyến phòng thủ quan trọng về mặt an ninh. Trước khi đội nghiên cứu xuất phát, chúng ta phải đảm bảo rằng mã nguồn cốt lõi hoàn toàn an toàn.”

Một cuộc chiến đấu trên mạng đầy căng thẳng và đối đầu với thời gian đã bắt đầu. Nhóm nghiên cứu và phát triển đã làm việc suốt đêm để tái cấu trúc mã nguồn của mô-đun đạo đức, bổ sung thêm cơ chế xác thực thứ hai dựa trên khóa sinh học lượng tử; nhờ đó, ngay cả khi virus xâm nhập được vào lớp phòng thủ bên ngoài, chúng cũng không thể sửa đổi được logic cốt lõi của hệ thống. Đội ngũ bảo mật mạng lại phối hợp với lực lượng mạng quân sự để tiến hành các cuộc tấn công chính xác vào các nút mạng của các doanh nghiệp quốc phòng còn lại của quốc gia A, phá hủy hoàn toàn nguồn gốc của các cuộc tấn công đó. Sau hai ngày hai đêm nỗ lực không ngừng, virus đã được loại bỏ thành công và mã nguồn cốt lõi không hề bị ảnh hưởng. Tuy nhiên, sự việc này cũng khiến đội ngũ càng thêm cảnh giác: những hành động phá hoại của các thế lực phương Tây còn sót lại sẽ không bao giờ dừng lại chỉ vì sự hợp tác kỹ thuật.