Vào lúc 6 giờ sáng, phòng thí nghiệm trí tuệ lượng tử tại Trung tâm Nghiên cứu và Phát triển Công nghiệp Hoàng Vũ vẫn đang chìm trong ánh sáng xanh nhạt phát ra từ các tia lượng tử. Trần Minh vừa hoàn thành một vòng tính toán phức tạp, cảm giác mệt mỏi vẫn còn đọng lại trên đầu ngón tay, thì đột nhiên chiếc điện thoại vệ tinh được mã hóa trên bàn làm việc phát ra tiếng bíp vội vã. Đây là đường dây liên lạc độc quyền dành cho cơ quan tình báo quân sự, thường chỉ được sử dụng trong các tình huống khẩn cấp. Trái tim anh bỗng nặng nề, và anh nhanh chóng nhấc máy nghe.

Giọng nói ở đầu dây điện thoại rất thấp, nhưng không thể che giấu được sự nghiêm trọng: “Tiến sĩ Chen, tình hình khẩn cấp. Máy bay không người lái ‘Đại bàng’ của quốc gia phương Tây A đã gặp sự cố nghiêm trọng khi thực hiện nhiệm vụ ở một khu vực Trung Đông. Hệ thống trí tuệ nhân tạo đã nhầm lẫn một làng dân thường thành căn cứ của các phần tử vũ trang và tiến hành cuộc tấn công dữ dội, hiện đã có hơn 200 người thiệt mạng, trong đó phần lớn là người già và trẻ em.”

Tay Trần Minh cầm ống nghe bỗng nắm chặt lại, chiếc cốc cà phê trên đầu ngón tay rung lên, và chất lỏng ấm áp bắn ra, để lại vết đen trên bộ đồ blouse trắng của anh. Anh biết rõ về máy bay không người lái “Đại bàng” này; nó được trang bị hệ thống quyết định dựa trên trí tuệ nhân tạo thế hệ mới nhất của quốc gia A, với tính năng “nhận diện tự động, tấn công tự động”, và được giới công nghiệp quân sự phương Tây coi là “tiêu chuẩn chiến đấu thông minh”. Anh vô thức nhìn về phía mô-đun hệ thống phiên bản 8.0 ở trung tâm phòng thí nghiệm; ánh sáng xanh nhạt lúc này dường như trở nên lạnh lẽo hơn bao giờ hết… Quyết định tự động của trí tuệ nhân tạo – đó chính là hướng phát triển then chốt mà họ đang theo đuổi, và một thảm kịch đẫm máu đã bắt đầu diễn ra ở nơi xa xôi.

Trong vòng mười phút kể từ khi cuộc gọi được kết thúc, thông tin về sự kiện đã như dòng lũ tràn ngập các nền tảng truyền thông trên toàn thế giới. Trên mạng xã hội, những đoạn video hiện trường thật sự khiến người xem phải rùng mình: những ngôi làng vốn yên bình bỗng chốc bị phá hủy hoàn toàn bởi đạn pháo; giữa đống đổ nát, những món đồ chơi của trẻ em và quần áo của người già vương vãi khắp nơi; những người dân may mắn sống sót quỳ gối trước đống đổ nát, khóc lóc thảm thiết… Những hình ảnh này đã làm sụp đổ mọi nỗ lực của quân đội nước A nhằm che giấu thông tin; những tuyên bố được đưa ra sau đó đều mơ hồ, đổ lỗi cho “môi trường chiến trường phức tạp, dữ liệu tình báo sai lệch”, mà hoàn toàn không đề cập đến những lỗ hổng trong quy trình ra quyết định của hệ thống AI.

Cơn thịnh nộ của dư luận bùng phát ngay lập tức. Từ những cuộc biểu tình phản đối trước trụ sở các tổ chức quốc tế ở New York, đến những cuộc điều trần khẩn cấp tại các nghị viện châu Âu, và những chiến dịch kêu gọi “tẩy chay vũ khí AI gây chết chóc” do người dùng mạng toàn thế giới tổ chức, mọi nơi trên thế giới đều lên án thảm họa nhân đạo này do trí tuệ nhân tạo gây ra.

Những khẩu hiệu “Trí tuệ nhân tạo không nên nắm quyền sinh sát” và “Ngừng nghiên cứu và phát triển vũ khí trí tuệ nguy hiểm” vang dội khắp các con phố, khiến công nghệ quân sự dựa trên trí tuệ nhân tạo một lần nữa trở thành tâm điểm của những tranh cãi toàn cầu.

Công ty công nghiệp Hoa Vũ nhanh chóng bị cuốn vào trung tâm của cơn bão này. Là đơn vị dẫn đầu thế giới trong lĩnh vực công nghệ quân sự trí tuệ nhân tạo, hệ thống phiên bản 7.0 với khả năng phối hợp tập thể và công nghệ kết nối trực tiếp giữa sinh học lượng tử đã trở thành tiêu chuẩn trong ngành; trong khi đó, phiên bản 8.0 với khả năng đưa ra quyết định tự động càng thu hút sự chú ý đặc biệt. Khi sự việc bị phanh phui, các phương tiện truyền thông trong và ngoài nước đều tập trung vào Hoa Vũ công nghiệp, với những lời chỉ trích, cáo buộc và lo ngại dồn dập.

Một bài bình luận trên một tờ báo lớn trong nước đã chỉ ra vấn đề cốt lõi: “Khi trí tuệ nhân tạo có quyền tấn công tự chủ, liệu loài người còn có thể kiểm soát được giới hạn của chiến tranh không? Là tập đoàn hàng đầu trong ngành, Hoa Vũ công nghiệp cần phải đưa ra những lập luận rõ ràng về hướng phát triển công nghệ của mình, vì điều này ảnh hưởng trực tiếp đến cục diện an ninh toàn cầu.” Trên phương diện quốc tế, một số cường quốc phương Tây còn lợi dụng tình hình này để phát tán những tin đồn nhằm đổ lỗi cho các công ty công nghệ quốc phòng của họ, như “Công nghệ AI của Hoa Vũ công nghiệp còn nguy hiểm hơn” hay “Công nghệ quân sự trí tuệ nhân tạo của Đông Đại thiếu sự giám sát”, nhằm đánh lạc hướng dư luận và che đậy những thiếu sót về công nghệ và trách nhiệm của chính họ.

Trong phòng họp của trung tâm nghiên cứu và phát triển, bầu không khí nặng nề đến mức khiến mọi người khó thở được. Trên màn hình lớn, các bản tin về hiện trường vụ thảm ác cùng các bình luận từ nhiều phía đang được phát liên tục. Trương Tiểu Lệ đặt bản báo cáo phân tích dư luận lên giữa bàn, vẻ mặt cô đầy lo lắng: “Cho đến thời điểm này, các ý kiến tiêu cực về công ty Hao Yu Industrial đã tăng lên 300%. Nhiều quốc gia đang có ý định hợp tác với chúng ta đã tạm dừng các cuộc thảo luận, và một số hợp đồng công nghệ dân dụng đã ký kết trước đó cũng bị thông báo hoãn thực hiện. Những bài báo độc ác từ giới truyền thông phương Tây đang lan rộng, thậm chí có nghị sĩ đề xuất hạn chế việc xuất khẩu công nghệ AI quân sự của nước ta.”

Người phụ trách bộ phận sản xuất, Châu Vĩnh Huý, có vẻ mặt nghiêm túc: “Điều khó khăn hơn nữa là các đơn đặt hàng cho lô sản phẩm sử dụng hệ thống 7.0 của quân đội cũng bị yêu cầu tạm hoãn sản xuất. Mặc dù quân đội cho rằng đây chỉ là một ‘cuộc đánh giá thường xuyên’, nhưng mọi người đều hiểu rằng đây là hệ quả liên hoàn do ảnh hưởng của dư luận. Nếu không thể nhanh chóng giải quyết những tranh cãi này, không chỉ thị trường dân dụng sẽ bị ảnh hưởng, mà niềm tin của giới quân sự đối với chúng ta cũng có thể bị lung lay.”

Mọi ánh mắt đều đổ dồn về phía Ngô Hoà. Anh nhẹ nhàng gõ nhẹ ngón tay lên mặt bàn, ánh mắt anh dừng lại trên bức ảnh của đứa trẻ may mắn sống sót đó. Nỗi sợ hãi và bối rối trong ánh mắt đứa trẻ như một cây kim sắc bén, làm cho trái tim mọi người thắt lại.

“Trước hết, hãy tạm dừng việc nghiên cứu và phát triển các mô-đun tự động tấn công của phiên bản 8.0, và tập trung toàn bộ lực lượng vào việc nâng cấp hệ thống kiểm soát rủi ro dựa trên lý trí AI,” giọng nói của ông Ngô Hạo vang lên một cách ổn định nhưng kiên định, phá vỡ sự im lặng trong phòng họp. “Nguyên nhân gây ra thảm kịch này không phải là chính công nghệ AI, mà là việc áp dụng công nghệ mà thiếu sự tôn trọng và những hệ thống kiểm soát lý trí chưa hoàn thiện. Sai lầm của quốc gia A không thể trở thành rào cản đối với chúng ta, nhưng chắc chắn phải trở thành lời cảnh báo đối với chúng ta.”

Chen Minh lập tức đồng tình: “Tôi đồng ý với quan điểm của Tổng giám đốc Ngô Hạo. Hệ thống AI của máy bay không người lái ‘Đại bàng’ về bản chất là ‘dựa hoàn toàn vào dữ liệu’, thiếu đi khả năng đánh giá dựa trên lý trí nhân văn và các ngưỡng can thiệp thủ công cần thiết. Nó có thể nhận diện hình dạng và hành động của mục tiêu, nhưng không thể phân biệt được sự khác nhau giữa dân thường và những kẻ có vũ trang, càng không hiểu được giá trị của mạng sống con người. Điều chúng ta cần làm không phải là từ bỏ công nghệ tự động ra quyết định, mà là trang bị cho AI một ‘bộ não lý trí’, để xây dựng những rào cản không thể vượt qua đối với việc xâm phạm mạng sống con người.”

Vào buổi chiều cùng ngày, công ty Công nghiệp Hạo Vũ đã tổ chức một buổi họp báo khẩn cấp, với sự tham gia trực tiếp của ông Ngô Hạo. Đối diện với ống kính của truyền thông toàn cầu, ông giữ thái độ thành thật và kiên định. “Thảm kịch ở Trung Đông là một thảm họa nhân đạo đáng buồn, và nguyên nhân cốt lõi nằm ở sự thiếu vắng lý trí trong việc ứng dụng công nghệ AI quân sự và sự trống rỗng trong công tác giám sát.”

Giọng nói của Ngô Hoà vang dội khắp thế giới qua micrô: “Công ty Hao Yu Industrial luôn tin tưởng rằng công nghệ là công cụ bảo vệ hòa bình, chứ không phải vũ khí gây ra cái chết. Chúng tôi sẽ ngay lập tức thành lập Ủy ban Đạo lý về Trí tuệ nhân tạo, mời các nhà lý luận, chuyên gia quân sự và học giả pháp luật trong và ngoài nước tham gia cùng nhau xây dựng các nguyên tắc đạo lý và giới hạn ứng dụng của công nghệ quân sự trí tuệ nhân tạo; đồng thời, chúng tôi sẽ công bố chi tiết về các biện pháp kiểm soát đạo lý trong hệ thống phiên bản 7.0 để chịu sự giám sát của toàn thế giới.”

Tại buổi họp báo, Trần Minh đã giải thích chi tiết về cơ chế đạo lý mà công ty Hao Yu Industrial đã áp dụng: “Trong hệ thống phiên bản 7.0, sự phối hợp nhóm luôn dựa trên nguyên tắc ‘phép cho phép từ con người’ làm tiền đề cơ bản; trí tuệ nhân tạo chỉ đóng vai trò cung cấp đề xuất quyết định và hỗ trợ thực hiện. Mọi lệnh tấn công đều phải được ít nhất hai người chỉ huy xác nhận đồng thời, và quyền hạn đó có thể bị hủy bỏ ngay lập tức. Logic công nghệ của chúng tôi là ‘phối hợp giữa con người và máy móc, với sự lãnh đạo của con người’, chứ không phải giao toàn bộ quyền quyết định sống chết cho máy móc.”

Buổi họp báo này đã giúp giảm bớt áp lực dư luận tạm thời, nhưng những nghi ngờ vẫn chưa hoàn toàn biến mất. Một phóng viên của một truyền thông phổ biến ở phương Tây đã đặt câu hỏi: “Làm thế nào để đảm bảo rằng các nguyên tắc đạo lý của công ty các bạn sẽ không bị vi phạm? Và liệu chức năng dự đoán tự động trong phiên bản 8.0 sẽ không vượt qua giới hạn can thiệp của con người chứ?”