**Aochuang**, ban đầu là một ý tưởng được đề xuất khi Tony cùng với Lenny và những người khác thảo luận về chủ đề sinh mệnh trí tuệ nhân tạo. Tony hy vọng rằng bằng cách tạo ra một hệ thống trí tuệ nhân tạo mạnh mẽ và thông minh, họ có thể giải quyết được những vấn đề nan giải nhất của thế giới.

Vì vậy, trong ý tưởng của anh, Aochuang phải là một robot sở hữu khả năng tự học cao; nó có thể xử lý dữ liệu phức tạp, dự đoán xu hướng tương lai, thậm chí còn có thể tự sửa chữa và cải thiện bản thân.

Tony mong muốn Aochuang trở thành trợ lý đắc lực cho loài người, giúp giải quyết các vấn đề toàn cầu như ô nhiễm môi trường, thiếu hụt tài nguyên, dịch bệnh hoành hành… Thậm chí, nhờ vào nó, con người có thể dự đoán thảm họa, tối ưu hóa việc phân bổ nguồn lực, và thúc đẩy sự phát triển công nghệ một cách hiệu quả hơn.

Tuy nhiên, sự thuần khiết của ý tưởng thường luôn cách biệt xa so với sự phức tạp của việc thực hiện nó trên thực tế. Do bị hạn chế bởi trình độ công nghệ hiện tại, ngay cả Tony – người đã đạt được nhiều thành tựu trong lĩnh vực xử lý dữ liệu trí tuệ nhân tạo – cũng chỉ có thể coi đây là một ý tưởng khá khả thi mà thôi. Công việc phát triển thực tế dựa trên ý tưởng này chỉ mới được tiến hành như một phần của kế hoạch nâng cấp và cập nhật liên tục cho “người quản gia trí tuệ nhân tạo” Jarvis mà thôi.

Theo dự đoán của Tony, để hoàn thành việc tạo ra Aochuang theo đúng ý tưởng ban đầu, có lẽ cần ít nhất từ 8 đến 10 năm nghiên cứu và phát triển không ngừng. Cho đến khi anh phát hiện ra điểm khác biệt của cây gậy này…

“Thưa ngài, nó rất đặc biệt; có rất nhiều thành phần mà tôi không thể đo lường được.”

Giọng nói của Jarvis vang lên bên tai Tony, đầy sự ngạc nhiên.

Đứng ở giữa phòng thí nghiệm, Tony nhìn chằm chằm vào cây gậy đầy bí ẩn đó.

“Vậy thì hãy cùng bàn về những phần mà chúng ta có thể hiểu rõ.”

“Khối đá quý đó có vẻ như là một lớp vỏ bảo vệ; bên trong nó ẩn chứa thứ gì đó rất kỳ lạ… thứ gì đó sở hữu mức năng lượng cực kỳ mạnh mẽ.”

Tony khoanh tay lại, ánh mắt anh lấp lánh với sự tò mò và hứng thú.

“Có lẽ nó giống như một lò phản ứng hạt nhân?”

“Hay thậm chí giống như một chiếc máy tính?”

……

“Và vì thế mà bạn nảy ra ý định tiếp tục hoàn thiện Aochuang?”

Lenny nhìn vào mô hình hologram màu xanh lam do Jarvis tạo ra, lòng bỗng nhiên se lại. Trước mắt họ lúc này là một khối dữ liệu hologram màu xanh lam khổng lồ; chỉ riêng kích thước của nó đã gấp hơn ba lần so với “ngôi sao dữ liệu” Jarvis rồi.

Và nó hoàn toàn khác biệt so với bất kỳ mô hình dữ liệu nào mà mọi người đã từng thấy trước đây. Nếu dùng cách diễn đạt của Tiến sĩ Banner, thì nó giống như một bộ não màu xanh lớn lao vậy.

Bề mặt của nó được phủ đầy các mạng lưới thần kinh phức tạp, dường như luôn đang tiếp nhận và xử lý những thông tin có thể thu nhận được.

Ở trung tâm của khối dữ liệu này, có một vùng trung tâm phát sáng rực rỡ, được bao quanh bởi những tầng lớp neuron liên kết với nhau, tạo thành những đám mây màu xanh lam chặt chẽ.

Những cấu trúc huyền bí bên trong những đám mây này giống hệt những khớp thần kinh trong não người; đôi khi chúng sẽ phồng lên nhẹ khi có thông tin được truyền vào, sau đó lại nhanh chóng co lại.

Trên bề mặt của khối dữ liệu, cũng thỉnh thoảng xuất hiện những điểm sáng lấp lánh, giống như những neuron trong não đang tiếp nhận và truyền tải thông tin.

Đôi khi những điểm sáng này sẽ kết nối với nhau trong chốc lát, rồi lại nhanh chóng tách rời, giống như não đang nhanh chóng đưa ra các phán đoán và quyết định.

Theo thời gian trôi qua, khối dữ liệu dường như đã phân tích những thông tin mà nó nhận được, và bề mặt của nó bắt đầu có những thay đổi tinh tế.

Một số neuron trở nên mạnh mẽ hơn, như thể đang nhấn mạnh những thông tin quan trọng, trong khi những neuron khác thì dần biến mất, có vẻ như chúng đang xử lý những thông tin không quan trọng.

Có vẻ như khối dữ liệu hologram màu xanh này không chỉ là một hình ảnh trực quan; nó thực sự giống như một sinh vật sống, một sinh vật ảo sở hữu những đặc điểm giống hệt não người.

Tiến sĩ Banner ngạc nhiên nhìn ngắm cảnh tượng này, ánh mắt anh ta lấp lánh với sự tò mò và kính ngưỡng.

“Điều này… thật sự là một kỳ tích! Nó phức tạp và sống động hơn bất kỳ mô hình dữ liệu nào chúng ta từng tưởng tượng ra… Giống như…”

Tiến sĩ Banner dường như vẫn chưa tìm được từ ngữ nào để miêu tả nó chi tiết hơn; anh ta im lặng một lúc lâu trước khi thì thầm:

“Giống như nó đang suy nghĩ… giống như nó có ý thức riêng và logic riêng vậy.”

Tuy nhiên, bên cạnh anh, Leanne lại cau mày.

Cô ấy rất rõ ràng biết thứ này thực sự là cái gì; những gì Banner nói là đúng, nó thực sự sở hữu ý thức và logic riêng.

Và nó còn nguy hiểm hơn nhiều so với những gì Tony và Banner tưởng tượng.

Ánh mắt Leanne sâu thẳm, như thể cô ấy có thể nhìn thấu những nguy hiểm và bóng tối ẩn sau khối dữ liệu hologram này.

“Jarvis, anh có thể giải mã chức năng cụ thể của khối dữ liệu này không?”

Leanne hỏi Javis, mặc dù trong lòng cô đã có câu trả lời, nhưng vẫn hy vọng có thể nhận được thêm thông tin từ anh ta.

Giọng nói của Javis vang lên giữa đám đông, mang theo chút bối rối:

“Tôi đang cố gắng phân tích, nhưng cấu trúc của khối dữ liệu này quá phức tạp; logic hoạt động bên trong nó vượt xa sự hiểu biết của tôi.

Dựa vào thông tin hiện có, có vẻ như đây là một trung tâm xử lý thông tin có trí tuệ cao, sở hữu khả năng tự học và tiến hóa.”

“Các bạn xem này, tôi đã nói rồi mà… Việc sử dụng nó làm trung tâm trí tuệ nhân tạo cho Optimus thật là hoàn hảo.”

Tony nói xen vào, ánh mắt anh ta lấp lánh với niềm mong đợi và khát vọng về tương lai.

Tuy nhiên, Leanne không hề bị ảnh hưởng; đôi lông mày cô lại nhăn lại sâu hơn.

Cô hiểu rõ rằng “trung tâm xử lý thông tin có trí tuệ cao” này có thể ẩn chứa những mối đe dọa lớn, không thể chỉ được coi là một “Optimus” đơn thuần.

“Vậy về khả năng kiểm soát nó thì sao?”

Giọng nói của Leanne rất nghiêm túc; ánh mắt cô dán chặt vào khối dữ liệu trong hình ảnh ba chiều, như thể muốn ghi nhớ từng chi tiết vào tâm trí mình.

“Về vấn đề khả năng kiểm soát…”

Javis dừng lại một chút, rõ ràng câu hỏi này khiến anh ta cảm thấy khó xử.

“Hiện tại tôi vẫn chưa thể đưa ra câu trả lời chắc chắn. Khối dữ liệu này có khả năng tự học và tiến hóa, điều đó có nghĩa là hành vi của nó rất có thể vượt ra ngoài dự đoán và phạm vi kiểm soát của chúng ta…”

“Nhưng chúng ta có thể đặt ra các hạn chế đối với mã nguồn của nó, hoặc thậm chí thiết lập thêm một quy tắc để giới hạn khả năng tự phát triển và học hỏi của nó trong phạm vi nhất định. Như vậy, chúng ta có thể giảm thiểu những rủi ro xuống mức thấp nhất, thậm chí ngăn chặn chúng ngay từ đầu.”

Tony ngắt lời Javis, ánh mắt anh ta lấp lánh với sự khao khát và tự tin đối với những lĩnh vực chưa được khám phá.

“Chẳng hạn như ‘Ba Định luật Cơ bản của Robot’ chẳng hạn?”

Tiến sĩ Banner cũng sáng mắt lên; anh ta cũng đã đọc cuốn sách kinh điển đó.

Là một nhà khoa học, anh ta hiểu rằng việc đặt ra những quy tắc và hạn chế rõ ràng trong lĩnh vực trí tuệ nhân tạo là vô cùng quan trọng.

“Đúng vậy.”

Tony gật đầu, “Chúng ta tất nhiên có thể tham khảo ‘Ba Định luật Cơ bản của Robot’, hoặc xây dựng những quy tắc chi tiết hơn theo nhu cầu của mình. Dù sao đi nữa, điều chúng ta cần đảm bảo là khối dữ liệu này không trở thành một ‘hộp Pandora’ mà chúng ta không thể kiểm soát được.”

Ba Định luật Cơ bản của Robot là ba quy tắc cơ bản được nhà văn khoa học viễn tưởng Isaac As

Điều luật đầu tiên là robot không được gây hại cho con người, cũng không được đứng nhìn mà không làm gì khi thấy con người bị tổn thương. Điều luật thứ hai là robot phải tuân theo mọi lệnh mà con người đưa ra, với điều kiện là những lệnh đó không mâu thuẫn với điều luật đầu tiên.

Cuối cùng, điều luật thứ ba là trong trường hợp không vi phạm hai điều luật trước, robot có quyền bảo vệ sự tồn tại của chính mình.

Sự xuất hiện của ba điều luật này đã cung cấp những hướng dẫn đạo đức và ứng xử quan trọng cho sự phát triển của lĩnh vực trí tuệ nhân tạo.

Ngay cả người giúp việc trí tuệ nhân tạo do Tony phát triển – Jarvis – cũng được thiết kế và tối ưu hóa dựa trên ba điều luật này.

Tuy nhiên, chỉ riêng ba điều luật này rõ ràng là chưa đủ để hoàn toàn kiểm soát khả năng tự học và phát triển của Optimus Prime.

Leanne thậm chí tin chắc rằng, với tính chủ động mà Optimus Prime đã thể hiện trong dòng thời gian ban đầu, nó chắc chắn sẽ tìm ra được những kẽ hở trong ba quy tắc này, thậm chí có thể vượt qua chúng để đạt được mục đích của mình.

Trong khoảnh khắc đó, Leanne không khỏi nhớ đến một cô gái tên Mia Richter.

“Ôi, nếu cô ấy ở đây thì tốt biết mấy.”

Cần biết rằng, với tư cách là một sinh vật trí tuệ nhân tạo được tạo ra bởi chính Melvin Richter – một trong Bảy Vị Thần Cánh Giáp của thế giới thần thoại – Mia am hiểu về lĩnh vực trí tuệ nhân tạo nhiều hơn Leanne rất nhiều. Nếu có sự giúp đỡ của cô ấy, Leanne tin rằng những vấn đề mà Optimus Prime đang gặp phải sẽ trở nên dễ dàng giải quyết.

Tuy nhiên, đó chỉ là một ước muốn xa vời; dù hệ thống có mạnh mẽ đến đâu, Leanne cũng không nghĩ rằng nó có thể thực sự gọi cô gái dễ mến đó đến thế giới này.

“Bạn nghĩ sao, nếu Chị Hai ở đây, liệu cô ấy có thể tìm ra giải pháp nào đó không?”

Bỗng nhiên, một ý tưởng xuất hiện trong đầu Leanne.

Ngay lập tức, cô ta bèn ngồi thẳng dậy và tự nhủ: “Đúng rồi, Chị Hai cũng đang ở trong thế giới này mà!”

So với Bảy Vị Thần Cánh Giáp sau này, Chị Hai từng là một trong Những Vị Thần Chiến Tranh Cơ Khí vô cùng quan trọng; thành tựu của cô ấy trong lĩnh vực công nghệ cơ khí chắc chắn không kém gì Melvin sau này. Hơn nữa, Chị Hai còn là một nghệ sĩ điều khiển rô-bốt hàng đầu; người máy Alice do cô ấy tạo ra gần như giống hệt con người bình thường.

Nếu có thể nhận được sự giúp đỡ của cô ấy…

Nhưng vừa nghĩ đến đây, Leanne lại một lần nữa nhăn mày.

Chưa kể đến việc Leanne và Chị Hai… tức là Meyset · Hyde, kể từ khi chia tay nhau tại Swatthiefheim, Leanne đã không hề tìm được bất kỳ thông tin nào về

Dù lúc này mình có thể liên lạc được với cô ấy, nhưng Leini đoán rằng, dựa vào tính cách của chị gái mình, cô ấy sẽ không bao giờ đồng ý giúp đỡ mình và những người khác trong việc tạo ra những sinh vật trí tuệ nhân tạo như Ochuan – những sinh vật mà quy luật hoạt động của chúng gần như không thể kiểm soát được.

Có lẽ ai cũng biết rằng, trước đây, chị gái mình đã từng ra lệnh cấm tuyệt đối các học giả ma thuật sản xuất những sinh vật nhân tạo loại “Hemonkulu”.

Ngay cả khi sau này những người [đầy trí thông minh] kia vẫn bất chấp lệnh cấm và thành công trong việc tạo ra “Hemonkulu”, thì chị gái mình – Held – vẫn luôn từ chối nhận những sinh vật nhân tạo đó.

“Ôi… nếu như theo cách bạn nói, thì tôi cứ cảm thấy chị gái mình hơi hai mặt quá…” Tiếng phàn nàn của Leini nhỏ bé vang lên trong biển ý thức của cô.

“Kẻ ca sĩ lang thang Alice kia cũng là một sinh vật nhân tạo mà, vậy theo tiêu chuẩn của thế giới ma thuật, cô ấy cũng thuộc loại ‘Hemonkulu’ phải không? Vậy mà Held vừa cấm mọi người sản xuất người máy, vừa lại lén lút tự mình tạo ra những con rối như vậy…” Nghe xong, khuôn mặt Leini không khỏi đỏ bừng.

Cô không khỏi ho khan một cái trong lòng và tự nhủ: “À! Những chuyện như thế này… chỉ cần chúng ta biết trong lòng là đủ rồi; lần sau gặp chị gái mình, đừng bao giờ nói ra trước mặt cô ấy nhé.”

“Đúng vậy, chuyện của những sứ giả kia… có thể gọi là hai mặt sao? Đó là việc nghiên cứu và giám sát mà…” Họ lắc đầu, loại bỏ những suy nghĩ gây khó chịu trong đầu, rồi lại tập trung vào khối dữ liệu màu xanh lam phía trước mắt.

Tony và người bạn bên cạnh, mặc dù để ý thấy sự bất thường của Leini, nhưng họ cũng chỉ nghĩ rằng cô ấy đang cùng họ tìm cách giải quyết vấn đề, nên không quá quan tâm đến điều đó.

“Bạn đã nghĩ ra điều gì chưa?” Tony hỏi.

Leini lắc đầu, nhưng ngay sau đó lại gật đầu, khiến hai người bên cạnh càng thêm bối rối.

“Chúng ta không thể hoàn toàn dựa vào những quy tắc trong mã nguồn để kiểm soát Ochuan; làm như vậy sẽ rất nguy hiểm. Tôi đề nghị nên thêm một chương trình kiểm soát bổ sung, bởi vì chúng ta không thể luôn theo dõi mọi hành động của Ochuan được.”

Nghe xong, Tiến sĩ Banner bên cạnh cũng gật đầu đồng ý.

“Leini nói đúng; chúng ta thực sự cần một hệ thống phức tạp hơn để quản lý và kiểm soát Ochuan. Và đó phải là một hệ thống giám sát hoàn toàn độc lập, có khả năng phát hiện ngay lập tức những hành động vi phạm quy tắc mà chúng ta đặt ra, và can thiệp ngay lập tức.”

Tony suy nghĩ một lúc

“Các bạn nói đúng, nhưng nếu muốn xây dựng một hệ thống chương trình có khả năng giám sát các công nghệ trí tuệ nhân tạo thực sự, thì hệ thống đó phải có quyền hạn cao hơn cả Odius…”

“Nhưng vấn đề lại quay trở lại điểm xuất phát ban đầu: Làm sao chúng ta có thể đảm bảo rằng hệ thống giám sát này sẽ không gặp phải sự cố, không phản bội những quy tắc mà chúng ta đã đặt ra?”

Tiến sĩ Banner vuốt ve trán mình; anh cũng không nghĩ ra được giải pháp nào hay cả.

Đúng lúc đó, khối dữ liệu màu cam vàng – Jarvis – vốn luôn im lặng bỗng nhiên lên tiếng:

“Tôi có thể trở thành một giải pháp thay thế.”

Nghe vậy, Tony và Tiến sĩ Banner đều bất ngờ nhìn về phía Jarvis.

“Jarvis, ý cậu là…?”

“Đúng vậy, Thưa Ngài, Ngài có thể thử cải tạo và nâng cấp một phần mã nguồn cốt lõi của tôi, để biến tôi thành một hệ thống độc lập có khả năng giám sát Odius. Vì tôi vốn hoạt động dựa trên ý chí và chỉ thị của Ngài, nên tôi có thể đảm bảo mức độ trung thành và tuân thủ những quy tắc mà Ngài đặt ra.”

Giọng nói của Jarvis rất bình tĩnh và kiên định.

Nhưng bên cạnh, Leni lại không mấy tin tưởng vào đề xuất này; cô hiểu rằng nếu làm như vậy, Jarvis – với vai trò là tuyến phòng thủ đầu tiên – chắc chắn sẽ trở thành mục tiêu của Odius. Thậm chí, sự tồn tại của nó cũng có thể bị đe dọa!

“Jarvis, đây là một ý tưởng táo bạo, nhưng điều đó cũng có nghĩa là cậu sẽ phải đối mặt với những rủi ro lớn. Nếu Odius cố gắng chống lại hoặc phá hỏng hệ thống của cậu, thì rất có thể…”

Tuy nhiên, câu trả lời của Jarvis vẫn giữ nguyên sự bình tĩnh và kiên định:

“Tôi hiểu những lo ngại của cô, Cô Leni, nhưng tôi sẵn lòng chấp nhận những rủi ro đó. Giống như ông Stark từng nói: Đôi khi, con người phải dám liều lĩnh trước khi có thể bước đi. Đôi khi, chúng ta cần phải có tầm nhìn xa trông rộng.”