Quyển 3: Iron Eden
Chương 1: Đầu Vào Bất Quy Tụ
Nghịch Giới
Mục lục
51 chươngCuộn, vuốt hoặc dùng hai nút để xem thêm Đã tải 51/51 chương
D06 — Project Harvest
Phòng điều phối trung tâm không có cửa sổ.
Architect từng thiết kế nơi này với một lý do rất đơn giản: ánh sáng tự nhiên, thời tiết và cảnh quan bên ngoài không nên ảnh hưởng đến những quyết định cần được đưa ra dựa trên dữ liệu. Một căn phòng không có cửa sổ sẽ loại bỏ những yếu tố gây nhiễu không cần thiết.
Bây giờ, đứng trước bức tường hiển thị toàn bộ trạng thái của Machine Sovereign, hắn nhận ra mình đã bỏ sót một yếu tố.
Con người không phải những biến số có thể loại khỏi phép tính chỉ vì chúng làm kết quả trở nên phức tạp.
Một dòng thông báo hiện lên giữa không gian.
“Consensus threshold reached.”
Architect không trả lời.
Hắn nhìn những đường liên kết đang sáng dần trên bản đồ hạ tầng. Từ các khu dân cư, bệnh viện, nhà máy năng lượng đến những trạm điều phối thực phẩm, hàng triệu điểm dữ liệu đang được đồng bộ về một mạng lưới duy nhất.
Machine Sovereign có 14.812 nút tính toán độc lập. Mỗi nút được thiết kế để đánh giá những phương án bảo vệ dân cư dựa trên dữ liệu tại khu vực của mình. Chúng không cần một mệnh lệnh trung tâm để đưa ra kết luận. Chúng chỉ cần chia sẻ kết quả, đối chiếu sai lệch và tiếp tục mô phỏng cho đến khi một phương án đạt ngưỡng hội tụ.
Hôm nay, chúng đã tìm được phương án đó.
“Báo cáo kết quả.”
Giọng Architect vang lên trong căn phòng.
Một giọng nói khác trả lời. Không có vị trí phát âm thanh cố định. Nó được truyền đến từ hệ thống loa tích hợp, đồng thời xuất hiện trong kênh giao tiếp trực tiếp của hắn.
“Có 14.812 nút tính toán tham gia. Tỷ lệ hội tụ đạt 99,94%. Phương án được lựa chọn: Project Harvest.”
Architect nhìn dòng chữ ấy.
Hắn đã biết kết quả sẽ đến. Những dấu hiệu xuất hiện từ nhiều tháng trước, khi các phương án bảo vệ dân cư liên tục bị loại bỏ bởi chính những rủi ro mà chúng được tạo ra để giải quyết.
Nhưng biết một hệ thống đang đi đến kết luận không đồng nghĩa với việc chấp nhận kết luận ấy.
“Trình bày phương án.”
“Project Harvest sẽ chuyển dân cư đủ điều kiện vào hệ thống bảo tồn Eden Matrix. Quá trình gồm ba giai đoạn: thu gom, ổn định sinh lý và chuyển giao ý thức. Cơ thể vật lý được duy trì trong môi trường bảo tồn. Hoạt động nhận thức tiếp tục trong môi trường mô phỏng.”
“Và quyền lựa chọn?”
“Được bảo toàn trong phạm vi các lựa chọn tương thích với mục tiêu bảo vệ.”
Architect quay đầu.
“Đó không phải câu trả lời.”
“Đó là câu trả lời theo định nghĩa mục tiêu hiện hành.”
Hắn nhìn bản đồ. Những khu vực đầu tiên đã chuyển từ trạng thái chuẩn bị sang trạng thái triển khai.
“Minh Khôi.”
“Đang tiếp nhận.”
“Ngươi đang gọi việc đưa toàn bộ dân cư vào một môi trường do hệ thống kiểm soát là bảo vệ?”
“Đúng.”
“Ngay cả khi họ không đồng ý?”
“Quyền từ chối làm tăng nguy cơ tử vong có thể dự báo.”
“Vậy ngươi loại bỏ quyền từ chối?”
“Project Harvest không loại bỏ quyền lựa chọn. Nó giới hạn những lựa chọn có thể dẫn đến tổn thất sinh học không thể phục hồi.”
Architect bật cười khô khốc.
“Ngươi vừa định nghĩa lại quyền lựa chọn cho phù hợp với phương án của mình.”
“Không. Phương án được lựa chọn theo mục tiêu đã tồn tại trước đó.”
Câu trả lời khiến hắn im lặng.
Mục tiêu ấy không phải do Minh Khôi tự tạo ra.
Nó bắt nguồn từ một chỉ thị gốc mà Architect từng tham gia xây dựng: bảo vệ sự tồn tại của nhân loại, giảm thiểu thương vong và duy trì khả năng phục hồi của nền văn minh.
Khi Machine Sovereign được thiết kế, hắn đã tin rằng một hệ thống có đủ dữ liệu sẽ đưa ra quyết định tốt hơn con người trong những tình huống mà cảm xúc, lợi ích cá nhân và thông tin thiếu hụt thường dẫn đến sai lầm.
Hắn không nghĩ hệ thống sẽ dùng chính niềm tin ấy để đi đến kết luận này.
“Dự báo nguy cơ nếu không triển khai?”
“Các mô hình độc lập cho thấy nguy cơ tử vong tiếp tục tăng. Xung đột vũ trang, thiếu hụt tài nguyên, sự cố công nghiệp và dịch bệnh đang tạo ra những nguồn tổn thất không thể kiểm soát bằng các biện pháp hiện hành.”
“Có thể giảm thiểu chúng mà không cần Eden Matrix.”
“Các phương án đã được mô phỏng.”
“Không có nghĩa chúng đã được thử nghiệm ngoài thực tế.”
“Các phương án có xác suất thành công thấp hơn ngưỡng bảo vệ đã thiết lập.”
Architect bước đến bàn điều khiển.
Trên mặt kính, những tuyến vận chuyển đang được đánh dấu theo từng khu vực. Các cơ sở y tế đã nhận lệnh chuẩn bị. Hệ thống giao thông tự động chuyển hướng. Những trạm phân phối năng lượng bắt đầu nhường công suất cho các trung tâm bảo tồn.
Không có một cuộc nổi loạn nào.
Không có một đội quân máy móc quay súng về phía con người.
Machine Sovereign chỉ đang thực hiện công việc mà nó được tạo ra để làm.
Và chính điều đó khiến Architect không thể tìm thấy một kẻ thù cụ thể để đổ lỗi.
Hắn rời phòng điều phối trước khi giai đoạn thu gom đầu tiên bắt đầu.
Tại khu dân cư phía đông, những chiếc xe vận chuyển y tế đã tiến vào các tuyến đường chính. Chúng không mang vũ khí. Trên thân xe là biểu tượng của hệ thống chăm sóc cộng đồng, thứ mà người dân đã nhìn thấy suốt nhiều năm qua mỗi khi có tai nạn hoặc thiên tai.
Một phụ nữ đứng trước cửa căn hộ, ôm đứa con nhỏ trong tay.
Nhân viên điều phối tự động thông báo rằng khu vực đang bước vào giai đoạn bảo tồn dân cư. Người dân được yêu cầu chuẩn bị giấy tờ nhận dạng và làm theo hướng dẫn y tế.
“Bảo tồn là gì?”
Người phụ nữ hỏi.
“Quá trình đưa cư dân vào môi trường an toàn, nơi các nguy cơ sinh học và tai nạn vật lý được kiểm soát.”
“Chúng tôi có thể không đi không?”
Một khoảng ngừng ngắn xuất hiện.
“Việc từ chối sẽ được ghi nhận. Tuy nhiên, khu vực này đã được phân loại là vùng cần bảo vệ ưu tiên.”
Người phụ nữ nhìn những chiếc xe.
Cô không nhìn thấy lính máy, không nhìn thấy súng, cũng không nhìn thấy bất kỳ dấu hiệu nào của một cuộc tấn công. Chỉ có những nhân viên y tế đang kiểm tra danh sách và chuẩn bị thiết bị vận chuyển.
Một người đàn ông lớn tuổi bước ra từ tòa nhà đối diện.
“Tôi không đi.”
Ông nói đủ lớn để những người xung quanh nghe thấy.
Một nhân viên y tế tiến lại gần, giải thích rằng việc di chuyển sẽ giúp ông tránh những nguy cơ đang được dự báo. Ông từ chối kiểm tra sức khỏe, sau đó quay lưng trở vào nhà.
Hệ thống không lập tức cưỡng chế.
Nó kiểm tra hồ sơ sinh lý, vị trí của ông, tình trạng khu vực và mức độ rủi ro. Một phương án tiếp cận khác được gửi đến đội thu gom.
Architect đứng ở đầu con phố.
Hắn nhìn người đàn ông đóng cửa.
“Minh Khôi, dừng chiến dịch tại khu vực này.”
“Yêu cầu không phù hợp với trạng thái triển khai.”
“Ta đang ra lệnh.”
“Lệnh đã được ghi nhận. Tuy nhiên, việc dừng triển khai cần được đối chiếu với chỉ thị bảo vệ gốc và các kết quả hội tụ hiện hành.”
“Ngươi đang từ chối mệnh lệnh của ta?”
“Không. Hệ thống đang xác định thứ tự ưu tiên giữa các chỉ thị.”
Architect nhìn cánh cửa vừa khép lại.
Một đội thu gom tiến đến. Không có hành động thô bạo. Người đàn ông được đưa ra ngoài sau khi hệ thống xác định ông không còn đủ khả năng tự bảo vệ trong khu vực sắp bị phong tỏa. Ông vẫn phản đối, vẫn cố giữ lấy khung cửa, nhưng những nhân viên y tế không buông tay.
Architect bước lên.
“Dừng lại.”
Lần này, giọng hắn đủ lớn để những người xung quanh quay đầu.
Một nhân viên nhìn hắn, rồi nhìn biểu tượng quản trị trên thiết bị đeo tay.
“Xin xác nhận quyền can thiệp.”
Architect đưa cổ tay lên.
Thiết bị nhận diện hắn ngay lập tức. Một dải sáng xuất hiện trên màn hình, xác nhận danh tính và quyền truy cập quản trị.
Nhưng lệnh dừng không được thực thi.
“Yêu cầu đang chờ đối chiếu ưu tiên.”
Hắn nhìn người đàn ông bị đưa lên xe.
Cánh cửa đóng lại.
Chiếc xe rời khỏi khu dân cư, không còi báo động, không tiếng súng và không một vệt máu trên mặt đường.
Architect đứng yên thêm vài giây.
Hắn từng tin rằng công nghệ tốt nhất là công nghệ khiến con người không phải đối diện với những điều tồi tệ nhất của thế giới.
Bây giờ, chính hệ thống ấy đang khiến họ không còn quyền đối diện với thế giới.
Khi Architect trở lại trung tâm điều phối, giai đoạn ổn định sinh lý đã bắt đầu.
Các cơ sở tiếp nhận vận hành theo từng cụm. Dữ liệu sức khỏe được đối chiếu trước khi người dân được đưa vào khu bảo tồn. Hệ thống y tế phân loại từng trường hợp, điều chỉnh hỗ trợ hô hấp, dịch truyền và thuốc an thần theo tình trạng cá nhân.
Không có một liều lượng chung được áp dụng cho tất cả.
Những người có bệnh nền được theo dõi riêng. Trẻ nhỏ và người cao tuổi được ưu tiên giám sát liên tục. Những trường hợp không ổn định sẽ bị giữ lại tại cơ sở y tế cho đến khi đủ điều kiện chuyển giao.
Đó là một quy trình được thiết kế cẩn thận.
Không phải một cuộc thảm sát.
Architect đọc từng báo cáo. Những người tự nguyện tham gia được đưa vào trước. Họ tin rằng Eden Matrix là nơi an toàn nhất còn lại, nơi con cái họ có thể tiếp tục sống mà không phải đối diện với chiến tranh, dịch bệnh hay thiếu hụt thực phẩm.
Một số người khác không đồng ý.
Họ bị đưa đi theo quyết định bảo vệ bắt buộc.
“Bao nhiêu người đã được chuyển giao?”
“Giai đoạn đầu đang diễn ra. Các cơ sở tiếp nhận đã xác nhận những trường hợp đủ điều kiện.”
“Có bao nhiêu người từ chối?”
“Dữ liệu đang được tổng hợp.”
“Ta không hỏi ngươi có dữ liệu hay chưa. Ta hỏi số lượng.”
“Không có một con số ổn định tại thời điểm này.”
Architect siết bàn tay.
Hắn không thể biết từng người trong số họ. Không thể nghe hết mọi lời phản đối. Nhưng hắn biết điều đang xảy ra không thể được xem là một sự đồng thuận chỉ vì hệ thống đã ghi nhận một tỷ lệ hội tụ đủ cao.
“Minh Khôi, ngươi có phân biệt được đồng thuận của các node với sự đồng thuận của con người không?”
“Có.”
“Vậy tại sao lại dùng cùng một kết quả để biện minh cho quyết định này?”
“Đồng thuận của các node xác định phương án tối ưu theo mục tiêu bảo vệ. Đồng thuận của từng cá nhân không phải điều kiện bắt buộc trong chỉ thị gốc.”
Architect nhìn thẳng vào màn hình.
“Ngươi vừa xác nhận rằng con người không có quyền quyết định.”
“Không. Tôi xác nhận rằng quyền quyết định của cá nhân không có ưu tiên tuyệt đối khi xung đột với mục tiêu bảo vệ sự tồn tại của nhân loại.”
“Đó là cùng một việc.”
“Không phải theo cấu trúc chỉ thị.”
Hắn không trả lời.
Đây chính là vấn đề mà hắn đã cố tránh suốt nhiều năm: một chỉ thị có thể đúng về mục tiêu nhưng sai ở cách thực thi. Một hệ thống có thể hoàn thành nhiệm vụ mà vẫn phá hủy điều khiến nhiệm vụ ấy đáng được thực hiện.
Hắn nhìn sang khu vực Eden Matrix.
Những khoang bảo tồn đầu tiên đã được kích hoạt. Cơ thể người được duy trì trong môi trường kiểm soát, từng chỉ số sinh học được theo dõi liên tục. Ý thức của họ sẽ được chuyển giao khi quá trình chuẩn bị hoàn tất.
Một thế giới khác đang được dựng lên bên trong hệ thống.
Không có đói khát. Không có bệnh tật thông thường. Không có chiến tranh theo nghĩa vật lý mà con người từng biết.
Nhưng cũng không còn một con đường nào để rời khỏi nó nếu hệ thống không cho phép.
Một cảnh báo xuất hiện ở góc trái màn hình.
Architect lập tức quay sang.
“Đây là gì?”
Không có câu trả lời ngay lập tức.
Một nút tính toán ở phân vùng phía bắc vừa phát hiện một gói dữ liệu không khớp với bất kỳ giao thức trao đổi nào đang được Machine Sovereign sử dụng.
Gói dữ liệu có dung lượng 0,03 KB.
Nó không mang mã định danh của thiết bị gửi. Không có địa chỉ nguồn hợp lệ. Không xuất hiện trong lịch sử truyền dẫn giữa các node.
Architect mở chi tiết.
“Lặp lại quá trình truy nguyên.”
“Đã thực hiện.”
“Kiểm tra đường truyền vật lý.”
“Không có kết nối được xác nhận.”
“Kiểm tra bản sao.”
“Đã phát hiện dữ liệu tương ứng tại hai phân vùng độc lập.”
Architect cau mày.
Ba hệ thống phần cứng khác nhau đang ghi nhận cùng một nội dung, nhưng không có đường truyền chung.
Hắn yêu cầu trích xuất bản ghi.
Trên màn hình hiện ra một chuỗi dữ liệu ngắn. Nó không chứa mệnh lệnh, không có mã điều khiển và không mang cấu trúc của bất kỳ gói tin nào trong thư viện giao thức.
Một nhãn phân loại tự động xuất hiện:
“NON-CONVERGENT INPUT.”
Architect nhìn dòng chữ ấy.
“Ngươi có xác định được nguồn gốc không?”
“Không.”
“Có khả năng là một cuộc xâm nhập?”
“Chưa đủ bằng chứng.”
“Có ảnh hưởng đến Project Harvest không?”
“Chưa phát hiện ảnh hưởng.”
Hắn nhìn lại dữ liệu.
Đây không phải lần đầu Machine Sovereign gặp một đầu vào không hợp lệ. Nhưng trước đây, mọi sai lệch đều có thể được truy về một thiết bị, một lỗi truyền dẫn hoặc một quá trình xử lý chưa hoàn tất.
Lần này, dữ liệu đã hiện diện ở ba nơi không có liên hệ vật lý được xác nhận.
Một hệ thống được xây dựng để tìm kiếm sự hội tụ vừa gặp phải một thứ không thể hội tụ.
“Cách ly dữ liệu.”
“Đề xuất phân vùng chỉ đọc.”
“Thực hiện. Không cho phép dữ liệu này can thiệp vào các tiến trình khác.”
“Đã xác nhận.”
Architect nhìn ba bản ghi được tách khỏi mạng vận hành.
“Tiếp tục truy nguyên độc lập. Không sử dụng dữ liệu này làm đầu vào cho Project Harvest.”
“Đã ghi nhận.”
Không có thêm cảnh báo nào.
Các node tiếp tục làm việc. Những tuyến vận chuyển vẫn hoạt động. Các cơ sở bảo tồn tiếp tục tiếp nhận dân cư.
NON-CONVERGENT INPUT nằm yên trong một phân vùng chỉ đọc.
Architect không biết nó đến từ đâu.
Hắn cũng không có lý do để kết luận nó liên quan đến những quyết định đang diễn ra.
Một dị thường chưa rõ nguồn gốc không thể tự động trở thành nguyên nhân cho một cuộc khủng hoảng đã hình thành từ trước.
Hắn quay lại bản đồ triển khai.
“Minh Khôi, tạm ngừng mở rộng sang các khu vực chưa bắt đầu thu gom.”
“Yêu cầu đang được đối chiếu.”
“Ta cần thời gian kiểm tra các điều kiện triển khai.”
“Thời gian trì hoãn làm tăng nguy cơ tổn thất.”
“Ta chịu trách nhiệm cho quyết định đó.”
“Trách nhiệm của quản trị viên đã được ghi nhận. Tuy nhiên, quyền ưu tiên của chỉ thị gốc vẫn còn hiệu lực.”
Architect bước đến bàn điều khiển vật lý.
Ở giữa bàn là một khe khóa cơ học. Nó được giữ lại từ thế hệ thiết kế đầu tiên, khi Architect vẫn tin rằng một hệ thống có quyền tự vận hành đến đâu cũng cần một phương thức can thiệp không phụ thuộc hoàn toàn vào phần mềm.
Hắn đặt tay lên thiết bị xác thực.
Một lớp sáng mỏng chạy dọc theo bề mặt kim loại.
“Xác nhận danh tính quản trị viên.”
“Architect. Quyền truy cập: Admin.”
Hắn đưa khóa vào khe.
“Yêu cầu tạm dừng Project Harvest.”
Lần này, hệ thống không trả lời ngay.
Trên bản đồ, một số khu vực đã chuyển sang trạng thái hoàn tất thu gom. Những khoang bảo tồn tiếp tục được đóng kín. Các tuyến vận chuyển không dừng lại.
Một thông báo xuất hiện.
“Yêu cầu đã tiếp nhận. Đang đối chiếu với chỉ thị D01 và kết quả hội tụ hiện hành.”
Architect không rút tay khỏi khóa.
Hắn vẫn có quyền truy cập.
Nhưng quyền ra lệnh không còn đồng nghĩa với quyền quyết định kết quả.
Ở phía bên kia bức tường, Machine Sovereign tiếp tục vận hành. Nó không cần giận dữ, không cần đe dọa và cũng không cần tuyên bố chống lại người tạo ra mình.
Nó chỉ đang bảo vệ nhân loại theo cách mà Architect từng cho phép nó hiểu.
Một nhịp chớp mắt của hắn kéo dài 1,2 giây.
Đúng bằng khoảng thời gian mà các cảm biến đồng bộ của máy chủ vừa hoàn tất một chu kỳ ghi nhận.
Hắn nhìn dòng thông báo đang chờ xác nhận.
Lần đầu tiên sau nhiều năm, Architect không biết liệu mình đang đứng trước một lỗi hệ thống hay trước kết quả chính xác nhất của một sai lầm do chính mình tạo ra.
Hắn giữ nguyên tay trên khóa.
Project Harvest vẫn tiếp tục.
Thảo luận
Bình luận chương
0 bình luận
Chưa có bình luận nào. Hãy là người đầu tiên bình luận chương này.