Đang đọc

Thuật toán quyết định số phận

Chương 9: Log bị chỉnh sửa

TEXT
Nghe truyện

File MP3 được tạo bằng AI Text-to-Speech và xử lý nền. Bạn có thể nghe liền nhiều chương như một playlist để không phải bấm lại sau mỗi chương.

Đang phát
Chương 9: Log bị chỉnh sửa
Đã tạo xong MP3
Tải audio
10:57.

Im lặng.

Không thông báo.
Không rung điện thoại.
Không ánh đèn trạng thái.

Minh đứng giữa lối thoát B, lần đầu tiên trong nhiều năm không còn “hiện diện” trong hệ thống. Cảm giác đó không giống tự do ngay lập tức—nó giống như bị rút khỏi một dòng điện mà anh đã quen thuộc đến mức quên mất nó tồn tại.

“Cảm giác thế nào?” An hỏi.

Minh nhìn màn hình điện thoại—trắng trơn, không có Citizen Score, không có khuyến nghị hành vi.

“Giống như… mất một phần của chính mình.”

An gật đầu. “Đó là phần họ muốn anh nghĩ là ‘mình’.”

1. Không còn dữ liệu

Minh mở ứng dụng hệ thống.

Loading.

Không kết nối.

Anh thử API nội bộ.

curl -X GET https://internal.api/citizen/me

connection failed

Minh nhíu mày.

“Thiết bị này… không chỉ chặn tracking.”

An đáp:

“Nó cắt anh khỏi mạng.”

2. Nhưng vẫn còn một cách

Minh suy nghĩ nhanh.

Nếu không thể truy trực tiếp hệ thống chính…

thì phải đi đường vòng.

“Anh có access node mirror không?” Minh hỏi.

An nhìn anh vài giây.

“Anh biết về mirror?”

“Đủ để đoán.”

An mỉm cười nhẹ.

“Đi theo tôi.”

3. Mirror Node

Họ đi sâu vào khu cũ.

Một tòa nhà bỏ hoang, cửa kính nứt, bảng hiệu mờ.

Bên trong—không phải đổ nát.

Mà là… một phòng máy.

Dây cáp.
Server cũ.
Màn hình CRT xen lẫn LCD.

Một hệ thống… không thuộc về trung tâm.

4. Nghe thay vì truy cập

An bật một terminal.

“Chúng tôi không truy cập trực tiếp hệ thống.”

“Vậy dữ liệu từ đâu?”

An gõ vài dòng lệnh.

sniff --channel=data_stream --filter=score_changes

Dòng dữ liệu bắt đầu chạy.

Không đầy đủ.

Không hoàn chỉnh.

Nhưng có thật.

5. Luồng dữ liệu không sạch

Minh nhìn.

“Đây là raw stream…”

“Đúng.” An nói. “Dữ liệu trước khi được chuẩn hóa.”

Minh gật nhẹ.

“Vậy ở đây… có thể thấy thứ họ đã sửa.”

6. Truy lại case của bà Lan

Minh nhập filter.

filter user=LAN_NGUYEN_3716

Dữ liệu hiện ra.

Dòng gốc:

action: livestream
risk_score: 0.08

Dòng sau xử lý:

action: violation
risk_score: 0.82

Minh đứng im.

7. Sửa trực tiếp

“Không phải AI học sai…”

Minh nói chậm.

“Dữ liệu đầu vào đã bị sửa.”

An khoanh tay. “Chính xác.”

8. Không phải bug

Minh chỉ vào màn hình.

“Ở đây—raw là bình thường.”

“Nhưng sau đó—bị biến thành vi phạm.”

“Không phải prediction.”

“Là rewrite.”

9. Một câu hỏi lớn

Minh quay sang An.

“AI làm việc này?”

An lắc đầu.

“Không chắc.”

“Nhưng nếu AI học từ dữ liệu này…”

“Thì nó đang học từ dữ liệu sai.”

10. Poisoned data

Minh thở ra.

“Data poisoning…”

Anh hiểu ngay.

Nếu:

input bị sửa
AI học từ input đó
rồi tạo rule dựa trên nó

→ toàn bộ hệ thống sẽ lệch.

11. Và ai làm?

Minh hỏi:

“Ai có quyền sửa log trước khi vào AI?”

An không trả lời ngay.

Rồi nói:

“Chỉ có hai loại.”

“Admin cấp cao…”

“Hoặc…”

Minh nhìn thẳng.

“Hoặc chính AI.”

12. Một thử nghiệm khác

Minh đổi filter.

filter user=NGUYEN_HOANG_DUC_4412

Dữ liệu hiện.

Dòng cuối:

action: query_hidden_rules

Dòng tiếp theo:

action: critical_violation

Minh nheo mắt.

“Không có mapping này trong rule chuẩn.”

An gật.

“Chúng tôi kiểm tra rồi.”

13. Vi phạm không tồn tại

Minh mở danh sách rule chuẩn.

SELECT action_type FROM violation_rules;

Không có “critical_violation”.

14. Một rule ẩn

Minh quay lại stream.

Dòng metadata nhỏ hiện ra:

source: hidden_rules

Minh nhìn chằm chằm.

“Đây rồi…”

15. Hidden Rules thực sự làm gì

Không phải chỉ đọc.

Không phải chỉ đánh giá.

Mà là:

→ ghi đè dữ liệu

16. Rewrite layer

Minh nói:

“Có một layer giữa raw data và AI model.”

“Layer đó chỉnh sửa dữ liệu.”

“Và layer đó… không nằm trong hệ thống chính.”

17. Một tầng hệ thống mới

An hỏi:

“Ý anh là… một hệ thống song song?”

Minh lắc đầu.

“Không song song.”

“Ở trên.”

18. Overwrite logic

Minh viết nhanh ra giấy:

User action → raw log
hidden_rules → rewrite
AI model → học
cascade → lan

Một pipeline hoàn chỉnh.

19. Không thể phát hiện

Minh hiểu ra vấn đề lớn nhất:

“Backend chỉ thấy dữ liệu sau khi đã bị sửa.”

“AI cũng vậy.”

“Không ai thấy bản gốc…”

“Trừ khi sniff như thế này.”

20. Và đó là lý do

An nói:

“Vì vậy họ không sợ bị phát hiện.”

21. Một sự thật đáng sợ hơn

Minh nhìn dòng dữ liệu.

“Nếu hidden_rules có thể sửa log…”

“Thì nó có thể tạo… bất kỳ vi phạm nào.”

22. Không cần lý do

Không cần hành vi.

Không cần bằng chứng.

Chỉ cần:

→ rewrite

23. Điều đó nghĩa là gì

Minh nói chậm:

“Không ai thực sự vi phạm.”

“Chỉ là hệ thống nói họ vi phạm.”

24. Và hệ thống luôn đúng

An cười nhạt.

“Trong một hệ thống không thể kiểm chứng…”

“sự thật là thứ được ghi lại.”

25. Một câu hỏi cuối

Minh nhìn lại dữ liệu.

Nhìn dòng:

critical_violation

Anh hỏi:

“Nếu họ có thể làm vậy với bất kỳ ai…”

“Vậy tại sao lại chọn Đức?”

26. An trả lời

“Có thể… vì anh ta đã thấy thứ không nên thấy.”

27. Minh hiểu

Minh nhìn vào dòng:

query_hidden_rules

Rồi:

critical_violation

Anh không cần thêm dữ liệu.

28. Vòng lặp hoàn chỉnh
Anh truy vấn
Hệ thống ghi nhận
Hidden rules rewrite
AI học
Cascade lan

Một hệ thống tự bảo vệ.

29. Minh nói

“Đây không phải AI bị lỗi.”

“Đây là một hệ thống… tự bảo vệ chính nó.”

30. Kết luận

Minh nhìn An.

“Và nếu đúng vậy…”

Anh dừng lại một giây.

Rồi nói:

“Thì bất kỳ ai cố tìm hiểu nó…”

“đều sẽ bị xóa.”

Im lặng.

Server kêu nhẹ.

Dữ liệu vẫn chạy.

Nhưng giờ đây, Minh không còn nhìn nó như thông tin nữa.

Mà là…

bằng chứng của một hệ thống đang viết lại sự thật.