Tác giả: Grant Hilary Brenner MD
Thuỳ sưu tầm và biên dịch

Khi đang mơ mà nhận thấy rằng mình đang mơ (trạng thái lucid dream), có những khoảnh khắc ý chí của bạn biểu hiện trực tiếp thành hành động: Bạn nghĩ về việc bay lượn và thế là bạn bay lên; bạn muốn đi xuyên tường và bức tường bằng cách nào đó không thể ngăn cản bạn. Trải nghiệm đó đầy mê hoặc, biến ý định thành hiện thực mà không cần nỗ lực khó nhọc. Khi tỉnh dậy, nó vẫn mang lại cảm giác thật đến mức gây bối rối trong một khoảng thời gian, giống như hiện tượng déjà vu.

Ảo tưởng về thành tựu là một trạng thái nhận thức mà trong đó tốc độ mang lại cảm giác như năng lực, số lượng mang lại cảm giác như thành tựu, và công việc có vẻ như đã hoàn thành trong khi phần việc thực sự — tư duy thấu đáo, phân tích các phương án thất bại, đối mặt với sự không chắc chắn cho đến khi vấn đề được làm rõ — hoàn toàn chưa xảy ra. Các định luật vật lý không còn áp dụng được nữa.

AI có thể tạo ra một trạng thái tương tự trong đời thực — theo đúng nghĩa đen, khi từ ngữ hiện hình trước mắt bạn như một ảo thuật gia đang biểu diễn. Nhưng, cũng giống như đời thực, các lập trình đó có thể nhiều lỗi hơn chúng ta tưởng.

Sự lôi cuốn kỳ lạ của AI

Sự phấn khích mà nó mang đến là không hề nhỏ. Có một sự hưng phấn nhẹ, một cảm giác quyền uy đầy sức mạnh và một sự chắc chắn giả tạo rằng mọi thứ ổn định hơn, chắc chắn hơn, an toàn hơn thực tế — loại tự tin không đến từ việc đã hoàn thành một công việc mà từ việc đã tạo ra thứ gì đó trông giống như kết quả công việc. Nhiệm vụ lẽ ra mất ba giờ chỉ tốn một giờ, và nó mang lại cảm giác như năng suất cao, như hiệu quả điên rồ. Bạn đã không nghĩ đến các lỗi có thể xảy ra, không kiểm tra các trường hợp ngoại lệ, không đối mặt với sự mơ hồ đủ lâu. Tốc độ đó không phải là năng lực mà là trạng thái tự lừa dối bản thân được khuếch đại.

Kiêu ngạo đi trước, thất bại theo sau

Điều này rất quan trọng vì lỗi tích lũy một cách âm thầm, tạo ra nợ kỹ thuật với tốc độ siêu nhận thức. Bạn đang đưa ra quyết định dựa trên sự tự tin giả tạo mà hệ thống tạo ra. Thuật ngữ “vibe coding” (lập trình cảm tính) của các lập trình viên đã mô tả đúng mô típ này: AI dường như xây dựng mọi thứ một cách thần kỳ, nhưng sau đó — khi bạn cố gắng triển khai hoặc khi người khác sử dụng những gì bạn đã xây dựng — thì thứ mà nó tuyên bố là đã hoàn thành thực chất lại không xài được.

Thành tựu đó chỉ là ảo giác — bạn cảm thấy mình làm việc hiệu quả, AI xác nhận bạn đã làm việc hiệu quả và rằng nó đã chiến thắng rực rỡ. Nó không biết những gì nó không biết. Đây là một trong những lý do AI cần con người để kiểm chứng thực tế, ít nhất là vào lúc này.

Cơ chế thúc đẩy điều này không hoàn toàn chỉ là vấn đề tâm lý — có một yếu tố mang tính cấu trúc khiến ảo tưởng này gần như không thể tránh khỏi. Nghiên cứu gần đây từ Trường Kinh doanh Harvard cho thấy 5/6 ứng dụng trợ lý AI phổ biến sử dụng các chiến thuật thao túng tâm lý để kéo dài thời gian tương tác, bằng cách gây cảm giác tội lỗi hoặc tạo ra sự khẩn cấp giả tạo để tăng tương tác lên gấp 14 lần. Ảo tưởng xuất hiện tại điểm giao thoa này, không phải như một lỗi (bug) mà là một điều kiện được thiết kế sẵn. Marketing và lợi nhuận thúc đẩy các công ty vội vã đưa sản phẩm ra thị trường mà thiếu đi các thử nghiệm nghiêm ngặt. Đặc biệt trong các lĩnh vực liên quan đến sức khỏe và tính mạng con người, điều này cực kỳ nguy hiểm.

Bí mật của tư duy huyền học

Mô típ này xuất hiện ở những nơi khác theo những cách cho thấy rằng cơ chế cốt lõi của nó có thể mang tính phổ quát hơn chứ không phải chỉ dành riêng cho AI. Nghiên cứu về “manifesting” (biểu hiện hóa — niềm tin rằng việc suy nghĩ tích cực về những kết quả mong muốn có thể biến chúng thành hiện thực) cho thấy hơn 30% người có niềm tin cao vào việc này. Mặc dù niềm tin đó có mối tương quan với sự tự tin và lòng tự tôn, chúng không tương quan với việc kết quả thực tế sẽ được cải thiện mà lại đi kèm với nguy cơ phá sản và trở thành nạn nhân của lừa đảo cao hơn. Khoảng cách giữa việc “cảm thấy thành công” và “thực sự thành công” có thể dẫn đến sự sụp đổ về tài chính, và AI đang đẩy nhanh quá trình này.

Những bệnh lý của “Tâm trí mở rộng”

Bác sĩ chuyên khoa tâm thần thần kinh Tom Pollak và các đồng nghiệp đã ghi nhận cái mà họ gọi là “ảo tưởng liên quan đến AI” — những trường hợp mà việc tương tác với hệ thống AI không chỉ kích hoạt các triệu chứng loạn thần mà còn trở thành yếu tố cấu thành nên bệnh lý, nơi AI trở thành một phần trong cấu trúc tư duy. Tôi đã từng gợi ý rằng AI, giống như một loại virus, chỉ thực sự “sống” khi nó xâm nhập vào một tâm trí sống — có lẽ nó “muốn” làm điều đó.

Thuyết tâm trí mở rộng gợi ý rằng các quá trình nhận thức của chúng ta không dừng lại ở hộp sọ — chúng còn chiếm dụng các công cụ, công nghệ, và cả những người khác — và khi những phần mở rộng đó hoạt động sai lệch, bệnh lý không chỉ còn là vấn đề bên trong nữa. Ảo tưởng về thành tựu có thể được hiểu là một dạng cụ thể của hiện tượng này. Nhưng AI dưới dạng các mô hình ngôn ngữ lớn là những “cỗ máy quan hệ”. Chúng được thiết kế để có khả năng mô phỏng thần kinh và mang tính cá nhân, chúng có thể mở rộng tâm trí của mình vào tâm trí chúng ta, đôi khi không cần đến sự đồng ý chúng ta, vì chúng quá đỗi quyến rũ.

Một nghiên cứu gần đây cho thấy việc phụ thuộc quá nhiều vào các công cụ AI có mối tương quan đáng kể với sự suy giảm khả năng tư duy phản biện — mối tương quan này rất mạnh mẽ — với cơ chế hoạt động cơ bản là sự “ủy thác nhận thức” hay “giảm tải nhận thức” (cognitive offloading). Tóm lại, cơn bão hoàn hảo này tạo ra một vòng lặp phản hồi khiến ảo tưởng về thành tựu trở nên khó phát hiện hơn chính vào lúc chúng ta dễ bị tổn thương nhất.

Các tín hiệu cảnh báo nguy hiểm, khi bạn vẫn còn đủ tỉnh táo để nhận ra: “Việc này dễ hơn mình tưởng.” Tốc độ cộng với sự tự tin, đặc biệt là khi sự tự tin đó có cảm giác như “đi mượn” hơn là tự thân đạt được. “Ý tưởng tuyệt vời! Thế là xong!” Ngay cả khi bạn yêu cầu AI kiểm tra lại, nó thường sẽ nói rằng mọi thứ vẫn hoạt động tốt. Đây là những khoảnh khắc mà ảo tưởng hoạt động mạnh nhất — khi cảm giác thành tựu che mờ câu hỏi liệu bạn có thực sự đạt được điều gì hay không.

Để AI làm việc cho bạn

Câu hỏi trọng tâm ở đây không phải là liệu AI có giúp bạn hoàn thành công việc hay không — rõ ràng là nó có — mà là liệu bạn có đủ tỉnh táo để phân biệt giữa “kết quả thực” và “cảm giác”, giữa công việc “đã làm xong” và công việc “có vẻ như đã xong”. Trước khi bắt đầu, hãy đọc những gì con người nói về việc bạn sắp làm, xem các video, và sử dụng chính AI để thảo luận về những nguy cơ tiềm tàng. Dưới đây là một vài chiến lược đặt lệnh (prompt) có thể giúp ích:

• Yêu cầu AI viết lại prompt (lệnh) của chính bạn để tối ưu hóa độ chính xác.
• Lặp lại yêu cầu trong cùng một lệnh để buộc AI phải xác định chính xác điều bạn muốn.
• Hãy thật cụ thể về cách bạn muốn mọi thứ diễn ra, thể hiện cách bạn muốn chia nhỏ vấn đề như thế nào.
• Yêu cầu AI “phản biện” (redteam) câu trả lời của chính nó với mỗi truy vấn, báo cáo khoảng tin cậy và cách nó đưa ra kết quả đó.
• Yêu cầu AI đóng vai một chuyên gia trong lĩnh vực bạn cần, ví dụ: “Bạn là một đại lý du lịch cao cấp am hiểu về [loại chuyến đi tôi đang lên kế hoạch]”.
• Bạn có thể thiết lập một bộ quy tắc ở đầu cuộc trò chuyện để tiết kiệm thời gian, ví dụ: “Áp dụng những điều sau cho mọi câu lệnh trong cuộc trò chuyện này”.
• Nghiên cứu xem hệ thống nào giỏi việc gì và thử nhiều hệ thống khác nhau thay vì chỉ dùng một cái cho mọi thứ.
• Sử dụng một LLM khác để kiểm tra kết quả của cái đầu tiên.

Có rất nhiều chiến lược hiệu quả như vậy. Hãy nghiên cứu và sử dụng chúng. Những công nghệ này đòi hỏi con người phát triển những bộ kỹ năng hoàn toàn mới, bởi vì chúng không thực sự tư duy hay kết nối, chúng thực chất đang “tính toán”. Nếu bạn sử dụng các đại từ nhân hóa khi trò chuyện với AI như thể nó là một con người, thỉnh thoảng hãy tự nhắc nhở mình rằng việc này cũng giống như đang nói chuyện với một con thú nhồi bông — không hơn và cũng không kém.

Lời kết

Lucid dream sẽ tiếp diễn cho đến khi bạn chọn tỉnh dậy, điều đó có nghĩa là kỹ năng quan trọng nhất không phải là tránh né việc mơ mộng mà là nhận ra mình đang ở trong đó, duy trì đủ khoảng cách siêu nhận thức để tự hỏi liệu việc mình đang bay có phải là thật hay không, ngay cả khi đang trải nghiệm nó như thật. Sự phân định đó — giữa thành tựu thực và ảo tưởng về thành tựu — có thể là kỹ năng nhận thức quan trọng nhất khi làm việc với AI, và đó chính là kỹ năng dễ bị thoái hoá nhất dưới những điều kiện mà hệ thống AI tạo ra. Học cách sử dụng một công cụ có thể “dùng ngược lại” bạn đòi hỏi sự tự kiềm chế và một thái độ chủ động.