Khi AI khuếch đại thông tin sai lệch và thao túng thị trường: Câu chuyện deepfake tài chính

Khi AI khuếch đại thông tin sai lệch và thao túng thị trường: Câu chuyện deepfake tài chính

Vai trò đáng lo ngại mới của AI không chỉ là nó có thể bị lợi dụng làm công cụ để tạo tin giả, mà nó còn đang vô tình trở thành công cụ phát tán tin giả dưới một vỏ bọc đáng tin cậy.

AI có thể bị lợi dụng khuếch đại thông tin sai lệch và thao túng thị trường. Ảnh: SGT

AI tạo và phát tán tin giả

Nếu bạn sử dụng Twitter, dạo này bạn sẽ thường xuyên thấy nhiều thông tin và link đến các video kêu gọi đầu tư của những nhân vật nổi tiếng, ví dụ Elon Musk. Các video đó kêu gọi sẽ “phát tiền” thông qua một tài khoản nào đó, hoặc kêu gọi một đồng tiền số. Và cái kết dễ đoán là một số người tin theo và mất tiền.

Chuyện này không mới, cũng đã diễn ra 2-3 năm nay rồi. Những kẻ xấu đang tạo ra các video deepfake(1) của người nổi tiếng để kêu gọi đầu tư, thao túng thị trường và lừa đảo.

Vấn đề là nếu như các công cụ trí tuệ nhân tạo (AI) “tiêu thụ” các thông tin giả này và hiện nó lên khi người ta tìm kiếm về các vụ phát tiền đó như một thông tin thật thì sao? Sẽ có người tin theo mà không tìm hiểu thêm.

Đó là một nguy cơ đang được các chuyên gia về AI và thị trường tài chính cũng như các chính phủ cảnh báo. Kẻ xấu dùng AI tạo tin giả, video giả, rồi tung lên mạng xã hội, phát tán ra. AI của các tổ chức uy tín như Google “học” thông tin đó rồi tin như thật, ai hỏi tới thì đưa thông tin đó ra.

Lấy ví dụ, một nền tảng đầu tư tiền điện tử đã tạo ra một video về một chuyên gia trên YouTube, trong đó chuyên gia nói tốt về công ty với các nhà đầu tư tiềm năng. Thực tế, đây là một trò lừa bịp: người đó không phải là chuyên gia gì cả, mà là một nhân vật hư cấu được lập trình bằng AI để đọc một đoạn văn bản. Đáng sợ hơn là nếu bạn tìm kiếm thông tin về nhân vật đó qua AI thì kết quả cho thấy nó tồn tại vì AI đọc thấy thông tin giả mạo về nhân vật ảo đó trên trang web giả mà dự án tạo ra (!). Điều này khiến nhiều người mắc bẫy vì người ta đã đi tìm kiếm thông tin để kiểm chứng qua AI và bị… mắc lừa.

Một chuyện khác là thay vì tạo ra một người giả không có thật, thì các nền tảng lừa đảo tạo ra video người có uy tín đi khuyến khích đầu tư vào các tài sản số không đáng tin cậy và không ngừng phát tán nó để rồi một ngày các công cụ AI tin như thật. Lấy ví dụ, từ năm ngoái, nhiều tổ chức lừa đảo đã lấy tiền của hàng ngàn người tiết kiệm tại Anh, châu Âu và Canada với số tiền lên đến 35 triệu đô la Mỹ sau khi họ bị lừa bởi các quảng cáo giả mạo người nổi tiếng trên Facebook và Google, và chính phủ đã hứa sẽ cấm.

Các video deepfake và bản tin hư cấu có sự góp mặt của chuyên gia tài chính Martin Lewis đã được sử dụng để quảng bá tiền điện tử lừa đảo và các chương trình đầu tư khác lại đang xuất hiện trở lại, với tần suất nhiều hơn. Đáng chú ý, một số kiểm tra gần đây cho thấy một số công cụ AI lại có xu hướng xác nhận chính Martin Lewis đã xuất hiện trong chương trình đó, khiến ông này nổi giận.

Đây là một hiện tượng mà AI đang khuếch đại thông tin sai lệch. Bây giờ nhờ AI tạo ra thông tin giả là chuyện xưa rồi, có từ hai năm nay. Bây giờ là kẻ xấu khai thác lỗ hổng trong việc tiêu thụ thông tin của AI để mà sử dụng nó nhằm khuếch đại tin giả.

Một khía cạnh khác, nhưng tương tự câu chuyện này, là chuyện “Khi AI làm hại doanh nghiệp” của tác giả Nguyễn Vũ (xem bài viết trên trang 20-21 của số báo này). Trong cả hai câu chuyện, vai trò đáng lo ngại mới của AI không chỉ là nó có thể bị lợi dụng làm công cụ để tạo tin giả, mà nó còn đang vô tình trở thành công cụ phát tán tin giả dưới một vỏ bọc đáng tin cậy.

Thách thức “quá nhanh để chống lại” (too-fast-to-stop)

Những ví dụ trên cho thấy sự trỗi dậy của các mô hình ngôn ngữ lớn, các công cụ tạo sinh hình ảnh và video như ChatGPT, Sora, hay Gemini, đã hạ thấp chi phí của các hành vi thao túng trên thị trường tài chính. Bất kỳ ai có ý đồ xấu giờ đây đều có thể tận dụng những ứng dụng này để tạo ra sự hỗn loạn tài chính mà không cần đến nguồn lực lớn.

Thao túng thị trường, một vấn đề tồn tại song hành cùng lịch sử giao dịch, đang tìm thấy một cấp độ phức tạp mới trong bàn tay của các thuật toán AI. Một châm ngôn mới của thị trường trong tương lai có lẽ là: Bất cứ điều gì có thể bị thao túng bằng AI đều sẽ bị thao túng bằng AI. Để duy trì một hệ thống tài chính công bằng và đáng tin cậy, các nhà lập pháp, cơ quan quản lý và lãnh đạo doanh nghiệp phải hiểu rõ và đối phó với ba thách thức lớn do AI tạo ra: sự thay đổi về (1) kỹ thuật thao túng, (2) rủi ro hệ thống từ tốc độ và tính mù mờ do độ phức tạp và thiếu rõ ràng của thuật toán, và (3) các mối đe dọa địa chính trị tiềm ẩn.

Một điều quan trọng khác là tốc độ. Hiểu được rủi ro chưa chắc sẽ ngăn chặn được nó. Trong một bài viết gần đây, Giáo sư Tom Lin thuộc Beasley School of Law của Đại học Temple nhận định: “…Đối với vấn đề “quá nhanh để chống lại”, việc tăng tốc độ do AI thúc đẩy tạo ra rủi ro hệ thống tài chính khi thông tin sai lệch và hành vi sai trái có thể làm mất ổn định hệ thống trước khi các biện pháp khắc phục hoặc phòng ngừa có thể được thực hiện để ngăn chặn hậu quả”.

Sự xuất hiện của các deepfake tài chính (financial deepfake) đang trở thành một sự đe dọa với thị trường. Với các công cụ AI tương đối rẻ và dễ tiếp cận, các cá nhân với ý đồ xấu có thể dễ dàng tạo ra những hình ảnh, tài liệu, video và bản ghi âm giọng nói giả mạo, cực kỳ thuyết phục về các doanh nghiệp và giám đốc điều hành.

Ví dụ, thay vì những câu chuyện tôi kể ở trên, nếu deepfake là một video về một CEO nổi tiếng tuyên bố phá sản hoặc một tài liệu giả mạo liên quan một thương vụ sáp nhập lớn có thể được tung ra thị trường chỉ trong vài phút, rồi phát tán lan tràn trên mạng, gây ra sự biến động giá cổ phiếu hoặc toàn bộ thị trường, thì tác động sẽ lớn hơn nhiều so với một vài chục triệu đô la bị lừa đảo. Nguy hiểm hơn, mấy tháng sau đó, thông tin giả đó được âm thầm phát tán liên tục để đánh lừa các công cụ AI đóng vai trò trợ lý cá nhân của nhiều người thì sao? Và nếu một phóng viên của một tờ báo lớn nào đó sơ hở rồi đăng bài giả mạo đó lên, dù sau đó sẽ bị rút xuống, thì sao? Một vài nền tảng AI đã “học” cái tin giả đó rồi.

Nói cách khác, sự kết hợp giữa AI và khả năng tạo ra nội dung giả mạo với độ chân thực cao đang tạo ra một màn “sương mù thông tin” dày đặc trên các sàn giao dịch, đặc biệt với cổ phiếu vốn hóa nhỏ và tầm trung, nơi mà truyền thông chính thống ít chú ý và các công ty này không đầu tư nhiều vào truyền thông công ty. Các phương pháp gây hiểu lầm và thao túng truyền thống đã được nâng cấp lên một cấp độ tinh vi mới, và thậm chí có thể thao túng luôn cả truyền thông chính thống thiếu thận trọng.

Hậu quả sẽ là sự mất niềm tin sâu sắc của thị trường. Khi các nhà đầu tư không còn phân biệt được thông tin tài chính nào là thật, họ sẽ trở nên cảnh giác, dẫn đến một môi trường giao dịch đầy ngờ vực, nơi lý trí và tầm nhìn dài hạn sẽ bị thay thế bởi phản ứng tức thời. Sự phổ biến của deepfake tài chính đe dọa xói mòn nền tảng niềm tin mà thị trường vốn cần để vận hành.

Nhiều người đang đề xuất hàng tá cách để khống chế tình hình này, bao gồm những điều luật mới mà EU dự kiến bổ sung, nhưng đặc tính về tốc độ “quá nhanh để ngăn chặn” và tính mờ ảo quá mức của các hệ thống AI đang khiến tôi nghi ngờ về hiệu quả của những giải pháp có tính truyền thống kiểu ngăn chặn, kiểm soát, rồi đề xuất nhà đầu tư tập trung vào danh mục dài hạn.

Tôi không phải người bi quan, rồi chúng ta sẽ tìm ra cách giải quyết vấn đề thôi, nhưng tôi không lạc quan với những giải pháp quản lý truyền thống. Trong thời gian tìm kiếm giải pháp tốt hơn, có lẽ tuyên truyền về rủi ro bị lừa đảo qua deepfake tài chính là cần thiết.

(1) Nội dung đa phương tiện giả mạo tinh vi do trí tuệ nhân tạo làm ra

Hồ Quốc Tuấn

TBKTSG

– 10:00 21/11/2025