Deepfake là ảnh, video hoặc âm thanh được tạo hay chỉnh bằng học sâu để một người trông như nói hoặc làm điều họ chưa từng nói, làm. Các dạng phổ biến là hoán đổi khuôn mặt, khớp môi với giọng nói mới, nhân bản giọng nói, và tạo hoàn toàn một nhân vật không có thật.
Nhận diện deepfake bằng mắt ngày càng khó. Những dấu hiệu từng được truyền tai như mắt không chớp, viền mặt nhoè, tay sáu ngón đang dần biến mất ở các mô hình mới. Vì vậy cách phòng vệ hiệu quả hiện nay chuyển từ "soi lỗi kỹ thuật" sang "xác minh bối cảnh và kênh liên lạc": ai gửi, qua kênh nào, có kiểm lại bằng kênh độc lập được không.
Bài này giải thích ngắn gọn cách deepfake được tạo, các dấu hiệu còn hữu ích và giới hạn của chúng, năng lực thật của công cụ phát hiện, chuẩn xuất xứ nội dung, và một quy trình chống lừa đảo giọng nói, cuộc gọi video cho doanh nghiệp.
Deepfake được tạo ra như thế nào
Chữ deepfake xuất hiện năm 2017 từ tên một tài khoản trên diễn đàn Reddit chia sẻ video hoán đổi khuôn mặt. Nền tảng kỹ thuật sớm là bộ mã hoá tự động (autoencoder): một mạng học nén khuôn mặt thành biểu diễn chung về tư thế, biểu cảm, ánh sáng, rồi hai bộ giải mã riêng tái tạo mặt người A và người B. Đưa khung hình của A vào, giải mã bằng bộ của B, ra mặt B với biểu cảm của A.
Mạng đối kháng sinh (GAN), do Ian Goodfellow và cộng sự công bố năm 2014, đưa chất lượng lên mức mới: một mạng tạo ảnh, một mạng phân biệt thật giả, hai bên cạnh tranh cho tới khi ảnh tạo ra khó phân biệt. Từ khoảng năm 2022, mô hình khuếch tán (diffusion) trở thành nền tảng chính cho tạo ảnh và video: mô hình học cách khử nhiễu dần từ nhiễu ngẫu nhiên thành ảnh theo mô tả, cho chất lượng cao và dễ điều khiển bằng câu lệnh.
Với giọng nói, các mô hình tổng hợp hiện đại có thể bắt chước giọng một người từ một đoạn ghi âm ngắn, theo công bố của nhiều nhóm nghiên cứu và nhà cung cấp là chỉ vài giây đến vài phút. Điều này quan trọng với người làm quản lý: giọng của bạn trong một bài phát biểu đăng công khai, một video giới thiệu công ty, đã đủ làm nguyên liệu. Rào cản kỹ thuật đã thấp đến mức không cần chuyên gia; nhiều dịch vụ trực tuyến làm được với vài thao tác.
Các dạng deepfake và mức độ phổ biến trong lừa đảo
Không phải dạng nào cũng gây rủi ro như nhau. Bảng dưới đây phân loại theo kỹ thuật và cách chúng thường bị dùng.
| Dạng | Cách làm | Kiểu lạm dụng thường gặp |
|---|---|---|
| Nhân bản giọng nói | Mô hình tổng hợp giọng học từ mẫu ghi âm | Gọi điện giả sếp, giả người thân cần tiền gấp |
| Hoán đổi khuôn mặt | Thay mặt người trong video bằng mặt người khác | Video giả người nổi tiếng quảng cáo đầu tư, thuốc |
| Khớp môi | Giữ video thật, đổi chuyển động miệng theo âm thanh mới | Chuyên gia, bác sĩ "nói" điều họ chưa từng nói |
| Nhân vật tạo hoàn toàn | Tạo khuôn mặt người không tồn tại | Hồ sơ giả trên mạng xã hội, chuyên gia ảo, đánh giá giả |
| Cuộc gọi video thời gian thực | Hoán đổi mặt và giọng trực tiếp trong cuộc gọi | Họp trực tuyến giả lãnh đạo để yêu cầu chuyển tiền |
| Ảnh tạo sinh | Mô hình khuếch tán tạo ảnh từ mô tả | Ảnh sự kiện không có thật, ảnh nhạy cảm giả để tống tiền |
Với doanh nghiệp, hai dạng nguy hiểm nhất về tài chính là nhân bản giọng nói và cuộc gọi video thời gian thực. Một vụ được báo chí quốc tế đưa tin rộng rãi năm 2024: một nhân viên chi nhánh Hồng Kông của tập đoàn kỹ thuật Arup đã chuyển khoảng 25 triệu đô la Mỹ sau một cuộc họp video với những người trông và nghe như giám đốc tài chính và đồng nghiệp, mà tất cả đều là giả. Công ty sau đó xác nhận vụ việc.
Dấu hiệu bằng mắt và tai: còn dùng được đến đâu
Vùng biên khuôn mặt. Viền tóc, tai, cằm, chỗ tiếp giáp mặt với cổ hay bị lỗi: nhoè, nháy, màu da lệch. Khi người trong video quay nghiêng mạnh hoặc đưa tay qua mặt, mô hình hoán đổi thường lộ rõ hơn. Đây là lý do một phép thử hay dùng trong cuộc gọi là đề nghị đối phương quay đầu sang bên hoặc đưa tay qua mặt.
Ánh sáng và phản chiếu. Hướng sáng trên mặt không khớp với cảnh, phản chiếu trong mắt hai bên khác nhau, kính đeo không phản chiếu môi trường. Các dấu hiệu này vẫn có ích nhưng ngày càng hiếm ở sản phẩm chất lượng cao.
Khớp môi và âm thanh. Âm môi như b, p, m cần môi khép; deepfake khớp môi đôi khi để môi hở khi phát âm các âm này. Giọng nhân bản có thể thiếu hơi thở tự nhiên, ngữ điệu đều, hoặc phát âm lạ với từ địa phương và tên riêng.
Chi tiết chung quanh. Ảnh tạo sinh thường lộ ở vật thể phụ: tay, răng, trang sức, hoa văn lặp, chữ méo trên vật thể ở hậu cảnh, đồ vật dính vào nhau.
Giới hạn quan trọng. Danh sách dấu hiệu luôn lạc hậu: mỗi lỗi được nêu công khai là một lỗi được sửa trong thế hệ mô hình sau. Ví dụ, nhận xét "deepfake không chớp mắt" từng nổi tiếng quanh năm 2018 và nhanh chóng mất giá trị. Không thấy dấu hiệu không có nghĩa là thật; ngược lại, video thật nén kém cũng có nhoè và nháy.
Công cụ phát hiện tự động: làm được gì, không làm được gì
Nhiều công cụ phát hiện deepfake dựa trên học máy được giới thiệu, từ các phòng thí nghiệm đại học đến dịch vụ thương mại. Chúng tìm các dấu vết thống kê mà mắt không thấy: nhiễu tần số cao bất thường, mẫu lặp do quá trình tạo ảnh, sự không nhất quán giữa các khung hình, đặc trưng sinh lý như mạch máu dưới da.
Vấn đề là khả năng khái quát hoá. Cuộc thi Deepfake Detection Challenge do Facebook và các đối tác tổ chức năm 2019–2020 cho thấy mô hình tốt nhất đạt độ chính xác cao trên bộ dữ liệu công khai, nhưng chỉ khoảng 65% trên bộ dữ liệu ẩn gồm các video chưa từng thấy. Từ đó tới nay công nghệ phát hiện tiến bộ, nhưng mô hình tạo cũng tiến bộ, và một bộ phát hiện huấn luyện trên dạng giả cũ thường kém với dạng giả mới. Video bị nén lại qua mạng xã hội cũng làm mất nhiều dấu vết.
Cách dùng hợp lý: coi kết quả công cụ là một ý kiến, không phải phán quyết. Kết quả "có khả năng giả cao" là lý do để điều tra thêm; kết quả "có vẻ thật" không đủ để yên tâm. Không bao giờ công bố rằng một nội dung là deepfake chỉ dựa trên điểm số của một công cụ, vì cả âm tính giả và dương tính giả đều xảy ra, và tố một video thật là giả cũng gây hại, thậm chí bị lợi dụng để chối bỏ bằng chứng thật.
Xuất xứ nội dung: hướng đi thay cho "đoán thật giả"
Vì phát hiện sau khi đã có là cuộc chạy đua khó thắng, ngành công nghiệp chuyển sang hướng chứng minh nguồn gốc ngay từ lúc tạo:
- C2PA: Liên minh Xuất xứ và Xác thực Nội dung, thành lập năm 2021 với sự tham gia của các công ty công nghệ và truyền thông lớn, xây dựng chuẩn mở gắn thông tin xuất xứ có chữ ký số vào tệp: thiết bị hoặc phần mềm nào tạo, đã qua chỉnh sửa gì. Tên gọi thân thiện cho người dùng là Content Credentials.
- Máy ảnh và phần mềm hỗ trợ: một số dòng máy ảnh chuyên nghiệp, phần mềm biên tập và công cụ tạo ảnh AI đã bắt đầu ghi thông tin này.
- Dấu nước ẩn: một số nhà phát triển mô hình nhúng dấu nước không nhìn thấy vào nội dung do AI tạo, như SynthID do Google DeepMind giới thiệu năm 2023, để công cụ tương ứng nhận ra.
- Giới hạn: thông tin xuất xứ có thể bị xoá khi chụp lại màn hình hoặc tải lên nền tảng không hỗ trợ; vắng mặt thông tin này không chứng minh nội dung giả. Dấu nước chỉ áp dụng cho công cụ chịu nhúng, kẻ gian dùng mô hình không có dấu nước.
Hướng đi lâu dài là đảo ngược gánh nặng chứng minh: nội dung quan trọng như ảnh báo chí, thông báo chính thức, video lãnh đạo doanh nghiệp sẽ mang chứng nhận nguồn gốc, và nội dung không có chứng nhận được tiếp nhận thận trọng hơn. Điều này cần thời gian để phổ biến.
Quy trình chống lừa đảo deepfake trong doanh nghiệp
Phòng vệ hiệu quả nhất không dựa vào khả năng nhận ra giả, mà dựa vào quy trình khiến việc giả không đủ để lấy được tiền hay thông tin. Các bước nên đưa vào quy chế nội bộ:
- Quy định rõ: mọi yêu cầu chuyển tiền, đổi tài khoản thụ hưởng, gửi dữ liệu nhạy cảm phải qua quy trình phê duyệt bằng văn bản trên hệ thống chính thức, không chấp nhận chỉ qua cuộc gọi hay tin nhắn, dù người gọi là ai.
- Gọi lại qua kênh độc lập: khi nhận yêu cầu bất thường, cúp máy và gọi lại theo số đã lưu trong danh bạ nội bộ, không dùng số người gọi cung cấp.
- Dùng mật khẩu xác nhận hoặc câu hỏi chung: lãnh đạo và kế toán thống nhất trước một cách xác nhận mà người ngoài không biết, dùng khi có yêu cầu khẩn qua điện thoại.
- Áp dụng nguyên tắc hai người: giao dịch trên một ngưỡng do doanh nghiệp tự đặt cần hai người độc lập phê duyệt.
- Cảnh giác với áp lực: yêu cầu giữ bí mật, gấp gáp, bỏ qua quy trình "lần này thôi" là dấu hiệu kinh điển của lừa đảo, có deepfake hay không.
- Đào tạo định kỳ: cho nhân viên nghe, xem mẫu giọng nói và video giả để biết chất lượng hiện tại đã cao đến đâu, tránh tự tin quá mức.
- Có kênh báo cáo: nhân viên nghi ngờ phải biết báo ai và được khen khi báo, kể cả khi hoá ra là thật.
Các bước này cũng áp dụng được cho gia đình: thống nhất một câu hỏi bí mật mà chỉ người nhà biết, dùng khi có cuộc gọi "người thân gặp nạn cần tiền gấp". Đây là biện pháp rẻ nhất và hiệu quả hơn mọi công cụ phát hiện.
Câu hỏi thường gặp
Làm deepfake có bị coi là phạm pháp không?
Bản thân kỹ thuật không bị cấm; điện ảnh, giáo dục, nghệ thuật dùng hợp pháp. Việc dùng để lừa đảo, bôi nhọ, xâm phạm hình ảnh, tạo nội dung nhạy cảm không có sự đồng ý thì có thể vi phạm nhiều quy định về dân sự, hình sự và dữ liệu cá nhân. Quy định đang thay đổi nhanh, nên kiểm văn bản hiện hành khi cần.
Có nên đề nghị người trong cuộc gọi video quay nghiêng mặt để kiểm tra không?
Đó là phép thử hữu ích với nhiều hệ thống hoán đổi khuôn mặt thời gian thực, vì góc nghiêng và vật che mặt làm lộ lỗi. Nhưng các hệ thống mới đang khắc phục dần. Phép thử nên đi kèm, không thay thế, bước gọi lại qua kênh độc lập khi cuộc gọi liên quan tiền hay dữ liệu.
Người nổi tiếng quảng cáo sản phẩm trong video, làm sao biết thật?
Tìm trên trang chính thức hoặc tài khoản đã xác minh của người đó xem có nội dung tương tự không, và tìm tin báo chí về hợp đồng quảng cáo. Video người nổi tiếng giới thiệu đầu tư lợi nhuận cao, thuốc chữa bách bệnh, ứng dụng vay tiền gần như luôn là giả mạo.
Video thật có thể bị gán là deepfake để chối bỏ không?
Có, hiện tượng này được giới nghiên cứu gọi là "lợi tức của kẻ nói dối" (liar dividend), do Bobby Chesney và Danielle Citron nêu: khi ai cũng biết có thể làm giả, người bị ghi hình thật có thể chối rằng đó là giả. Vì vậy kết luận một nội dung là deepfake cũng cần bằng chứng như kết luận nó là thật.
Giọng nói của mình bị nhân bản thì làm gì?
Báo ngay cho người thân, đồng nghiệp, đối tác về khả năng có cuộc gọi giả mạo, nhắc họ quy tắc gọi lại qua kênh đã biết. Lưu bằng chứng như ghi âm, số gọi, tin nhắn, và trình báo cơ quan chức năng nếu có thiệt hại. Hạn chế đăng công khai các đoạn ghi âm dài chất lượng cao của mình.
