Hé lộ chấn động về vụ sản xuất, phát tán video deepfake “nóng” của người nổi tiếng ở Hàn Quốc

Tuổi Trẻ Online dẫn thông tin từ tờ Chosun Ilbo cho biết, cảnh sát Đội điều tra tội phạm mạng số 2 thuộc Sở Cảnh sát Bắc Gyeonggi (Hàn Quốc) vừa tiến hành cuộc điều tra và bắt giữ hơn 100 nam giới trong độ tuổi từ 10 - 30 vì phát hiện tham gia sản xuất, phát tán hoặc tiếp nhận các video deepfake mang nội dung nhạy cảm nhắm đến các nữ thần tượng nổi tiếng.

Được biết, số nạn nhân được xác định lên tới hơn 100 người, bao gồm các nghệ sĩ thuộc công ty giải trí lớn HYBE, các diễn viên và cả BJ (người phát sóng trực tuyến).

Theo thông cáo ngày 11/4 của Đội điều tra tội phạm mạng số 2 thuộc Cảnh sát Bắc Gyeonggi, có 23 người điều hành các phòng chat trên Telegram đã bị bắt giữ với cáo buộc vi phạm Luật bảo vệ trẻ em và vị thành niên, Luật đặc biệt về trừng phạt tội phạm tình dục. Trong đó, 13 người với mức độ phạm tội nghiêm trọng đã bị tạm giam và chuyển giao cho viện kiểm sát.

Người đàn ông tên A. bị bắt giữ. Ảnh: Chosun Ilbo

Ngoài ra, phía cảnh sát đang tiếp tục điều tra và đã bắt giữ thêm khoảng 60 người có liên quan tới các phòng chat này. Cảnh sát cũng cho biết, người đàn ông ngoài 30 tuổi tên A. đã tự tay sản xuất hơn 1.100 video deepfake nhạy cảm, sử dụng hình ảnh của khoảng 30 nữ nghệ sĩ nổi tiếng mà anh ta hâm mộ, trong khoảng thời gian từ tháng 8/2024 đến tháng 3/2025.

Sau đó, A. đã phát tán các video này trong một phòng chat riêng tư trên Telegram - nơi chỉ những người hâm mộ nhiệt tình mới được phép tham gia. Số lượng thành viên lên đến khoảng 140 người. Trong phòng chat này, các thành viên thường xuyên đưa ra những lời bình luận mang tính chế giễu nhạy cảm đối với các nạn nhân.

Đáng chú ý, nhiều người tỏ ra xem nhẹ hành vi phạm pháp, cho rằng: "Nếu là lần đầu thì sẽ không bị phạt tiền đâu" hay "Cùng lắm chỉ bị án treo hoặc đình chỉ truy tố". Trong khi đó, A. vẫn đang tiếp tục sản xuất các video deepfake cho đến thời điểm bị bắt.

Một người điều hành phòng chat khác được xác định là B. (ngoài 30 tuổi). Trong khoảng thời gian từ tháng 9-12/2024, người này đã sản xuất và chia sẻ khoảng 150 video deepfake liên quan đến hơn 70 người nổi tiếng, bao gồm các thần tượng K-pop, diễn viên và BJ.

Đặc biệt, B. còn sử dụng công nghệ trí tuệ nhân tạo deep voice để tạo ra âm thanh giả, khiến người xem tin rằng nạn nhân đang trực tiếp nói những lời lẽ dung tục. Phòng chat do B. điều hành từng có tới 360 thành viên tham gia.

Một người đàn ông tên C. (trong độ tuổi 20) bị cáo buộc đã sử dụng phòng chat của B. để sản xuất và chia sẻ khoảng 300 đoạn video nhạy cảm giả mạo. Lần này, đối tượng nhắm đến người quen của mình, bao gồm cả bạn học cũ thời trung học - những người hoàn toàn không phải người nổi tiếng.

Đại diện cơ quan chức năng thông tin về vụ việc với báo chí. Ảnh: YNA

Theo thống kê của cảnh sát, chỉ riêng hai phòng chat do A. và B. điều hành đã có hơn 4.100 hình ảnh và đoạn video được chia sẻ. Tuy nhiên, theo điều tra ban đầu, không có giao dịch tài chính nào diễn ra.

Cảnh sát cho biết những đối tượng bị bắt đều là người thất nghiệp, độ tuổi từ thiếu niên đến ngoài 20, 30 tuổi, bao gồm cả những người đang nhận trợ cấp sinh kế cơ bản, theo thông tin trên báo Tiền Phong.

Các nghi phạm điều hành phòng chat phi lợi nhuận. Mục đích phạm tội là để thỏa mãn tưởng tượng tình dục và mong muốn được công nhận. Thành viên nhóm chat gọi những kẻ chủ mưu bằng danh xưng “tác giả”.

“Những đối tượng tham gia phòng chat cho rằng video deepfake của người nổi tiếng không bị điều tra hoặc nếu có thì hình phạt cũng nhẹ. Tuy nhiên, tội phạm tình dục kỹ thuật số gây ảnh hưởng nghiêm trọng đến cuộc sống hàng ngày của nạn nhân và chúng tôi cam kết xóa bỏ chúng”, ông Kim Jeong Hyeon - người đứng đầu đơn vị điều tra tội phạm mạng của Cơ quan Cảnh sát Bắc Gyeonggi, nhấn mạnh.

Các hãng bảo mật cho biết, "Deepfake" là một từ ghép của “deep” trong “deep learning” (học sâu) và “fake” (giả mạo). Deep learning là dùng phương pháp AI tiên tiến ứng dụng nhiều thuật toán nhằm tổng hợp dần các tính năng cao cấp từ dữ liệu đầu vào.

Từ đó, công nghệ này có khả năng tổng hợp, học hỏi từ những dữ liệu mà người dùng đưa vào như khuôn mặt con người, chuyển động vật lý và giọng nói. Deepfake có thể gán khuôn mặt của người này sang người khác trong video với độ chân thực cao.

Trong khi đó, báo Quân Đội Nhân Dân dẫn thông tin từ Công an thành phố Hà Nội cho hay, Deepfake là công nghệ ứng dụng trí tuệ nhân tạo (AI) tạo ra các sản phẩm công nghệ âm thanh, hình ảnh và video làm giả đối tượng ngoài đời thực với độ chính xác rất cao.

Dựa trên tệp tin hình ảnh khuôn mặt, giọng nói của một người ngoài đời thực, Deepfake sẽ sử dụng thuật toán để tái tạo lại khuôn mặt và giọng nói phù hợp với nét mặt, biểu cảm của một người khác; sau đó tạo ra video giả mạo hoàn toàn đối tượng ngoài đời thực.

Thông qua mạng internet, các đối tượng thu thập hình ảnh, giọng nói của người dùng trên mạng xã hội, sử dụng công nghệ Deepfake tạo ảnh động, video giả mạo người dùng đang nói chuyện trực tuyến với cùng khuôn mặt, âm điệu giọng nói và cách xưng hô.

Công an thành phố Hà Nội thông tin thêm, với công nghệ Deepfake, video giả mạo có độ chính xác cao, rất khó phân biệt thật giả. Tuy nhiên, video do đối tượng tạo sẵn thường có nội dung chung chung, không phù hợp hoàn toàn với ngữ cảnh thực tế giao tiếp với nạn nhân, có thể khiến nạn nhân nghi ngờ, phát hiện.

Để che lấp khuyết điểm trên, các đối tượng thường tạo ra video với âm thanh khó nghe, hình ảnh không rõ nét giống cuộc gọi video có tín hiệu chập chờn được thực hiện trong khu vực phủ sóng di động/wifi yếu.