Cục A05, Bộ Công an: Nhận diện nguy cơ từ tin giả, video ngắn độc hại để xử lý từ sớm, từ xa

LTS: Thời gian qua, sự bùng nổ của video ngắn, có nội dung độc hại, được cá nhân hóa và các sản phẩm do AI tạo ra khiến việc lướt mạng xã hội trở thành con dao hai lưỡi, với hệ lụy khó lường. Liên tục xuất hiện người trẻ gặp các vấn đề sức khỏe thể chất lẫn tinh thần, phải nhập viện điều trị khi sa đà vào những “cạm bẫy” từ các video ngắn này.

Tuyến bài “Cảnh báo gia tăng tình trạng người trẻ nghiện video ngắn, AI trên mạng xã hội” của Tạp chí Đời sống và Pháp luật sẽ ghi nhận ý kiến bình luận, phân tích của các cơ quan quản lý, chuyên gia an ninh mạng, chuyên gia tâm lý, bác sĩ, thầy cô giáo vv...để đưa ra các cảnh báo cùng giải pháp hướng tới việc giúp người dùng mạng xã hội, các bậc phụ huynh, đặc biệt là giới trẻ nhận diện sớm những dấu hiệu bất thường từ đó có lựa chọn đúng đắn trong việc sử dụng công nghệ, mạng xã hội tỉnh táo, an toàn, có trách nhiệm trong thời đại số.

Sự phát triển mạnh mẽ của mạng xã hội, video ngắn và trí tuệ nhân tạo đang làm thay đổi cách thông tin được tạo ra và lan truyền trên không gian mạng. Chỉ trong thời gian ngắn, một hình ảnh, đoạn video hay nội dung gây sốc có thể tiếp cận lượng lớn người dùng, trong khi thật - giả đôi khi rất khó phân biệt.

Đáng lo ngại, AI và công nghệ Deepfake đang khiến việc tạo hình ảnh, giọng nói, video giả ngày càng dễ dàng. Khi những công nghệ này được kết hợp với tài khoản ảo, bot và mạng lưới phát tán trên nhiều nền tảng, tin giả, thông tin sai sự thật và nội dung xấu độc không chỉ lan truyền nhanh hơn mà còn có thể được sản xuất với số lượng lớn, gây khó khăn cho việc phát hiện, xác minh và ngăn chặn.

Trong khi đó, trẻ em và thanh thiếu niên là nhóm dễ chịu tác động khi thường xuyên tiếp xúc với các video ngắn phản cảm, bạo lực, lệch chuẩn hay những nội dung được dàn dựng dưới dạng “giải trí”, “thử thách”, “trend”. Không chỉ có nguy cơ tiếp nhận những chuẩn mực lệch lạc, bắt chước hành vi nguy hiểm, người dùng trẻ còn có thể trở thành nạn nhân của lừa đảo, thao túng hoặc vô tình tham gia phát tán thông tin xấu, độc.

Xung quanh những nguy cơ này, PV Đời sống và Pháp luật đã có cuộc trao đổi với Thiếu tá Nguyễn Văn Duy, Phòng 3, Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (A05), Bộ Công an về những phương thức, thủ đoạn mới trong việc sản xuất, phát tán tin giả, nội dung xấu độc; nguy cơ từ AI, Deepfake, video ngắn độc hại cũng như các giải pháp bảo vệ người dùng, đặc biệt là trẻ em và thanh thiếu niên trên không gian mạng.

Video ngắn độc hại và nguy cơ “công nghiệp hóa” tin giả bằng AI

ĐSPL: Qua công tác nắm tình hình, Cục A05 đánh giá thế nào về thực trạng tin giả, tin sai sự thật, nội dung xấu độc trên không gian mạng hiện nay, đặc biệt là những nội dung có khả năng tác động xấu đến thanh thiếu niên, trẻ em? Thời gian gần đây xuất hiện những xu hướng, dạng nội dung hoặc phương thức phát tán mới nào có thể gây ảnh hưởng vấn đề an ninh trật tự và an toàn thông tin trên không gian mạng?

Thiếu tá Nguyễn Văn Duy: Có thể thấy, không gian mạng đang trở thành môi trường thông tin thiết yếu của xã hội, đặc biệt đối với thanh thiếu niên và trẻ em. Bên cạnh những giá trị tích cực, môi trường này cũng xuất hiện ngày càng nhiều tin giả, tin sai sự thật, nội dung độc hại, phản cảm, bạo lực, lệch chuẩn, thậm chí nội dung được dàn dựng có chủ đích để kích động, gây hoang mang hoặc thu hút tương tác.

Đáng chú ý hiện nay là xu hướng “ngắn hóa, trực quan hóa và cá nhân hóa” nội dung. Các video chỉ vài chục giây, hình ảnh bắt mắt, tiêu đề gây sốc hoặc nội dung đánh mạnh vào cảm xúc có khả năng lan truyền rất nhanh. Một số đối tượng còn cố tình tạo các tình huống phản cảm, nguy hiểm, bạo lực rồi đăng tải dưới dạng “giải trí”, “thử thách” hoặc “trend” để câu view, câu tương tác.

Một xu hướng khác là kết hợp tin giả với tài khoản ảo, mạng lưới tài khoản và công cụ AI để tạo ra số lượng lớn nội dung trong thời gian ngắn, sau đó phát tán trên nhiều nền tảng. Khi một nội dung xuất hiện đồng thời ở nhiều tài khoản, nhiều nhóm hoặc nhiều nền tảng, người dùng rất dễ lầm tưởng đó là thông tin đã được kiểm chứng.

Đối với an ninh, trật tự, nguy cơ đáng lo ngại là những nội dung này có thể bị lợi dụng để kích động tâm lý đám đông, xuyên tạc sự việc, giả mạo cá nhân hoặc cơ quan, tổ chức, gây hoang mang, làm phức tạp tình hình xã hội. Đối với trẻ em, hậu quả còn có thể trực tiếp hơn khi các em bắt chước hành vi nguy hiểm, tiếp nhận những chuẩn mực lệch lạc hoặc trở thành nạn nhân của lừa đảo, thao túng và xâm hại trên môi trường mạng.

ĐSPL: Sự phát triển nhanh của trí tuệ nhân tạo đang khiến việc tạo hình ảnh, giọng nói và video giả ngày càng dễ dàng. A05 nhận diện như thế nào về nguy cơ các đối tượng lợi dụng AI, Deepfake để tạo dựng và phát tán thông tin giả, xuyên tạc sự việc, giả mạo cá nhân, tổ chức hoặc tạo ra những nội dung sai sự thật, gây sốc nhằm thu hút lượt xem? So với trước đây, thủ đoạn này có gây khó khăn gì cho công tác phát hiện, xác minh và xử lý?

Thiếu tá Nguyễn Văn Duy: Theo tôi, đây là một trong những nguy cơ mà lực lượng chuyên trách về an ninh mạng đặc biệt quan tâm.

Nếu trước đây việc tạo một hình ảnh hoặc video giả đòi hỏi trình độ kỹ thuật tương đối cao thì hiện nay, với sự hỗ trợ của AI, rào cản về kỹ thuật đã giảm xuống đáng kể. Chỉ với một số dữ liệu hình ảnh, âm thanh hoặc thông tin công khai về một cá nhân, đối tượng có thể tạo ra những nội dung giả mạo có mức độ tương đồng rất cao.

AI, Deepfake có thể bị lợi dụng để giả giọng nói của người thân, lãnh đạo, người nổi tiếng; tạo hình ảnh, video giả; xuyên tạc phát ngôn; dựng lại một sự việc theo hướng hoàn toàn khác với thực tế, hoặc tạo những nội dung gây sốc nhằm thu hút lượt xem, từ đó kiếm tiền hoặc phục vụ các mục đích vi phạm pháp luật.

Điểm đáng lưu ý là Deepfake hiện nay không chỉ được sử dụng để tạo một sản phẩm giả đơn lẻ. Các đối tượng có thể kết hợp AI với tài khoản ảo, bot, mạng xã hội và các nền tảng phân phối nội dung, tạo thành một quy trình tương đối hoàn chỉnh từ sản xuất đến phát tán và khuếch đại.

Điều này tạo ra khó khăn nhất định cho công tác phát hiện, xác minh, bởi nội dung giả ngày càng giống thật, tốc độ phát tán nhanh, trong khi thời gian để xác minh và xử lý ngày càng ngắn. Một video giả có thể tiếp cận hàng trăm nghìn, thậm chí hàng triệu người trước khi cơ quan chức năng hoặc nguồn tin chính thống kịp đưa ra thông tin xác minh.

Do đó, phương thức đấu tranh cũng phải thay đổi theo hướng chủ động phát hiện sớm, xác minh nhanh, phối hợp chặt chẽ với các cơ quan, tổ chức và nền tảng cung cấp dịch vụ, đồng thời tăng cường ứng dụng công nghệ để nhận diện, phân tích và truy vết nguồn phát tán.

ĐSPL: Bên cạnh tin giả, trên mạng xã hội hiện xuất hiện nhiều video, clip ngắn có nội dung phản cảm, lệch chuẩn, bạo lực, nguy hiểm hoặc cố tình dàn dựng tình huống gây sốc để “câu view”, “câu tương tác”. Đáng lo ngại, trẻ em và thanh thiếu niên có thể tiếp cận, bắt chước những hành vi này. Ông đánh giá như thế nào về mức độ nguy hiểm của nội dung xấu, độc hại này đối với môi trường mạng và người dùng trẻ tuổi?

Thiếu tá Nguyễn Văn Duy: Đây là vấn đề không thể xem nhẹ, bởi tác động của nội dung độc hại đối với trẻ em không chỉ nằm ở một video cụ thể mà còn ở quá trình tiếp xúc, lặp lại và hình thành thói quen.

Trẻ em và thanh thiếu niên đang trong quá trình hình thành nhận thức, nhân cách và kỹ năng xã hội. Khi thường xuyên tiếp xúc với nội dung bạo lực, phản cảm, lệch chuẩn hoặc các hành vi nguy hiểm được “đóng gói” dưới dạng giải trí, các em có thể coi những hành vi bất thường là bình thường, bắt chước để được chú ý hoặc tìm kiếm sự công nhận trên mạng.

Đáng lo ngại hơn, cơ chế đề xuất nội dung của các nền tảng có thể khiến một người dùng tiếp tục được giới thiệu những nội dung tương tự sau khi đã tương tác với một chủ đề. Vì vậy, từ một video ban đầu, người dùng trẻ có thể nhanh chóng tiếp xúc với một chuỗi nội dung cùng loại, làm tăng nguy cơ hình thành nhận thức lệch lạc.

Ở góc độ rộng hơn, nội dung độc hại còn có thể bị lợi dụng để quảng bá hành vi vi phạm pháp luật, kích động bạo lực, xúc phạm danh dự người khác, cổ súy lối sống lệch chuẩn hoặc dẫn dụ trẻ em vào các hoạt động nguy hiểm.

Vì vậy, bảo vệ trẻ em trên không gian mạng không thể chỉ là câu chuyện “cấm hay không cấm một video”, mà cần hình thành một hệ sinh thái bảo vệ gồm gia đình, nhà trường, cơ quan quản lý, lực lượng chức năng và chính các nền tảng công nghệ.

ĐSPL: Qua thực tiễn đấu tranh, A05 có ghi nhận tình trạng các cá nhân, hội nhóm hoặc đường dây chủ động sản xuất hàng loạt nội dung giả, nội dung xấu độc, sử dụng AI để tạo nội dung với mục đích kiếm tiền, tăng tương tác hoặc phục vụ các hành vi vi phạm pháp luật hay không? Xin Cục A05 cho biết về những phương thức, thủ đoạn hoặc vụ việc điển hình để người dân nhận diện, nâng cao ý thức cảnh giác?

Thiếu tá Nguyễn Văn Duy: Thực tiễn công tác cho thấy, AI đang được sử dụng như một công cụ mới để hỗ trợ nhiều hành vi vi phạm trên không gian mạng, trong đó có việc tạo dựng hình ảnh, video, giọng nói hoặc nội dung giả để thu hút tương tác, quảng cáo, kiếm tiền hoặc thực hiện các hành vi lừa đảo.

Điểm chúng tôi đặc biệt lưu ý là xu hướng “công nghiệp hóa” việc sản xuất nội dung. Thay vì một cá nhân tự tạo và đăng một nội dung, các đối tượng có thể sử dụng công cụ AI để tạo hàng loạt nội dung với nhiều phiên bản khác nhau, vận hành nhiều tài khoản và đồng thời phát tán trên nhiều nền tảng.

Có thể gặp các dạng như tạo hình ảnh, video giả về người nổi tiếng để quảng cáo sản phẩm; giả danh cơ quan, tổ chức hoặc cá nhân có uy tín; sử dụng giọng nói giả để tạo lòng tin; dựng những tình huống gây sốc để câu tương tác; hoặc tạo nội dung sai sự thật rồi sử dụng mạng lưới tài khoản để bình luận, chia sẻ, làm cho thông tin giả có vẻ như đang được nhiều người quan tâm.

Đối với người dân, dấu hiệu cần cảnh giác là những tài khoản đăng tải với tần suất bất thường, nội dung na ná nhau, liên tục dẫn người dùng sang một đường link, yêu cầu cung cấp thông tin hoặc thực hiện giao dịch.

Thông điệp quan trọng là: đừng đánh giá tính xác thực của thông tin chỉ bằng số lượt xem, lượt thích hoặc số lượng bình luận. Một nội dung có hàng trăm nghìn lượt tương tác vẫn có thể là thông tin giả.

Tạo “hàng rào” trước tin giả, nội dung xấu độc

ĐSPL: Một vấn đề được nhiều phụ huynh quan tâm là trẻ nhỏ hiện có thể tiếp xúc với dạng video ngắn trên mạng xã hội từ rất sớm, trong khi khả năng phân biệt nội dung thật – giả và tốt – xấu còn hạn chế. Theo A05, những nguy cơ nào đáng lưu ý nhất khi trẻ em tiếp xúc với những thông tin giả, nội dung độc hại, phản cảm hoặc các video được AI tạo ra nhưng có hình thức rất giống thật?

Thiếu tá Nguyễn Văn Duy: Có thể nói, nguy cơ lớn nhất là trẻ em có thể tin vào những gì mình nhìn thấy mà chưa đủ khả năng đặt câu hỏi “điều này có thật không?”.

Với AI và Deepfake, vấn đề càng phức tạp bởi hình ảnh, giọng nói và video có thể rất giống thật. Trẻ có thể gặp video giả về người nổi tiếng, giáo viên, người thân hoặc những nhân vật mà các em tin tưởng; từ đó tiếp nhận thông tin sai lệch hoặc thực hiện theo những hướng dẫn không an toàn.

Bên cạnh đó là nguy cơ bắt chước hành vi nguy hiểm, bị thao túng tâm lý, bị dẫn dụ vào các nhóm hoặc đường link không an toàn, bị thu thập thông tin cá nhân, lừa đảo hoặc xâm phạm quyền riêng tư.

Một nguy cơ khác thường bị xem nhẹ là việc trẻ em có thể trở thành người phát tán thứ cấp. Các em thấy một video hấp dẫn thì chia sẻ cho bạn bè mà không biết đó là nội dung giả hoặc độc hại. Như vậy, một đứa trẻ vừa có thể là nạn nhân, vừa vô tình trở thành mắt xích trong quá trình lan truyền thông tin xấu.

Do đó, phụ huynh không nên chỉ đặt mục tiêu “không cho trẻ dùng Internet”, mà cần trang bị cho trẻ kỹ năng sử dụng Internet an toàn, kỹ năng kiểm chứng và đặc biệt là kỹ năng tìm đến người lớn khi gặp nội dung khiến các em sợ hãi, bối rối hoặc nghi ngờ.

ĐS&PL: Xin A05 cho biết những giải pháp và hiệu quả của công tác phòng ngừa, ngăn chặn từ sớm, từ xa. Theo ông những quy định pháp luật hiện hành và chế tài xử lý vi phạm đã đủ sức răn đe? Và theo ông có cần tăng chế tài xử lý các hành vi vi phạm không?

Thiếu tá Nguyễn Văn Duy: Quan điểm của chúng tôi là phòng ngừa phải đi trước một bước, phát hiện sớm, xử lý nhanh và xử lý đúng hành vi, đúng đối tượng, đúng quy định pháp luật.

Trong thời gian qua, công tác phòng ngừa, phát hiện và xử lý thông tin xấu độc trên không gian mạng được triển khai theo hướng tăng cường giám sát, phát hiện sớm các vấn đề nổi lên; phối hợp với các cơ quan chức năng, cơ quan báo chí và các nền tảng để xác minh, cảnh báo, ngăn chặn và xử lý.

Đặc biệt, cần chuyển từ tư duy “có sự việc mới xử lý” sang “nhận diện nguy cơ để xử lý từ sớm, từ xa”. Với những nội dung có khả năng gây tác động lớn đến xã hội, tốc độ phản ứng là yếu tố rất quan trọng.

Về pháp luật, hệ thống quy định liên quan đến an ninh mạng, an toàn thông tin, bảo vệ dữ liệu cá nhân và xử lý vi phạm trên không gian mạng đang tiếp tục được hoàn thiện. Tuy nhiên, công nghệ thay đổi rất nhanh, thủ đoạn vi phạm cũng thay đổi rất nhanh, vì vậy pháp luật và cơ chế thực thi cần thường xuyên được rà soát, bổ sung để bảo đảm tính kịp thời và khả thi.

Việc tăng chế tài là cần thiết đối với những hành vi cố ý, có tổ chức, tái phạm, thu lợi bất chính hoặc gây hậu quả nghiêm trọng, nhưng không nên chỉ nhìn vào mức tiền phạt. Cần kết hợp đồng bộ giữa xử phạt, buộc gỡ bỏ hoặc cải chính thông tin vi phạm, ngăn chặn việc tiếp tục phát tán, thu hồi lợi ích bất hợp pháp và các biện pháp khác theo quy định.

Mục tiêu cuối cùng của chế tài không phải là xử phạt thật nặng, mà là đủ sức răn đe, bảo đảm công bằng, đúng pháp luật và quan trọng nhất là ngăn chặn hành vi vi phạm tiếp diễn.

ĐSPL: Cục A05 có khuyến cáo gì đối với người sử dụng mạng xã hội, đặc biệt là thanh thiếu niên để nhận biết nội dung do AI/Deepfake tạo ra, tránh trở thành người tiếp tay phát tán tin giả và bảo vệ thế hệ trẻ trước những nội dung độc hại trên không gian mạng?

Thiếu tá Nguyễn Văn Duy: Chúng tôi khuyến cáo người dân, đặc biệt là thanh thiếu niên, không nên mặc định “thấy hình ảnh, nghe giọng nói, xem video thì đó là sự thật”. Trong thời đại AI, bằng chứng trực quan không còn luôn đồng nghĩa với sự thật.

Có thể ghi nhớ nguyên tắc “DỪNG - KIỂM TRA - SUY NGHĨ - MỚI CHIA SẺ”:

Thứ nhất, DỪNG: Khi gặp nội dung gây sốc, kích động, sợ hãi hoặc quá hấp dẫn, hãy dừng lại, không chia sẻ ngay.

Thứ hai, KIỂM TRA: Kiểm tra nguồn đăng, thời điểm, tài khoản và tìm thông tin từ các nguồn chính thống hoặc nguồn gốc của sự việc.

Thứ ba, SUY NGHĨ: Đặt câu hỏi liệu hình ảnh, giọng nói, video có dấu hiệu bất thường hay không; nội dung có hợp lý, có phù hợp với những thông tin đã được xác nhận hay không.

Thứ tư, MỚI CHIA SẺ: Chỉ chia sẻ khi đã có cơ sở tin cậy. Nếu chưa xác định được thì tốt nhất không chia sẻ.

Đối với trẻ em, phụ huynh cần đồng hành thay vì chỉ kiểm soát. Hãy hướng dẫn trẻ không cung cấp thông tin cá nhân, không tự ý gặp người quen trên mạng, không làm theo những thử thách nguy hiểm và phải báo ngay cho cha mẹ, thầy cô hoặc người lớn tin cậy khi gặp nội dung bất thường.

Tôi cũng muốn nhấn mạnh một thông điệp: mỗi lượt thích, bình luận và chia sẻ đều có thể góp phần làm một nội dung lan rộng hơn. Vì vậy, trước khi bấm nút chia sẻ, mỗi người hãy tự hỏi: “Thông tin này đã được kiểm chứng chưa? Nếu sai, việc tôi chia sẻ có thể gây hậu quả gì?”

Trong cuộc đấu tranh với tin giả và nội dung xấu độc, công nghệ là một phần của giải pháp, nhưng ý thức và trách nhiệm của người sử dụng mới là “hàng rào” đầu tiên và quan trọng nhất để bảo vệ chính mình, gia đình và cộng đồng trên không gian mạng.

ĐS&PL: Trân trọng cảm ơn Thiếu tá!