Các công ty giải trí K-pop đang tuyên chiến với nạn video giả mạo nghệ sĩ trái phép, đặc biệt là thông qua công nghệ deepfake, trong bối cảnh cả Hàn Quốc đang phải đối mặt với sự gia tăng của tội phạm tình dục liên quan đến deepfake.
JYP Entertainment, công ty quản lý của nhóm nhạc nữ Twice, hôm thứ Sáu vừa qua thông báo rằng họ đang thu thập dữ liệu liên quan đến các video deepfake của các thành viên và sẽ có hành động pháp lý chống lại những người tạo ra và phát tán chúng.
“Chúng tôi nhận thức rõ mức độ nghiêm trọng của tình hình hiện tại, khi video deepfake của các nghệ sĩ đang lan truyền tràn lan trên mạng,” JYP Entertainment cho biết trong một tuyên bố, đồng thời gọi các video này là “hành vi bất hợp pháp”.
“Chúng tôi sẽ thực hiện các biện pháp pháp lý và không khoan nhượng. Chúng tôi sẽ không bỏ qua bất kỳ hành động nào xâm phạm quyền lợi của nghệ sĩ và sẽ thực hiện các biện pháp cứng rắn đến cùng.” Woollim Entertainment, công ty quản lý của ca sĩ Kwon Eun-bi, cũng ra tuyên bố tương tự, cảnh báo về các biện pháp pháp lý chống lại bất kỳ ai tạo ra hoặc phát tán video deepfake của nữ ca sĩ.
ADOR, công ty quản lý của nhóm nhạc NewJeans, cũng đã lên tiếng cảnh báo về các biện pháp pháp lý chống lại video deepfake vào tháng 6.
Tội phạm mạng liên quan đến việc tạo ra hoặc xem video khiêu *** sử dụng khuôn mặt của nghệ sĩ K-pop đã nổi lên sau khi một loạt vụ việc liên quan đến deepfake bị phanh phui hồi đầu tháng, cho thấy tình trạng phổ biến đáng báo động, đặc biệt là trong giới thanh thiếu niên nam và học sinh.
Theo lệnh của Tổng thống Yoon Suk Yeol về việc xóa bỏ loại tội phạm này, cảnh sát đã vào cuộc mạnh tay từ thứ Tư tuần trước. Các công tố viên và cảnh sát đang xem xét các biện pháp tăng cường nguồn lực điều tra và mở rộng hoạt động bí mật.
Một báo cáo gần đây của Security Hero, một công ty an ninh mạng của Mỹ, cho biết người Hàn Quốc là mục tiêu số một của những kẻ tạo ra nội dung khiêu *** deepfake trong năm 2023. Một báo cáo riêng biệt của cảnh sát cho thấy khoảng 60% nạn nhân của deepfake khiêu *** ở nước này là thanh thiếu niên.
Hình ảnh khiêu *** deepfake đã khiến nhiều phụ nữ Hàn Quốc phải vội vàng gỡ bỏ ảnh selfie của họ khỏi Facebook, Instagram và các nền tảng mạng xã hội khác, do lo ngại rằng không ai là ngoại lệ đối với loại tội phạm này ở quốc gia có tỷ lệ sử dụng internet cao nhất thế giới.
“Cảm giác như nơi an toàn nhất đối với chúng tôi, cuộc sống thường ngày của chúng tôi, đã bị xâm phạm”, một phụ nữ 27 tuổi, chỉ cho biết tên mình là Lee, cho biết cô đã xóa mọi dấu vết của mình trên mạng xã hội. Vấn nạn deepfake tình dục đã trở thành tâm điểm chú ý sau khi một người đàn ông 40 tuổi, tốt nghiệp Đại học Quốc gia Seoul, bị cáo buộc câu kết với ba người khác tạo ra hình ảnh và video khiêu *** của các nạn nhân bằng công nghệ deepfake, sau đó chia sẻ chúng trên Telegram.
Cho đến nay, 61 nạn nhân đã được xác định, trong đó có 12 cựu sinh viên cùng trường với thủ phạm. Rất nhanh chóng, truyền thông đưa tin về nhiều trường hợp tương tự về tội phạm tình dục deepfake, trong đó có những phòng chat được cho là nhắm mục tiêu vào trẻ vị thành niên.
Một kênh Telegram được cho là có hơn 220.000 thành viên và được trang bị một chương trình có thể biến ảnh chụp thành ảnh khỏa thân ngay lập tức, trong khi những kẻ phạm tội khuyến khích các thành viên chia sẻ ảnh của những người họ biết.
Bae Sang-hoon, giáo sư thỉnh giảng tại khoa quản lý cảnh sát, Đại học Woosuk, cho biết những kẻ phạm tội trong các vụ việc này bị thúc đẩy bởi nhiều yếu tố, chẳng hạn như cảm giác tự ti, thích thú, và đôi khi chỉ đơn giản là để quấy rối hoặc trả thù ai đó trên mạng khi không thể làm điều đó ngoài đời thực.
“Hình thức xúc phạm người quen ban đầu xuất hiện khi còn nhỏ, chẳng hạn như vẽ ria mép lên ảnh của ai đó trong nhà vệ sinh công cộng, hoặc xé mắt người khác trong kỷ yếu”, Bae cho biết.
Giáo sư cho biết thêm, điểm khác biệt ngày nay là sự kết hợp của Telegram, ứng dụng được giới trẻ và thanh thiếu niên sử dụng rộng rãi, và trí tuệ nhân tạo đã dẫn đến những thiệt hại mang tính bùng nổ trên toàn quốc.
“Công nghệ Deepfake khiến người ta khó phân biệt được thật giả, và chính sự nhầm lẫn này càng khiến nó trở nên nguy hiểm hơn”, Bae nói. Số nạn nhân deepfake tìm kiếm sự giúp đỡ từ cơ quan nhà nước chống tội phạm tình dục kỹ thuật số là 781 người trong khoảng thời gian từ ngày 1/1 đến ngày 25/8, trong đó 288 người, tương đương 36,9%, là trẻ vị thành niên.
Bộ Giáo dục cho biết họ đã nhận được 196 báo cáo thiệt hại từ các vụ án deepfake tình dục trong học sinh và giáo viên từ tháng 1 đến thứ Ba, trong đó giáo viên chiếm 10 trường hợp. Trước tình trạng tội phạm deepfake gia tăng, nhiều phụ nữ đã vội vàng gỡ bỏ ảnh của họ trên mạng xã hội, hoặc tự mình truy tìm thủ phạm.
Trên X, trước đây là Twitter, các từ khóa như “khiêu *** bất hợp pháp” và “vạch trần kẻ phạm tội deepfake” đã trở thành xu hướng hàng đầu, nhiều người chia sẻ danh sách các trường học bị nghi ngờ là mục tiêu của các phòng chat, cập nhật tin tức liên quan và chia sẻ mẹo tránh trở thành nạn nhân. Một nhiếp ảnh gia giấu tên cho biết anh sẽ “tạm dừng đăng tải bài viết có khuôn mặt của người mẫu” do lo ngại về tội phạm deepfake.
Kim Su-jeong, giám đốc Trung tâm Tư vấn Nhân quyền Phụ nữ, cho biết chính phủ nên giáo dục những kẻ phạm tội rằng hành động của họ là sai trái và không thể dung thứ, thay vì yêu cầu nạn nhân gỡ bỏ ảnh hoặc bài đăng.
“Nạn bạo lực đối với phụ nữ tái diễn ở đất nước này là do nhà nước đã không lắng nghe vô số lời kêu gọi trong quá khứ cảnh báo về vấn đề này, hình phạt dành cho thủ phạm còn quá nhẹ tay và thiếu nhận thức cho rằng những hành động như vậy là tội ác”, bà nói thêm.
Vào thứ Ba, Tổng thống Yoon Suk Yeol đã kêu gọi các cơ quan chức năng triệt phá tội phạm tình dục kỹ thuật số sử dụng deepfake trong một cuộc họp nội các, gọi đây là “hành vi phạm tội rõ ràng”. Phản hồi muộn màng, chính phủ đã công bố một loạt biện pháp, bao gồm tăng nặng hình phạt đối với tội phạm tình dục deepfake, thúc đẩy thiết lập đường dây nóng với Telegram để tham vấn quanh năm và trừng phạt những người chỉ đơn giản là tàng trữ tài liệu khiêu *** deepfake.
Sau khi có báo cáo cho thấy nhiều nạn nhân là trẻ vị thành niên, Bộ Giáo dục cũng cam kết sẽ tăng cường giáo dục học sinh về đạo đức kỹ thuật số và đào tạo phòng chống lạm dụng tình dục trực tuyến.
Cơ quan Cảnh sát Quốc gia cũng công bố chiến dịch truy quét tội phạm tình dục deepfake kéo dài 7 tháng.
“Nguyên nhân cơ bản của mọi hình thức bạo lực đối với phụ nữ là phân biệt giới tính, suy nghĩ rằng phụ nữ không phải là những cá thể bình đẳng mà là đối tượng để thỏa mãn ham muốn tình dục, và thậm chí là văn hóa đàn ông chia sẻ điều này như một hình thức giải trí và cổ vũ lẫn nhau”, Kim nói.
Bae Jeong-weon, giám đốc Trung tâm Tình dục và Cuộc sống Hài hòa, đồng thời là giáo sư thỉnh giảng tại Đại học Seong, cho biết việc tiếp xúc với nội dung khiêu *** từ khi còn nhỏ và sự phổ biến của việc coi phụ nữ là đối tượng tình dục trong xã hội khiến thanh thiếu niên trở nên chai lì với những tội ác như vậy.
“Nhiều thanh thiếu niên có xu hướng coi đó như một loại trò chơi mà chúng chơi để nâng cấp level, thường là cạnh tranh với những người bạn đồng trang lứa”, bà nói, đồng thời lưu ý rằng việc tiếp xúc phổ biến với nội dung khiêu *** trong trò chơi, phim ảnh và không gian mạng thường khiến họ coi phụ nữ là đối tượng tình dục.
Đề cập đến động thái cấm điện thoại di động trong trường học đối với trẻ em dưới 15 tuổi của Pháp gần đây và cuộc thảo luận tương tự ở Vương quốc Anh, Bae cho biết: “Ngay cả khi chúng ta không thể đi xa đến vậy, ít nhất chúng ta cũng cần kiểm tra và ngăn chặn trẻ vị thành niên tiếp cận các trò chơi bạo lực.”
Bae cũng nhấn mạnh rằng giáo dục về truyền thông và giáo dục về lòng nhân ái cũng quan trọng không kém.
“Câu hỏi thực sự là, liệu chúng ta có thời gian để dạy trẻ em về việc xây dựng nhân cách trong một hệ thống giáo dục khiến học sinh rơi vào vòng luẩn quẩn của thi cử và cạnh tranh hay không”, bà đặt câu hỏi.
Vào chiều thứ Năm, gần 70 sinh viên đại học và thành viên của các nhóm đấu tranh cho nữ quyền đã tập trung trước ga Gangnam ở phía nam Seoul, kêu gọi điều tra triệt để tội phạm deepfake, trừng trị nghiêm khắc thủ phạm và áp dụng các biện pháp phòng ngừa triệt để.
“Deepfake không phải là trò chơi!”, họ hô vang. “Bạo lực không thể khuất phục chúng tôi!”
Một nghiên cứu của một công ty an ninh mạng quốc tế cho thấy hơn một nửa số người xuất hiện trong các nội dung khiêu *** deepfake là người Hàn Quốc. Báo cáo có tiêu đề “Tình hình sản xuất Deepfake năm 2023” gần đây đã được Security Hero, công ty an ninh mạng có trụ sở tại Mỹ, công bố. Báo cáo xác định Hàn Quốc là quốc gia dễ bị tổn thương nhất trước tội phạm deepfake.
Theo báo cáo, dựa trên phân tích 10 trang web khiêu *** deepfake hàng đầu và 85 kênh YouTube từ tháng 7 đến tháng 8 năm ngoái, 53% cá nhân xuất hiện trong nội dung deepfake là người Hàn Quốc.
Báo cáo cho biết một số quốc gia đặc biệt dễ bị ảnh hưởng bởi nội dung deepfake khiêu ***. “Hàn Quốc đứng đầu danh sách này với tỷ lệ 53% dễ bị ảnh hưởng bởi nội dung deepfake người lớn”, báo cáo cho biết.
Tiếp theo là Mỹ với 20%, Nhật Bản đứng thứ ba với 10% và Anh đứng thứ tư với 6%.
Báo cáo cũng chỉ ra rằng ca sĩ và diễn viên là những ngành nghề dễ trở thành nạn nhân của nội dung deepfake trái phép nhất. Báo cáo cho thấy 8 trong số 10 người thường xuyên bị giả mạo trong các nội dung khiêu *** deepfake trên toàn thế giới là ca sĩ Hàn Quốc.
Cả 10 người đều là ca sĩ hoặc diễn viên, trong đó ca sĩ Hàn Quốc chiếm các vị trí từ 1 đến 7 và 9. Theo báo cáo, có 1.595 video deepfake có sự xuất hiện của nữ ca sĩ Hàn Quốc xếp hạng nhất, “A”, với khoảng 5,61 triệu lượt xem. Tương tự, nữ ca sĩ xếp thứ hai, “B”, xuất hiện trong 1.238 video deepfake, thu hút 3,865 triệu lượt xem. Tuy nhiên, do tính chất nhạy cảm của dữ liệu, báo cáo không tiết lộ danh tính của những người này.
Báo cáo cũng lưu ý rằng số lượng nội dung người lớn được tạo bằng deepfake đang tăng lên hàng năm, từ 3.725 trường hợp vào năm 2022 lên 21.019 trường hợp vào năm 2023, tăng 464% chỉ sau một năm. Báo cáo cho biết 7 trong số 10 trang web người lớn hàng đầu có chứa nội dung deepfake. Đối tượng chính là phụ nữ, với 99% video người lớn deepfake có sự xuất hiện của phụ nữ.
“Trong cuộc khảo sát của chúng tôi với nam giới Mỹ, 48% số người được hỏi cho biết đã xem nội dung khiêu *** deepfake ít nhất một lần”, báo cáo cho biết. “Thống kê này cho thấy sự hiện diện rộng rãi của nội dung deepfake trong lĩnh vực giải trí người lớn và ảnh hưởng ngày càng tăng của nó đối với sở thích của người tiêu dùng.”
Security Hero cho biết cần có một chiến lược toàn diện để chống lại mối đe dọa từ nội dung deepfake nhắm mục tiêu vào cá nhân. Chiến lược này nên bao gồm các biện pháp pháp lý để bảo vệ quyền riêng tư cá nhân, quyền lợi và danh tiếng, cùng với công nghệ phát hiện deepfake và các chiến dịch nâng cao nhận thức cộng đồng.
