|
|
Nữ sinh 17 tuổi tên Song sống ở tỉnh Kyunggi, từng thích đăng ảnh và video ngắn trên mạng xã hội, cho đến khi nhận được một tin nhắn nặc danh qua Instagram.
"Sau giờ học, tôi nhìn vào điện thoại và thấy một tin nhắn được gửi qua một tài khoản không xác định. Tin nhắn có nội dung: 'Bạn bè và bố mẹ bạn có biết về khía cạnh này của bạn không?' đính kèm ba bức ảnh", Song kể.
Khi mở tin nhắn, Song bàng hoàng khi thấy những bức ảnh khiêu dâm của chính mình. Nhưng chúng là ảnh deepfake, được chỉnh sửa bằng kỹ thuật số và gần như không thể phân biệt được với ảnh thực tế.
"Tôi rất sốc và sợ hãi. Dù biết là giả mạo nhưng chúng vẫn có vẻ rất thật. Tôi đã mong đó chỉ là một cơn ác mộng", Song nói. Tuy nhiên, các tin nhắn vẫn tiếp tục được gửi đến, hỏi Song có thực sự là người chụp ảnh khiêu dâm hay không, một số còn yêu cầu Song "giúp vui cho họ".
Ban đầu, Song cố giải thích đó không phải là cô, thậm chí nhờ một số người trong số họ giúp đỡ. Nhưng việc cô trả lời tất cả tin nhắn dường như chỉ khiến họ phấn khích hơn. Các tin nhắn không ngừng lại và yêu cầu của họ ngày càng tồi tệ hơn.
Nỗi sợ hãi ngày càng tăng
Song là một trong số ngày càng nhiều nạn nhân của deepfake khiêu dâm, nhiều người trong đó ở độ tuổi vị thành niên.
Theo Viện Nhân quyền Phụ nữ Hàn Quốc, tổng cộng 2.154 người đã tìm kiếm sự giúp đỡ tại trung tâm hỗ trợ nạn nhân bị lạm dụng tình dục trực tuyến do nội dung deepfake khiêu dâm, từ tháng 4/2018 đến tháng 8/2024. Trong số 781 nạn nhân kêu cứu trong năm nay, có 288 người là trẻ vị thành niên, tương đương 36,9%. Số trẻ vị thành niên tìm kiếm trợ giúp do deepfake cũng tăng theo cấp số nhân trong những năm gần đây.
Nhiều thủ phạm cũng ở độ tuổi vị thành niên và số lượng ngày càng tăng do việc tiếp cận công nghệ deepfake ngày càng dễ dàng. Trong số tất cả nghi phạm bị buộc tội tạo video deepfake, vị thành niên chiếm 75,8% vào năm 2023. Tỷ lệ này năm nay vẫn ở mức cao, chiếm 73,6% theo thống kê từ tháng 1 đến tháng 7.
Do lo ngại về tội phạm sử dụng công nghệ trí tuệ nhân tạo tăng mạnh, ngày 28/8, Bộ Giáo dục Hàn Quốc cho biết sẽ có lập trường vững chắc chống lại tội phạm deepfake khiêu dâm trong trường học.
Hình phạt dành cho thủ phạm có thể bao gồm đuổi học, mức cao nhất trong hệ thống hình phạt 9 bậc của Bộ dành cho học sinh trung học phổ thông liên quan đến bạo lực học đường. Đối với những thủ phạm ở cấp tiểu học hoặc trung học cơ sở, việc chuyển trường là hình phạt tối đa vì chính sách giáo dục bắt buộc.
Lý giải về việc trẻ vị thành niên tạo và phân phối nội dung deepfake khiêu dâm, giáo sư Bae Sang-hoon từ Cục Quản lý Cảnh sát của Đại học Woosuk đề cập đến "chủ nghĩa coi mình là trung tâm ở thanh thiếu niên", ham muốn thể hiện bản thân vượt trội hơn các bạn cùng lứa qua việc thử nghiệm thứ gì đó đi chệch khỏi các chuẩn mực xã hội.
Nhà tâm lý học pháp y Lee Soo-jung cho rằng có khả năng thủ phạm không coi hành động của họ là tội ác, chỉ để giải tỏa sự tò mò và hứng thú. Vì thế, các phương pháp giáo dục phù hợp phải được áp dụng để giúp nhiều người nhận ra đây là một tội ác chứ không phải một hình thức giải trí.
Lỗ hổng luật pháp
Công nghệ deepfake phát triển nhanh chóng trong những năm gần đây, với các công cụ trí tuệ nhân tạo sẵn có cho phép người dùng bình thường dễ dàng tạo ra các nội dung deepfake.
Theo Đạo luật về các trường hợp đặc biệt liên quan đến trừng phạt tội phạm tình dục, bất kỳ ai chỉnh sửa, tổng hợp hoặc xử lý nội dung deepfake khiêu dâm đều có thể bị phạt tới 5 năm tù hoặc phạt tiền tới 50 triệu won (37.400 USD). Những người phân phối nội dung vì lợi nhuận có thể bị phạt tới 7 năm tù. Tuy nhiên, hiện không có luật nào trừng phạt những người tải xuống hoặc xem nội dung deepfake khiêu dâm.
Luật sư nhân quyền Min Go-eun nói: "Hiện tại, luật pháp trừng phạt hành vi xem các video khiêu dâm được quay mà không có sự đồng ý, nhưng luật này chưa có đối với deepfake. Ngày nay, công nghệ đã tiến bộ đến mức khó có thể xác định được deepfake từ một bức ảnh hoặc video thực tế. Tuy nhiên, luật vẫn còn những lỗ hổng khi không coi deepfake là hình ảnh hoặc đoạn phim được quay chụp trái phép".
Theo Cơ quan Cảnh sát Quốc gia, tỷ lệ bắt giữ tội phạm deepfake trong ba năm qua ở mức 47,4% vào năm 2021, 46,9% vào năm 2022 và 51,7% vào năm 2023. Từ tháng 1 đến tháng 7, con số này là 49,5%.
Cảnh sát đang nỗ lực nâng cấp phần mềm phát hiện deepfake và tiến hành các cuộc điều tra bí mật để tăng tỷ lệ bắt giữ. Phần mềm phát hiện deepfake được phát triển vào tháng 3 xác định tính xác thực của nội dung deepfake trong vòng 10 phút và có tỷ lệ phát hiện 80%. |
|
