Liên quan đến các hình ảnh khiêu dâm của nữ ca sĩ Taylor Swift do AI tạo ra đang lan truyền trên mạng xã hội, Nhà Trắng đã có những phát ngôn cụ thể.
Theo tờ Telegraph, tại cuộc họp báo hôm thứ Sáu (26.1), bà Karine Jean-Pierre - Thư kí báo chí Nhà Trắng - cho biết: "Điều này rất đáng báo động. Vì vậy, chúng tôi sẽ làm những gì có thể để giải quyết vấn đề này".
Bà Jean-Pierre cho rằng, Quốc hội nên có hành động lập pháp về vấn đề này. Đồng thời, các nền tảng mạng xã hội cần thắt chặt quy tắc nhằm ngăn chặn việc lan truyền thông tin sai lệch, đặc biệt là ảnh hưởng xấu đến hình ảnh người phụ nữ.
Trước đó, một hình ảnh deepfake khiêu dâm của Taylor Swift được chia sẻ trên nền tảng X (Twitter) đã có tới 47 triệu lượt xem và bị khóa hôm 25.1.
X đã đình chỉ một số tài khoản đăng ảnh deepfake của nữ ca sĩ. Tuy nhiên, những hình ảnh này nhanh chóng bị lan truyền trên nhiều nền tảng khác, bất chấp nỗ lực ngăn chặn của các mạng xã hội.
Công ty an ninh mạng Reality Defender xác nhận, 90% hình ảnh giả mạo trên được tạo ra bằng mô hình AI Stable Diffusion, có thể được truy cập thông qua hơn 100.000 ứng dụng và các công cụ online.
Trước hành động này, người hâm mộ tỏ ra giận dữ, đăng hình ảnh thật của ca sĩ cùng từ khóa "Protect Taylor Swift" (Bảo vệ Taylor Swift) để lấn át đi những nội dung giả mạo.
"Việc đăng hình ảnh khỏa thân không có sự đồng thuận bị nghiêm cấm trên X. Chúng tôi có chính sách không khoan nhượng với những nội dung như vậy.
Chúng tôi đang theo dõi chặt chẽ tình hình để đảm bảo rằng mọi vi phạm tiếp theo sẽ được giải quyết ngay lập tức và nội dung sẽ bị xóa. Chúng tôi cam kết duy trì môi trường an toàn và tôn trọng cho tất cả người dùng", tờ Telegraph dẫn lời đại diện X.
Deepfake là công nghệ sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó chỉnh sửa để cho sản phẩm ảnh hoặc video trông như thật về người đó, có thể bao gồm cả hình ảnh và tiếng nói.
Các video deepfake thường được tạo bằng công nghệ AI tiên tiến, việc phân biệt thật giả cũng rất khó khăn. Khi công nghệ này bị lạm dụng, các hành động lừa đảo, phỉ báng, phát tán tin tức và quảng cáo giả mạo xuất hiện ngày càng nhiều, gây hỗn loạn trong xã hội.
Trước Taylor Swift, nữ ca sĩ Lisa (Blackpink) cũng từng là nạn nhân của deepfake. Vào tháng 12 năm ngoái, người dùng mạng xã hội xôn xao với hình ảnh Lisa (Blackpink) cởi đồ trong màn biểu diễn tại Crazy Horse Show ở Pháp. Đoạn video được lan truyền nhanh chóng trên nhiều nền tảng và trang web người lớn.
Tuy nhiên, thông qua một ứng dụng phát hiện deepfake của KAIST (Viện Khoa học kỹ thuật Hàn Quốc), video liên quan đến Lisa được xác nhận là sản phẩm của cắt ghép.
Nhiều đối tượng lợi dụng phản ứng gay gắt của công chúng với việc Lisa biểu diễn tại Crazy Horse Show hồi tháng 10 để tung ra các sản phẩm thiếu lành mạnh.
