Nguy cơ công nghệ AI bị lạm dụng để gây ảnh hưởng xấu tới bầu cử đã trở thành sự thật, và nạn nhân là Tổng thống Mỹ Joe Biden.
Ngày 22.1 qua, Sở Tư pháp tiểu bang New Hampshire (Mỹ) đã đăng thông cáo về tình trạng một số người dân nhận được bản ghi âm giả mạo giọng Tổng thống Joe Biden. Nội dung đoạn ghi âm yêu cầu họ không bỏ phiếu trong cuộc bầu cử sơ bộ tại địa phương.
Theo đó, đoạn ghi âm khuyến cáo cử tri "tiết kiệm" lá phiếu của mình và khẳng định "phiếu bầu của công dân sẽ mang đến sự khác biệt vào tháng 11, không phải vào thứ ba sắp tới" được xác định là sản phẩm của công nghệ Deepfake có sử dụng AI.
Bloomberg cho biết, công ty an ninh Pindrop Security đã xác định giọng ông Biden giả được tạo bởi công nghệ của công ty khởi nghiệp ElevenLabs, một công ty khởi nghiệp chuyên phát triển công cụ tạo giọng nói bằng AI, sử dụng mô hình ngôn ngữ có khả năng thêm ngữ điệu giống con người vào nội dung dựa trên ngữ cảnh.
Công ty này có hàng nghìn giọng nói AI được tạo sẵn cho người dùng chọn. Thậm chí, người dùng còn có thể tự tạo ra phiên bản giọng nói AI của riêng mình.
Trên website của mình, ElevenLabs cho biết giọng của các chính trị gia được tạo bằng công nghệ Deepfake có thể sử dụng trong một số trường hợp nhất định.
"Chúng tôi nỗ lực ngăn chặn việc sử dụng công cụ AI âm thanh sai mục đích và luôn xem xét đặc biệt cẩn trọng hành vi lạm dụng", đại diện công ty tuyên bố. Ngay sau khi phát hiện có người tạo đoạn giọng nói Tổng thống Joe Biden giả mạo liên quan đến bầu cử, công ty đã chặn tài khoản này.
