Chị Lan (tên nhân vật đã thay đổi), sống ở thành phố Thanh Hóa, có chị gái tên là Linh (tên nhân vật đã thay đổi) đang định cư tại Nhật Bản và thường xuyên sử dụng tài khoản Facebook để liên lạc với gia đình.
Mới đây, chị Linh bị kẻ gian chiếm quyền sử dụng tài khoản Facebook rồi gọi điện qua ứng dụng Messenger nhờ chuyển tiền.
Để tạo sự tin tưởng, đối tượng đã dùng công nghệ Deepfake giả mạo khuôn mặt và gọi cho nhóm chat của gia đình bằng cuộc gọi video khoảng mười giây rồi kết thúc.
Kẻ gian sau đó đã mạo danh nhắn tin nhờ chị Lan chuyển số tiền gần 350 triệu đồng để xử lý công việc rồi chiếm đoạt.
Đáng nói là thời gian qua, trên phạm vi cả nước, đã có hàng chục, hàng trăm ngàn trường hợp như chị Lan bị kẻ gian lừa tiền với hình thức tương tự.
Cơ quan chức năng cũng đã vào cuộc ngăn chặn, xử lý, kèm với đó là các chiến dịch tuyên truyền cảnh báo để nâng cao nhận thức cho người dân.
Tuy nhiên, nạn nhân như chị Lan không những không ít đi mà ngày càng một nhiều hơn. Và kẻ gian thì lại ngày càng tinh vi và táo tợn hơn với nhiều hình thức lừa đảo có sự “hỗ trợ” đắc lực của AI.
AI, đặc biệt là công nghệ Deepfake đã và đang bị lợi dụng, nguy cơ gây hại đến đời sống xã hội và cả an ninh quốc gia, không chỉ ở Việt Nam mà trên phạm vi toàn cầu.
Không phải ngẫu nhiên mà hội nghị thượng đỉnh toàn cầu về AI diễn ra trong 2 ngày 1 và 2.11 tại Anh, với sự tham gia không chỉ đại diện các Công ty AI mà còn có cả các nhà lãnh đạo chính trị của 28 quốc gia và chuyên gia để thảo luận về những rủi ro do AI có thể mang lại, nhằm xây dựng sự đồng thuận quốc tế về phát triển an toàn AI.
Chương trình nghị sự của hội nghị thượng đỉnh về AI lần này, hầu như chỉ tập trung vào các rủi ro an ninh quốc gia, như các cuộc tấn công mạng, khả năng sử dụng AI để thiết kế vũ khí sinh học…
Trở lại với những trường hợp như chị Lan, theo các chuyên gia về chống lừa đảo trên mạng xã hội, sự gia tăng con số về những nạn nhân tương tự chị Lan (dù chúng ta không thiếu các bài học và sự cảnh báo) đến từ nhiều nguyên nhân.
Đó là tâm lý chủ quan, sự thờ ơ cho rằng, nạn nhân của lừa đảo là những ai đó không liên quan đến mình.
Là sự thiếu hiểu biết, thậm chí là tâm lý “mặc kệ” vì nghĩ rằng, mình không còn gì để mất. Mà ví dụ tiêu biểu nhất cho tâm lý này là trào lưu tạo ảnh bằng AI đang rất phổ biến với người dùng mạng xã hội.
Trong khi, theo Cục An toàn thông tin của Bộ Thông tin và Truyền thông nhận định, việc sử dụng các ứng dụng chỉnh sửa ảnh khuôn mặt ẩn chứa rủi ro và mất an toàn thông tin.
Bởi khuôn mặt là một trong những dữ liệu quan trọng hiện nay, như để xác thực tài khoản.
Với Deepfake, dữ liệu khuôn mặt có thể bị lợi dụng để tạo ảnh giả, sao chép chân dung người khác nhằm phục vụ cho việc lừa đảo như đã thấy.
