Cảnh báo công nghệ tạo, ghép ảnh tiềm ẩn nhiều rủi ro

Rủi ro từ công nghệ Deepfake

Công nghệ Deepfake đã được các cơ quan truyền thông, báo chí cảnh báo liên tục trong những tháng gần đây vì độ nguy hiểm của nó. Các đối tượng lừa đảo sử dụng công nghệ Deepfake AI, tạo ra các sản phẩm công nghệ âm thanh, hình ảnh, video làm giả người ngoài đời thực với độ chính xác tương đối cao. Để thực hiện được hình thức lừa đảo này, các đối tượng tìm kiếm, thu thập thông tin cá nhân, hình ảnh, video có giọng nói được đăng tải công khai trên các tài khoản mạng xã hội… rồi sử dụng công nghệ Deepfake để tạo sẵn những video rất khó phân biệt thật - giả, có hình ảnh, giọng nói của cá nhân đó để phục vụ cho kịch bản lừa đảo.

Ranh giới thật - giả trở nên vô cùng mong manh với việc công nghệ giả mạo khuôn mặt (deepfake) đang ngày càng phổ biến.

Thủ đoạn thường thấy của kẻ lừa đảo sẽ dùng tài khoản của người thân nạn nhân rồi liên hệ để mượn một khoản tiền. Sau khi nhắn tin, tài khoản này còn gọi video qua Facebook để tăng tính xác thực với thời lượng khoảng 8-10 giây. Trong video sẽ xuất hiện hình ảnh của người quen của nạn nhân dù hình ảnh video mờ ảo, không thực sự sắc nét. Nếu ai không đủ tỉnh táo sẽ vội vàng tin tưởng mà chuyển tiền, rơi vào cái bẫy của kẻ xấu.

Đặc điểm chung của những cuộc gọi video như vậy thường có âm thanh, hình ảnh không rõ nét, tín hiệu chập chờn giống như cuộc gọi video trong khu vực phủ sóng di động hoặc wifi yếu để nạn nhân khó phân biệt thật, giả.

Trào lưu tạo ảnh (Anime) hoạt hình bất ngờ trở lại

Trào lưu tạo ảnh hoạt hình đã xuất hiện tại Việt Nam từ lâu, nhưng rộ lên cuối tháng 8. Trên mạng xã hội, nhiều người chia sẻ tấm hình theo phong cách hoạt hình Nhật Bản (anime) được tạo ra từ ảnh thật của họ. Ứng dụng Loopsie và một ứng dụng chỉnh sửa ảnh bằng AI khác từng vươn lên đứng đầu trong danh sách những app được tải về nhiều nhất tại Việt Nam trên App Store và Goolge Play.

Từ một bức ảnh thật, qua công nghệ thì người dùng có thể "hô biến" thành bức ảnh theo dạng hoạt hình (anime).

Với ứng dụng này, người dùng chỉ cần nhập một tấm ảnh bất kỳ vào ứng dụng để AI tự xử lý, tạo ra một phiên bản 3D/anime. Bên cạnh tùy chọn chỉnh sửa phong cách anime, Loopsie còn có nhiều chế độ chỉnh khác để người dùng khám phá.

Dù trông có vẻ chỉ mang tính giải trí đơn thuần nhưng theo đại diện của Cục An toàn thông tin cho biết các ứng dụng tạo ảnh AI thu thập dữ liệu khuôn mặt, có thể bị lợi dụng để tạo deepfake, đánh cắp tài khoản.

Theo đó, ứng dụng dạng này luôn đòi hỏi người sử dụng cung cấp hình ảnh, ngoài ra còn có thể yêu cầu truy cập kho ảnh, camera điện thoại và một số quyền khác. Nếu người dùng đồng ý, nhà cung cấp dịch vụ có thể thu thập thông tin về khuôn mặt, hình dáng và một số thông tin cá nhân như email, số điện thoại, sau đó xử lý với mục đích khác nhau.

Nhà cung cấp có quyền sử dụng, sao chép, hiển thị, phân phối và sửa đổi nội dung người dùng tải lên. Điều này đồng nghĩa với việc dữ liệu cá nhân của người dùng có thể bị lộ ra bên ngoài trong quá trình tải ảnh lên máy chủ của nhà cung cấp, hoặc bị nhà cung cấp sử dụng với mục đích khác mà không được thông báo.

Đây sẽ là miếng ăn "màu mỡ" cho những tên lừa đảo, hacker có thể lợi dụng để đánh cắp thông tin người dùng qua đó thực hiện những mưu đồ bất chính. Tạo cơ hội cho các đối tượng xấu thực hiện hành vi giả mạo.

Người dân cần nâng cao cảnh giác

Theo dự đoán của các chuyên gia của BKAV, việc sử dụng công nghệ Deepfake để lừa đảo trên không gian mạng sẽ có thể gia tăng trong thời gian tới. Do đó, người dùng cần bình tĩnh và chủ động xác thực bằng cách gọi điện thoại trực tiếp, kiểm tra kỹ số tài khoản được yêu cầu chuyển tiền. Nếu là tài khoản lạ, tốt nhất là không nên tiến hành giao dịch. Bên cạnh đó, cũng nên tìm hiểu về công nghệ Deepfake để nhận biết được các đặc điểm nhằm phân biệt giữa video và hình ảnh thật và giả mạo.

Theo ông Nguyễn Duy Khiêm, đại diện Cục An toàn thông tin cho biết thì người dùng nên hạn chế đăng hình ảnh, thông tin cá nhân trên mạng xã hội. Ngoài các ứng dụng chỉnh ảnh rộ lên thời gian qua, đại diện của Cục cũng nhấn mạnh việc thu thập dữ liệu khuôn mặt có thể diễn ra ở những bức ảnh người dùng chia sẻ công khai trên mạng.

Ông Khiêm cũng nhấn mạnh thêm rằng trước khi sử dụng một ứng dụng nào đó, người dùng cần đọc kỹ điều khoản, xem xét quyền truy cập trước khi bấm nút chấp nhận và không nên chia sẻ hình ảnh riêng tư, nhạy cảm lên các ứng dụng này.

Để kịp thời phát hiện gian lận và bảo vệ tài sản, người dân, các chuyên gia cho biết người dân cần lưu ý một số nội dung sau: Hạn chế chia sẻ hình ảnh, video có giọng nói thật, thông tin cá nhân trên mạng xã hội; nâng cao cảnh giác với các tin nhắn, cuộc gọi hỏi vay mượn tiền, yêu cầu chuyển tiền - kể cả xác nhận qua video nếu có dấu hiệu nghi ngờ; chú ý kiểm tra kỹ thông tin tài khoản nhận tiền bằng cách gọi điện trực tiếp vào số điện thoại của người liên hệ (không gọi qua các ứng dụng miễn phí) để xác minh lại thông tin trước khi chuyển tiền.

Thời gian tới, hy vọng các cơ quan chức năng có thêm những thay đổi trong hành lang pháp lý để quản lý các thông tin tạo ra bởi deepfake, trong đó, cần có các điều khoản pháp luật nghiêm cấm một số nội dung deepfake nhất định, ngăn chặn và trừng trị các cá nhân, cơ quan và tổ chức tạo ra và phát tán chúng.