Thiệt hại nặng do deepfake

Nhiều công ty trên thế giới đã thiệt hại hàng triệu USD khi trở thành nạn nhân trong những vụ lừa đảo có sử dụng deepfake - công nghệ chỉnh sửa hình ảnh, âm thanh, video, thường là bằng trí tuệ nhân tạo (AI), để tạo ra nội dung theo ý mình.

Một trong những vụ lừa đảo bằng deepfake chấn động nhất năm nay (tính đến lúc này) xảy ra ở Hồng Kông - Trung Quốc vào tháng 2. Một nhân viên tài chính đã bị lừa chuyển hơn 25 triệu USD cho những kẻ lừa đảo dùng deepfake trong một cuộc gọi trực tuyến - theo báo South China Morning Post.

Tuần trước, Công ty Kỹ thuật Arup (Anh) xác nhận với kênh CNBC rằng sự việc xảy ra với công ty họ nhưng không thể tiết lộ quá chi tiết vì đang điều tra. Người phát ngôn của Arup cho biết nhân viên tài chính kể trên tưởng rằng mình đã tham gia cuộc gọi trực tuyến với giám đốc tài chính của công ty cùng các đồng nghiệp khác và nhận được "lệnh" chuyển tiền.

Những nguy cơ như vậy đang tăng nhanh theo sau sự phổ biến của ChatGPT - công cụ được Công ty OpenAI tung ra vào năm 2022 và lập tức đưa AI tạo sinh thành chủ lưu.

Ông David Fairman, Giám đốc an ninh và thông tin của Công ty An ninh mạng Netskope (Mỹ), nhận xét: "Việc tiếp cận dễ dàng các dịch vụ này đã tạo thuận lợi cho bọn tội phạm mạng. Chúng không cần phải có những kỹ năng công nghệ đặc biệt nữa".

Theo ông Fairman, quy mô và mức độ nghiêm trọng của các vụ lừa đảo sẽ còn gia tăng cùng với sự phát triển của AI. Cũng trong năm nay, truyền thông Trung Quốc đưa tin một nữ nhân viên tài chính ở tỉnh Sơn Tây bị lừa chuyển 1,86 triệu nhân dân tệ (khoảng 262.000 USD) cho một tài khoản giả mạo sau cuộc gọi trực tuyến của "sếp deepfake".

Ngoài những đòn tấn công trực tiếp, các công ty còn lo ngại hình ảnh, video, bài phát biểu của mình - đặc biệt là của các thành viên cấp cao - bị ngụy tạo để thao túng giá cổ phiếu, bôi nhọ thương hiệu, tung tin giả…

Năm 2022, ông Patrick Hillmann, Giám đốc truyền thông của Công ty Binance, khẳng định những kẻ lừa đảo đã tạo phiên bản deepfake của ông từ những đoạn phỏng vấn và những lần xuất hiện trên truyền hình, sau đó lừa khách hàng và đối tác tham gia các cuộc họp giả.

Theo chuyên gia Fairman, những rủi ro này khiến một số nhà điều hành doanh nghiệp hạn chế xuất hiện trên mạng.

Để đối phó deepfake, nhiều chuyên gia cho rằng các công ty cần tăng cường huấn luyện nhân viên và lập ra các mật mã cùng nhiều lớp phê duyệt cho tất cả giao dịch.