Deepfake vợ chồng Thủ tướng lan nhanh, Singapore kêu gọi công chúng cảnh giác

Các chuyên gia công nghệ Singapore đã đưa ra những lời khuyên này khi kêu gọi giáo dục nhiều hơn cho người dân để phát hiện các video giả mạo do trí tuệ nhân tạo (AI) tạo ra. Hồi tháng 12/2023, một số video deepfake liên quan đến các nhân vật như Thủ tướng Lý Hiển Long đã lan truyền trên mạng.

Hôm 29/12/2023, trên Facebook, Thủ tướng Lý Hiển Long cảnh báo công chúng không phản hồi các video lừa đảo về đầu tư hoặc quà tặng sau khi một video deepfake về ông quảng bá đầu tư xuất hiện. Hiện chưa rõ nguồn gốc của chiến dịch thông tin sai sự thật này.

Hình ảnh của bà Ho Ching – phu nhân Thủ tướng Lý Hiển Long - cũng bị những kẻ lừa đảo đưa vào một video kêu gọi đầu tư khác hồi tháng 12 năm ngoái. Video được lưu hành dưới dạng quảng cáo trên YouTube, phát trước khi người dùng xem video. Chưa rõ danh tính người đã tải lên quảng cáo sai sự thật.

Phát ngôn viên Google, công ty mẹ YouTube, nói đã gỡ quảng cáo bị báo cáo và chấm dứt kênh liên quan. YouTube sẽ sớm yêu cầu người sáng tạo nội dung tiết lộ khi họ tạo nội dung tổng hợp hoặc thay đổi thực tế bằng AI hoặc các công cụ khác. Điều này sẽ được thông báo rõ ràng cho người xem trong bảng mô tả của video và gắn nhãn trên chính video đối với nội dung nhạy cảm, chẳng hạn nội dung về bầu cử, xung đột hoặc khủng hoảng sức khỏe cộng đồng.

Deepfake được tạo ra nếu có một thư viện cảnh quay cho phép AI nắm bắt được nét mặt và tín hiệu bằng lời nói của một cá nhân. Các trình tạo video AI trực tuyến có sẵn cho công chúng có thể tạo ra các deepfake thuyết phục, ghép mặt bất kỳ ai và nói bằng bất kỳ ngôn ngữ nào, ví dụ ngôi sao nhạc pop Taylor Swift nói tiếng Quan Thoại trôi chảy.

Công nghệ này được sử dụng trong các bộ phim trong trường hợp cần cảnh quay của diễn viên qua đời. Tuy nhiên, các vụ việc nghiêm trọng gần đây cho thấy mặt tối của hình ảnh do AI tạo ra. Chẳng hạn, hồi tháng 9/2023, Tây Ban Nha choáng váng khi hình ảnh giả mạo các cô bé vị thành niên khỏa thân được lan truyền. AI còn bị lợi dụng trong các cuộc xung đột, chiến tranh…

Nhà chức trách khắp thế giới đang tìm cách để quản lý deepfake. Cuối năm 2023, Liên minh châu Âu đã thông qua Đạo luật AI, sẽ sớm yêu cầu những người tạo video bằng AI phải đóng dấu nội dung của họ.

Singapore cũng đưa ra các đòn bẩy pháp lý để chống lại lan truyền thông tin sai lệch trực tuyến, bao gồm Đạo luật Bảo vệ trước sự giả mạo và thao túng Trực tuyến, yêu cầu người vi phạm chèn thông báo cải chính vào bài đăng gốc.

Đạo luật về Tác hại tội phạm trực tuyến, có hiệu lực vào năm 2024, đánh dấu cột mốc tiếp theo trong việc điều chỉnh công nghệ này. Nó sẽ cấp cho chính quyền quyền hạn để ra lệnh cho các cá nhân, công ty và nhà cung cấp dịch vụ Internet xóa hoặc chặn truy cập vào nội dung vi phạm, bao gồm cả việc sử dụng deepfake cho các chiến dịch độc hại.

Các video deepfake sẽ trở nên khó phát hiện hơn với sự tiến bộ của công nghệ, Phó giáo sư Lu Shijian từ Trường Khoa học và Kỹ thuật Máy tính thuộc Đại học Công nghệ Nanyang nói với The Straits Times.

Nhóm của Giáo sư Lu cũng đang phát triển một chương trình AI có thể tạo ra hoạt ảnh khuôn mặt chỉ với ảnh của một người và bản ghi âm giọng nói của họ để sử dụng trong các ứng dụng liên quan đến vũ trụ ảo và trợ lý ảo. Tất cả nội dung được tạo đều được đánh dấu mờ để mọi người biết không phải thật.

Giáo sư Lu nói thêm rằng, công chúng cần được dạy cách phát hiện và báo cáo kịp thời những thông tin sai lệch như vậy, chính quyền và các nền tảng phải làm nhiều hơn để trừng phạt những người lan truyền và tạo ra deepfake độc hại.

Với sự phát triển của AI, thông tin sai lệch, sai sự thật sẽ ngày càng gia tăng về khối lượng và mức độ tinh vi. Chúng ta đang tiến gần đến điểm mà thiếu khả năng phân biệt xem nguồn thông tin là của con người hay bot và phân biệt giữa nội dung thật và giả.

(Theo Straits Times)