Raffaela Spone, 50 tuổi, sống tại thị trấn Chalfont (Quận Bucks, bang Pennsylvania, Mỹ) đã bị cảnh sát bắt giữ, sau khi bà bị xác định là thủ phạm đứng sau những video và ảnh nóng giả mạo của 3 nữ sinh.
Trước đó, huấn luyện viên đội tuyển hoạt náo viên của một trường trung học, nơi con gái của Spone đang theo học, đã nhận được những tin nhắn nặc danh, chứa hình ảnh và video về 3 nữ sinh trong đội hoạt náo viên. Những hình ảnh và video này cho thấy 3 nữ sinh đang hút thuốc, uống rượu và thậm chí xuất hiện trong tình trạng khỏa thân.
Bản thân 3 nữ sinh này cũng đã nhận được những hình ảnh và clip "nóng" của chính mình được gửi đến một cách nặc danh, kèm theo đó là lời đe dọa "hãy tự sát".
Quá hoảng sợ với các tin nhắn nặc danh và đe dọa, các nữ sinh đã nhờ gia đình liên hệ với cảnh sát.
Diễn viên nổi tiếng Gal Gadot từng nhiều lần bị ghép mặt vào các bộ phim khiêu dâm bằng công nghệ deepfake.
Sau khi phân tích các hình ảnh và video, cảnh sát nhận ra rằng đây chỉ là những nội dung giả mạo, được tạo ra bởi công nghệ deepfake. Cảnh sát nhận định thủ phạm đã lấy những hình ảnh được các nữ sinh chia sẻ lên mạng xã hội, sau đó sử dụng công nghệ deepfake để ghép gương mặt của các nữ sinh này vào những hình ảnh và video với nội dung "người lớn".
Truy ngược số điện thoại được sử dụng để gửi tin nhắn nặc danh, cảnh sát phát hiện đây là số điện thoại bán bởi một trang web chuyên cung cấp các số điện thoại để gửi tin nhắn tiếp thị. Tiếp tục điều tra, cảnh sát phát hiện ra các tin nhắn được gửi đến từ một căn hộ ở thị trấn Chalfont, là nơi mà Raffaela Spone đang ở.
Sau khi lục soát smartphone của Spone, cảnh sát đã tìm thấy bằng chứng cho thấy chính bà là người đã gửi các tin nhắn nặc danh.
Được biết, con gái của Spone hiện đang học và tham gia chung đội tuyển hoạt náo viên với 3 nạn nhân. Tuy nhiên, cảnh sát cho biết con gái của Spone không liên quan và không hề hay biết về hành vi của mẹ mình.
"Tôi không hiểu lý do tại sao cô ấy lại làm như vậy. Là một người cha, tôi rất tức giận về những gì cô ấy đã làm với con gái mình. Những hình ảnh và video đó hoàn toàn là giả mạo", George Ratel, cha của một trong 3 nữ sinh bị Spone đe dọa, cho biết.
Hiện Spone đang phải đối mặt với tội danh quấy rối trẻ em trên mạng và sẽ phải hầu tòa vào ngày 30/3 tới đây.
Deepfake là công nghệ trí tuệ nhân tạo, sử dụng kỹ thuật tổng hợp hình ảnh của một người nào đó để kết hợp và chồng hình ảnh gương mặt lên một video hoặc hình ảnh của người khác. Deepfake sẽ trải qua một "quá trình học", dựa vào các dữ liệu đầu vào nhằm tạo ra mô hình và lựa chọn thuật toán phù hợp để liên tục xử lý và học từ các mô hình đó. Sau một thời gian "học", deepfake đã có thể ghép khuôn mặt với độ chính xác cao mà khó có thể nhận ra bằng mắt thường.
Công nghệ deepfake đã từng được sử dụng để tạo ra những đoạn video giả mạo, với gương mặt của những người nổi tiếng được ghép vào các đoạn video y như thật. Thậm chí kỹ thuật này còn được sử dụng để tạo ra các bộ phim khiêu dâm với gương mặt của bất kỳ ai, khiến nhiều người, đặc biệt là những người nổi tiếng, phải lo ngại.
Hiện tại, chính trị gia trên khắp thế giới, bao gồm cả Mỹ, đang xem xét các tác hại tiềm ẩn do deepfake gây ra để có biện pháp ngăn chặn. Tuy nhiên để ngăn chặn triệt để một công nghệ đã được phát triển lâu nay là điều không dễ dàng gì và chắc chắn những ứng dụng mới sử dụng công nghệ deepfake để tạo ra các video, hình ảnh giả mạo vẫn sẽ tiếp tục được phát triển trong tương lai.
