Tâm sự của cô gái bị deepfake đưa vào quảng cáo

[sunshine1104]

Sử dụng mạng xã hội như bao người khác, bỗng một ngày Amanda Florian thấy hình ảnh giống cô xuất hiện trong hàng loạt quảng cáo tại Trung Quốc.

"Đây có phải cô không?", một người bạn ở Thượng Hải nhắn tin cho Amanda Florian, nhà báo độc lập người Mỹ, vào sáng sớm. "Đó chính là tôi. Nhưng làm cách nào hình ảnh này lại xuất hiện trên mạng?", cô trả lời.

Người bạn phát hiện hình ảnh cô trong quảng cáo bếp lò dã ngoại trên Taobao. Những đường nét giống hệt ngoài đời khiến Amanda đặt hàng loạt câu hỏi như liệu tài khoản của cô bị đột nhập hay khuôn mặt trong ảnh là tác phẩm của Photoshop.

Amanda đã sống nhiều năm ở Trung Quốc và quen với việc bị người lạ chụp ảnh vì là người nước ngoài, cũng như sở hữu mái tóc đỏ. Tuy nhiên, cô chưa từng tham gia chụp hình như vậy, thậm chí cũng không có chiếc áo nào như trong quảng cáo.

Amanda Florian bắt đầu điều tra.


Khuôn mặt người dùng có thể bị AI chỉnh sửa và ghép vào những tình huống khác nhau. Ảnh: Wired.

Cô sử dụng hàng loạt công cụ như TinEye, Google, Bing và Yandex để truy ngược nguồn gốc ảnh, sau đó tập hợp tất cả vào một thư mục. Amanda phát hiện bức ảnh này đã được đăng lại 74 lần trên các chợ trực tuyến từ Đức đến Nhật Bản, trong đó sản phẩm quảng cáo thay đổi trong từng hình ảnh.

Tất cả đều lấy từ cùng một ảnh nguồn, nhưng hình ảnh trên nền tảng thương mại điện tử ở Belize khiến cô chú ý. Nó khác hoàn toàn với những bức ảnh khác. Cô gái trong hình vẫn giống Amanda, nhưng sở hữu khuôn mặt tròn hơn và nhiều đặc điểm mà nhà báo Mỹ không có.

Sau khi cắt gọn ảnh và đưa vào công cụ tìm kiếm, Amanda tìm ra ảnh nguồn nằm trong quảng cáo lều cắm trại của Amazon. Người mẫu trong ảnh có một số đường nét giống, nhưng hoàn toàn không phải cô. Phát ngôn viên Amazon Betsy Harden xác nhận ảnh được chụp năm 2018 và người trong ảnh là nhân viên của hãng.

"Ảnh càng được đăng lại nhiều, nó lại càng biến đổi, ngày càng có nhiều chi tiết giống tôi hơn", nhà báo Mỹ nhận xét.

Rijul Gupta, kỹ sư truyền thông tổng hợp làm việc cho DeepMedia AI, công ty phối hợp với Bộ Quốc phòng Mỹ để truy dấu deepfake, cho rằng những ảnh trên Taobao có thể được tạo từ hình ảnh thực của Amanda. Có nghĩa là chúng không được chỉnh sửa bằng Photoshop, mà sử dụng hàng loạt công cụ tổng hợp deepfake với khả năng cho kết quả nhanh hơn nhiều.

"Có những bằng chứng cho thấy các bức ảnh đã được chỉnh sửa bằng phần mềm tổng hợp, như ánh sáng không phù hợp, dấu vết lạ quanh khuôn mặt nhân vật, đường nét trên trang phục", ông nói.

Không rõ các doanh nghiệp bán hàng trên chợ điện tử của Trung Quốc đã cố ý chỉnh sửa hình ảnh của Amanda hay chỉ lấy ngẫu nhiên trên mạng. "Dù câu trả lời là gì, điều này cũng cho thấy công nghệ deepfake đặt ra những hiểm họa rõ ràng với các nạn nhân của đánh cắp danh tính trên mạng", Gupta cho hay.

Wendy Zhang, kỹ sư chuyên về chỉnh sửa hình ảnh bằng AI tại Hong Kong, chạy bài kiểm tra deepfake với các ảnh quảng cáo trên chợ thương mại điện tử Trung Quốc. Kết quả cho thấy gần như toàn bộ các bức ảnh có mặt Amanda đều là sản phẩm của deepfake.

Có hai lý do khiến những ảnh như vậy xuất hiện. Người bán muốn quảng bá sản phẩm mà không cần trả tiền bản quyền ảnh, hoặc họ muốn có khuôn mặt khác biệt trong hình.

"Một số công ty có thể chôm chỉa ảnh liên quan của Amazon, nhét sản phẩm của họ vào đó và chỉnh sửa để phục vụ mục đích quảng cáo của mình. Đây là biện pháp nhanh chóng và có thể giải thích vì sao người bản địa không xuất hiện trong hình. Họ chỉ cần điều chỉnh để Amazon không phát hiện ảnh sao chép", Neil Sahota, cố vấn về AI tại Liên Hợp Quốc, nhận xét.

Công nghệ hoán đổi khuôn mặt và deepfake không còn mới mẻ. Deepfake là sự kết hợp giữa deep learning (học sâu) và fake (giả). Công nghệ này sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời ảnh hoặc video trông như thật. Các ứng dụng như Face Juggler và Face Swap Live từng gây sốt từ năm 2012 và 2015. Những phần mềm sau này còn phức tạp và sở hữu nhiều tính năng vượt trội hơn so với chúng.

Các cửa hàng trên Taobao, AliExpress và JD đã xóa ảnh có mặt Amanda. Trong quá trình điều tra của cô, nhiều người cũng chia sẻ trải nghiệm tương tự, đặc biệt là với các công ty Trung Quốc muốn dùng hình ảnh mà không phải xin phép hay trả công cho người mẫu. Không ít hãng truyền thông tổ chức các buổi tuyển chọn để tìm người mẫu và thử nghiệm sản phẩm, nhưng biến chúng thành các buổi chụp ảnh để sử dụng hình ảnh trái phép trong tương lai.

"Nhiều người không biết sử dụng ảnh của người khác cho mục đích thương mại là phi pháp. Những trường hợp khởi kiện nghiêm túc cũng mất rất nhiều thời gian, vì ngưỡng vi phạm rất thấp trong khi hậu quả pháp lý thường không nghiêm trọng. Một số doanh nghiệp có thể cố tình vi phạm bản quyền hình ảnh để đổi lợi ích kinh tế", Horace Lam, trưởng nhóm luật sư về quyền sở hữu trí tuệ tại chi nhánh châu Á của công ty luật DLA Piper, nhận xét.