Một mô hình lưới màu xanh che đi phần mặt của diễn viên trong quá trình tạo video tổng hợp phục hồi khuôn mặt, được biết đến với tên gọi khác là deepfake. Ảnh: Reuters.
"Bạn muốn xem mình đóng phim hay xuất hiện trên TV?"
Đây là mô tả cho một ứng dụng trên các cửa hàng trực tuyến, cung cấp cho người dùng cơ hội tạo ra phương tiện tổng hợp do AI tạo ra, còn được gọi là deepfakes. "Bạn đã bao giờ tự hỏi bạn sẽ trông như thế nào nếu khuôn mặt của bạn được hoán đổi với khuôn mặt của bạn bè hoặc người nổi tiếng?". Cùng một ứng dụng đã được quảng cáo khác nhau trên hàng chục trang web cho người lớn: "Tạo phim khiêu dâm sâu trong một giây", "Deepfake bất cứ ai".
Công nghệ ngày càng tinh vi được áp dụng này là một trong những sự phức tạp mà phần mềm đa phương tiện tổng hợp phải đối mặt, nơi máy học được sử dụng để tạo mô hình kỹ thuật số khuôn mặt từ hình ảnh và sau đó hoán đổi chúng thành phim một cách liền mạch nhất có thể. Các chuyên gia cho biết giờ đây nó đã đủ tiên tiến để người xem nói chung phải vật lộn để phân biệt nhiều video giả với thực tế, và đã phát triển đến mức hầu hết mọi người có điện thoại thông minh đều có thể sử dụng nó mà không cần chuyên môn gì.
Adam Dodge, một luật sư và là người sáng lập an toàn trực tuyến cho biết: "Một khi tiêu chuẩn bị hạ thấp đến mức không cần nỗ lực gì để đạt được và một người không tinh vi có thể tạo ra một video khiêu dâm deepfake - đó là rắc rối mà chúng ta phải đối mặt".
Nếu không có bức hình bên trái, bạn có thể nhận ra hình bên phải đã được can thiệp bằng AI không? Ảnh: Internet.
Chìa khóa là sự đồng thuận
Khi công nghệ này ra đời, nhiều nhà sáng lập, nhà nghiên cứu và phát triển đã cho rằng chìa khóa chính là đảm bảo sự đồng ý từ những người được mô phỏng, mặc dù điều này nói thì dễ hơn làm. Một số người cho rằng nên đưa ra các giải pháp cứng rắn hơn khi đề cập đến nội dung khiêu dâm tổng hợp, vì có nguy cơ bị lạm dụng.
Nội dung khiêu dâm deepfake không có sự đồng thuận chiếm 96% trong một nghiên cứu mẫu về hơn 14.000 video deepfake được đăng trực tuyến, theo một báo cáo năm 2019 của Sensity, một công ty chuyên phát hiện và giám sát các phương tiện truyền thông tổng hợp. Bài nghiên cứu nói thêm rằng số lượng video deepfake trực tuyến tăng gần gấp đôi sau mỗi sáu tháng.
Ajder, một trong những tác giả nghiên cứu và là người đứng đầu chính sách và quan hệ đối tác tại công ty AI Metaphysic, cho biết: “Phần lớn tác hại do deepfakes gây ra hiện nay là một dạng bạo lực kỹ thuật số theo giới tính”, và nạn nhân ở đây là phụ nữ trên toàn thế giới.
Ninh Dương Lan Ngọc từng là nạn nhân của một sản phẩm deepfake. Ảnh: Dân Trí.
Các công ty quảng cáo trực tuyến nói gì?
ExoClick, trang quảng cáo trực tuyến được sử dụng bởi ứng dụng "Tạo phim khiêu dâm trong một giây", nói rằng họ không biết tới loại phần mềm hoán đổi khuôn mặt AI này. Công ty cho biết đã đình chỉ quảng cáo ứng dụng và sẽ không quảng bá công nghệ hoán đổi khuôn mặt một cách thiếu trách nhiệm.
Sáu mạng quảng cáo trực tuyến lớn khác đã không trả lời câu hỏi về việc liệu họ có gặp phải phần mềm deepfake hay có chính sách liên quan đến nó hay không.
Không có đề cập đến việc ứng dụng có thể sử dụng nội dung khiêu dâm trong mô tả của nó trên App Store của Apple hoặc Cửa hàng Play của Google, nơi nó có sẵn cho bất kỳ ai trên 12 tuổi.
Apple cho biết họ không có bất kỳ quy tắc cụ thể nào về các ứng dụng deepfake nhưng các nguyên tắc của họ đã cấm các ứng dụng có nội dung phỉ báng, phân biệt đối xử hoặc có khả năng làm nhục, đe dọa hoặc làm hại bất kỳ ai. Google đã không trả lời yêu cầu bình luận. Sau khi được hỏi về vấn đề này, Google đã tạm thời gỡ trang Cửa hàng Play cho ứng dụng này, vốn đã được xếp hạng là dành cho Mọi người. Ứng dụng đã được khôi phục sau khoảng hai tuần, hiện được xếp hạng T cho Thanh thiếu niên do "Nội dung khiêu dâm".
Đây không phải diễn viên Tom Cruise mà là một người sử dụng deepfake để chỉnh sửa. Ảnh: Internet.
Giải pháp là gì?
Theo Ajder, "một số ứng dụng chỉ cho phép người dùng hoán đổi hình ảnh thành các cảnh được chọn trước, chẳng hạn hoặc yêu cầu xác minh ID từ người được hoán đổi hoặc sử dụng AI để phát hiện tải lên nội dung khiêu dâm, mặc dù những điều này không phải lúc nào cũng hiệu quả", ông nói thêm.
Reface là một trong những ứng dụng hoán đổi khuôn mặt phổ biến nhất thế giới, đã thu hút hơn 100 triệu lượt tải xuống trên toàn cầu kể từ năm 2019, người dùng được khuyến khích chuyển đổi khuôn mặt với những người nổi tiếng, siêu anh hùng và các nhân vật meme để tạo video clip vui nhộn. Công ty có trụ sở tại Mỹ này nói rằng họ đang sử dụng tính năng kiểm duyệt nội dung tự động và thủ công, bao gồm cả bộ lọc nội dung khiêu dâm, đồng thời có các biện pháp kiểm soát khác để ngăn chặn việc lạm dụng, bao gồm cả nhãn và hình mờ trực quan để gắn cờ video.
"Ngay từ khi bắt đầu công nghệ và thành lập Reface với tư cách là một công ty, đã có sự công nhận rằng công nghệ truyền thông tổng hợp có thể bị lạm dụng hoặc sử dụng sai mục đích." - đại diện Reface cho biết.
Gal Gadot từng nhiều lần bị ghép mặt vào các bộ phim khiêu dâm. Ảnh: Internet.
Cần có các quy định pháp lý
Các nhà hoạch định chính sách đang tìm cách điều chỉnh công nghệ deepfake đang đạt được những tiến bộ chắp vá, đồng thời phải đối mặt với những khó khăn về kỹ thuật và đạo đức mới. Các luật đặc biệt nhằm vào lạm dụng trực tuyến sử dụng công nghệ deepfake đã được thông qua ở một số khu vực tài phán, bao gồm Trung Quốc, Hàn Quốc và California, nơi mô tả ác ý một người nào đó trong nội dung khiêu dâm mà không có sự đồng ý của họ hoặc phát tán tài liệu đó, có thể gây ra thiệt hại theo luật định là 150.000 đô la Mỹ.
Các nhà nghiên cứu tại Nghị viện châu Âu cho biết trong một nghiên cứu được trình bày trước một hội đồng các nhà lập pháp vào tháng 10 rằng: "Sự can thiệp cụ thể của pháp luật hoặc hình sự hóa nội dung khiêu dâm deepfake vẫn còn thiếu", cũng như với những kẻ lạm dụng.
Marietje Schaake, giám đốc chính sách quốc tế tại Trung tâm chính sách mạng của Đại học Stanford và là cựu thành viên quốc hội EU, cho biết các luật kỹ thuật số mới bao gồm Đạo luật AI được đề xuất ở Hoa Kỳ và GDPR ở châu Âu có thể điều chỉnh các yếu tố của công nghệ deepfake, nhưng có những khoảng trống.
"Câu hỏi đặt ra là liệu nhận thức có đủ để ngăn chặn tác động có hại hay không. Nếu mức độ lan truyền của các thuyết âm mưu là một chỉ báo, thì thông tin quá vô lý đến mức không đúng sự thật vẫn có thể có tác động rộng và có hại cho xã hội." - Marietje Schaake nói thêm.
Theo NstarTV
