Hai mặt của công nghệ Deepfake

Bất chấp những ý nghĩa tiêu cực xung quanh thuật ngữ deepfake thông tục (mọi người thường không muốn được kết hợp với từ “giả”), công nghệ này đang ngày càng được sử dụng cho mục đích thương mại.

Mục đích thương mại

Được gọi một cách lịch sự hơn là video do trí tuệ nhân tạo (AI) tạo ra, hoặc phương tiện tổng hợp, việc sử dụng đang tăng nhanh chóng trong các lĩnh vực bao gồm tin tức, giải trí và giáo dục, với công nghệ ngày càng trở nên tinh vi.

Một trong những công ty thương mại đầu tiên áp dụng là công ty Synthesia có trụ sở tại London chuyên tạo các video đào tạo doanh nghiệp hỗ trợ AI cho những công ty quảng cáo toàn cầu WPP và công ty tư vấn kinh doanh Accenture.

Victor Riparbelli, Giám đốc điều hành và đồng sáng lập Synthesia, nhận định: “Đây là tương lai của việc sáng tạo nội dung”. Để tạo video do AI bằng hệ thống của Synthesia, bạn chỉ cần chọn từ một số hình đại diện, nhập từ bạn muốn họ nói. Riparbelli cho rằng điều này có nghĩa là các công ty toàn cầu có thể rất dễ dàng tạo video bằng các ngôn ngữ khác nhau, chẳng hạn như cho các khóa đào tạo tại chỗ.

Riparbelli bình luận: “Giả sử bạn có 3.000 công nhân kho hàng ở Bắc Mỹ. Một số người trong số họ nói tiếng Anh, nhưng một số có thể quen thuộc hơn với tiếng Tây Ban Nha. Nếu bạn phải truyền đạt thông tin phức tạp cho họ, một bản PDF dài 4 trang không phải là một cách tuyệt vời. Sẽ tốt hơn nhiều nếu bạn thực hiện một video dài 2 hoặc 3 phút, bằng tiếng Anh và tiếng Tây Ban Nha. Nếu phải ghi lại từng đoạn video đó thì đó là một công việc lớn. Giờ đây, chúng tôi có thể làm điều đó với chi phí sản xuất ít và bất cứ lúc nào sẽ có người viết kịch bản. Điều đó khá minh chứng cho cách công nghệ được sử dụng ngày nay”.

Chad Steelberg, giám đốc điều hành Veritone, một nhà cung cấp công nghệ AI của Mỹ.

Mike Price, Giám đốc công nghệ Công ty An ninh mạng ZeroFox của Mỹ chuyên theo dõi deepfake, cho biết việc sử dụng thương mại của họ đang “tăng đáng kể qua từng năm, nhưng rất khó để xác định con số chính xác”. Tuy nhiên, Chad Steelberg, Giám đốc điều hành và nhà cung cấp công nghệ AI Veritone của Mỹ nói rằng, mối quan tâm ngày càng tăng về các deepfake độc hại đang cản trở đầu tư vào việc sử dụng hợp pháp, thương mại của công nghệ.

Steelberg chia sẻ: “Thuật ngữ deepfake chắc chắn đã có phản ứng tiêu cực về đầu tư vốn vào lĩnh vực này. Các phương tiện truyền thông và người tiêu dùng, đúng như vậy, có thể thấy rõ những rủi ro liên quan. Nó chắc chắn đã cản trở các tập đoàn cũng như các nhà đầu tư tham gia vào công nghệ này. Nhưng tôi nghĩ mọi người đang bắt đầu thấy sự thay đổi”.

Mike Papas, Giám đốc điều hành Modulate, một công ty AI cho phép người dùng tạo ra giọng nói của một nhân vật hoặc người khác, cho rằng các công ty trong lĩnh vực truyền thông tổng hợp thương mại rộng lớn hơn “thực sự quan tâm đến đạo đức”.

Papas nhận xét: “Thật đáng kinh ngạc khi thấy được chiều sâu suy nghĩ của những người này. Điều đó đã đảm bảo rằng các nhà đầu tư cũng quan tâm đến điều đó. Họ đang hỏi về các chính sách đạo đức và cách bạn đang nghĩ về nó”.

Lilian Edwards, Giáo sư luật về sự đổi mới và xã hội Trường Luật Newcastle, nói rằng một vấn đề xung quanh việc sử dụng công nghệ cho mục đích thương mại vẫn chưa được giải quyết đầy đủ là ai sở hữu quyền đối với các video. Edwards bình luận: “Hiện tại điều này khác nhau giữa các quốc gia”.

Người dùng của Synthesia chọn từ một số hình đại diện.

Kiểm soát bằng luật

Deborah Johnson, Giáo sư danh dự về đạo đức học ứng dụng Đại học Virginia, gần đây đã đồng viết một bài báo có tựa đề “Làm gì về Deepfake?”. Johnson lập luận: “Deepfake là một phần của vấn đề lớn hơn về thông tin sai lệch làm xói mòn lòng tin vào các tổ chức và trải nghiệm hình ảnh - chúng ta không còn tin tưởng vào những gì chúng ta thấy và nghe trực tuyến. Dán nhãn có lẽ là cách đơn giản nhất và quan trọng nhất đối với những trò lừa bịp - nếu người xem biết rằng những gì họ đang xem là bịa đặt, họ sẽ ít có khả năng bị lừa hơn”.

Giáo sư Sandra Wachter, một nhà nghiên cứu cấp cao về AI Đại học Oxford, nói rằng công nghệ deepfake “đang chạy đua phía trước”: “Nếu bạn đã xem video của Tom Cruise, bạn có thể thấy công nghệ đang phát triển tốt như thế nào. Chúng ta không nên quá lo sợ về công nghệ này và cần phải có một cách tiếp cận phù hợp với nó. Đúng vậy, cần có luật để ngăn chặn những thứ xấu và nguy hiểm như ngôn từ kích động thù địch và khiêu dâm trả thù.

Cá nhân và xã hội nên được bảo vệ khỏi điều đó. Nhưng chúng ta không nên có lệnh cấm hoàn toàn đối với những bức ảnh chế vì mục đích châm biếm hoặc tự do ngôn luận. Và việc sử dụng thương mại ngày càng tăng của công nghệ này là rất hứa hẹn, chẳng hạn như tạo video giáo dục hấp dẫn”.

Một trong những cách sử dụng video do AI tạo ra mang tính giáo dục như vậy là tại Tổ chức Shoah của Đại học Nam California, nơi lưu giữ hơn 55.000 lời khai video từ những người sống sót sau thảm họa Holocaust.

Dự án Dimensions In Testimony cho phép khách truy cập đặt các câu hỏi giúp những người sống sót trả lời theo thời gian thực trong các cuộc phỏng vấn video được quay trước. Steelberg cho rằng trong tương lai, công nghệ như vậy sẽ cho phép mọi người trò chuyện với các phiên bản AI của những người thân lớn tuổi đã qua đời: “Cuộc chơi đang thay đổi, tôi nghĩ, vì cách chúng ta nghĩ về xã hội của mình”.