Lo ngại gia tăng khi TikTok trở thành ổ chứa của những nội dung bị thao túng chỉnh sửa

Những con cá sấu trên TikTok không giống như bạn nghĩ.

Chúng xuất hiện trong các bài đăng rải rác, được photoshop vào trong ảnh những ngôi nhà bị ngập lụt, ẩn mình trong ảnh meme chế động vật hay ở trong một video trận đấu vật với "Tom Cruise".

Chúng có vẻ vô hại, giống như hầu hết các nội dung có chỉnh sửa trên TikTok, đủ để gây cười và nhận lượt thích trước khi chìm vào dòng chảy nội dung không ngừng trên nền tảng. Tuy nhiên, đối với những chuyên gia nghiên cứu về thông tin sai lệch, sự tồn tại của chúng khiến họ lo lắng, bởi các chỉnh sửa tương tự cũng đang được áp dụng với các bài viết gây chia rẽ chính trị, thúc đẩy các thuyết âm mưu và đe dọa các nguyên lý cốt lõi của nền dân chủ trước cuộc bầu cử giữa kỳ.

Henry Ajder, một chuyên gia về phương tiện truyền thông tổng hợp và thao túng cho biết: “Kiểu thao túng này đang ngày càng lan rộng. Khi khối lượng nội dung có thể được tạo ra một cách nhanh chóng và ở quy mô lớn như vậy, nó hoàn toàn có thể thay đổi cục diện.”

Tài liệu được chỉnh sửa hoặc tổng hợp cũng xuất hiện trên các nền tảng trực tuyến khác, chẳng hạn như Facebook, với gần ba tỷ người dùng hàng tháng. Tuy nhiên, các chuyên gia cho biết, TikTok vẫn khó nắm bắt hơn nhiều, một nền tảng vốn khuyến khích 1,6 tỷ người dùng chia sẻ nội dung của riêng họ chồng lên nội dung của người khác và là nơi thực tế, châm biếm và thậm chí lừa lọc đôi khi trộn lẫn với nhau trong những video nhanh gọn và thỉnh thoảng là phát trực tiếp.

Hiện tại, rất khó để xác định quy mô lan truyền của các phương tiện truyền thông bị thao túng có khả năng gây hại, nhưng các nhà nghiên cứu cho biết, các công nghệ cho phép chúng tiếp cận rộng rãi hơn đang ngày càng phổ biến. Theo thời gian, các chuyên gia lo sợ rằng những nội dung bị thao túng chỉnh sửa này sẽ ngày càng lan rộng và khó bị phát hiện.

Trong những tuần gần đây, người dùng TikTok đã chia sẻ một ảnh chụp màn hình giả mạo về một câu chuyện không có thật. Trong đó, CNN tuyên bố rằng biến đổi khí hậu là theo mùa. Ở một video khác, nội dung đã được chỉnh sửa để khiến Thư ký báo chí Nhà Trắng, Karine Jean-Pierre, giống như đang phớt lờ câu hỏi của phóng viên Peter Doocy của Fox News. Một video khác nữa từ năm 2021, đã mới xuất hiện trở lại với âm thanh đã bị ghép lời, khiến Phó Tổng thống Kamala Harris dường như nói rằng, hầu như tất cả những người nhập viện vì Covid-19 đều được tiêm chủng. (trong thực tế, bà ấy nói "chưa được tiêm chủng").

Người dùng TikTok đã cả tin chấp nhận ngay cả những bài đăng bị thay đổi một cách ngớ ngẩn, chẳng hạn như những bài đăng vào tháng trước miêu tả Tổng thống Biden hát "Baby Shark" thay vì quốc ca hoặc video một đứa trẻ tại Nhà Trắng gắt gỏng với đệ nhất phu nhân Jill Biden.

Tuy nhiên, sự nguy hiểm của phương tiện truyền thông bị thao túng nằm ở cách nó có nguy cơ làm tổn hại sự phụ thuộc vào các khái niệm như sự thật và bằng chứng với những người dùng mạng xã hội. Sự tồn tại của công nghệ ghép mặt - deepfake, được tạo ra bằng cách ghép một khuôn mặt kỹ thuật số vào cơ thể của người khác, đang được sử dụng như một lời buộc tội và một cái cớ của những kẻ đang mong muốn làm mất uy tín sự thật và né tránh trách nhiệm - một hiện tượng có tên gọi cổ tức của kẻ dối trá.

Những kẻ theo thuyết âm mưu đã đăng các video của Nhà Trắng về ông Biden trên TikTok và đưa ra các giả thuyết (đã bị vạch trần) rằng ông là một kẻ giả mạo. Nhà tư vấn chính trị Roger Stone tuyên bố trên Telegram vào tháng 9 rằng đoạn phim mà CNN phát sóng cho thấy ông kêu gọi bạo lực trước cuộc bầu cử năm 2020 là "video deepfake lừa đảo". Những luật sư của một số người bị buộc tội trong cuộc bạo loạn ngày 6 tháng 1 tại Điện Capitol Hoa Kỳ vào năm 2021 đã cố gắng dấy lên nghi ngờ về video bằng chứng từ ngày đó bằng cách viện dẫn công nghệ deepfake đang "phổ biến rộng rãi".

Hany Farid, giáo sư khoa học máy tính tại Đại học California, Berkeley, thuộc hội đồng cố vấn nội dung của TikTok, cho biết: “Khi chúng ta bước vào thế giới nơi mọi thứ đang bị thao túng hoặc có thể bị thao túng, người ta hoàn toàn có thể đơn giản loại bỏ đi những sự thật bất lợi”.

Các công ty công nghệ đã dành nhiều năm thử nghiệm các công cụ mới để phát hiện các nội dung bị chỉnh sửa như deepfake. Trong mùa bầu cử năm 2020, TikTok, Facebook, Twitter và YouTube cam kết xóa hoặc dán nhãn các nội dung bị thao túng có hại.

Đạo luật năm 2019 của California đã quy định việc tạo hoặc chia sẻ nội dung deepfake của các chính trị gia trong vòng 60 ngày sau cuộc bầu cử là bất hợp pháp, một phần lý do là từ các video đã bị thao túng năm đó để khiến bà Nancy Pelosi trông có vẻ say xỉn.

Trong một tuyên bố, TikTok cho biết, họ đã xóa các video vi phạm các chính sách của mình do The New York Times phát hiện, trong đó nghiêm cấm các hành vi giả mạo kỹ thuật số “đánh lừa người dùng bằng cách bóp méo sự thật của các sự kiện và gây tổn hại đáng kể cho chủ thể của video, những bên liên quan hoặc xã hội. ”

Ben Rathe, phát ngôn viên của TikTok cho biết: “TikTok là nơi dành cho nội dung chân thực và giải trí, đó là lý do tại sao chúng tôi cấm và xóa thông tin sai lệch có hại, bao gồm cả nội dung tổng hợp hoặc bị thao túng, được thiết kế để đánh lừa cộng đồng của mình”.

Tuy nhiên, các chuyên gia thông tin sai lệch cho biết, các trường hợp riêng lẻ rất khó để kiểm duyệt và hầu như không giúp ích gì kể cả khi bị xử lý. Việc tiếp xúc nhiều hơn với các nội dung bị thao túng có thể gia tăng sự phân cực và làm giảm khả năng cũng như mức độ sẵn sàng phân biệt sự thật với hư cấu của người xem.

Thông tin sai lệch đã trở thành một vấn đề trên nền tảng này trước kỳ bầu cử giữa kỳ. Trong những ngày gần đây, các nhà nghiên cứu từ SumOfUs, một tổ chức vận động trách nhiệm giải trình của đoàn thể công ty, đã thử nghiệm thuật toán của TikTok bằng cách tạo tài khoản và tìm kiếm và xem 20 video được xem rộng rãi với nội dung nghi ngờ về hệ thống bầu cử. Các nhà nghiên cứu nhận thấy trong vòng một giờ, thuật toán đã chuyển từ phục vụ nội dung trung lập sang đẩy mạnh thông tin sai lệch về bầu cử, nội dung phân cực, cực đoan cực hữu, thuyết âm mưu QAnon và các giả thuyết sai lệch về Covid-19.

TikTok cho biết họ đã xóa các nội dung vi phạm nguyên tắc được trích dẫn bởi báo cáo, và sẽ cập nhật hệ thống của mình để nắm bắt các cụm từ tìm kiếm được sử dụng để tìm video.

Halsey Burgund, một nhà công nghệ sáng tạo tại Phòng thí nghiệm Tài liệu Mở của M.I.T. chia sẻ: “Các nền tảng như TikTok nói riêng, cũng như tất cả các nguồn nội dung trên mạng xã hội, đều giúp bạn lướt qua mọi thứ một cách nhanh chóng - chúng được thiết kế để nhồi nhét một lượng nội dung khổng lồ và đó là công thức để loại bỏ sự nhàm chán. Những ảnh hưởng từ các phản ứng cảm xúc lướt qua nhanh chóng và liên tục này cứ tích tụ dần trong não của chúng ta, và nó thật đáng sợ”.

Vào năm 2019, ông Burgund đã làm việc trong một dự án phim tài liệu với nghệ sĩ và nhà báo đa phương tiện Francesca Panetta, người đã tạo ra video deepfake Richard Nixon thông báo về sự thất bại của sứ mệnh Apollo 11 năm 1969. (Thực tế, chuyến thám hiểm này đã thành công hạ cánh những con người đầu tiên lên mặt trăng.) Dự án, "Sự kiện thảm họa trên mặt trăng", đã giành giải Emmy vào năm ngoái.

Đội ngũ đã sử dụng các phương pháp ngày càng phổ biến trong việc lan truyền thông tin sai lệch trực tuyến, bao gồm thay đổi hình ảnh, cắt cảnh phim hoặc thay đổi tốc độ và trình tự của nó, tách âm thanh từ hình ảnh, sao chép giọng nói, tạo tin nhắn ảo, tạo tài khoản tổng hợp, tự động nhép lời và chuyển văn bản thành giọng nói, hoặc thậm chí tạo deepfake.

Hầu hết các ví dụ về nội dung bị thao túng hiện nay trên mạng xã hội đều kém chất lượng và dễ dàng nhận ra. Tuy nhiên, các công nghệ có thể thay đổi và tổng hợp với độ tinh vi cao hơn đang ngày càng dễ tiếp cận và dễ học, các chuyên gia cho biết.

Ông Burgund nói: “Nếu được sử dụng đúng mục đích, công nghệ này khá sáng tạo và có rất nhiều tiềm năng. Nhưng nếu vào tay kẻ xấu, mọi chuyện sẽ rất tồi tệ".

Tháng trước, một số video chỉnh sửa đăng trên TikTok cho thấy phu nhân Biden quảng bá các sáng kiến mục tiêu ​​về bệnh ung thư của Nhà Trắng tại sân vận động của đội Philadelphia Eagles, mỗi bài đăng đã được xem hàng chục nghìn lần. Trong đoạn phim ghi lại cảnh đệ nhất phu nhân hát bên cạnh những bệnh nhân ung thư và những người khỏi bệnh, âm thanh từ đám đông được thay thế bằng tiếng la ó lớn và tiếng hét.

Cựu Tổng thống Donald J. Trump là một chủ đề phổ biến để chế nhạo trên TikTok và các nền tảng khác. Trên TikTok, nơi cung cấp các công cụ để người dùng lồng âm thanh bổ sung hoặc "song ca" với những người dùng khác và "ghép" vào nội dung của họ, nhiều người đã đóng giả ông Trump để nói chuyện với Harry Potter hoặc biểu diễn như Marilyn Monroe.

“TikTok được thiết kế để các nội dung có thể kết hợp với nhau - đây là một nền tảng được thiết kế để chỉnh sửa và phối ngẫu. Chúng ta phải kiểm tra tính xác thực như thế nào trên một nền tảng như vậy?", bà Panetta, đồng nghiệp của ông Burgund cho biết.

Nhiều người dùng TikTok sử dụng nhãn và hashtag bắt đầu bằng # để cho người xem biết họ đang thử nghiệm các filter và bộ chỉnh sửa. Đôi khi, nội dung bị thao túng được người khác phát hiện trong phần bình luận. Nhưng những nỗ lực như vậy thường bị bỏ qua trên TikTok.

Năm ngoái, Cục Điều tra Liên bang đã cảnh báo rằng “những kẻ giả mạo gần như chắc chắn sẽ tận dụng nội dung thao túng, tổng hợp cho các hoạt động gây ảnh hưởng trên mạng và nước ngoài” cho đến hết mùa thu này. Thao túng truyền thông đã được vũ khí hóa ở nước ngoài trong năm nay trong cuộc xâm lược của Nga vào Ukraine và trong cuộc bầu cử tổng thống Brazil.

Claire Wardle, đồng giám đốc của Phòng thí nghiệm tương lai thông tin tại Đại học Brown cho biết: “Chúng ta không nên chơi trò chơi loại trừ với từng phương tiện nội dung đơn lẻ, bởi chúng ta chắc chắn sẽ thua, trong khi ngoài kia có những mối đe dọa lớn hơn. Nhưng những thứ này thực sự nguy hiểm, mặc dù chúng ta cảm thấy mình có thể kiểm chứng thông tin chỉ với một cú click chuột trong 2 giây. Về cơ bản, nó len lỏi từng chút từng chút liên tục những nội dung để dần thay đổi thế giới quan của bạn”.

Nguồn: The New York Times