Đầu năm 2023, nữ diễn viên, người mẫu người Mỹ Julia Fox đã phải hứng chịu nhiều chỉ trích do vô tình bình luận về một video TikTok sử dụng từ lóng (những từ thường được sử dụng trong giao tiếp với mục đích ẩn đi nghĩa thực sự của từ thông dụng).
Theo đó, một TikToker mang tên Conor Whipple đã viết ở phần mô tả video của mình rằng: "Tôi đã tặng mascara cho một cô gái và nó có lẽ tuyệt đến mức cô gái đó quyết định rằng cô ấy và bạn của mình sẽ cùng thử nó mà không cần sự đồng ý của tôi".
Julia Fox gặp sự cố khi hiểu nhầm "mascara" được một TikToker nhắc đến trong bài là đồ trang điểm
Dưới phần bình luận của video, Julia Fox cho biết: "Tôi không hiểu vì sao nhưng tôi không thấy có gì đáng buồn về việc đó".
Bình luận của cô ngay lập tức bị tấn công khi hàng loạt người dùng, bao gồm cả chủ nhân video khi cho rằng nữ diễn viên này đang ủng hộ việc tấn công tình dục người khác.
Ngay sau khi sự việc nổ ra, Julia đã ngay lập tức hiểu ra vấn đề và giải thích rằng cô không hề hay biết thuật ngữ "mascara" (một món đồ trang điểm) lại được sử dụng trên nền tảng này với ý nghĩa "tình dục" và gửi lời xin lỗi đến chủ nhân bài viết.
Loạt từ lóng 18+ được mã hóa
Trên TikTok, "mascara" chỉ là một trong nhiều thuật ngữ được mã hóa bằng ngôn ngữ internet mới nổi được gọi chung là "algospeak" (chỉ các thuật ngữ mà người dùng mạng xã hội sáng tạo để đánh lừa hệ thống kiểm duyệt nội dung tự động của AI).
Để lách luật kiểm duyệt này, đôi khi các thuật ngữ không liên quan như "mascara", "ana", các từ không có nghĩa nhưng có phát âm gần giống từ gốc như "seggs" (sex - tình dục) hay cutt1ing (cutting - cắt/tự hại), "unalive" (dead - chết) đã được tạo ra.
Từ lóng giúp các TikToker lách luật kiểm duyệt của mạng xã hội
Bên cạnh đó là loạt từ như "Yt people" cũng được sử dụng rộng rãi để nói về người da trắng hay từ "Le$bean" dùng để thay thế người đồng tính nữ trong các video. Khi TikTok cố gắng hạn chế các nội dung liên quan đến Covid-19, từ "panini" và "panoramic" đã trở thành từ lóng cho từ "pandemic" (đại dịch). Khi nhắc đến chất cấm, những thuật ngữ như "snow" (tuyết) hay "skiing" (trượt tuyết) cũng là những từ được sử dụng.
Mặc dù những từ lóng này giúp những người dùng TikTok có thể nói lên suy nghĩ của họ mà không sợ bị kiểm duyệt nhưng nó đồng thời cũng là "cánh cửa mở" cho loạt nội dung nguy hiểm liên quan đến chất cấm, tình dục hay tự hại được lan truyền dễ dàng, mạnh mẽ hơn bao giờ hết.
Theo một cuộc khảo sát do TELUS International thực hiện, 51% người dùng internet nói rằng họ đều nhận ra được các từ lóng được dùng trên TikTok. Nếu chỉ xét riêng những người dùng thuộc thế hệ Gen Z , con số này thậm chí tăng vọt lên tới 72%, cho thấy sức ảnh hưởng và phổ biến của các từ lóng này.
Nhiều người dễ dàng nhận ra từ lóng trên TikTok mà không cần bất kỳ ký hiệu đặc biệt nào
Theo nguyên tắc cộng đồng của TikTok, ứng dụng này "không cho phép nội dung mô tả, lan truyền hoặc tôn vinh các hoạt động có thể dẫn đến tự tử, tự làm hại bản thân hoặc rối loạn ăn uống".
Tuy nhiên, mặc cho nỗ lực kiểm duyệt, các từ được "mã hóa" nói trên thậm chí còn khiến nhóm người dùng quan tâm đến các vấn đề tiêu cực này tìm thấy nhau nhanh hơn. Điều này được cho là thực sự nguy hiểm, đặc biệt là khi người dùng đang tìm kiếm thứ gì đó gây hại cho chính họ.
Khó ngăn chặn nội dung độc hại
Theo chuyên gia về trí tuệ nhân tạo Vince Lynch, hiện tượng này đang ngày càng phổ biến và gây khó khăn cực lớn cho việc kiểm duyệt nội dung.
Theo dữ liệu riêng của công ty, TikTok đã xóa bỏ 110 triệu video chỉ trong khoảng thời gian từ tháng 7 đến tháng 9 năm 2022, chiếm khoảng 1% tổng số nội dung được đăng lên ứng dụng.
Khoảng một nửa số video đã tự động bị xóa bởi AI được phát hiện chứa nội dung bị cấm. Đó là lý do tại sao những người sáng tạo nội dung đã bắt đầu thay thế các từ ngữ có sắc thái mạnh, nhạy cảm bằng các thuật ngữ được mã hóa.
Việc các từ này được sử dụng phổ biến gây khó khăn cho việc kiểm duyệt và tồn tại nhiều nguy hại
Các từ lóng được coi là một trong những điều gây cản trở lớn nhất cho việc kiểm duyệt, đặc biệt là khi TikTok có hàng triệu người dùng trẻ tuổi đang sử dụng, chưa kể lượng người dùng trẻ tuổi nói dối về năm sinh của mình để được tiếp cận các video có nội dung dành cho người trưởng thành.
Mặc dù công nghệ tiên tiến đằng sau việc kiểm duyệt nội dung đang đổi mới nhanh chóng nhưng Lynch lo ngại rằng việc này sẽ khiến cách lách luật ngày càng đa dạng và khiến việc kiểm duyệt nội dung trở thành một "trò chơi đuổi bắt" không có hồi kết.
"Càng có nhiều quy định được đưa ra trên nền tảng mạng xã hội thì người dùng sẽ càng tìm ra nhiều cách hơn để lách luật" - Lynch nhận định.
Nguồn: NY Post