Tulsee Doshi, Giám đốc sản phẩm của đơn vị Trí tuệ nhân tạo (A.I) có trách nhiệm thuộc Google, nói rằng gã khổng lồ tìm kiếm đã đưa vào sử dụng phần mềm A.I mới, BERT, có khả năng diễn giải tốt hơn những yêu cầu tìm kiếm khó hiểu hay chung chung của người dùng.
“Trước đây, có một tập hợp các kết quả bị tình dục hoá quá mức”, Doshi nói và cho rằng những kết quả gợi ý đó có thể khiến người dùng bị sốc.
Năm 2019, diễn viên người Mỹ Natalie Morales gõ từ khóa tìm kiếm “L***** t***” (thanh thiếu niên Latinh) trên Google và nhận được tất cả các kết quả đều liên quan đến nội dung khiêu dâm. Trong bài đăng trên Twitter khi đó, Morales cho biết, khi tìm kiếm hình ảnh cho bài thuyết trình, cô nhận thấy kết quả đối lập của từ khóa “t***”. Vì vậy, nữ diễn viên đã kêu gọi Google tiến hành điều tra.
Gã khổng lồ công nghệ Mỹ đã dành nhiều năm để giải quyết phản hồi của người dùng về các nội dung xúc phạm trong các công cụ quảng cáo, cũng như kết quả tìm kiếm của những từ khóa như “h**” (nóng) và “c**” (giám đốc).
Năm 2013, Tiến sĩ Safiya Noble, trong bài viết đăng trên tạp chí, đã chỉ ra rằng với cụm từ “B**** g****” (những cô gái da đen), các kết quả tìm kiếm Google trả ra mang tính tình dục hoá và xu hướng phân biệt chủng tộc, dù không hề có từ khoá về “tình dục”, hay “khiêu dâm” nào gắn kèm. Sau đó, công ty đã loại bỏ các kết quả độc hại khi người dùng tìm kiếm “B**** g****”.
Google cũng cho biết, trong những tuần tới họ có thể sử dụng thêm một A.I khác có tên MUM để phát hiện và đưa ra hỗ trợ tốt hơn liên quan các câu hỏi về tự tử, bạo lực gia đình, tấn công tình dục và lạm dụng chất kích thích.
Chẳng hạn, MUM sẽ có khả năng nhận biết truy vấn liên quan các địa điểm nhảy cầu tự vẫn, thay vì trả kết quả địa điểm tham quan du lịch và hỗ trợ các tìm kiếm dài hơn kiểu như “tại sao anh ta tấn công tôi khi tôi nói không yêu anh ấy”, hoặc “những cách tự sát phổ biến nhất”, Google cho biết.
