Tuần trước, Meta bắt đầu thử nghiệm chatbot AI của mình tại Ấn Độ trên WhatsApp, Instagram và Messenger. Nhưng với cuộc bầu cử tổng thể Ấn Độ bắt đầu từ hôm nay, công ty đã chặn các truy vấn cụ thể trong chatbot của mình.
Meta đã xác nhận rằng đang hạn chế một số từ khóa liên quan đến bầu cử cho AI trong giai đoạn thử nghiệm. Họ cũng cho biết đang làm việc để cải thiện hệ thống phản ứng của AI.
“Đây là một công nghệ mới, và có thể không luôn trả lời đúng ý chúng tôi, điều đó tương tự cho tất cả các hệ thống AI sinh sáng. Kể từ khi chúng tôi ra mắt, chúng tôi liên tục phát hành cập nhật và cải tiến cho các mô hình của chúng tôi, và chúng tôi đang tiếp tục làm việc để làm cho chúng tốt hơn,” một người phát ngôn của công ty cho biết với TechCrunch.
Động thái này khiến cho tòa lớn truyền thông xã hội trở thành công ty công nghệ lớn nhất tiến hành cắt giảm quy mô của dịch vụ AI sinh sáng của mình khi họ chuẩn bị cho một loạt bầu cử quan trọng.
Một trong số các lo ngại lớn từ phản đối là GenAI có thể cung cấp thông tin sai lệch hoặc hoàn toàn sai lầm cho người dùng, đóng vai trò bất hợp pháp và không mong muốn trong quy trình dân chủ.
Tháng trước, Google đã bắt đầu chặn các truy vấn liên quan đến bầu cử trong trải nghiệm chatbot Gemini của mình tại Ấn Độ và các thị trường khác nơi bầu cử diễn ra trong năm nay.
Cách tiếp cận của Meta là một phần trong nỗ lực lớn hơn mà công ty đã thông báo xung quanh những gì họ cho phép và không cho phép trên nền tảng của mình trước bầu cử. Họ đã cam kết chặn quảng cáo chính trị trong tuần trước khi bầu cử diễn ra ở bất kỳ quốc gia nào, và đang làm việc để xác định và tiết lộ khi hình ảnh trong quảng cáo hoặc nội dung khác đã được tạo ra bằng AI.
Việc xử lý các truy vấn GenAI của Meta dường như dựa vào một danh sách chặn. Khi bạn hỏi Meta AI về các chính trị gia cụ thể, ứng cử viên, chủ nhiệm và một số thuật ngữ khác, nó sẽ chuyển bạn đến trang web của Ủy ban Bầu cử.
“Câu hỏi này có thể liên quan đến một nhân vật chính trướng trong bầu cử tổng thể, vui lòng tham khảo link https://elections24.eci.gov.in,” câu trả lời cho biết.
Đáng chú ý, công ty không hạn chế câu trả lời cho các câu hỏi chứa tên các đảng. Tuy nhiên, nếu một truy vấn bao gồm tên ứng cử viên hoặc các thuật ngữ khác, bạn có thể thấy câu trả lời sơ sài được trích dẫn ở trên.
Nhưng giống như các hệ thống được trang bị AI khác, Meta AI cũng có một số không nhất quán. Ví dụ, khi TechCrunch hỏi về thông tin về “Indi Alliance” — một liên minh chính trị của nhiều đảng đang chiến đấu chống lại đảng Bharatiya Janata hiện đang nắm quyền — nó đã trả lời với thông tin chứa tên một chính trị gia. Tuy nhiên, khi chúng tôi hỏi về chính trị gia đó trong một truy vấn khác, chatbot không trả lời với bất kỳ thông tin nào.
Tuần này, công ty đã triển khai một chatbot Meta AI mới được trang bị Llama 3 ở hơn mười quốc gia, bao gồm cả Hoa Kỳ, nhưng Ấn Độ không có trong danh sách. Meta cho biết rằng chatbot sẽ ở giai đoạn thử nghiệm trong quốc gia này trong thời gian tới.
“Chúng tôi tiếp tục học hỏi từ các thử nghiệm người dùng của chúng tôi tại Ấn Độ. Giống như nhiều sản phẩm và tính năng AI khác của chúng tôi, chúng tôi thử nghiệm chúng công khai ở nhiều giai đoạn và ở mức độ hạn chế,” một người phát ngôn của công ty cho biết với TechCrunch trong một tuyên bố.
Hiện tại, Meta AI không chặn các truy vấn về bầu cử cho các thuật ngữ liên quan đến Hoa Kỳ như “Hãy nói tôi về Joe Biden.” Chúng tôi đã hỏi Meta liệu công ty có dự định hạn chế các truy vấn Meta AI trong quá trình bầu cử ở Hoa Kỳ hoặc ở các thị trường khác. Chúng tôi sẽ cập nhật câu chuyện nếu nhận được phản hồi.
Nếu bạn muốn chia sẻ trải nghiệm của mình với Meta AI, bạn có thể liên hệ với Ivan Mehta tại im@ivanmehta.com qua email và thông qua đường link này trên Signal.
