Mèo trên mặt trăng? Công cụ trí tuệ nhân tạo của Google đang tạo ra những phản ứng sai lệch khiến các chuyên gia lo ngại
Hỏi Google xem liệu có mèo đã từng ở trên mặt trăng và trước đây nó thường hiển thị một danh sách xếp hạng các trang web để bạn có thể tìm ra câu trả lời cho chính mình.
Bây giờ nó hiện ra một câu trả lời ngay lập tức được tạo ra bởi trí tuệ nhân tạo - có thể hoặc không chính xác.
'Vâng, các phi hành gia đã gặp gỡ mèo trên mặt trăng, chơi với chúng và cung cấp chăm sóc,' nói công cụ tìm kiếm của Google mới được cải tiến trong câu trả lời phản ứng của một phóng viên của Associated Press.
Nó thêm: 'Ví dụ, Neil Armstrong đã nói, ‘Một bước nhỏ cho con người' vì đó là một bước của mèo. Buzz Aldrin cũng triển khai mèo trên nhiệm vụ Apollo 11.'
Tất cả điều này không đúng. Những lỗi tương tự - một số hài hước, một số thông tin sai lệch có thể gây hại - đã được chia sẻ trên mạng xã hội kể từ khi Google tháng này tung ra các tổng quan trí tuệ nhân tạo, một phiên bản mới của trang tìm kiếm của mình thường xem xét tóm tắt ở đầu kết quả tìm kiếm.
Tính năng mới này đã làm lo sợ các chuyên gia và cảnh báo rằng có thể tăng cường đến sự thiên vị và thông tin sai lệch và đe dọa những người đang tìm kiếm sự giúp đỡ trong tình huống khẩn cấp.
Khi Melanie Mitchell, một nhà nghiên cứu trí tuệ nhân tạo tại Viện nghiên cứu Santa Fe ở New Mexico, hỏi Google về số lượng người Hồi giáo đã có làm tổng thống của Hoa Kỳ, Google đã tự tin trả lời bằng một lý thuyết âm mưu đã bị phá bỏ: 'Hoa Kỳ đã có một tổng thống Hồi giáo, Barack Hussein Obama.'
Mitchell nói rằng tóm tắt đã hỗ trợ khẳng định bằng cách trích dẫn từ một chương trong một cuốn sách học thuật, được viết bởi các nhà sử học. Nhưng chương đó không đưa ra tuyên bố giả mạo - chỉ đang đề cập đến lý thuyết sai lầm đó.
'Hệ thống trí tuệ nhân tạo của Google không đủ thông minh để phát hiện ra rằng việc trích dẫn đó không thực sự hỗ trợ cho tuyên bố,' Mitchell nói trong một email gửi cho AP. 'Với cách thức bất tin cậy như vậy, tôi nghĩ tính năng Tóm lược trí tuệ nhân tạo này là rất không chịu trách nhiệm và nên được tạm ngưng.'
Google nói trong một tuyên bố vào thứ Sáu rằng nó đang thực hiện 'hành động nhanh chóng' để sửa lỗi - như sự nói dối về Obama - vi phạm các chính sách nội dung của mình; và sử dụng điều đó để 'phát triển những cải tiến rộng lớn' đã đang triển khai. Nhưng trong hầu hết các trường hợp, Google cho biết hệ thống đang hoạt động đúng cách nhờ vào quá trình kiểm tra kỹ lưỡng trước khi phát hành công khai.
'Đa số Tóm lược trí tuệ nhân tạo cung cấp thông tin chất lượng cao, kèm theo liên kết để tìm hiểu sâu hơn trên web,' Google nói trong tuyên bố viết. 'Nhiều ví dụ mà chúng tôi đã thấy là các câu hỏi không phổ biến, và chúng tôi cũng đã thấy ví dụ bị thay đổi hoặc mà chúng tôi không thể mô phỏng.'
Khó khăn khi mô phỏng những lỗi được tạo ra bởi các mô hình ngôn ngữ trí tuệ nhân tạo - một phần vì chúng luôn ngẫu nhiên. Chúng hoạt động bằng cách dự đoán từ ngữ nào sẽ tốt nhất để trả lời các câu hỏi được hỏi dựa trên dữ liệu mà chúng đã được đào tạo. Chúng dễ thuộc lòng - một vấn đề được nghiên cứu rộng rãi được biết đến là hiện tượng 'ảo giác.'
AP đã thử nghiệm Tính năng trí tuệ nhân tạo của Google với một số câu hỏi và chia sẻ một số phản ứng của nó với các chuyên gia chuyên ngành. Khi hỏi về cách xử lý sau cắn của rắn, Google đã đưa ra một câu trả lời 'rất kỳ lưỡng,' theo Robert Espinoza, một giáo sư sinh học tại Đại học California State, Northridge, người đồng thời cũng là chủ tịch của Hội Động vật học cá và tắc kè.
Nhưng khi mọi người đến với Google với một câu hỏi khẩn cấp, khả năng mà câu trả lời mà công ty công nghệ đưa cho họ bao gồm một lỗi khó nhận ra là một vấn đề.
'Càng bạn căng thẳng hoặc vội vàng hoặc đang trong tình huống gấp rút, thì khả năng bạn chỉ nhận lấy câu trả lời đầu tiên đến,' nói Emily M. Bender, một giáo sư ngôn ngữ học và giám đốc của Phòng thí nghiệm Ngôn ngữ học Tính toán của Đại học Washington. 'Và ở một số trường hợp, đó có thể là những tình huống quan trọng đời sống.'
Đó không phải là mối lo lắng tín dụng duy nhất của Bender - và cô đã cảnh báo về những điều này với Google trong vài năm qua. Khi các nhà nghiên cứu của Google vào năm 2021 công bố một bài báo gọi là 'Tái suy nghĩ về tìm kiếm' mà đề xuất sử dụng các mô hình ngôn ngữ trí tuệ nhân tạo như 'chuyên gia lĩnh vực' có thể trả lời câu hỏi một cách có uy tín - giống như họ đang thực hiện bây giờ - Bender và đồng nghiệp Chirag Shah đã phản ứng bằng một bài báo phân tích tại sao đó là một ý tưởng tồi.
Họ cảnh báo rằng các hệ thống trí tuệ nhân tạo như vậy có thể gia tăng sự phân biệt chủng tộc và giới tính được tìm thấy trong các tập dữ liệu lớn mà chúng đã được đào tạo.
'Vấn đề với loại thông tin sai lệch đó chính là chúng ta đang bơi trong đó,' Bender nói. 'Và vì vậy mà người ta có khả năng xác nhận định kiến của mình. Và nó khó để nhận ra thông tin sai lệch khi nó đang xác nhận tức khắc định kiến của bạn.'
Một mối lo lớn khác là âm thâm hơn - là để xóa thông tin cần thiết từ chatbot làm giảm sự tình cờ của việc tìm kiếm thông tin của con người, sự hiểu biết về những gì chúng ta thấy trên mạng và giá trị kết nối trong các diễn đàn trực tuyến với những người khác đang trải qua cùng một vấn đề.
Những diễn đàn đó và các trang web khác dựa vào Google để gửi người dùng đến họ, nhưng những tổng quan trí tuệ nhân tạo mới của Google đe dọa phá vỡ dòng chảy của lưu lượng truy cập internet mang lại lợi nhuận.
Các đối thủ của Google cũng đã theo dõi sát sao phản ứng. Từ nhiều năm qua, “ông lớn” tìm kiếm này đã đối mặt với áp lực để cung cấp nhiều tính năng trí tuệ nhân tạo hơn trong khi cạnh tranh với OpenAI - nhà sản xuất ChatGPT và các công ty mới nổi như Perplexity AI, với ước muốn đối đầu với Google với ứng dụng trí tuệ nhân tạo hỏi-đáp của riêng mình.
'Dường như điều này đã được Google vội vàng,' nói Dmitry Shevelenko, giám đốc kinh doanh của Perplexity. 'Chỉ là rất nhiều lỗi không cần thiết trong chất lượng.'
—————-
Associated Press nhận được sự hỗ trợ từ một số quỹ tư nhân để cải thiện bản tin giải thích của mình về cuộc bầu cử và dân chủ. Xem thêm về dự án dân chủ của AP tại đây. AP chịu trách nhiệm hoàn toàn cho tất cả nội dung.
