OpenAI cho biết họ đang thành lập một ủy ban an toàn mới và đã bắt đầu huấn luyện một mô hình trí tuệ nhân tạo mới để thay thế hệ thống GPT-4 hỗ trợ cho chatbot ChatGPT của họ.
Công ty startup San Francisco cho biết trong một bài đăng trên blog vào thứ Ba rằng ủy ban sẽ tư vấn cho toàn bộ hội đồng về “những quyết định quan trọng về an toàn và bảo mật” cho các dự án và hoạt động của họ.
Ủy ban an toàn đến khi tranh cãi xoay quanh an toàn của trí tuệ nhân tạo tại công ty, mà sau khi một nhà nghiên cứu, Jan Leike, từ chức và chỉ trích OpenAI vì để an toàn “bị đặt sau việc phát triển sản phẩm bóng chói.”
OpenAI nói rằng họ “đã bắt đầu huấn luyện mô hình cực cảnh mới” và các mô hình trí tuệ nhân tạo của họ dẫn đầu ngành công nghiệp về khả năng và an toàn, mặc dù họ không đề cập đến tranh cãi. “Chúng tôi hoan nghênh một cuộc tranh luận robust tại thời điểm quan trọng này,” công ty nói.
Các mô hình trí tuệ nhân tạo là hệ thống dự đoán được huấn luyện trên các bộ dữ liệu rất lớn để tạo ra văn bản, hình ảnh, video và cuộc trò chuyện giống con người. Các mô hình cực cảnh là hệ thống trí tuệ nhân tạo mạnh mẽ, cắt lớp nhất.
Các thành viên trong ủy ban an toàn bao gồm CEO của OpenAI Sam Altman và Chủ tịch Bret Taylor, cùng với hai thành viên khác trong hội đồng, Adam D’Angelo, người là CEO của Quora, và Nicole Seligman, một người đại diện cấp cao trước đây của Sony. OpenAI nói rằng bốn chuyên gia kỹ thuật và chính sách của công ty cũng là thành viên.
Công việc đầu tiên của ủy ban sẽ là đánh giá và phát triển tiếp các quy trình và biện pháp bảo đảm của OpenAI và đưa ra các khuyến nghị của mình cho hội đồng trong vòng 90 ngày. Công ty nói rằng sau đó họ sẽ công khai công bố những khuyến nghị mà họ đang áp dụng “một cách nhất quán với an toàn và bảo mật.”
