Tech

Phạt 6 triệu USD cho kẻ gọi điện tự động sử dụng AI để sao chép giọng nói của Biden

Thời gian Hoa Kỳ Tuesday, June 11 2024

FCC đã đề xuất mức phạt 6 triệu USD cho kẻ lừa đảo đã sử dụng công nghệ sao chép giọng nói để giả mạo Tổng thống Biden trong một loạt cuộc gọi điện tử bất hợp pháp trong cuộc bầu cử tiền ông ở bang New Hampshire. Điều này liên quan nhiều đến cuộc gọi điện tử hơn là AI, nhưng cơ quan này rõ ràng đang định vị đây là một cảnh báo đối với những kẻ lừa đảo công nghệ cao khác.

Như bạn có thể nhớ, vào tháng 1, nhiều cử tri tại New Hampshire đã nhận được cuộc gọi giả mạo là một thông điệp từ Tổng thống yêu cầu họ không bỏ phiếu trong cuộc bầu cử tiền ông sắp tới. Đây, tất nhiên, là giả mạo - một bản sao giọng nói của Tổng thống Biden sử dụng công nghệ đã trở nên rất phổ biến trong những năm qua.

Mặc dù việc tạo ra một giọng nói giả mạo đã có thể làm từ lâu, nhưng các nền tảng AI tạo ra đã làm cho việc này trở nên dễ dàng: Đến hàng chục dịch vụ cung cấp các giọng nói sao chép mà không có nhiều hạn chế hoặc giám sát. Bạn có thể tạo ra giọng nói giả mạo của Biden khá dễ dàng với một hoặc hai phút của các bài phát biểu của ông, mà tất nhiên dễ dàng tìm thấy trên mạng.

Điều bạn không thể làm được, theo FCC và một số cơ quan thực thi pháp luật, đó là sử dụng giọng nói giả mạo đó để đàn áp cử tri, thông qua cuộc gọi điện tử đã bị cấm.

“Chúng tôi sẽ hành động nhanh chóng và quyết liệt để đảm bảo rằng những kẻ lừa đảo không thể sử dụng mạng lưới viễn thông của Mỹ để tạo điều kiện cho việc lạm dụng công nghệ AI tạo ra để can thiệp vào bầu cử, lừa đảo người tiêu dùng, hoặc phá vỡ dữ liệu nhạy cảm,” chủ trì của Ban Thi hành của FCC, Loyaan Egal, nói trong một thông cáo báo chí.

“Chuyên gia tư vấn chính trị” Steve Kramer là người thực hiện chính, tuy nhiên, ông đã mời sự giúp đỡ của Công ty Life đen tối (trước đây bị buộc tội tổ chức các cuộc gọi điện tử bất hợp pháp) và dịch vụ gọi điện từ Công ty viễn thông đen tối Lingo, còn được gọi là Americatel, AKA BullsEyeComm, AKA Clear Choice Communications, AKA Excel Telecommunications, AKA Impact Telecom, AKA Matrix Business Technologies, AKA Startec Global Communications, AKA Trinsic Communications, AKA VarTec Telecom.

Kramer có vẻ như bạn vi phạm nhiều quy tắc - nhưng cho đến nay chưa có các vụ kiện hình sự chống lại ông hoặc các đồng phạm của ông. Điều này là giới hạn của quyền lực của FCC: Họ phải hợp tác với cơ quan thực thi pháp luật địa phương hoặc liên bang để đặt sức nặng vào quyết định của họ về trách nhiệm như một cơ quan chuyên gia.

Mức phạt 6 triệu USD giống như một teto hoặc khao khát; tương tự như FTC và các cơ quan khác, số tiền thực sự trả là thường ít hơn với nhiều lý do, nhưng ngay cả như vậy, đó là một số tiền đáng kể. Bước tiếp theo là cho Kramer phản hồi các cáo buộc, mặc dù các biện pháp riêng lẻ đang được thực hiện chống lại Lingo, hoặc bất kỳ cái tên nào họ tự gọi mình bây giờ khi họ đã bị bắt gặp một lần nữa, điều này có thể dẫn đến tiền phạt hoặc mất giấy phép.

Giọng nói tạo ra bởi AI đã chính thức được công nhận là bất hợp pháp sử dụng trong cuộc gọi điện tử vào tháng 2, sau khi vụ việc trên đã đặt ra câu hỏi liệu chúng có đếm nếu như chúng được coi như “nhân tạo” hay không - và FCC quyết định, khá hợp lý, rằng chúng đếm.