Hailo huy động 120 triệu USD để tiếp tục chống lại Nvidia khi hầu hết các startup chip AI đều gặp khó khăn

Vùng đất tài trợ cho các startup chip AI, trước đây lắm như một ngày giữa tháng 7, bắt đầu bắt đầu âm u khi Nvidia khẳng định sự thống trị của mình.

Theo báo cáo mới đây, các công ty chip Mỹ chỉ huy đúng 881 triệu USD từ tháng 1 năm 2023 đến tháng 9 năm 2023 - giảm từ 1,79 tỷ USD trong ba quý đầu năm 2022. Công ty chip AI Mythic đã hết tiền vào năm 2022 và suýt phải tạm dừng hoạt động, trong khi Graphcore, một đối thủ từng được vốn mạnh mẽ, hiện đang đối diện với sự mất dần vốn.

Nhưng một startup dường như đã tìm thấy thành công trong lĩnh vực cạnh tranh cực kỳ khốc liệt - và ngày càng đông đảo hơn - của chip AI.

Hailo, được thành lập vào năm 2017 bởi Orr Danon và Avi Baum, người từng là CTO cho kết nối không dây tại Texas Instruments, thiết kế chip chuyên dụng để chạy AI trên thiết bị cạnh. Các chip của Hailo thực hiện các nhiệm vụ AI với việc sử dụng bộ nhớ và tiêu thụ năng lượng thấp hơn so với một bộ xử lý thông thường, khiến chúng trở thành ứng cử viên mạnh mẽ cho các thiết bị nhỏ, ngoại tuyến và sử dụng pin như ô tô, camera thông minh và robot.

"Tôi đã thành lập Hailo với nhiệm vụ làm cho AI hiệu suất cao trở nên dễ dàng được sử dụng ngoài phạm vi của các trung tâm dữ liệu," Danon nói với TechCrunch. "Bộ xử lý của chúng tôi được sử dụng cho các nhiệm vụ như phát hiện đối tượng, phân đoạn ngữ nghĩa và còn nữa, cũng như để tăng cường hình ảnh và video dựa trên AI. Gần đây hơn, chúng đã được sử dụng để chạy các mô hình ngôn ngữ lớn (LLM) trên thiết bị cạnh bao gồm máy tính cá nhân, đơn vị điều khiển điện tử cho hệ thống giải trí và nhiều hơn nữa."

Nhiều startup chip AI vẫn chưa ký được một hợp đồng lớn, chưa kể đến hàng trăm. Nhưng Hailo đã có hơn 300 khách hàng ngày nay, Danon khẳng định, trong các ngành như ô tô, an ninh, bán lẻ, tự động hóa công nghiệp, thiết bị y tế và quốc phòng.

Đặt cược vào triển vọng tương lai của Hailo, một nhóm các nhà đầu tư tài chính, bao gồm doanh nhân người Israel Alfred Akirov, nhà nhập khẩu ô tô Delek Motors và nền tảng VC OurCrowd đã đầu tư 120 triệu USD vào Hailo trong tuần này, mở rộng Series C của công ty. Danon nói rằng vốn mới sẽ "cho phép Hailo tận dụng tất cả các cơ hội trong chuỗi sản xuất" trong khi "tạo ra cơ sở cho sự tăng trưởng dài hạn."

"Chúng tôi được định vị chiến lược để mang AI đến các thiết bị cạnh một cách sẽ mở rộng và tác động của công nghệ mới đáng kinh ngạc này," Danon nói.

Bây giờ, bạn có thể đang tự hỏi, liệu một startup như Hailo có thực sự có cơ hội đứng chống lại những ông lớn chip như Nvidia, và ít hơn thì Arm, Intel và AMD? Một chuyên gia, Giáo sư Kỹ thuật Điện tử và Khoa học Máy tính tại Stanford, Christos Kozyrakis, tin rằng vậy - ông tin rằng các chip tăng tốc như của Hailo sẽ trở nên "vô cùng cần thiết" khi AI ngày càng phổ biến.

"Khoảng cách hiệu suất năng lượng giữa CPU và các chip tăng tốc quá lớn để bỏ qua," Kozyrakis nói với TechCrunch. "Bạn sử dụng các chip tăng tốc cho hiệu quả với các nhiệm vụ quan trọng (ví dụ AI) và có một hoặc hai bộ xử lý bên cạnh cho tính cơ động."

Kozyrakis nhìn thấy sự lâu dài đang đặt ra thách thức cho lãnh đạo của Hailo - ví dụ, nếu kiến trúc mô hình AI mà các chip của họ được thiết kế để chạy một cách hiệu quả bắt đầu không phổ biến. Hỗ trợ phần mềm cũng có thể là một vấn đề, Kozyrakis nói, nếu không có một lượng lớn các nhà phát triển sẵn lòng học cách sử dụng công cụ được xây dựng xung quanh các chip của Hailo.

"Hầu hết các thách thức liên quan đến chip tùy chỉnh đều ở hệ sinh thái phần mềm," Kozyrakis nói. "Đây là nơi mà Nvidia, ví dụ, có lợi thế lớn so với các công ty khác trong lĩnh vực AI, khi họ đã đầu tư vào phần mềm cho các cấu trúc của họ trong hơn 15 năm."

Nhưng, với 340 triệu USD trong tài khoản và một đội ngũ là khoảng 250 người, Danon cảm thấy tự tin về đường đi của Hailo vào tương lai - ít nhất là trong tương lai ngắn hạn. Anh ta nhìn thấy công nghệ của startup giải quyết nhiều thách thức mà các công ty gặp phải với suy luận AI dựa trên đám mây, đặc biệt là độ trễ, chi phí và tính mở rộng.

"Các mô hình AI truyền thống dựa vào cơ sở hạ tầng đám mây, thường gặp vấn đề trễ và các thách thức khác," Danon nói. "Chúng không thể cung cấp thông tin và cảnh báo thời gian thực, và sự phụ thuộc vào mạng lưới đe dọa tính đáng tin cậy và tích hợp với đám mây, đặt ra lo ngại về quyền riêng tư dữ liệu. Hailo đang giải quyết những thách thức này bằng cách cung cấp các giải pháp hoạt động độc lập khỏi đám mây, do đó làm cho chúng có thể xử lý lượng xử lý AI lớn hơn rất nhiều."

Tò mò về quan điểm của Danon, tôi hỏi về AI sinh sáng và sự phụ thuộc nặng nề vào đám mây và trung tâm dữ liệu từ xa. Chắc chắn, Hailo thấy mô hình từ trên xuống, tập trung vào đám mây hiện tại (ví dụ phương pháp hoạt động của OpenAI) là một mối đe dọa tồn tại?

Danon nói rằng, ngược lại, AI sinh sáng đang tạo ra nhu cầu mới cho phần cứng của Hailo.

"Trong những năm gần đây, chúng tôi đã thấy một sự bùng nổ trong yêu cầu ứng dụng AI cạnh trong hầu hết các ngành từ an ninh sân bay đến đóng gói thực phẩm," anh nói. "Sự tăng mạnh mới trong AI sinh sáng đang thúc đẩy nhu cầu này, vì chúng tôi nhận thấy yêu cầu xử lý LLMs cục bộ từ khách hàng không chỉ trong ngành công nghiệp sản xuất và ô tô, mà còn trong tự động hóa công nghiệp, an ninh và các lĩnh vực khác."

Vậy thì.