Startup chip Xcena huy động 135 triệu đô la với cược rằng nút thắt lớn nhất của AI không phải là tính toán mà là bộ nhớ

Startup sản xuất chip vừa huy động được 135 triệu đô la Mỹ dựa trên dự đoán nút thắt lớn nhất của AI không phải là khả năng tính toán mà là bộ nhớ

Mỗi khi bạn hỏi ChatGPT một câu hỏi, yêu cầu của bạn sẽ kích hoạt một cuộc đua tiếp sức dữ liệu. Thông tin rời khỏi bộ nhớ, đi qua CPU để tiền xử lý, di chuyển đến GPU để tính toán nặng và sau đó quay trở lại — và toàn bộ hành trình đó lặp lại cho mỗi từ mà AI tạo ra. Nút thắt nằm ở cấu trúc — nó có nghĩa là phải định tuyến qua một số chip đắt tiền và tiêu tốn nhiều điện năng nhất trong ngành trên mỗi yêu cầu. Sự kém hiệu quả đó chính xác là những gì XCENA, một startup có văn phòng tại Hàn Quốc và Hoa Kỳ, đang cố gắng giải quyết.

Startup bốn năm tuổi này đã thiết kế một chip đặt khả năng tính toán gần hơn nhiều với DRAM — chip nhớ ngắn hạn, tốc độ cao lưu trữ dữ liệu mà bộ xử lý đang tích cực sử dụng — cho phép các hoạt động dữ liệu thông thường được xử lý gần bộ nhớ, mà không cần các chuyến đi tốn kém giữa CPU, GPU và bộ nhớ. Nếu nó hoạt động ở quy mô lớn, những tác động đối với chi phí cơ sở hạ tầng AI có thể rất đáng kể, điều này phần lớn giải thích sự nhiệt tình của các nhà đầu tư trên cả nước. Thật vậy, XCENA vừa huy động được 135 triệu đô la Mỹ trong vòng Series B với mức định giá 570 triệu đô la Mỹ, nâng tổng số vốn huy động được lên 185 triệu đô la Mỹ.

Giám đốc điều hành XCENA Jin Kim đồng sáng lập startup vào năm 2022 cùng với Giám đốc công nghệ Dohun Kim và Giám đốc sản phẩm Harry Juhyun Kim, tất cả đều là những người kỳ cựu của Samsung và SK Hynix, những gã khổng lồ về bộ nhớ cung cấp chip cung cấp năng lượng cho GPU của Nvidia. “CPU và GPU đều trở nên thông minh hơn trong những thập kỷ qua. Bộ nhớ thì chưa bao giờ. XCENA muốn thay đổi điều đó,” Kim nói trong một cuộc phỏng vấn với TechCrunch. Ông nói thêm: “Sự gia tăng gần đây về giá bộ nhớ và các cổ phiếu liên quan cho thấy một sự thay đổi rộng lớn hơn trong cơ sở hạ tầng AI theo hướng kiến trúc tập trung vào bộ nhớ”. (Tháng này, ba công ty thống trị thị trường chip nhớ toàn cầu — Samsung, SK Hynix và Micron — mỗi công ty đều vượt qua mức định giá một nghìn tỷ đô la lần đầu tiên.)

XCENA đang đặt cược hoạt động kinh doanh của mình vào luận điểm rằng “suy luận không chỉ là một vấn đề tính toán; nó ngày càng trở thành một vấn đề về mở rộng quy mô bộ nhớ,” Kim nói. Chip MX1 của XCENA kết nối với CPU thông qua CXL (Compute Express Link) — về cơ bản là một làn đường tốc hành chuyên dụng giữa bộ xử lý và bộ nhớ — xử lý dữ liệu trước khi nó cần rời khỏi mô-đun bộ nhớ. Nó mang khả năng tính toán đến dữ liệu, chứ không phải ngược lại. Công ty tuyên bố rằng những gì trước đây cần 10 máy chủ có khả năng chạy trên chỉ một máy chủ.

“Trong khi GPU vượt trội trong phép nhân ma trận — phép toán nặng đằng sau việc đào tạo mô hình AI — thì phần lớn việc điều phối dữ liệu xung quanh, bao gồm tiền xử lý, quản lý bộ đệm KV [hệ thống lưu trữ ngữ cảnh cuộc trò chuyện trước đó để mô hình không phải xử lý lại] và bộ nhớ đệm dữ liệu, vẫn chạy trên CPU. Chip của chúng tôi xử lý những tác vụ đó trực tiếp trong chính mô-đun bộ nhớ,” Kim nói.

Nhu cầu về các giải pháp bộ nhớ đã tăng vọt kể từ nửa cuối năm ngoái và công ty tin rằng thời điểm này đang có lợi cho họ. Các cuộc trò chuyện với một số nhà cung cấp bộ nhớ toàn cầu đang ở giai đoạn đầu, mặc dù Kim từ chối nêu tên họ. Khách hàng lý tưởng của công ty là những hyperscaler chi hàng chục tỷ đô la mỗi năm cho cơ sở hạ tầng AI, nơi ngay cả một lợi ích nhỏ trong hiệu quả bộ nhớ có thể có nghĩa là tiết kiệm hàng trăm triệu đô la.

MX1 vẫn là một nguyên mẫu. Chip sản xuất hàng loạt dự kiến sẽ xuất xưởng từ dây chuyền đúc của Samsung vào cuối năm 2026, với việc công ty dự kiến sẽ tạo ra doanh thu bắt đầu từ năm 2027. Trong khi các nhà sản xuất đơn vị xử lý thần kinh (NPU) đang cạnh tranh để thách thức Nvidia về khối lượng công việc đào tạo, thì XCENA đang nhắm mục tiêu vào lớp chuyên sâu về bộ nhớ nằm bên dưới tất cả.

Các đối thủ gần nhất của XCENA bao gồm Astera Labs và Marvell, cả hai đều là các công ty niêm yết trên Nasdaq đang làm việc về khả năng kết nối bộ nhớ thế hệ tiếp theo. Marvell là một công ty lớn, đã thành lập và đang làm việc trong cùng lĩnh vực, Kim nói, đồng thời nói thêm rằng sự khác biệt nằm ở sở hữu trí tuệ. “Chúng tôi có hàng nghìn lõi,” Kim nói. Dựa trên thông số kỹ thuật công khai, cách tiếp cận của Marvell dựa trên một số ít lõi đa năng để so sánh. Những lõi này được xây dựng trên RISC-V — một bản thiết kế chip nguồn mở — và được tối ưu hóa đặc biệt để xử lý dữ liệu, với mỗi lõi được giữ nhỏ và hiệu quả một cách có chủ ý. Ngoài các lõi, XCENA còn thiết kế hệ thống phân cấp bộ nhớ nội bộ, bus kết nối và bộ điều khiển DRAM của riêng mình — một mức độ tích hợp dọc mà hầu hết các công ty sản xuất chip, bao gồm cả các đối thủ lớn hơn, thường thuê ngoài.

Các công ty đầu tư mạo hiểm có trụ sở tại Seoul Altinum và IMM Investment đồng dẫn đầu vòng Series B, cùng với Corstone Asia và các nhà đầu tư hiện tại SBI Investment và Mirae Asset Capital. Công ty, có hơn 90 nhân viên trên khắp các văn phòng ở Pangyo, một trung tâm công nghệ bên ngoài Seoul và ở Sunnyvale, cũng đang đàm phán với các nhà đầu tư quốc tế về nguồn vốn bổ sung.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến sự độc lập biên tập của chúng tôi. Kate Park là phóng viên của TechCrunch, tập trung vào công nghệ, startup và đầu tư mạo hiểm ở Châu Á. Trước đây cô là nhà báo tài chính tại Mergermarket chuyên về M&A, vốn cổ phần tư nhân và