Dù Trung Quốc đẩy mạnh nội địa hóa chip AI, nhiều mô hình tiên tiến vẫn được huấn luyện trên chip Nvidia do chi phí và gánh nặng kỹ thuật khi rời hệ sinh thái CUDA. Các kỹ sư cho biết việc chuyển quy trình huấn luyện sang nền tảng Ascend của Huawei có thể đòi hỏi phải viết lại mã nguồn trên diện rộng, đồng thời làm tăng thời gian và chi phí lên ít nhất 50%. Báo cáo cũng chỉ ra rằng quá trình nội địa hóa đang diễn ra nhanh hơn ở khâu suy luận so với khâu huấn luyện.
Trung Quốc thúc đẩy tự chủ chip AI nhưng vẫn khó thoát khỏi Nvidia
Ngày 10/8, South China Morning Post (SCMP) đưa tin một báo cáo cho thấy nhiều mô hình trí tuệ nhân tạo (AI) tiên tiến nhất của Trung Quốc vẫn đang được huấn luyện trên chip Nvidia. Điều này cho thấy một nghịch lý trong nỗ lực tự chủ công nghệ bán dẫn của Trung Quốc: dù Bắc Kinh đang thúc đẩy các giải pháp chip nội địa, việc thay thế phần cứng Nvidia trong các hệ thống AI tiên tiến vẫn gặp nhiều trở ngại.
Vấn đề không chỉ nằm ở năng lực phần cứng. Các nhà phát triển AI Trung Quốc còn phải đối mặt với chi phí và gánh nặng kỹ thuật rất lớn khi chuyển đổi cơ sở hạ tầng huấn luyện sang các nền tảng trong nước. Trong đó, hệ sinh thái phần mềm được xem là một trong những rào cản lớn nhất.
CUDA trở thành “điểm khóa” trong quá trình chuyển đổi
CUDA của Nvidia từ lâu đã được thiết lập như một tiêu chuẩn quan trọng trong phát triển và huấn luyện AI. Nhiều quy trình, thư viện và mã nguồn phục vụ việc huấn luyện mô hình hiện được xây dựng xoay quanh hệ sinh thái này. Vì vậy, việc thay thế chip Nvidia không đơn thuần là đổi một loại phần cứng sang loại khác, mà còn kéo theo quá trình điều chỉnh phần mềm trên quy mô lớn.
Nền tảng thay thế của Huawei là CANN (Compute Architecture for Neural Networks). Tuy nhiên, mã CUDA không thể chạy trực tiếp trên chip Ascend của Huawei. Việc chuyển đổi đòi hỏi các nhà phát triển phải viết lại, tối ưu hóa và kiểm thử một lượng lớn mã nguồn để phù hợp với kiến trúc mới.
Một nguồn tin am hiểu tình hình ngành cho biết việc huấn luyện các mô hình ngôn ngữ lớn (LLM) trên chip Nvidia vẫn là điều phổ biến trong giới phát triển AI Trung Quốc.
James Wang, người phát triển các mô hình AI tại một viện nghiên cứu trực thuộc một trường đại học ở Thượng Hải, cho biết các quy trình huấn luyện hiện tại phụ thuộc đáng kể vào CUDA. “Mã CUDA không thể chạy trực tiếp trên Ascend mà cần phải viết lại rất nhiều”, ông nói. Theo Wang, việc chuyển các quy trình hiện có sang chip Ascend của Huawei có thể khiến thời gian và chi phí tăng thêm ít nhất 50%.
Con số này cho thấy rào cản đối với quá trình nội địa hóa AI không chỉ là câu chuyện về hiệu năng hay nguồn cung chip. Một hệ thống đã được tối ưu hóa trong thời gian dài cho Nvidia có thể tạo ra chi phí chuyển đổi đáng kể về nhân lực, phần mềm, thời gian thử nghiệm và hiệu suất vận hành.
Mức độ khó khăn phụ thuộc vào từng mô hình
Tuy nhiên, không phải mọi mô hình AI đều gặp cùng một mức độ khó khăn khi chuyển sang chip nội địa. Gánh nặng chuyển đổi phụ thuộc đáng kể vào kiến trúc mô hình cũng như mức độ công khai của mã nguồn.
Một kỹ sư tại Bắc Kinh từng tham gia chuyển đổi các hệ thống liên quan đến LLM sang Ascend cho biết các mô hình mã nguồn mở như DeepSeek và những mô hình đã qua chưng cất (distilled models) có thể tận dụng sự hỗ trợ từ hệ sinh thái hiện có.
Theo kỹ sư này, việc chuyển đổi đối với những mô hình như vậy vẫn khả thi nếu bổ sung thêm khoảng 2-3 kỹ sư làm việc trong khoảng một tháng so với các hệ thống sử dụng chip Nvidia.
Ngược lại, những mô hình không công khai mã nguồn mà chỉ phát hành trọng số sẽ khó chuyển đổi hơn đáng kể. Kỹ sư trên cho biết Kimi K3 của Moonshot AI là một ví dụ. Do Moonshot không công khai mã nguồn của mô hình mà chỉ phát hành trọng số (weights), quá trình chuyển đổi có thể cần khoảng 10 kỹ sư làm việc thêm hơn 6 tháng.
Sự khác biệt này cho thấy khả năng tiếp cận mã nguồn có ý nghĩa quan trọng đối với quá trình nội địa hóa. Với các mô hình mã nguồn mở, nhà phát triển có thể trực tiếp can thiệp vào mã, điều chỉnh các thành phần phụ thuộc vào CUDA và tối ưu hóa chúng cho nền tảng mới. Trong khi đó, khi chỉ có trọng số của mô hình, việc tái tạo hoặc điều chỉnh toàn bộ quy trình huấn luyện trở nên phức tạp hơn.
Nội địa hóa đang tiến nhanh hơn ở khâu suy luận
Những khó khăn nói trên cũng giúp giải thích vì sao quá trình nội địa hóa AI tại Trung Quốc đang diễn ra không đồng đều giữa hai giai đoạn chính của vòng đời một mô hình: huấn luyện (training) và suy luận (inference).
Huấn luyện là quá trình xây dựng và tối ưu mô hình, đòi hỏi lượng tài nguyên tính toán rất lớn và liên quan đến nhiều thành phần phần mềm, phần cứng. Đây cũng là công đoạn có mức độ phụ thuộc sâu vào hạ tầng đã được thiết lập từ trước.
Trong khi đó, suy luận là quá trình đưa mô hình đã được huấn luyện vào vận hành để xử lý yêu cầu của người dùng. Theo báo cáo, công đoạn này tương đối dễ chuyển đổi nền tảng hơn.
Vì vậy, xu hướng hiện nay cho thấy Trung Quốc đang đạt tiến triển nhanh hơn trong việc nội địa hóa hạ tầng phục vụ suy luận, trong khi việc thay thế Nvidia ở khâu huấn luyện các mô hình tiên tiến vẫn khó khăn hơn.
Theo báo cáo, DeepSeek-V4 và Kimi K3 của Moonshot đã được điều chỉnh thành công để vận hành trên nền tảng của Huawei và Alibaba Group Holding, tập đoàn sở hữu SCMP.
Điều này cho thấy việc đưa các mô hình AI vào vận hành trên phần cứng nội địa đã có những bước tiến đáng kể. Tuy nhiên, khả năng vận hành một mô hình trên chip nội địa không đồng nghĩa với việc toàn bộ quá trình phát triển và huấn luyện mô hình đó đã được nội địa hóa.
Đây là điểm cần phân biệt khi đánh giá mức độ tự chủ AI của Trung Quốc: một mô hình có thể được triển khai trên hạ tầng nội địa nhưng quá trình huấn luyện ban đầu vẫn có thể phụ thuộc vào chip Nvidia.
Chip dùng để huấn luyện vẫn là thông tin nhạy cảm
Một yếu tố khác khiến bức tranh về mức độ phụ thuộc vào Nvidia khó được xác định đầy đủ là việc các công ty AI Trung Quốc không công khai rộng rãi loại chip được sử dụng trong quá trình huấn luyện. Cả DeepSeek và Moonshot đều không tiết lộ loại chip AI đã được sử dụng để huấn luyện các mô hình của mình. Tuy nhiên, tháng 7, The Information của Mỹ đưa tin Kimi K3 được huấn luyện trên các dòng chip, trong đó có bộ xử lý Blackwell của Nvidia.
Thông tin này, nếu được đặt cạnh những nỗ lực chuyển đổi sang chip nội địa, cho thấy một thực tế đáng chú ý: các công ty AI Trung Quốc có thể đồng thời mở rộng sử dụng phần cứng trong nước cho một số nhiệm vụ, trong khi vẫn dựa vào Nvidia để huấn luyện những mô hình tiên tiến nhất. Nói cách khác, quá trình nội địa hóa không nhất thiết diễn ra theo cách thay thế hoàn toàn Nvidia trong một bước. Thay vào đó, các doanh nghiệp có thể đang hình thành một mô hình hạ tầng lai, trong đó chip nội địa được sử dụng ngày càng nhiều ở những khâu có khả năng chuyển đổi cao, còn Nvidia tiếp tục giữ vai trò quan trọng ở các quy trình huấn luyện phức tạp.
Trung Quốc vẫn có những trường hợp huấn luyện hoàn toàn bằng hạ tầng nội địa
Dù vậy, việc các công ty AI Trung Quốc vẫn phụ thuộc vào Nvidia không có nghĩa nỗ lực phát triển hệ sinh thái AI nội địa không đạt tiến triển. Một số doanh nghiệp đã bắt đầu chứng minh khả năng huấn luyện và vận hành mô hình trên hạ tầng trong nước. Tháng 6, khi công bố Longcat-2.0, mô hình sở hữu 1,6 nghìn tỷ tham số, Meituan cho biết đã hoàn tất cả quá trình huấn luyện lẫn vận hành mô hình trên một cụm máy tính nội địa gồm 50.000 đơn vị xử lý. Tuy nhiên, công ty không nêu tên nhà cung cấp cụ thể.
Trường hợp này cho thấy Trung Quốc đã có khả năng xây dựng những hệ thống AI quy mô lớn dựa trên hạ tầng nội địa. Tuy nhiên, việc thiếu thông tin về nhà cung cấp chip cũng khiến khó đánh giá cụ thể năng lực của từng nền tảng phần cứng.
Bài toán lớn hơn: thoát Nvidia không chỉ là thay chip
Nhìn rộng hơn, những khó khăn trong việc chuyển đổi từ Nvidia sang chip nội địa cho thấy thách thức của Trung Quốc nằm ở cả một hệ sinh thái, thay vì chỉ ở năng lực sản xuất chip. Nvidia không chỉ cung cấp bộ xử lý AI mà còn sở hữu một hệ sinh thái phần mềm đã được các nhà phát triển sử dụng trong thời gian dài. Vì vậy, khi một công ty AI chuyển sang nền tảng khác, họ phải giải quyết đồng thời bài toán phần cứng, phần mềm, nhân lực kỹ thuật và hiệu suất.
Đây cũng là lý do tốc độ nội địa hóa giữa training và inference có sự khác biệt. Việc triển khai mô hình đã được huấn luyện trên nền tảng mới có thể tương đối dễ dàng, trong khi thay đổi toàn bộ chuỗi công cụ phục vụ quá trình huấn luyện là một nhiệm vụ phức tạp hơn nhiều. Do đó, thách thức đối với Trung Quốc hiện không chỉ là sản xuất đủ chip AI trong nước, mà còn là xây dựng một hệ sinh thái phần mềm đủ trưởng thành để các nhà phát triển có thể chuyển đổi mà không phải chịu chi phí và thời gian quá lớn.
Ở góc độ này, sự phụ thuộc vào Nvidia có thể tiếp tục tồn tại ngay cả khi năng lực phần cứng nội địa của Trung Quốc được cải thiện. Chừng nào các mô hình tiên tiến vẫn được xây dựng, tối ưu hóa và huấn luyện xoay quanh hệ sinh thái CUDA, việc thay thế hoàn toàn Nvidia sẽ vẫn là một bài toán khó. Điều này một lần nữa cho thấy chìa khóa đối với khả năng tự chủ chip AI của Trung Quốc không chỉ nằm ở hiệu năng của bản thân con chip, mà còn ở chi phí và mức độ phức tạp khi chuyển đổi toàn bộ hệ sinh thái phát triển.
Chip nội địa đang ngày càng được ứng dụng rộng rãi hơn trong khâu suy luận, cho thấy năng lực thay thế Nvidia ở một số công đoạn đang được cải thiện. Tuy nhiên, ở khâu huấn luyện các mô hình AI tiên tiến, nơi hệ sinh thái CUDA của Nvidia đã trở thành nền tảng quan trọng, quá trình chuyển đổi vẫn đối mặt với những rào cản lớn về mã nguồn, nhân lực, thời gian và chi phí.
Vì vậy, trong cuộc đua AI, khả năng xây dựng một hệ sinh thái phát triển đủ mạnh để giảm chi phí chuyển đổi khỏi CUDA có thể trở thành yếu tố then chốt quyết định mức độ tự chủ và năng lực cạnh tranh của chip AI Trung Quốc trong tương lai.