Das Startup Qingcheng.AI und ein Entwicklungsteam unter der Leitung des Informatikprofessors Di Guidong an der Tsinghua-Universität (China) gaben kürzlich bekannt, dass sie das Chitu AI-Framework entwickelt haben, das laut der South China Morning Post vom 16. März die Abhängigkeit von Nvidia-Chips für die Inferenz von KI-Modellen verringern kann.
Nvidia-Logo auf einer Technologieausstellung in Spanien am 5. März.
Das KI-Framework ist eine Inferenzmaschine für große Sprachmodelle (LLM) und bietet Bibliotheken und Tools, die Entwicklern helfen, Modelle effizient zu entwerfen, zu trainieren und zu testen. Chitu ist ein Open-Source-Tool, das beliebte Modelle wie Metas Llama oder DeepSeek-R1 unterstützt. DeepSeek-R1 ist ein chinesisches KI-Modell, das in den letzten Monaten weltweit für Aufsehen sorgte, da ihm vergleichbare Fähigkeiten wie westlichen Modellen nachgesagt wurden, jedoch zu deutlich geringeren Kosten.
Im Test steigerte Chitu mit Nvidias A800-GPU die Inferenzgeschwindigkeit der leistungsstärksten Version von DeepSeek-R1 um 315 % und reduzierte gleichzeitig die GPU-Auslastung um 50 % im Vergleich zu anderen Open-Source-Frameworks, so die Unternehmensmitteilung. Das bedeutet, dass das Modell deutlich schneller Ergebnisse liefern kann, was Zeit und Rechenressourcen spart.
Die Entwicklung von Qingcheng.AI ist Teil der Bemühungen chinesischer KI-Unternehmen, ihre Abhängigkeit von Nvidias Hochleistungs-GPUs der nächsten Generation zu reduzieren, die Exportbeschränkungen unterliegen. Die US- Regierung hat Nvidia den Verkauf seiner Chips der Hopper-Serie H100 und H800 an Kunden in China verboten. Laut AIBase.com ermöglicht die Freigabe des Chitu-Quellcodes Entwicklern und Forschern in China hingegen die freie Nutzung, Modifikation und Optimierung des Tools und fördert so die Entwicklung und Verbesserung inländischer KI-Technologien.
China strebt nach Autarkie
Während Qingcheng.AI mit führenden inländischen GPU-Herstellern wie Moore Threads, Enflame und Iluvatar CoreX zusammenarbeitet, verstärken auch andere chinesische Technologieunternehmen ihre Bemühungen, ihre Abhängigkeit von ausländischer Technologie zu verringern und nutzen dabei die Erfahrungen von DeepSeek. Im Februar gab der Anbieter von Computerinfrastrukturplattformen, Infinigence AI, bekannt, dass er die Zusammenarbeit zwischen sieben führenden chinesischen KI-Chipherstellern fördern möchte: Biren Technology, Hygon Information Technology, Moore Threads, MetaX, Enflame, Iluvatar CoreX und Huawei Ascend.
China Daily zitierte am 7. März Liu Qingfeng, Mitglied des Nationalen Volkskongresses und Vorsitzender des KI-Unternehmens iFlytek, mit der Aussage, China müsse dringend LLM-Modelle auf Basis inländischer Chips erforschen und entwickeln, um ein starkes KI-Ökosystem aufzubauen, das eine nachhaltige und qualitativ hochwertige Entwicklung gewährleistet. Seiner Ansicht nach sei die Nichtentwicklung eines KI-Industrie-Ökosystems auf Basis inländischer Chips so, als würde man einen Turm auf fremdem Fundament bauen. Er sagte, abgesehen vom Spark-Modell von iFlytek würden alle öffentlich herunterladbaren LLMs derzeit auf Nvidia-Chips trainiert, was Chinas Defizite in der Chipentwicklung zeige.
Derzeit liefern sich viele große chinesische Technologieunternehmen wie Alibaba, Tencent, Baidu, ByteDance, iFlytek oder Huawei sowie Tausende weiterer Startups ein Wettrennen um die Entwicklung von KI-Modellen. Zuletzt kündigte Baidu am vergangenen Wochenende zwei Modelle an: Ernie 4.5 und X1, die mit Modellen von DeepSeek oder OpenAI konkurrieren sollen.
[Anzeige_2]
Quelle: https://thanhnien.vn/cong-ty-trung-quoc-tim-cach-giam-phu-thuoc-nvidia-185250317205207263.htm
Kommentar (0)