GreenNode vereinfacht die Entwicklung von KI-Technologie für asiatische Startups
Việt Nam•17/10/2024
Auf der Veranstaltung Big Data & AI World, die vom 9. bis 10. Oktober in Singapur stattfand, demonstrierte GreenNode eine Reihe von Technologielösungen speziell für den KI-Modellentwicklungsprozess sowie den Schutz von KI-Modelldatensätzen bei der Bereitstellung auf Mobilgeräten.
GreenNode,die AI Cloud-Geschäftseinheit vonVNG Digital Business, ist ein bevorzugter Partner von NVIDIA und spezialisiert sich auf die Bereitstellung von KI-Infrastruktur und fortschrittlichen KI-Lösungen, um die weltweite Nachfrage nach KI-Anwendungen zu decken.Die von GreenNode für Big Data & AI World bereitgestellten Lösungen reichen von der Infrastruktur bis zur Plattform und ermöglichen Vereinfachungen und Kosteneinsparungen beim Training von KI-Modellen.Stand von GreenNode auf der Big Data & AI World-Veranstaltung
Derzeit gelten die Investitionskosten für das Training von KI-Modellen als recht hoch.Beispielsweise betragen die Kosten für das GPT-3 LM-Modell rund 4,3 Millionen US-Dollar, während die Kosten für GPT-4 bis zu 78,3 Millionen US-Dollar betragen. GreenNode hat dieses Problem gelöst, indem es viele GPU-Typen anbietet, von einfachen Modellen wie L40S, A40 und RTX4090 bis hin zu fortschrittlichen Modellen wie der H100, zusammen mit einem innovativen GPU-Partitionierungsmodell. Dies hilft KI-Entwicklern, die Trainingskosten für langfristige Projekte zu optimieren.
Diese Optimierung der Ressourcenkosten wird asiatischen Unternehmen laut Vu Thanh Tung, Leiter der KI-Cloud bei GreenNode, dabei helfen, ihre Entwicklung zu beschleunigen, eigene KI-Modelle zu erstellen und die rasante Verbreitung der KI-Technologie in der Region zu fördern.Auf der Veranstaltung analysierten Vertreter von GreenNode zudem die Vor- und Nachteile einer lokalen Infrastruktur und ermutigten Unternehmen, Dienste globaler Anbieter zu nutzen oder das Know-how von NCPs (Dienstleistern der NVIDIA KI-Cloud) zu nutzen. „Anstatt Millionen von Dollar in komplexe Infrastrukturen zu investieren oder Hunderttausende von Dollar für Schulungsdienstleistungen auszugeben, können Startups mit Kosten von nur 3,89 USD pro Stunde schnell in die Modellentwicklung einsteigen“, so Tung.Mit seiner Erfahrung in der Entwicklung groß angelegter Produkte auf Cloud-Computing-Plattformen vereinfacht das GreenNode-Team zudem die Schulung von KI-Entwicklern durch die Bereitstellung der GreenNode KI-Plattform – einer Cloud-Trainingsplattform, die in wenigen einfachen Schritten eine flexible Trainingsumgebung erstellt. Diese Plattform ist ingängige Machine-Learning-Frameworks wie TensorFlow, PyTorch und Kubernetes integriert und vereinfacht so die Bereitstellung und Skalierung von Trainings-Workloads.Darüber hinaus stellte GreenNode im Rahmen der Veranstaltung zahlreicheselbst entwickelte Plattformen und Anwendungen zur Absicherung des Trainingsprozesses von KI-Startups vor, darunter LLMs, eKYC, OCR, Computer Vision, Chatbotsoder in mobile Anwendungen integrierte KI-Modellschutzlösungen. GreenNodes Ziel ist es, ein umfassender Anbieter von KI-Entwicklungslösungen im asiatisch -pazifischen Raum zu werden.Die Big Data & AI World ist eine Veranstaltung im Rahmen der Tech Week Singapore, die zahlreiche Startups und führende Technologieunternehmen weltweit zusammenbringt, darunter Google, Microsoft, NVIDIA, VAST Data usw.
Kommentar (0)