Společnost MediaTek využívá platformu Llama 2 od společnosti Meta k vylepšení generativní umělé inteligence

SGGPO 25. 8. 2023 10:37

Společnost MediaTek, globální polovodičová společnost, oznámila úzkou spolupráci s Llama 2 od společnosti Meta, což je její nový generační open source model velkých programovacích jazyků (LLM).

Společnost MediaTek si klade za cíl vybudovat kompletní ekosystém edge computingu

Společnost MediaTek si s využitím LLM od společnosti Meta a nejnovějších APU a platformy NeuroPilot pro umělou inteligenci klade za cíl vybudovat kompletní ekosystém edge computingu, který urychlí vývoj aplikací umělé inteligence napříč chytrými telefony, internetem věcí, vozidly, chytrými domy a dalšími zařízeními edge computingu.

V současné době se většina zpracování generativní umělé inteligence provádí v cloudu. Použití modelů Llama 2 od společnosti MediaTek však umožní spouštění aplikací generativní umělé inteligence přímo na zařízení.

To nabízí řadu výhod pro vývojáře i uživatele, včetně plynulého výkonu, vylepšeného soukromí, většího zabezpečení a spolehlivosti, nižší latence, zvýšené schopnosti pracovat v oblastech s malým nebo žádným připojením a nižších provozních nákladů.

Aby výrobci těchto zařízení skutečně mohli využít generativní umělou inteligenci na edge computingových zařízeních, budou muset zavést špičkové procesory umělé inteligence s nízkou spotřebou energie a rychlejší a spolehlivější připojení, aby se zvýšily výpočetní schopnosti. Každý z mobilních 5G čipů od společnosti MediaTek je dnes vybaven APU navrženými pro provádění řady generativních funkcí umělé inteligence, jako je redukce šumu umělé inteligence, vylepšení rozlišení umělé inteligence a další.

Vlajková loď procesorů MediaTek nové generace, jejíž uvedení se očekává koncem tohoto roku, bude navíc disponovat optimalizovaným softwarovým balíčkem pro spuštění Llama 2 spolu s vylepšeným APU s akcelerací jádra Transformer, sníženou plochou DRAM a využitím šířky pásma a dále vylepšeným výkonem LLM a AIGC. Tato vylepšení usnadňují rychlý vývoj generativních případů použití umělé inteligence přímo na zařízeních.

Společnost MediaTek očekává, že aplikace umělé inteligence založené na platformě Llama 2 budou dostupné na chytrých telefonech vybavených jejím vlajkovým SoC nové generace, které by se měly na trh dostat koncem tohoto roku.

Zdroj: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html