A MediaTek a Meta Llama 2 platformját használja a generatív mesterséges intelligencia fejlesztésére

SGGPO 2023.08.25. 10:37

A MediaTek, egy globális félvezetőgyártó cég, bejelentette, hogy szorosan együttműködik a Meta Llama 2-jével, a vállalat következő generációs nyílt forráskódú nagy nyelvi modelljével (LLM).

A MediaTek egy teljes edge computing ökoszisztéma kiépítésére törekszik

A Meta LLM programját, valamint a MediaTek legújabb APU-it és a NeuroPilot mesterséges intelligencia platformját felhasználva a MediaTek egy teljes edge computing ökoszisztémát kíván kiépíteni, amelynek célja a mesterséges intelligencia alkalmazásfejlesztés felgyorsítása okostelefonokon, IoT-n, járművekben, okosotthonokban és más edge computing eszközökön.

Jelenleg a legtöbb generatív mesterséges intelligencia általi feldolgozás a felhőn keresztül történik. A MediaTek Llama 2 modelljeinek használata azonban lehetővé teszi a generatív mesterséges intelligencia alkalmazásai számára, hogy közvetlenül az eszközön fussanak.

Ez számos előnnyel jár a fejlesztők és a felhasználók számára, beleértve a zökkenőmentes teljesítményt, a fokozott adatvédelmet, a nagyobb biztonságot és megbízhatóságot, az alacsonyabb késleltetést, a kevés vagy semmilyen internetkapcsolattal nem rendelkező területeken való munkavégzés fokozott képességét, valamint az alacsonyabb üzemeltetési költségeket.

Ahhoz, hogy a generatív mesterséges intelligenciát valóban kiaknázhassák a peremhálózati eszközökön, a peremhálózati eszközgyártóknak csúcskategóriás, alacsony fogyasztású MI-processzorokat és gyorsabb, megbízhatóbb csatlakozást kell alkalmazniuk a számítási képességek növelése érdekében. A MediaTek 5G mobil chipjeinek mindegyike APU-kkal van felszerelve, amelyeket különféle generatív MI-funkciók végrehajtására terveztek, mint például a MI-zajcsökkentés, a MI-felbontás javítása és egyebek.

Ezenkívül a MediaTek következő generációs zászlóshajó processzora, amelyet várhatóan még idén bemutatnak, egy optimalizált szoftvercsomagot fog tartalmazni a Llama 2 futtatásához, valamint egy továbbfejlesztett APU-t Transformer maggyorsítással, csökkentett DRAM-területtel és sávszélesség-használattal, valamint továbbfejlesztett LLM és AIGC teljesítménnyel. Ezek a fejlesztések elősegítik az eszközökön belüli generatív mesterséges intelligencia használati esetek gyors fejlesztését.

A MediaTek arra számít, hogy a Llama 2-n alapuló mesterséges intelligencia alkalmazások elérhetőek lesznek a következő generációs zászlóshajó SoC-vel felszerelt okostelefonokon, amelyek várhatóan még idén megjelennek a piacon.

Forrás: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html