MediaTek folosește platforma Llama 2 de la Meta pentru a îmbunătăți inteligența artificială generativă

SGGPO 25.08.2023 10:37

MediaTek, o companie globală de semiconductori, a anunțat că lucrează îndeaproape cu Llama 2 de la Meta, modelul de limbaj mare (LLM) open source de generație următoare al companiei.

MediaTek își propune să construiască un ecosistem complet de Edge Computing

Folosind LLM-ul de la Meta, precum și cele mai recente APU-uri și platforma de inteligență artificială NeuroPilot de la MediaTek, MediaTek își propune să construiască un ecosistem complet de edge computing, conceput pentru a accelera dezvoltarea aplicațiilor de inteligență artificială pe smartphone-uri, IoT, vehicule, case inteligente și alte dispozitive de edge computing.

În prezent, cea mai mare parte a procesării AI generative se face prin cloud. Cu toate acestea, utilizarea modelelor Llama 2 de la MediaTek va permite aplicațiilor AI generative să ruleze direct pe dispozitiv.

Acest lucru oferă o serie de beneficii pentru dezvoltatori și utilizatori, inclusiv performanță fluidă, confidențialitate îmbunătățită, mai multă securitate și fiabilitate, latență mai mică, capacitate sporită de a lucra în zone cu conectivitate puțină sau deloc și costuri de operare mai mici.

Pentru a valorifica cu adevărat inteligența artificială generativă pe dispozitivele de edge computing, producătorii de dispozitive vor trebui să adopte procesoare AI de înaltă performanță, cu consum redus de energie, și conectivitate mai rapidă și mai fiabilă pentru a îmbunătăți capacitățile de calcul. Fiecare dintre cipurile mobile 5G MediaTek este echipat astăzi cu APU-uri concepute pentru a îndeplini o varietate de funcții de inteligență artificială generativă, cum ar fi reducerea zgomotului AI, îmbunătățirea rezoluției AI și multe altele.

În plus, procesorul emblematic de generație următoare de la MediaTek, așteptat să fie lansat la sfârșitul acestui an, va dispune de un pachet software optimizat pentru a rula Llama 2, împreună cu un APU îmbunătățit cu accelerare a nucleului Transformer, utilizare redusă a suprafeței DRAM și a lățimii de bandă și performanțe LLM și AIGC îmbunătățite suplimentar. Aceste progrese facilitează dezvoltarea rapidă a cazurilor de utilizare a inteligenței artificiale generative pe dispozitiv.

MediaTek se așteaptă ca aplicațiile de inteligență artificială bazate pe Llama 2 să fie disponibile pe smartphone-urile echipate cu SoC-ul său emblematic de generație următoare, care se așteaptă să apară pe piață la sfârșitul acestui an.

Sursă: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html