SGGPO
글로벌 반도체 회사인 미디어텍(MediaTek)은 자사의 차세대 오픈소스 대규모 언어 모델(LLM)인 Meta의 Llama 2와 긴밀히 협력하고 있다고 발표했습니다.
 |
| 미디어텍, 완벽한 엣지 컴퓨팅 생태계 구축 목표 |
MediaTek은 Meta의 LLM과 MediaTek의 최신 APU 및 NeuroPilot AI 플랫폼을 사용하여 스마트폰, IoT, 차량, 스마트 홈 및 기타 엣지 컴퓨팅 장치에서 AI 애플리케이션 개발을 가속화하도록 설계된 완벽한 엣지 컴퓨팅 생태계를 구축하는 것을 목표로 합니다.
현재 대부분의 생성 AI 처리는 클라우드를 통해 이루어집니다. 그러나 MediaTek의 Llama 2 모델을 사용하면 생성 AI 애플리케이션을 기기에서 직접 실행할 수 있습니다.
이를 통해 개발자와 사용자는 원활한 성능, 향상된 개인정보 보호, 보안 및 안정성 강화, 지연 시간 단축, 연결성이 거의 없거나 전혀 없는 지역에서도 작업 능력 향상, 운영 비용 절감 등 다양한 이점을 얻을 수 있습니다.
엣지 컴퓨팅 기기에서 생성적 AI를 진정으로 활용하려면 엣지 기기 제조업체는 고성능 저전력 AI 프로세서와 더 빠르고 안정적인 연결성을 도입하여 컴퓨팅 성능을 향상시켜야 합니다. 현재 MediaTek의 모든 5G 모바일 칩에는 AI 노이즈 감소, AI 해상도 향상 등 다양한 생성적 AI 기능을 수행하도록 설계된 APU가 탑재되어 있습니다.
또한, 올해 말 출시 예정인 미디어텍의 차세대 플래그십 프로세서는 Llama 2를 구동하도록 최적화된 소프트웨어 스택과 함께, 트랜스포머 코어 가속 기능을 갖춘 업그레이드된 APU, DRAM 공간 및 대역폭 사용량 감소, 그리고 더욱 향상된 LLM 및 AIGC 성능을 제공할 예정입니다. 이러한 발전은 온디바이스 생성 AI 활용 사례의 신속한 개발을 촉진합니다.
MediaTek은 Llama 2 기반 AI 애플리케이션이 올해 말에 출시될 예정인 차세대 플래그십 SoC가 장착된 스마트폰에서 사용 가능할 것으로 기대하고 있습니다.
[광고_2]
원천
댓글 (0)