MediaTek運用Meta Llama 2大語言模型，賦能終端設備生成式AI應用

(資料圖片僅供參考)

2023 年 8 月 24 日 – MediaTek今日宣布利用Meta新一代開源大語言模型（LLM）Llama 2 以及MediaTek先進的AI處理器（APU）和完整的AI開發平臺（NeuroPilot），建立完整的終端側AI計算生態，加速智能手機、物聯網、汽車、智能家居和其他邊緣設備的AI應用開發，為終端設備提供更安全、可靠和差異化的使用體驗。預計年末采用 MediaTek 新一代天璣旗艦移動芯片的智能手機支持由Llama 2模型開發的AI應用，可為用戶帶來振奮人心的生成式AI應用體驗。

MediaTek 資深副總經理暨無線通信事業部總經理徐敬全博士表示：“生成式AI的日益普及是數字化轉型的重要趨勢之一，我們的愿景是為Llama 2的開發者和終端用戶提供工具，帶來更多令人興奮的AI創新機遇和產品體驗。通過與Meta的伙伴關系，MediaTek可提供更強大的硬件和軟件整體解決方案，為終端設備帶來遠超以往的功能和體驗。”

目前，大多數生成式AI都依賴云計算，MediaTek基于Llama 2模型成功實現直接在終端設備上運行生成式AI應用。這將為開發者和用戶提供獨特優勢，包括無縫的使用體驗，更強的用戶信息安全和可靠性，更低延遲，離線運算的能力以及更低的運營成本，讓每個人都能享受到生成式AI帶來的便捷與創新。

要在終端設備上充分釋放生成式AI的潛力，設備制造商需采用高算力、低功耗的AI處理器（APU），并通過更快、更可靠的網絡連接來增強設備的整體算力。如今，每一顆MediaTek 5G智能手機SoC均搭載AI處理器，已廣泛執行生成式AI應用成功案例，例如 AI 降噪（AI-NR）、AI 超級分辨率（AI-SR）以及AI運動補償（AI-MEMC）等。

MediaTek將于年末推出新一代旗艦移動芯片，將采用針對Llama 2模型而優化的軟件棧（NeuroPilot），與搭配支持Transformer模型做骨干網絡加速的升級版AI處理器（APU），可減少動態隨機存取內存（DRAM）的讀寫消耗和帶寬占用，進一步強化大語言模型和生成式AI應用的性能，助力開發者打造令人驚艷的AI應用，加速終端設備AI應用落地發展。

關鍵詞：