Qualcomm et Meta s'associent pour proposer Llama v2 LLM open source aux appareils mobiles

Qualcomm et Meta ont annoncé aujourd'hui un partenariat qui aidera le nouveau grand modèle de langage (LLM) Llama v2 de l'entreprise de médias sociaux préférée de tous à fonctionner sur les appareils mobiles. Alors que de nombreux LLM nécessitent des batteries de serveurs alimentées par des GPU NVIDIA extrêmement coûteux, Llama 2 a l'intention de fonctionner sur des puces Qualcomm pour téléphones et PC dès l'année prochaine. Meta affirme que Llama 2 peut être regroupé dans des applications plus petites pouvant fonctionner sur des téléphones tout en faisant à peu près la même chose que le chatbot ChatGPT, leader du marché.

Il est important de noter que Llama v2 est un effort open source de Meta. La sociétépubliéses « pondérations », l’ensemble de données qui aident à régir le fonctionnement d’un modèle d’IA. Il s'agit d'une stratégie radicalement différente par rapport à d'autres LLM notables comme Google Bard et GPT-4 d'OpenAI.

Les puces Qualcomm sont dotées d'une unité de processeur tensoriel (TPU) qui, selon la société, sera adaptée à l'exécution des calculs requis par les modèles d'IA. Entre les offres Llama v2 plus rationalisées de Meta et la volonté de Qualcomm de s'impliquer davantage dans leextrêmement chaudDans le secteur de l'IA, il est possible que NVIDIA soit confronté à une certaine concurrence si et quand Llama v2 sera disponible sur les appareils mobiles l'année prochaine. Cela pourrait également ouvrir la porte à de nombreuses entreprises qui attendaient des moyens plus abordables de mettre en œuvre des LLM au niveau de l’entreprise ou du consommateur.

Ghostbusters : Rise of the Ghost Lord se dirige vers Meta Quest cet automne.#GhostbustersVR #MétaQuête3 pic.twitter.com/kahFahcqE2

– Shacknews (@shacknews)1 juin 2023

Meta et Qualcomm ne sont pas étrangers à la collaboration, avec leCasques VR Quest VRtous fonctionnant sur des variantes de la gamme de puces Snapdragon.