Deux Voies Innovantes en IA Générative: Google Gemini et Mistral 8x7B
Cette semaine, Google a fait le buzz dans le domaine de l’IA générative en annonçant son nouveau modèle, Gemini, qui peut jongler avec du texte, des images, de l’audio, du code et de la vidéo. Malheureusement, le battage médiatique s’est un peu égaré à cause d’une controverse autour de leur vidéo promo, apparemment sérieusement retouchée. Dommage, car Gemini semble être une bête impressionnante, surtout avec son modèle phare, Ultra, qui semble repousser les limites des tâches de raisonnement.
Pendant que tout le monde parlait de Gemini, Mistral a discrètement balancé un lien torrent vers une version de son modèle basé sur une architecture de Mixture of Experts (MoE). Mistral 8x7B, plus petit que son prédécesseur, Mistral 7B, pourrait devoir cette réduction de taille à des optimisations dans la réutilisation des couches d’attention. En gros, pour n’importe quelle tâche d’inférence de jeton, Mistral 8x7B utilise deux modèles. Certains le comparent déjà à un « GPT-4 en miniature. »
Les prochaines itérations de Gemini et Mistral 8x7B marquent des étapes importantes dans le développement des modèles de base, mais soulignent aussi la différence entre l’approche commerciale et léchée de Google et l’aspect plus bricolage et « hacker » de Mistral. Comme l’a dit George Hotz de manière percutante dans un tweet : « Google a sorti un communiqué de presse et une démo bidon. Mistral, lui, a balancé un torrent. »
Arlenis Ali
Image : “Deux regards” est créée avec l’intelligence artificielle générative, processus créatif ayant nécessité 13 prompts pour parvenir au résultat final. ©Arlenis Ali/HaYba Jumla
Dans la même rubrique :
•L’Évolution Stratégique d’AWS dans l’IA Générativehttps://m.facebook.com/story.php?story_fbid=907938297365573&id=100044482332232
HaYba Jumla Digital African Voice from Moron
