Gemini Nano arrive dans Chrome : l'IA locale en 3 étapes

Pourquoi c'est un tournant

Jusqu'à maintenant, si tu voulais de l'IA dans ton application web, tu devais soit passer par une API externe (OpenAI, Anthropic), soit renoncer. Maintenant ? Le modèle se télécharge une fois, ensuite il tourne en local. Zéro latence réseau, zéro données qui quittent l'ordinateur de l'utilisateur.

Comment ça marche concrètement

Étape 1 : Vérifier la disponibilité

D'abord, tu vérifies si le modèle est prêt :

const availability = await LanguageModel.availability();

Si c'est "downloading", le navigateur télécharge Gemini Nano (une fois suffit).

Étape 2 : Créer une session

const session = await LanguageModel.create();

Tu peux ajuster le comportement avec temperature (créativité) et topK (diversité). Pour les extensions Chrome, ça devient vraiment flexible.

Étape 3 : Envoyer des prompts

const response = await session.prompt([
  { role: "user", content: "Résume cet article en 3 points" }
]);

Tu peux garder un historique, ajouter du contexte initial, et même utiliser un "prefix" pour guider le format de réponse — très utile si tu veux du JSON ou du TOML.

Les cas d'usage réalistes

• ▸Recherche IA sur une page : L'utilisateur pose une question sur le contenu qu'il lit. Zéro données envoyées ailleurs.
• ▸Fil personnalisé : Classe et filtre les articles selon les préférences, tout en local.
• ▸Extracteur intelligent : Récupère les informations de contact d'une page, crée un événement dans le calendrier. Les extensions Chrome vont adorer.

Les limites à connaître

Il faut des prérequis matériels : 22 Go de stockage, 16 Go de RAM ou un GPU avec 4 Go de VRAM. Pas de prise en charge mobile pour l'instant (Android et iOS). L'audio en entrée nécessite un GPU. Et le modèle peut grossir à chaque mise à jour de Chrome — tu peux vérifier sa taille réelle sur chrome://on-device-internals.

Le modèle accepte l'anglais, le japonais et l'espagnol nativement. D'autres langues arrivent.

Pour les devs

Si tu fais une extension Chrome, tu as accès à plus de contrôle : tu peux définir les paramètres du modèle, gérer les AbortSignals pour annuler une requête. Pour un site web classique, c'est plus limité mais ça suffit pour 90% des cas.