Transformer
Définition
Architecture de réseau de neurones fondée sur le mécanisme d'attention, qui permet au modèle de comprendre les relations entre tous les mots d'un texte simultanément. Introduite en 2017, elle est devenue la base de tous les grands modèles de langage actuels comme GPT et Claude.
Quand tu écris un email, le Transformer comprend que « il » dans la phrase se rapporte à « Jean » mentionné trois lignes plus haut, pas à « Paul » de la dernière phrase.
C'est l'invention clé qui a rendu possibles ChatGPT et tous les IA modernes. Comprendre ce mot te permet de saisir pourquoi l'IA d'aujourd'hui fonctionne si différemment de celle d'hier.
Voir aussi
Articles qui en parlent
Granite 4.2 : comment IBM construit ses IA qui pensent
IBM sort trois modèles IA qui raisonnent vraiment, avec un interrupteur marche/arrêt et des outils intégrés.
Le Maroc prépare son grand tournant tech avant 2030
Le Maroc vise 3 000 startups en 2030 et mise sur l'IA pour transformer son économie avant le Mondial.
Pourquoi les agents IA ont soudain commencé à fonctionner
Ce n'est pas le modèle seul qui a changé à Noël 2025 : c'est le harnais qui l'entoure.
Arrête les interfaces en ligne de commande, construis de vraies interfaces graphiques
Les agents IA ont rendu ridiculement bon marché de coder une vraie interface graphique pour tes petits outils perso.
Exécuter du code suspect en sandbox : smolvm teste ses limites
smolvm isole du code hostile sans risque : VMs matérielles, zéro réseau, limites CPU/RAM, démarrages en 0.6 secondes.
Réparer 30 ans de jeux bugués automatiquement
Un outil détecte et bloque les états de blocage dans les vieux jeux Sierra en analysant leur code.