LLM.xyz

L'architecture Transformer a révolutionné l'IA en remplaçant la récurrence par l'attention. Le mécanisme d'attention est une matrice de similarités : chaque mot "regarde" tous les autres et calcule sa pertinence contextuelle. C'est une forme de démocratie computationnelle où chaque token vote pour déterminer le sens global.

Les embeddings sont la magie noire de l'IA moderne. Word2Vec, GloVe, BERT : tous projettent le langage dans des espaces vectoriels où les opérations arithmétiques ont un sens sémantique. "Paris" - "France" + "Italie" ≈ "Rome". Cette propriété n'est pas programmée : elle émerge spontanément de l'entraînement sur des milliards de phrases.

Le fine-tuning est une descente de gradient dans l'espace des paramètres. Un modèle pré-entraîné est un point dans un espace à plusieurs milliards de dimensions. L'adapter à une tâche spécifique, c'est le déplacer légèrement dans une direction qui minimise l'erreur. La métaphore géographique est littérale : on navigue dans un paysage de pertes (loss landscape).

LLM.xyz n'est pas un domaine web mais une coordonnée dans l'espace des possibles. X, Y, Z : trois axes qui définissent une position dans le cube de l'intelligence artificielle. X = capacité, Y = alignement, Z = accessibilité. Phant_m se positionne à l'intersection : maximiser les trois simultanément. Le point zéro n'est pas le début : c'est le centre depuis lequel tout rayonne.