HarmonyFidelisHarmonyFidelis
Connexion
Aller au contenu
AURA
ComprendreConfigurerProgrammes publics
Comprendre

Premiers repères

ApprentissageInférence

Mécanismes

ReprésentationsContexte & mémoireArchitecturesDiffusion

Recherches avancées

Raisonnement & agentsModèles du mondeAGI & ASIÉvaluation

Chaque espace se visite librement. Les détails restent accessibles à tout moment.

Entrée Aura
AuraComprendre l’IAReprésentations

Du texte aux représentations

Comprendre pourquoi les mots deviennent des vecteurs, sans confondre vecteur et sens humain.

L’essentielExpérimenterApprofondir
Sources scientifiques

Comment cela fonctionne

Représentations

Une table d’embeddings associe un identifiant de token à un vecteur. Les couches suivantes transforment et combinent ces vecteurs avec le contexte. La représentation de « banque » peut donc dépendre des mots qui l’entourent et de l’objectif appris.

Vérifier ma compréhension

Avant de répondre, formulez votre explication.

Deux vecteurs proches représentent forcément la même idée dans toutes les tâches.

À retenir

La proximité entre vecteurs dépend de la représentation et de la métrique. Elle peut aider une recherche de documents sans prouver une équivalence de sens ni une compréhension humaine.

Approfondir
De la notion à l’usageMettre en pratique

Sources scientifiques

  • Vaswani et al. · 2017Attention Is All You NeedarXiv v7 · 2023
    Publication originale

Synthèse pédagogique des sources citées. Les résultats des publications restent liés à leurs tâches, protocoles et budgets.

Explorer aussiContexte & mémoireInférence

Rechercher Aura

18 résultats

ComprendreApprendre, puis utiliser un modèleDistinguer les paramètres appris des informations fournies au moment d’une demande.
ComprendreDu contexte au prochain tokenDistinguer les probabilités du modèle de la règle utilisée pour choisir une sortie.
ComprendreDu texte aux représentationsComprendre pourquoi les mots deviennent des vecteurs, sans confondre vecteur et sens humain.
ComprendreDe quelle mémoire parle-t-on ?Séparer contexte de travail, état récurrent, paramètres appris et stockage persistant.
ComprendreTransformers : comprendre l’attentionComparer architectures, méthodes d’apprentissage et systèmes complets au bon niveau.
ComprendreGénérer par débruitageSuivre la différence entre corruption pendant l’apprentissage et génération progressive.
ComprendreDu modèle au système qui agitComprendre le rôle du harnais autour d’un modèle et de ses outils.
ComprendrePrédire pour choisir une actionExplorer l’effet d’un horizon plus long et le risque d’un modèle inexact.
ComprendreDes définitions, pas un verdict uniqueExaminer la généralité, la performance et l’adaptation avant d’employer une étiquette.
ComprendreCe qu’un résultat permet de conclurePasser d’une impression convaincante à une comparaison reproductible.
ConfigurerPréparer un projet ChatGPTUn objectif clair, le bon contexte et des instructions que vous pouvez réellement utiliser.
ConfigurerChoisir pour votre tâcheCommencez par votre besoin. Comparez les accès et les résultats, sans classement universel des modèles.
ConfigurerRendre votre demande vérifiableTransformez une intention en objectif, contexte et critères de réussite.
ConfigurerDonner la bonne information au bon endroitDistinguez les règles de travail, les ressources de la tâche et la mémoire gérée par le produit.
ConfigurerPréparer un environnement de développementDéfinissez le rôle du modèle, les capacités du harnais et les accès réellement nécessaires.
ConfigurerComposer une procédure de développementOrganisez préparation, modification, vérification et restitution. Réutilisez les étapes qui vous aident.
ConfigurerPréparer une mission, puis vérifier le résultatUn exemple reproductible, une liste de contrôle et un compte rendu de vos observations.
Programmes publicsTentacularUsages, fonctions et ressources publiquement disponibles.