Sémantique vectorielle
Un article de Wikipédia, l'encyclopédie libre.
 |
Cet article est une ébauche à compléter concernant l'informatique, vous pouvez partager vos connaissances en le modifiant. |
La sémantique vectorielle est une technique de représentation de la sémantique d'un document. Elle est utilisée en Intelligence artificielle, notamment pour la recherche documentaire, la classification ou le filtrage de données textuelles. Le premier exemple d'emploi de ce modèle est le système SMART.
Sommaire |
[modifier] Problématique
La sémantique vectorielle répond au problème de la représentation mathématique du contexte d'un document.
On commence par choisir un ensemble de termes d'indexation (typiquement des mots porteurs de sens sémantique: noms communs, noms propres, adjectifs; éventuellement des constructions plus élaborées comme des expressions ou des entités sémantiques) qui constituera le vocabulaire. À chaque élément du vocabulaire est associé un index unique arbitraire.
À chaque échantillon de texte, on associe ensuite un vecteur v, dont la dimension correspond à la taille du vocabulaire. Chaque élément vi du vecteur v consiste en un poids associé au terme d'indice i et à l'échantillon de texte (par exemple, on pourrait simplement identifier vi au nombre d'occurrences du terme i dans l'échantillon de texte).
[modifier] Applications
Étant donnée une représentation vectorielle d'un corps de documents, on peut introduire une notion d'espace vectoriel sur l'espace des documents en langage naturel. On en arrive à la notion mathématique de proximité entre documents.
En introduisant des mesures de similarité adaptées, on peut quantifier la proximité sémantique entre différents documents. Les mesures de similarité sont choisies en fonction de l'application (une mesure très utilisée est la similarité cosinus, qui consiste simplement à quantifier la similarité entre deux documents en calculant le cosinus entre leurs vecteurs. Noter que cette mesure n'est pas sensible à la norme des vecteurs, donc insensible à la longueur des documents).
Parmi les applications concrètes, citons
- la catégorisation : regrouper automatiquement des documents dans des catégories pré-définies
- la classification : étant donné un ensemble de documents, détermiser automatiquement les catégories qui permettront de séparer les documents de la meilleure façon possible
- la recherche documentaire : trouver les documents qui répondent le mieux à une requête (ce que fait un moteur de recherche) ; la requête de l'utilisateur est considérée comme un document, traduite en vecteur, et comparée aux vecteurs contenus dans le corpus des documents indexés.
- Le filtrage : classer à la volée des documents dans des catégories pré-définies (par exemple, identifier un spam sur la base d'un nombre suspect d'occurrence du mot "pénis" dans un mail et l'envoyer automatiquement à la corbeille).
[modifier] Exemples de pondérations
- Nombre d'occurrences (TF, term frequency); normalisé par la longueur du document (i.e. somme des occurrences de tous les termes) ou non
- Fréquence inverse (IDF, inverse document frequency): logarithme du nombre total de documents |D| divisé par le nombre de documents dj qui contiennent le terme ti :
Cette mesure permet de quantifier l'importance d'un terme dans une collection de documents
- TF-IDF = TF * IDF: combinaison des deux mesures précédentes
[modifier] Voir aussi
- Sémantique distributionelle
