Academic literature on the topic 'Modélisation de copules'

Ce travail de thése a pour objectif de s’intéresser à une classe de modèles hiérarchiques bayesiens, appelés topic models, servant à modéliser de grands corpus de documents et ceci en particulier dans le cas où ces documents arrivent séquentiellement. Pour cela, nous introduisons au Chapitre 3, trois nouveaux modèles prenant en compte les dépendances entre les thèmes relatifs à chaque document pour deux documents successifs. Le premier modèle s’avère être une généralisation directe du modèle LDA (Latent Dirichlet Allocation). On utilise une loi de Dirichlet pour prendre en compte l’influence sur un document des paramètres relatifs aux thèmes sous jacents du document précédent. Le deuxième modèle utilise les copules, outil générique servant à modéliser les dépendances entre variables aléatoires. La famille de copules utilisée est la famille des copules Archimédiens et plus précisément la famille des copules de Franck qui vérifient de bonnes propriétés (symétrie, associativité) et qui sont donc adaptés à la modélisation de variables échangeables. Enfin le dernier modèle est une extension non paramétrique du deuxième. On intègre cette fois ci lescopules dans la construction stick-breaking des Processus de Dirichlet Hiérarchique (HDP). Nos expériences numériques, réalisées sur cinq collections standard, mettent en évidence les performances de notre approche, par rapport aux approches existantes dans la littérature comme les dynamic topic models, le temporal LDA et les Evolving Hierarchical Processes, et ceci à la fois sur le plan de la perplexité et en terme de performances lorsqu’on cherche à détecter des thèmes similaires dans des flux de documents. Notre approche, comparée aux autres, se révèle être capable de modéliser un plus grand nombre de situations allant d’une dépendance forte entre les documents à une totale indépendance. Par ailleurs, l’hypothèse d’échangeabilité sous jacente à tous les topics models du type du LDA amène souvent à estimer des thèmes différents pour des mots relevant pourtant du même segment de phrase ce qui n’est pas cohérent. Dans le Chapitre 4, nous introduisons le copulaLDA (copLDA), qui généralise le LDA en intégrant la structure du texte dans le modèle of the text et de relaxer l’hypothèse d’indépendance conditionnelle. Pour cela, nous supposons que les groupes de mots dans un texte sont reliés thématiquement entre eux. Nous modélisons cette dépendance avec les copules. Nous montrons de manièreempirique l’efficacité du modèle copLDA pour effectuer à la fois des tâches de natureintrinsèque et extrinsèque sur différents corpus accessibles publiquement. Pour compléter le modèle précédent (copLDA), le chapitre 5 présente un modèle de type LDA qui génére des segments dont les thèmes sont cohérents à l’intérieur de chaque document en faisant de manière simultanée la segmentation des documents et l’affectation des thèmes à chaque mot. La cohérence entre les différents thèmes internes à chaque groupe de mots est assurée grâce aux copules qui relient les thèmes entre eux. De plus ce modèle s’appuie tout à la fois sur des distributions spécifiques pour les thèmes reliés à chaque document et à chaque groupe de mots, ceci permettant de capturer les différents degrés de granularité. Nous montrons que le modèle proposé généralise naturellement plusieurs modèles de type LDA qui ont été introduits pour des tâches similaires. Par ailleurs nos expériences, effectuées sur six bases de données différentes mettent en évidence les performances de notre modèle mesurée de différentes manières : à l’aide de la perplexité, de la Pointwise Mutual Information Normalisée, qui capture la cohérence entre les thèmes et la mesure Micro F1 measure utilisée en classification de texte<br>This thesis focuses on scaling latent topic models for big data collections, especiallywhen document streams. Although the main goal of probabilistic modeling is to find word topics, an equally interesting objective is to examine topic evolutions and transitions. To accomplish this task, we propose in Chapter 3, three new models for modeling topic and word-topic dependencies between consecutive documents in document streams. The first model is a direct extension of Latent Dirichlet Allocation model (LDA) and makes use of a Dirichlet distribution to balance the influence of the LDA prior parameters with respect to topic and word-topic distributions of the previous document. The second extension makes use of copulas, which constitute a generic tool to model dependencies between random variables. We rely here on Archimedean copulas, and more precisely on Franck copula, as they are symmetric and associative and are thus appropriate for exchangeable random variables. Lastly, the third model is a non-parametric extension of the second one through the integration of copulas in the stick-breaking construction of Hierarchical Dirichlet Processes (HDP). Our experiments, conducted on five standard collections that have been used in several studies on topic modeling, show that our proposals outperform previous ones, as dynamic topic models, temporal LDA and the Evolving Hierarchical Processes,both in terms of perplexity and for tracking similar topics in document streams. Compared to previous proposals, our models have extra flexibility and can adapt to situations where there are no dependencies between the documents.On the other hand, the "Exchangeability" assumption in topic models like LDA oftenresults in inferring inconsistent topics for the words of text spans like noun-phrases, which are usually expected to be topically coherent. In Chapter 4, we propose copulaLDA (copLDA), that extends LDA by integrating part of the text structure to the model and relaxes the conditional independence assumption between the word-specific latent topics given the per-document topic distributions. To this end, we assume that the words of text spans like noun-phrases are topically bound and we model this dependence with copulas. We demonstrate empirically the effectiveness of copLDA on both intrinsic and extrinsic evaluation tasks on several publicly available corpora. To complete the previous model (copLDA), Chapter 5 presents an LDA-based model that generates topically coherent segments within documents by jointly segmenting documents and assigning topics to their words. The coherence between topics is ensured through a copula, binding the topics associated to the words of a segment. In addition, this model relies on both document and segment specific topic distributions so as to capture fine-grained differences in topic assignments. We show that the proposed model naturally encompasses other state-of-the-art LDA-based models designed for similar tasks. Furthermore, our experiments, conducted on six different publicly available datasets, show the effectiveness of our model in terms of perplexity, Normalized Pointwise Mutual Information, which captures the coherence between the generated topics, and the Micro F1 measure for text classification

Cette thèse s'organise en deux grandes parties. La première partie porte sur le système d'aide à la conduite ACC. Nous étudions les stratégies de conduite et confirmons une hypothèse de F. Saad dans le premier chapitre. Le second chapitre aborde les automates cellulaires. Le troisième chapitre propose la validation d'une hypothèse dans le domaine de la psychologie de la conduite par l'utilisation de la modélisation markovienne. Le dernier chapitre porte sur la modélisation markovienne avec exogènes. Nous comparons avec une modélisation classique. Un cadre théorique est présente. L'étude d'outils pour l'évaluation d'un système d'aide à la conduite par le biais d'une comparaison avec/sans et cela sur des données réelles non contrôlées est central. Ceci nous a amené à considérer la notion de scène pouvant se définir comme la modification de la dépendance entre plusieurs indicateurs. L’objet central dans la dépendance est la copule, cœur de la seconde partie. Le premier chapitre est un état de l'art, évoque les mesures de dépendance et la fonction de linkage. Le second chapitre aborde une mesure de dépendance multivariée. Nous démontrons une formule de décomposition de l'information mutuelle. Le troisième expose une extension du modèle de cox au cas bivarié s'appuyant sur les copules de valeurs extrêmes. Des résultats d'approximation et de convergence sont prouvés. Pour conclure, une application est présentée sur les données du système lavia (limiteur de vitesse s'adaptant à la vitesse autorisée). Le quatrième chapitre porte l'estimation de la fonction de dépendance d'une copule bivariée. On démontre la convergence uniforme ainsi que la loi asymptotique de notre estimateur<br>The thesis gets organized in two major parties. The first part turns on the intelligent transportation system (autonomous cruise control). In the first chapter we study strategies of drivers and confirm a hypothesis of F. Saad. The second chapter tackles the cellular automaton. The third chapter suggests validation of an assumption in the field of the driver psychology by the use of the markovian models. The last chapter deals with the input-output hidden markov models. A theoretical framework is presented. The main purpose is the study of tools for the evaluation of such systems through data with / without the system and real data, not controlled. The important notion is the concept of scene, as defined the changes in the dependence between several indicators. The central object in the dependence is the copula, the heart of the second part. The first chapter is a state of the art, refer to the measures of dependence and function of linkage. The second chapter tackles a measure of a multivariate dependence. We demonstrate a formula about the mutual information. In the third chapter, an extension of the cox model in bivariate case is presented, based on extreme value copulas. Some approximation results and the convergence are proved. We give an application on real data from lavia system (speed limiter). The fourth chapter is about the estimating of the dependence function in the bivariate case. We prove the uniform convergence and give the asymptotic law of our estimator

Cette thèse porte sur deux aspects de la dépendance entre actifs financiers. La première partie concerne la dépendance entre vecteurs aléatoires. Le premier chapitre consiste en une comparaison d'algorithmes calculant l'application de transport optimal pour le coût quadratique entre deux probabilités sur R^n, éventuellement continues. Ces algorithmes permettent de calculer des couplages ayant une propriété de dépendance extrême, dits couplage de corrélation maximale, qui apparaissent naturellement dans la définition de mesures de risque multivariées. Le second chapitre propose une définition de la dépendance extrême entre vecteurs aléatoires s'appuyant sur la notion de covariogramme ; les couplages extrêmes sont caractérisés comme des couplages de corrélation maximale à modification linéaire d'une des marginales multivariées près. Une méthode numérique permettant de calculer ces couplages est fournie, et des applications au stress-test de dépendance pour l'allocation de portefeuille et la valorisation d'options européennes sur plusieurs sous-jacents sont détaillées. La dernière partie décrit la dépendance spatiale entre deux diffusions markoviennes, couplées à l'aide d'une fonction de corrélation dépendant de l'état des deux diffusions. Une EDP de Kolmogorov forward intégrée fait le lien entre la famille de copules spatiales de la diffusion et la fonction de corrélation. On étudie ensuite le problème de la dépendance spatiale atteignable par deux mouvements Browniens, et nos résultats montrent que certaines copules classiques ne permettent pas de décrire la dépendance stationnaire entre des mouvements Browniens couplés.