Academic literature on the topic 'Fouille de processus Modèles de Markov cachés'

Jusqu'à présent, les techniques de fouille de processus ont modélisé les processus en termes des séquences de tâches qui se produisent lors de l'exécution d'un processus. Cependant, les recherches en modélisation du processus et de guidance ont montrée que de nombreux problèmes, tels que le manque de flexibilité ou d'adaptation, sont résolus plus efficacement lorsque les intentions sont explicitement spécifiées. Cette thèse présente une nouvelle approche de fouille de processus, appelée Map Miner méthode (MMM). Cette méthode est conçue pour automatiser la construction d'un modèle de processus intentionnel à partir des traces d'activités des utilisateurs. MMM utilise les modèles de Markov cachés pour modéliser la relation entre les activités des utilisateurs et leurs stratégies (i.e., les différentes façons d'atteindre des intentions). La méthode comprend également deux algorithmes spécifiquement développés pour déterminer les intentions des utilisateurs et construire le modèle de processus intentionnel de la Carte. MMM peut construire le modèle de processus de la Carte avec différents niveaux de précision (pseudo-Carte et le modèle du processus de la carte) par rapport au formalisme du métamodèle de Map. L'ensemble de la méthode proposée a été appliqué et validé sur des ensembles de données pratiques, dans une expérience à grande échelle, sur les traces d'événements des développeurs de Eclipse UDC.

Les modèles de Markov d’ordre 2 (HMM2) sont des modèles stochastiques qui ont démontré leur efficacité dans l’exploration de séquences génomiques. Cette thèse explore l’intérêt de modèles de différents types (M1M2, M2M2, M2M0) ainsi que leur couplage à des méthodes combinatoires pour segmenter les génomes bactériens sans connaissances a priori du contenu génétique. Ces approches ont été appliquées à deux modèles bactériens afin d’en valider la robustesse : Streptomyces coelicolor et Streptococcus thermophilus. Ces espèces bactériennes présentent des caractéristiques génomiques très distinctes (composition, taille du génome) en lien avec leur écosystème spécifique : le sol pour les S. coelicolor et le milieu lait pour S. thermophilus<br>Second-order Hidden Markov Models (HMM2) are stochastic processes with a high efficiency in exploring bacterial genome sequences. Different types of HMM2 (M1M2, M2M2, M2M0) combined to combinatorial methods were developed in a new approach to discriminate genomic regions without a priori knowledge on their genetic content. This approach was applied on two bacterial models in order to validate its achievements: Streptomyces coelicolor and Streptococcus thermophilus. These bacterial species exhibit distinct genomic traits (base composition, global genome size) in relation with their ecological niche: soil for S. coelicolor and dairy products for S. thermophilus. In S. coelicolor, a first HMM2 architecture allowed the detection of short discrete DNA heterogeneities (5-16 nucleotides in size), mostly localized in intergenic regions. The application of the method on a biologically known gene set, the SigR regulon (involved in oxidative stress response), proved the efficiency in identifying bacterial promoters. S. coelicolor shows a complex regulatory network (up to 12% of the genes may be involved in gene regulation) with more than 60 sigma factors, involved in initiation of transcription. A classification method coupled to a searching algorithm (i.e. R’MES) was developed to automatically extract the box1-spacer-box2 composite DNA motifs, structure corresponding to the typical bacterial promoter -35/-10 boxes. Among the 814 DNA motifs described for the whole S. coelicolor genome, those of sigma factors (B, WhiG) could be retrieved from the crude data. We could show that this method could be generalized by applying it successfully in a preliminary attempt to the genome of Bacillus subtilis

Ce mémoire présente un système de lecture de mots manuscrits isolés, appartenant à un lexique, avec des techniques combinées réseaux de neurones (RN) et modèles de Markov cachés (MMC). Les RN et les MMC ont été abondamment étudiés pour la reconnaissance de la parole entre autre. Leur maitrise a motivé depuis 10 ans de nombreux travaux pour combiner les atouts des deux outils, en discrimination et en modélisation des séquences. Quelques systèmes sont présentés pour la parole ou l'écrit. Le principe des systèmes hybrides RN et MMC est présenté avec son apprentissage itératif selon l'algorithme expectation maximisation (EM). Ce système pemet de remplacer la qualification vectorielle des MMC discrets, classification non supervisée qui perd beaucoup d'information, par un RN. . .<br>This thesis presents a recognition system for isolated handwritten words, given a dictionary, using a combination of neural networks (NN) and hidden markov models (HMM). NN and HMM have been extensively studied, the former in the field of isolated character recognition and the later in speech recognition, among other applications. Know-how on NN and HMM has motivated within the last 10 years many researches to combine the advantages of the two tools, that is discrimination power and sequence modelling. Some historical and original systems are recalled from speech and handwriting recognition. .

Les bruits respiratoires sont employés par le médecin comme des indicateurs de l’état physiologique du patient et lui permettent d’établir son diagnostic. Néanmoins, leur interprétation fait intervenir une grande part de subjectivité, liée à la perception du médecin. C’est pourquoi il est actuellement envisagée une analyse automatique de ces sons dans les buts d’assurer la formation des futurs médecins et d’identifier des pathologies pour l’aide au diagnostic. La structure du signal respiratoire se compose du bruit respiratoire normal sur lequel s’additionne éventuellement un son anormal qui peut être soit transitoire (un craquement, un crépitant), soit musical (un sibilant, un stridor) ou encore un mélange (squawk). Les méthodes développés dans ce travail de thèse concernent l’analyse multirésolution des signaux par des outils bayésiens dans le domaine des paquets d’ondelettes, associés à des modèles markoviens multivariés originaux adaptés au contexte difficile du traitement des sons pulmonaires. Nous proposons ainsi une méthodologie pour l’étude des signaux respiratoires, avec pour ambition la possibilité de traiter un large panel de cas pathologiques. Une méthode basée sur l’analyse multivariée du signal après recalage de portions d’intérêt du signal est présentée. Nous introduisons ensuite un nouveau graphe de Markov adapté à la décomposition en paquets d’ondelettes, dans le but d’une analyse multirésolution des signaux pulmonaires et d’une détection plus précise des caractéristiques statistiques de ces signaux particulièrement variables à la fois en temps et en fréquence<br>The detection of abnormal respiratory sounds is still carried out by pulmonary auscultation using a stethoscope and implies limitations due to the subjectivity of this process. Indeed, it depends on the individual’s own hearing, experience and its ability to differentiate patterns. Nowadays, there is a clear need for a normalization of the diagnosis methodology and for the development of a common framework for all the medical community. In this context, much of the knowledge gained in recent years has resulted from the use of modern digital processing techniques, which leads to objective analysis and comparisons of respiratory sounds. Abnormal respiratory sounds are added to the normal breathing sounds and, according to the American Thoracic Society, they fall in two main categories : continuous sounds (Wheezes, Stridors) and discontinuous sounds (crackles). The methods developped in this thesis concern multiresolution analysis of the signals using bayesian tools in the wavelet packets domain, associated to original Markov models well adapted to the difficult context of lung sounds analysis. We then propose a methodology for the study of respiratory signals, with the ambition to be able to handle a wide panel of pathological cases. First, a method based on multivariate signal analysis after a scaling of interesting features is presented. We then introduce a new Markov graph adapted to the wavelet packet decomposition, with the aim of a multiresolution analysis of the lung signals and a more precise detection of the statistical characteristics of these highly unstable signals

Dans ce travail de thèse, nous présentons plusieurs contributions visant à améliorer l'utilisation des modèles de Markov cachés (MMC) dans les systèmes d'intelligence artificielle. Nous nous sommes concentrés sur trois objectifs : l'amélioration de l'apprentissage de MMC, l'expérimentation d'un nouveau type de MMC et la visualisation de dissimilarité pour mieux comprendre les interactions entre MMC. Dans la première partie, nous proposons, évaluons et comparons plusieurs nouvelles applications<br />de métaheuristiques biomimétiques classiques (les algorithmes génétiques, l'algorithme de fourmis artificielles API et l'optimisation par essaim particulaire) au problème de l'apprentissage de MMC. Dans la<br />deuxième partie, nous proposons un nouveau type de modèle de Markov caché, appelé modèle Markov caché à substitutions de symboles (MMCSS). Un MMCSS permet d'incorporer des connaissances a priori dans le processus d'apprentissage et de reconnaissance. Les premières expérimentations de ces modèles sur des images démontrent leur intérêt. Dans la troisième partie, nous proposons une nouvelle méthode de représentation de dissimilarité appelée matrice de scatterplots pseudo-euclidienne (MSPE), permettant de mieux comprendre les interactions entre des MMC. Cette MSPE est construite à partir<br />d'une technique que nous nommons analyse en composantes principales à noyau indéfini (ACPNI). Nous terminons par la présentation de la bibliothèque HMMTK, développée au cours de ce travail. Cette dernière intègre des mécanismes de parallélisation et les algorithmes développés au cours de la thèse.

Le premier chapitre présente les axes principaux de recherche ainsi que les problèmes traités dans cette thèse. Plus précisément, il expose une synthèse sur le sujet, en y donnant les propriétés essentielles pour la bonne compréhension de cette étude, accompagnée des références bibliographiques les plus importantes. Il présente également les motivations de ce travail en précisant les contributions originales dans ce domaine. Le deuxième chapitre est composé d’une recherche originale sur l’estimation du risque sismique, dans la zone du nord de la mer Egée (Grèce), en faisant usage de la théorie des processus semi-markoviens à temps continue. Il propose des estimateurs des mesures importantes qui caractérisent les processus semi-markoviens, et fournit une modélisation dela prévision de l’instant de réalisation d’un séisme fort ainsi que la probabilité et la grandeur qui lui sont associées. Les chapitres 3 et 4 comprennent une première tentative de modélisation du processus de génération des séismes au moyen de l’application d’un temps discret des modèles cachés markoviens et semi-markoviens, respectivement. Une méthode d’estimation non paramétrique est appliquée, qui permet de révéler des caractéristiques fondamentales du processus de génération des séismes, difficiles à détecter autrement. Des quantités importantes concernant les niveaux des tensions sont estimées au moyen des modèles proposés. Le chapitre 5 décrit les résultats originaux du présent travail à la théorie des processus stochastiques, c’est- à-dire l’étude et l’estimation du « Intensité du temps d’entrée en temps discret (DTIHT) » pour la première fois dans des chaînes semi-markoviennes et des chaînes de renouvellement markoviennes cachées. Une relation est proposée pour le calcul du DTIHT et un nouvel estimateur est présenté dans chacun de ces cas. De plus, les propriétés asymptotiques des estimateurs proposés sont obtenues, à savoir, la convergence et la normalité asymptotique. Le chapitre 6 procède ensuite à une étude de comparaison entre le modèle markovien caché et le modèle semi-markovien caché dans un milieu markovien et semi-markovien en vue de rechercher d’éventuelles différences dans leur comportement stochastique, déterminé à partir de la matrice de transition de la chaîne de Markov (modèle markovien caché) et de la matrice de transition de la chaîne de Markov immergée (modèle semi-markovien caché). Les résultats originaux concernent le cas général où les distributions sont considérées comme distributions des temps de séjour ainsi que le cas particulier des modèles qui sont applique´s dans les chapitres précédents où les temps de séjour sont estimés de manière non-paramétrique. L’importance de ces différences est spécifiée à l’aide du calcul de la valeur moyenne et de la variance du nombre de sauts de la chaîne de Markov (modèle markovien caché) ou de la chaîne de Markov immergée (modèle semi-markovien caché) pour arriver dans un état donné, pour la première fois. Enfin, le chapitre 7 donne des conclusions générales en soulignant les points les plus marquants et des perspectives pour développements futurs<br>The first chapter describes the definition of the subject under study, the current state of science in this area and the objectives. In the second chapter, continuous-time semi-Markov models are studied and applied in order to contribute to seismic hazard assessment in Northern Aegean Sea (Greece). Expressions for different important indicators of the semi- Markov process are obtained, providing forecasting results about the time, the space and the magnitude of the ensuing strong earthquake. Chapters 3 and 4 describe a first attempt to model earthquake occurrence by means of discrete-time hidden Markov models (HMMs) and hidden semi-Markov models (HSMMs), respectively. A nonparametric estimation method is followed by means of which, insights into features of the earthquake process are provided which are hard to detect otherwise. Important indicators concerning the levels of the stress field are estimated by means of the suggested HMM and HSMM. Chapter 5 includes our main contribution to the theory of stochastic processes, the investigation and the estimation of the discrete-time intensity of the hitting time (DTIHT) for the first time referring to semi-Markov chains (SMCs) and hidden Markov renewal chains (HMRCs). A simple formula is presented for the evaluation of the DTIHT along with its statistical estimator for both SMCs and HMRCs. In addition, the asymptotic properties of the estimators are proved, including strong consistency and asymptotic normality. In chapter 6, a comparison between HMMs and HSMMs in a Markov and a semi-Markov framework is given in order to highlight possible differences in their stochastic behavior partially governed by their transition probability matrices. Basic results are presented in the general case where specific distributions are assumed for sojourn times as well as in the special case concerning the models applied in the previous chapters, where the sojourn time distributions are estimated non-parametrically. The impact of the differences is observed through the calculation of the mean value and the variance of the number of steps that the Markov chain (HMM case) and the EMC (HSMM case) need to make for visiting for the first time a particular state. Finally, Chapter 7 presents concluding remarks, perspectives and future work

L'objectif de cette thèse est d'élaborer un système de reconnaissance de mots manuscrits pouvant être appris et appliqué sur différents styles d'écriture. L'approche utilisée est une approche analytique: les mots sont découpés en sous-parties (caractères) à modéliser. Le découpage est effectué de manière implicite par l'utilisation de fenêtres glissantes qui permettent de transformer les images de mots en séquences. La méthode choisie pour apprendre les modèles de caractères utilise les modèles de Markov cachés (HMMs). Chaque caractère est représenté par un HMM de type Bakis, ce qui permet d'absorber les variations d'écriture entre scripteurs. Les mots sont reconstruits ensuite par concaténation des modèles qui les composent. Dans cette thèse, le choix est fait de chercher à améliorer la modélisation HMM de caractères en agissant au coeur même des modèles. A cette fin, une nouvelle approche est proposée, qui utilise l'aspect contextuel pour la modélisation : un caractère est modélisé en fonction de son contexte et son modèle est nommé trigraphe. La prise en compte de l'environnement d'un caractère pour sa modélisation implique cependant une multiplication des paramètres HMMs à apprendre sur un nombre souvent restreint de données d'observation. Une méthode originale de regroupement de paramètres est proposée dans ces travaux : le clustering d'états par position à l'aide d'arbres binaires de décision. Ce type de clustering, inédit dans les systèmes de reconnaissance de l'écriture, permet au système de réduire le nombre de paramètres tout en conservant l'un des principaux attraits des HMMs : l'utilisation d'un lexique de test indépendant de celui d'apprentissage<br>This thesis aims at elaborating a new handwritten words recognition system that can be learned and applied on any handwriting style and any alphabet. An analytic approach is used. Words are divided into subparts (characters or graphemes) that have to be modelled. The division is made implicitly thanks to sliding windows, which transform the word images into sequences. Hidden Markov Models, widely known as one of the most powerful tools for sequence modelling, are chosen to model the characters. A Bakis-type HMM represents each character. This enables the model to absorb variations in handwriting. A word model is built by concatenating its compound characters models. In this thesis, the choice is made to strengthen the HMM modelling by acting directly within the models. To this end, a new approach is proposed, using context knowledge : each character model depends on its context (its preceding and following characters). This new character model is named trigraph. Taking into account the characters environment allows more precise and more effective models to be built. However, this implies a multiplication of HMM parameters to be learned (often on a restricted number of observation data). An original method for parameter grouping is proposed in this thesis to overcome this issue : a state-based clustering, performed on each state position and based on binary decision trees. This type of clustering is new in the handwriting recognition field. It has many advantages, including parameter reduction. Moreover, the use of decision trees allows the HMMs to keep one of their most interesting attributes : independence between training and testing lexicon

Nous proposons dans ce document l'utilisation d'un compilateur de modeles de markov caches dans le cadre de la reconnaissance automatique de la parole. Apres avoir presente les caracteristiques du compilateur, nous presentons quelques applications le mettant en uvre afin de valider cet outil: ? une methode de filtrage lexical en deux etapes: un sous-dictionnaire est selectionne par un modele de markov cache principal, dont les unites sont des classes majeures. A partir de celui-ci, un modele de markov cache temporaire est construit avec des unites pseudo-diphones afin d'obtenir le mot reconnu. Le compilateur est ici utilise dans une application classique de reconnaissance. ? une nouvelle methode de fusion de donnees acoustiques et articulatoires a l'aide d'une relation de type maitre/esclave entre deux modeles de markov caches, dans le but d'augmenter la robustesse des reconnaissances dans le bruit. Nous avons adapte le compilateur afin qu'il construise ces variantes des modeles de markov caches. ? un systeme de decodage acoustico-phonetique base sur des unites phonetiques issues d'une quantification vectorielle. Nous utilisons le compilateur comme un outil de validation du systeme de decodage. ? une proposition de post-traitement des resultats d'un systeme de reconnaissance de mots isoles afin d'en augmenter les performances. Nous testons ici la compatibilite des reseaux construits par le compilateur avec ceux d'un systeme deja existant. Nous concluons par une discussion sur les extensions possibles du compilateur