Academic literature on the topic 'Artificiella nätverk'

 

Att använda artificiella neurala nätverk i datorspel blir ett allt mer populärt sätt att styra de datorstyrda agenterna då detta gör att agenterna får ett mer mänskligt beteende och förmågan att generalisera och möta nya situationer och klara sig igenom dessa på ett sätt som andra typer av artificiell intelligens inte alltid kan hantera. Svårigheten med denna teknik är att träna nätverket vilket ofta kräver en lång tid av inlärning och många olika träningfall. Genom att använda genetiska algoritmer för att träna upp nätverken så kan mycket av det både tid och prestandakrävande arbetet undvikas. Denna rapport kommer att undersöka möjligheten att använda genetiska tekniker för att träna artificiella neurala nätverk i en miljö anpassad till och med fokus på spel. Att använda genetiska tekniker för att träna artificiella neurala nätverk är en bra inlärningsteknik för problem där det enkelt går att skapa en passande fitnessfunktion och där andra inlärningstekniker kan vara svåra att använda. Det är dock ingen teknik som helt tar bort arbetet från utvecklare utan istället flyttar det mer åt att utveckla fitnessfunktionen och modifiera variabler.

 

Ett av de stora problemen med gestigenkänning är det som kallas segmenteringsproblemet. Segmenteringsproblemet är problemet att hitta var en gest börjar och var den slutar, d v s att segmentera upp gester. I detta arbete testas en lösning till detta problem då gester består av figurer ritade i luften. Lösningen går ut på att använda två stycken artificiella neurala nätverk av strukturen FeedForward. Det ena nätverket tränas på att känna igen när handen accelererar från stillastående, vilket representerar starten av en gest, och det andra tränas på att känna igen när handen saktar ner till stillastående, vilket representerar slutet av en gest. Datan till de artificiella neurala nätverken kommer från ett sliding window på ett antal tidssteg där hastighets- och accelerationsförändringar läses av som skalärer.

Den forskningsgrupp som vid Högskolan i Skövde bedriver forskning om neurala nätverk, har nyligen köpt in en ny beräkningsmaskin, dedikerad för simuleringar av dessa neurala nätverk. Maskinen är en Sun Enterprise 4000, en MIMD-maskin med 6 st UltraSparc CPUer.

Det finns behov av nya verktyg, som underlättar utveckling av ANN modeller till denna maskin, och som dessutom utnyttjar maskinens parallellitet. Detta verktyg ska uppvisa så god prestanda som möjligt. I denna rapport studeras förutsättningarna för ett sådant verktyg.

Av de tänkbara metoder som kan användas för att parallellisera en nätverksimulator, är troligtvis epokbaserad parallellisering den som ger högst prestandaökning på en MIMD-maskin. Detta beror på att den inte kräver lika täta synkroniseringar som exempelvis en neuronbaserad parallellisering.

En implementation av den epokbaserade metoden har skett, både med och utan parallelliserad summering av viktförändringar. Den parallelliserade summeringen av viktförändringar behöver teoretiskt endast log2(n) så lång tid som den serialiserade summeringen kräver (n = antal trådar). Summeringen av viktförändringar är dock en ganska liten del av varje epok, och effektivisering av denna bit har inte så stor praktiskt betydelse.

Ett mindre antal tester har gjorts för att kontrollera om simulatorn är korrekt implementerad. De tester som gjordes gav lyckat resultat och talar för att simulatorn är korrekt.

Ur prestandatesterna som genomförts kan följande slutsatser dras:

* Ökning av antal exempel ökar prestandaökningen

* Ökning av antal vikter minskar prestandaökningen

* Antal epoker påverkar inte prestandaökningen

På det målsystem med 6 CPUer som testerna genomförts på, gäller följande:

* 4-5 trådar ger oftast högst prestandaökning

* 3-5 gångers prestandaökning är normalt

Eftersom prestandan på många av nätverken ligger uppåt 75% (4.5 gånger prestandaökning med 6 st CPUer) av vad målmaskinen klarar av, anser författaren av denna rapport att parallelliseringen är lyckad.

Denna rapport jämför två nätverksarkitekturer för artificiella neurala nätverk vars uppgift är att realisera ett styrsystem för ett fordon som det även skall lära sig att styra. Jämförelsen bygger på utförda experiment där de båda nätverken fick lära sig att styra ett fordon längs en slumpgenererad väg. Båda nätverken bygger på belöningsbaserad inlärning för att lära sig lösa uppgiften.

Resultatet av utvärderingen visar både att nätverken inte hade några problem med att lära sig att styra fordonet och att de inte krävde lång tid för att kunna lära sig hur fordonet skulle styras. Resultaten visar inte heller att någon skillnad fanns i vare sig tillförlitlighet eller generaliseringsförmåga hos de båda nätverksarkitekturerna.

Vid analys av fluider med akustisk spektroskopi finns ett behov av att finna multivariata metoder för att utifrån akustiska spektra prediktera storheter såsom viskositet och densitet. Användning av artificiella neurala nätverk och bayesiska nätverk för detta syfte utreds genom teoretiska och praktiska undersökningar. Förbehandling och uppdelning av data samt en handfull linjära och olinjära multivariata analysmetoder beskrivs och implementeras. Prediktionsfelen för de olika metoderna jämförs och PLS (Partial Least Squares) framstår som den starkaste kandidaten för att prediktera de sökta storheterna.

When analyzing fluids using acoustic spectrometry there is a need of finding multivariate methods for predicting properties such as viscosity and density from acoustic spectra. The utilization of artificial neural networks and Bayesian networks for this purpose is analyzed through theoretical and practical investigations. Preprocessing and division of data along with a handful of linear and non-linear multivariate methods of analysis are described and implemented. The errors of prediction for the different methods are compared and PLS (Partial Least Squares) appear to be the strongest candidate for predicting the sought-after properties.

Artificiella neurala nätverk (ANN) har många användningsområden inom datavetenskap. Några av dessa är mönsterigenkänning, robotik, processkontroll, optimering och spel. Detta examensarbete kommer att handla om hur en alternativ lösning på den traditionella arkitekturen av hur ett neuralnät kan se ut. Jag kommer att undersöka om man kan ta ett stort och komplext neuralnät och bryta ned detta till mindre neuralnät utan att förlora kvaliteten på botarna i en spelmiljö kallad Open Nero. Detta för att försöka minska beräkningshastigheten av neuralnäten och förhoppningsvis även göra så botarna lär sig ett bra beteende snabbare. Mitt examensarbete kommer att visa att min lösning av arkitekturen för ett neuralt nätverk inte fungerar speciellt bra då botarna inte lärde sig tillräckligt fort. En fördel med min arkitektur är dock att den är något snabbare än originalets i exekveringshastighet.

För att hitta en mindre beräkningskrävande modell för energiuppskattning av vågdata har artificiella neurala nätverks förmåga att efterlikna ett punktabsorberande vågkraftsverks bojpositioner vid havsvågor från Islandsberg undersökts. Genom att undersöka antal dolda lager samt inparametrarnas enhet, tidsupplösning och antal har olika neurala artificiella nätverk tagits fram som efterliknar bojpositioner lösta med en linjär- samt olinjärmodell. Det artificiella neurala nätverk som bäst efterliknar bojpositioner lösta med den linjära modellen har 1 dolt lager och 50 inparametrar, med tidsupplösning 0,1 sekunder. Dess inparametrar består enbart av inkommande våghöjder. För dessa parametrar uppskattar det artificiella neurala nätverket en medeleffekt som skiljer sig från den linjära modellen med 1,78% då dämpningskoefficienten är 200kNs/m. Beräkningstiden för den linjära modellen är 0,087 sekunder vilket är ungefär 20 gånger snabbare än med det artificiella neurala nätverket och då är inte träningstiden för det artificiella neurala nätverket medräknad. Det artificiella neurala nätverk som bäst efterliknar bojpositioner lösta med den olinjära modellen har 11 dolda lager och 50 inparametrar, med tidsupplösning 0,1 sekunder. Dess inparametrar består enbart av inkommande vågs excitationskraft. För dessa parametrar uppskattar det artificiella neurala nätverket en medeleffekt som skiljer sig från den linjära modellen med 0,3% då dämpningskoefficienten är 130kNs/m. Beräkningstiden för 30 minuters vågdata för den olinjära modellen är 41 minuter och 6 sekunder vilket kan jämföras med 57 sekunder för det artificiella neurala nätverket. Då är inte träningstiden för det artificiella neurala nätverket medräknad. Genom att ändra dämpningskoefficienten till optimala värden, med en frekvens mycket högre än vågperioden, fås en högre energiabsorptionen. En genetisk algoritm används för att beräkna den optimala följden av dämpningskoefficienter och för att prediktera den optimala dämpningskoefficienten används ett artificiellt neuralt nätverk. Vid undersökning där det artificiella neurala nätverket predikterade nästkommande optimala dämpningskoefficient fås en energiabsorption som är 20% högre än den energiabsorption som fås med en optimal konstant dämpningskoefficient.

Detta arbete undersöker två tekniker för att evaluera spelplanen i minimaxalgoritmen. Den tekniken som fokuseras mest på i arbetet är ett artificiellt neuralt nätverk som evolveras med hjälp av samevolution. Tekniken är utformad för att inte behöva någon tidigare mänsklig expertis. Den andra tekniken använder heuristiker och mänsklig expertis för att få fram evalueringsfunktionen. Spelet som används för att testa teknikerna är Kinaschack.Resultaten antyder att tekniken i fokus inte fungerar till spelet Kinaschack. En undersökning där tekniken modifierades så att samevolution byttes ut gav ett bättre resultat. Detta behöver inte betyda att problemet är samevolution Men det tyder på att det är en faktor.Tekniken som arbetet fokuserar på är baserad på ett tidigare arbete där spelet Dam användes. Eftersom tekniken har visats fungera tidigare skulle det vara intressant att testa den med fler spel. I slutet av arbetet diskuteras en variant av tekniken för spelet Schack.

Detta arbete går ut på att testa hur två olika träningsmetoder påverkar hur ett artificiellt neuralt nätverk (ANN) presterar i en 2d spelmiljö. Ett belöningsbaserat nätverk som använder genetiska algoritmer har jämförts mot ett exempelbaserat nätverk som använder backpropagation. För att göra detta möjligt att testa så behövde fyra delsteg genomföras. Dessa är utveckling av belöningsbaserad ANN, utveckling av exempelbaserad ANN, utveckling av testmiljö och evaluering av resultat. Resultaten visar att agenten belöningsbaserat nätverk har presterat bättre i det flesta testen men även att den varit mer slumpmässig. Det finns dock undantag där den agenten med exempelbaserat nätverk har varit bättre. Slutsatsen är att efter detta experiment rekommenderas en agent med belöningsbaserat nätverk över en med exempelbaserat men att detta inte är någon garanti för att få optimala resultat. Ett framtida arbete som hade varit intressant är att fokusera på endast en algoritm och se hur träning och skillnader på olika nätverksarkitekturer hade påverkat den.

Detta arbete undersöker två tekniker för att evaluera spelplanen i minimaxalgoritmen. Den tekniken som fokuseras mest på i arbetet är ett artificiellt neuralt nätverk som evolveras med hjälp av samevolution. Tekniken är utformad för att inte behöva någon tidigare mänsklig expertis. Den andra tekniken använder heuristiker och mänsklig expertis för att få fram evalueringsfunktionen. Spelet som används för att testa teknikerna är Kinaschack. Resultaten antyder att tekniken i fokus inte fungerar till spelet Kinaschack. En undersökning där tekniken modifierades så att samevolution byttes ut gav ett bättre resultat. Detta behöver inte betyda att problemet är samevolution Men det tyder på att det är en faktor. Tekniken som arbetet fokuserar på är baserad på ett tidigare arbete där spelet Dam användes. Eftersom tekniken har visats fungera tidigare skulle det vara intressant att testa den med fler spel. I slutet av arbetet diskuteras en variant av tekniken för spelet Schack.