Building an artificial stock market populated by reinforcement-learning agents

Autor: Tomas Ramanauskas, Aleksandras Vytautas Rutkauskas
Jazyk: angličtina
Rok vydání: 2009
Předmět:
Zdroj: Journal of business economics and management 2009, Vol. 10, no. 4, p. 329-341.
ISSN: 1611-1699
2029-4433
Popis: Straipsnyje pasiūlytas dirbtinis akcijų rinkos modelis, pagrįstas heterogeninių agentų, kurių ateitį numatantis elgesys yra sąlygotas sustiprinto mokymosi algoritmo, sujungto su tam tikru evoliucinės atrankos mechanizmu, tarpusavio sąveika. Autoriai naudoja modelį rinkos savireguliacijos gebėjimų, rinkos efektyvumo ir besivystančių finansų rinkos savybių lemiamų veiksnių analizei. Charakteringi ir nauji modelio bruožai apima smarkiai išreikštą individualių sprendimų ekonominį turinį, Q-mokymosi algoritmo kaip individualaus elgesio varomosios jėgos taikymą ir turtingą rinkos sudėtį. Autorių nuomone, modelis siūlo įdomią struktūrą rinkos procesų struktūrizuotai analizei, kartu įvertinant svarbius bruožus, tokius kaip detalus prekybos procesas, reguliarus dividendų išmokėjimas, prekybos kaštai, agentų heterogeniškumas, patirties sklaida, konkurencingas elgesys, agentų vyravimas ir priverstinis išėjimas ir kt. Taip pat pateikiama lygiagreti modelio versija, kuri daugiausia yra pagrįsta einamųjų pokyčių rinkoje tyrimais, o taip pat naujai susidarančių nuolatinių šablonų paieška, ir kuri buvo pakartotinai naudojama optimalių sprendimų eksperimentinei paieškai įvairiose kapitalo rinkose. Specialios sistemos taikymas leidžia konstatuoti, kad netgi globalios finansų krizės sąlygomis yra galimos aiškios investavimo strategijos, kurios garantuoja ilgalaikį kapitalo augimą, daug didesnį nei bendras rinkos augimas. In this paper we propose an artificial stock market model based on interaction of heterogeneous agents whose forward-looking behaviour is driven by the reinforcement-learning algorithm combined with some evolutionary selection mechanism. We use the model for the analysis of market self-regulation abilities, market efficiency and determinants of emergent properties of the financial market. Distinctive and novel features of the model include strong emphasis on the economic content of individual decision-making, application of the Q-learning algorithm for driving individual behaviour, and rich market setup. Along with that a parallel version of the model is presented, which is mainly based on research of current changes in the market, as well as on search of newly emerged consistent patterns, and which has been repeatedly used for optimal decisions' search experiments in various capital markets.
Databáze: OpenAIRE