Muutamia todennäköisyysteorian peruslauseita ja -tuloksia

Kirjoitan seuraavat tärkeät todennäköisyysteorian tulokset itselleni ylös, sillä tapaan jatkuvasti ne muuten unohtaa.

Lähteenä tässä on käytetty erityisesti Rick Durrett - Theory and Examples.

Keskeisiä epäyhtälöitä

Tsebysevin epäyhtälö:
\begin{equation}P(|x-\mu| \geq \sigma k) \leq \frac{1}{k^2} \end{equation}

Markovin epäyhtälö:
\begin{equation}P(|x| \geq a) \leq \frac{E(|x|)}{a} \end{equation}

Jensenin epäyhtälö:
konveksilla funktiolla f pätee
\begin{equation}f(E(x))\leq E(f(x)) \end{equation}

Cauchy-Schwartzin epäyhtälö odotusarvoina ja kovarianssina:
\begin{equation}|E(XY)|^2 \leq E(X)^2 E(Y)^2 \end{equation}
\begin{equation}Var(X) \geq \frac{Cov(X,Y)^2}{Var(Y)} \end{equation}

Hölderin epäyhtälö:
Jos todennäköisyysavaruudessa on p ja q määritelty välillä (1,infty) ja 1/p + 1/q <= 1, pätee
\begin{equation}||fg||_1 \leq ||f||_p + ||g||_g \end{equation}

Minkowskin epäyhtälö:
Olkoot f ja q elementtejä avaruudessa L^p(S). Tällöin pätee kolmioepäyhtälö
\begin{equation}||f+q||_p \leq ||f||_p +||q||_p \end{equation}

Konvergenssilauseita

Suppeneminen todennäköisyysmielessä
\begin{equation} \lim_{n \rightarrow \infty} P(|X-X_n| \geq \epsilon) = 0 \end{equation}
Suppeneminen odotusarvomielessä
\begin{equation} \lim_{n \rightarrow \infty} E(|X-X_n|^r) = 0 \end{equation}
Suppeneminen jakaumamielessä
\begin{equation} \lim_{n \rightarrow \infty} F_{X_n}(x)=F_X(x)\end{equation}
Suppeneminen lähes varmasti
\begin{equation} P(\{s \in S: \lim_{n \rightarrow \infty} X_n (s)=X(s) \}) = 1 \end{equation}
Heikko konvergenssi sisältää pitkän litanian mahdollisia ehtoja. Löytyy täältä.
Dominoitu konvergenssi löytyy täältä.

Muutamia huomioita:
- Suppeneminen todennäköisyys- ja odotusarvomielessä tarkoittaa myös suppenemista jakaumamielessä.
- Lähes varma suppeneminen tarkoittaa myös suppenemista todennäköisyysmielessä ja siten myös suppenemista jakaumamielessä.
- Lisää konvergenssilauseiden seurauksista täällä.

Karakteristinen yhtälö

Karakteristinen yhtälö todennäköisyysteoriassa on muotoa
\begin{equation}\phi(t)=E(e^{itX})=\int_R e^{it}f(x)dx\end{equation}
ja jokaisella todennkäisyysjakaumalla on siitä oma väännöksensä, osa alkuperäista yksinkertaisemmassa muodossa. Karakteristinen yhtälö sisällyttää monia keskeisiä ominaisuuksia alkuperäisestä jakaumafunktiosta, joten sitä käytetään paljon niiden tutkimiseen sekä lauseiden todistamiseen. Taylorin sarjakehitelmä on karakteristisen yhtälön kanssa keskeinen juttu. Lista karakteristisista yhtälöistä löytyy täältä.

Levyn jatkuvuuslause sanoo että jos oletetaan jono satunnaismuuttujia X_n, ei välttämättä samassa todennäköisyysavaruudessa. Tällöin jos muuttujia X_n vastaavat karakteristiset funktiot f_n konvergoivat tiettyyn karakteristiseen funktioon f_n, suppenee X_n jakaumamielessä ja karakteristinen funktio on tiukka sekä jatkuva kohdissa 0 ja t, missä t on mielivaltainen reaaliluku. Levyn lauseen avulla voidaan todistaa mm. keskeinen raja-arvolause.

Polyan kriteeri

Olkoon ei-negatiivinen reaalinen symmetrinen karakteristinen funktio, jolla f(0)=1, konveksi ja laskeva. Tällöin pätee
\begin{equation}\lim_{n \rightarrow 0}f(0)=1 \end{equation}
ja
\begin{equation}\lim_{n \rightarrow \infty}f(n)=0, \end{equation}
ja on olemassa todennäköisyysmitta v, jolla
\begin{equation}f(n)=\int_0^{\infty}|1-\frac{n}{s}|^{+} vds.\end{equation}

Suurten lukujen laki, keskeinen raja-arvolause

Suurten lukujen lain mukaan samoin jakautuneiden satunnaismuuttujien keskiarvo suppenee kohti näiden odotusarvoa "lähes varmasti", eli siis myös todennäköisyys- ja jakaumamielessä. Tästä voidaan edelleen johtaa klassinen keskeinen raja-arvolause, eli joukolla samoin jakautuneita satunnaismuuttujia, joilla on äärellinen varianssi, kun n kasvaa äärettömän suureksi
\begin{equation}\sqrt{n}(X_n-\mu)\end{equation}
approksimatiivisesti kohti normaalijakaumaa N(0,sigma²).

Keskeisestä raja-arvolauseesta on useampiakin variaatioita, mutta ei käydä niitä nyt tässä. Yllä vain klassisen määritelmän mukainen esitelmä.

Ekologinen kaavakokoelma

Tähän postaukseen olen pyrkinyt kokoamaan lyhyesti ekologisen sovellusalan kaavoja aiemmista postauksistani. Pidän tarkoituksella turhat selittelyt mahdollisimman lyhyenä, ja pyrin keskittymään vain olennaiseen. Lisätietoa malleista ja niitä koskevista ominaisuuksista löytyy aihetta tarkastelevista blogipostauksista. Poikkeuksena kaksi viimeistä mallia, joista en ainakaan kirjoitushetkellä ole julkaissut erillisiä kirjoitelmia.

Kasvumallit

Kahdesta vakiona käytetystä kasvumallista eksponentiaalinen kasvaa kiihtyvää tahtia ja sopiikin siksi ekologisia sovelluksia paremmin esimerkiksi koronkorkoa tai taloudellista kasvua kuvaaviin malleihin. Logistinen kasvu taas olettaa kasvun tasaantuvan, ja mallin on siksi havaittu sopivan edellistä paremmin myös ekologisiin ja väestötieteellisiin sovelluksiin.

Eksponentiaalinen kasvu

\begin{equation}\frac{dN}{dt}=(b-d)N(t)  \end{equation}

Logistinen kasvu

\begin{equation}\frac{dN}{dt}=rN(1-\frac{N}{K}). \end{equation}

Peto-saalismallit

Peto-saalis-mallit kuvaavat petoeläinten sekä niiden saaliiden välistä dynamiikkaa. Lotka-Volterra on alan klassikko ja yksi vanhimmista lajissaan, mutta mallin epämääräiset oletukset mm. populaatioiden kasvun ja petojen loputtoman ruokahalun suhteen johtivat nopeasti vaihtoehtoisten mallien kehittämiseen. Kahdesta suositumpi, Arditi-Ginzburg, painottaa petojen ja saaliseläinten välistä suhdetta dynamiikassaan, perusajatuksena siis, että liian vähä saalistiheys johtaa petojen harvenemiseen, mutta myös liian suuri petojen tiheys saaliiden vähenemiseen. Rosenzweig-MacArthur ottaa huomioon pelkän saalistuksen ohella myös eläinten luonnollisen poistuman. Molemmat mallit ovat erittäin herkkiä lähtöoletuksille sekä käytetyille funktioille, joten näiden kanssa on oltava tarkkoja.

 Lotka-volterra

\begin{equation} \frac{dx}{dt} = \alpha x - \beta xy \end{equation}
\begin{equation} \frac{dy}{dt} = \delta xy - \gamma y, \end{equation}

Arditi-Ginzburg

\begin{equation} \frac{dx}{dt}=f(x)x-g(\frac{x}{y})y \end{equation}
\begin{equation} \frac{dy}{dt}=\alpha g(\frac{x}{y})y -\beta y \end{equation}

Rosenzweig-MacArthur

\begin{equation} \frac{dx}{dt}=rx(1-\frac{x}{K})-yh(x) \end{equation}
\begin{equation} \frac{dy}{dt}=y(-\delta+\gamma h(x)) \end{equation}

Lajien välinen kilpailu

Lajien välisessä kilpailussa yksi tai useampi samasta elintilasta ja ekologisesta lokerosta kilpaileva laji on mallinnettu logistisen kasvumallin mukaan. Tässä tapauksessa oletuksena siis on, että elintilan resurssit kykenevät elättämään vain tietyn määrän eläimiä. Kahden lajin kesken voi syntyä myös tasapaino, jolloin molemmat kykenevät ylläpitämään elinkelpoista populaatiota.

Logistinen kilpailumalli

\begin{equation} \frac{dN_i}{dt} = r_i N_i (\frac{K_i-N_i}{K_i}) \end{equation}

Evoluutiomallit

Evoluutiomalleissa mallinnetaan valittujen alleelien siirtymistä sukupolvelta toiselle. Wright-Fisher mallissa oletetaan, että siirtymä sukupolvien välillä tapahtuu kerralla ilman hallitsemattomasti sekaisin lisääntyviä yksilöitä. Wright-Fisherin binomilaskentaan perustuva malli perustuukin eläimiä paremmin kausittain lisääntyvän ja lakastuvan kasvikunnan ilmiöiden kuvaamiseen. Eläinkunnan mallintamiseen soveltuvassa Moran-mallissa Markov-säännön mukaisesti yksilöt voivat vapaasti siirtyä tilasta toiseen, eli lisääntyä tai kuolla, ja eri sukupolvet voivat elää ja lisääntyä sekaisin keskenään.

Wright-Fisher -malli

\begin{equation}\binom{2N}{k}p^q q^{2N-k}=\frac{(2N)!}{k!(2N-k)!}p^q q^{2N-k}\end{equation}

Moran-malli

\begin{equation}P_{i,i-1}=\frac{N-1}{N}\frac{i}{N} \end{equation}
\begin{equation}P_{i,i}=1-P_{i,i-1}-P_{i,i+1}\end{equation}
\begin{equation}P_{i,i+1} = \frac{1}{N} \frac{N-1}{N} \end{equation}

Peliteoria ja ekologia, osa 2: tasapainotiloja ja ESS

Sekastrategia-Nash

Tähän sopii lähteeksi tämä. Palataan aiempaan vangin dilemmaan.

Oletetaan, että puhtaan valinnan sijaan puhutaankin tunnetuista todennäköisyyksistä. Oletetaan esimerkiksi, että molempien pelaajien strategioiden todennäköisyydet ovat p,1-p,q ja 1-q, jolloin strategioiden mukaisiksi odotusarvoiksi saadaan
\begin{equation}2*p+3*(1-p)-3*p-(1-p)=0,\end{equation}
jolloin siis p = 2/3, sekä
\begin{equation}q*2+(1-q)*3-q*3-(1-q)=0,\end{equation}
jolloin q = 2/3
Näillä todennäköisyyksillä molempien odotusarvot ovat n. 2.3. Piirretään näiden perusteella kuvaaja

josta nähdään molemmat puhtaat sekä sekastrategia-Nashit. Toisin sanoen, kun q=p=0 ja q=p=1, on kyseessä Nashin tasapaino, sekä tässä tapauksessa sekastrategia-Nash kun q=p=2/3 ja q=p=1/3. Kummassakin tapauksessa tasapainopisteitä ovat siis (2,2) ja (1,1).

Korreloiva sekä bayesilainen Nash

Pätevä artikkeli löytyy Wikipediasta. Tähän kaveriksi Rogersin Game Theory: Analysis of Conflict. Bayesiläiseen peliin erikseen juttua täällä.   

Korreloivassa Nash-tasapainossa oletetaan pelaajien lisäksi jokin kolmas taho, kuten todennäköisyydet laskeva tietokone tai asiantuntija, joka antaa pelaajille suosituksen ja luvut valintojensa suhteen. Jos pelaajat päättävät pitäytyä annetuissa suosituksissa poikkeamatta niistä, on kyseessä korreloiva Nashin tasapaino. Kyseessä on vähän kuin edelleen jatkokehitelty versio aiemmasta sekastrategiamallista.

Bayesilaisen pelin Nash-tasapaino jatkaa edelleen saman todennäköisyysajattelun kehittelyä. Tässä versiossa pelaajat eivät tiedä toistensa voitoista. Tästä voisi toimia esimerkkinä vaikkapa suljettu huutokauppa, jossa ainoastaan tarjoajat tietävät oman hintansa. Tässä tapauksessa pelaajat pyrkivät jälleen maksimoimaan odotettavissa olevan hyödyn valinnoillaan, ottaen samalla huomioon hyötyyn valintoja koskevat todennäköisyydet. Valittujen maksimoitujen hyötyjen mukainen strategia vastaa bayesilaista Nashin tasapainoa.

Koska kaikki todennäköisyyspainotteiset tasapainotilat ovat niin lähellä toisiaan, en viitsi edes keksiä niille ylimääräisiä esimerkkejä.

Stackelberg-tasapaino

Aiemmissa tasapainotiloissa pelaajat tekivät päätöksensä samanaikaisesti tietämättä toistensa siirroista. Stackelberg-tasapaino perustuu kahden hengen pelattavaan Markov-ketjuna pelattavaan vuoropohjaiseen peliin, jossa pelaajat tietävät toistensa edellisen siirron päätöstä tehdessään. Tällön tasapainopiste on kohdassa, jossa molemmat pelaajat tekevät optimisiirtonsa. Tyypillisesti tällöin ensimmäisenä siirtonsa tekevä pelaaja saa seuraajaa paremman tuloksen.

Seuraava esimerkki on ensimmäisestä osasta:

Stackelbergin kohdalla pelaajat eivät siis tee samanaikaista umpimähkäistä päätöstä vaan ottavat vuoroja. Jos ensimmäinen pelaaja maksimoi hyötynsä, tämä valitsisi vaikenemisen. Havaittuaan ensimmäisen pelaajan valinnan toinen pelaaja maksimoisi oman hyötynsä vaikenemalla. Näin päädytään Stackelbergin tasapainoon, joka tällä kertaa on myös ESS ja Nashin tasapaino.

Käytännössä Stackeklberg-tasapainon idea on helposti sovellettavissa markkinoiden duopoli-tilanteeseen: tällöin samoista apajista kilpailee kaksi yritystä, jotka tekevät siirtoja esim. hinnoittelullaan.

Peliteoria ja ekologia, osa 1: Nashin tasapaino, evoluutio ja ESS

ESS-lähde otettu täältä, minkä ohella ohella käytössä on ollut myös Smithin ja Pricen kirja. En päässyt käsiksi Thomasin vaihtoehtoista ESS-määritelmää käsittelevään aineistoon, joten tyydyin sen kohdalla tylsästi vain Wikipedian artikkeliin.

Vangin dilemma. Nashin tasapaino merkitty punaisella. Tässä tilanteessa kumpikaan osapuoli ei voi yksipuolisesti parantaa asemaansa muuttamalla strategiaansa, joten Nashin tasapaino on ruudussa (2,2).

Formaalimmin muotoiltuna: Olkoon kuvatunlainen nelikenttä sekä strategiat S ja T, jolloin siis diagonaali vasemmalta oikealle on (S,S) ja (T,T). Tällöin Nashin tasapaino saavutetaan tilanteessa, jossa
\begin{equation}E(S,S) \geq E(S,T),\end{equation}
eli kumpikaan osapuoli ei voi yksipuolisesti parantaa asemaansa muuttamalla strategiaansa. Nashin tasapaino ei välttämättä kuitenkaan ole pareto-optimaalinen, jolloin siis saavutettu tasapaino olisi kirjaimellinen optimitilanne kummallekin pelaajalle. Vangin dilemmassa ylempänä vangit pääsisivät yhteensä vähemmällä vaikenemalla.

Evolutionary Stable Strategy eli ESS voidaan kirjoittaa edellisen määritelmän tavoinS != T
\begin{equation}E(S,S) > E(S,T) \ \textbf{tai} \end{equation}
\begin{equation}E(S,S)=E(S,T) \ \textbf{ja} \ E(S,T)>E(T,T) \end{equation}
Määritelmän ylempi osa tarkoittaa "vahvaa Nashin ehtoa", eli tilannetta, jossa strategiaa muuttamalla ei voi yksipuolisesti parantaa tilannettaan, mutta jossa ei ole edes yhtä hyvää lopputulosta tarjolla, vaan pelkästään heikompia. Alemmassa oletetaan kolme lopputulemaltaan identtistä strategiaa sekä yksi muita huonompi. Jo määritelmästä siis huomataan, että Nashin tasapaino ei välttämättä aina ole ESS. Yllä kuvatussa vangin dilemmassa Nashin tasapaino on ESS, sillä kilpailevat strategiat (S,T) ja (T,S) ovat strategiaa (S,S) heikompia lopputulokseltaan. Tässä tapauksessa myös E(T,T) on ESS. E(T,T) on myös pareto-optimaalinen.

Tavallisen ESS-mallin ohella on myös olemassa "vahva" määritemä jonka mukaan kun S != T, pätee
\begin{equation}E(S,S) \geq E(S,T) \ \textbf{ja} \end{equation}
\begin{equation} E(S,T)>E(T,T). \end{equation}
Vahvan määritelmän mukaan ESS on Nashin tasapaino, jolle pätee lisäksi aiempi ESS-ehto. Vahva ESS ei välttämättä ole tavanomainen tai seuraavassa esitettävä heikko ESS. Tässä tapauksessa Nashin tasapaina jo tavallinen ESS eivät ole vahvasti ESS, sillä lopputulokseltaan paras strategia ei ole vaihtoehtoja heikompi. Vahvan määritelmän mukainen ESS voisikin siis löytyä tässä tapauksessa strategiasta (T,T), sillä tällöin se on kaikkia vaihtoehtoja parempi, mutta strategia (S,S) ei voi täyttää määritelmän alemman osan vaatimusta. Tällöin strategia (T,T) on myös pareto-optimaalinen.

Weakly Evolutionary Stable Strategy eli WESS voidaan kirjoittaa edellisen määritelmän tavoin, S != T
\begin{equation}E(S,S) > E(S,T) \ \textbf{tai} \end{equation}
\begin{equation}E(S,S)=E(S,T) \ \textbf{ja} \ E(S,T) \geq E(T,T) \end{equation}
Tällöin siis avautuu mahdollisuus, että kaikki strategiayhdistelmät ovatkin lopputulemaltaan yhtä hyviä. Vangin dilemman Nashin tasapaino ja ESS on määritelmän ylemmän osan perusteella myös heikko. Strategia (T,T) on paitsi heikko ESS, myös pareto-optimaalinen.

Jatketaan aiempia määritelmiä uusilla tuloksilla.

Jos strategialle S != T pätee
\begin{equation}E(S,T)>E(T,T), \end{equation}
on kyseessä on lokaalisti ylivertainen strategia. Tällöin kahden strategia S tuotta lähtökohtaisesti aina paremman lopputuloksen strategiaa T vastaan pelattuna.
Jos taas on olemassa sellainen ũ>0 ja u välillä (0,ũ), joilla pätee
\begin{equation}E(S, uT + (1-u)S)>E(T,uT+(1-u)S),\end{equation}
on strategialla S tasainen invaasiomuuri. Tällöin jos populaation alueella on pienempi kilpaileva populaati strategialla T, strategiaa S käyttävä populaatio hiljalleen syrjäyttää kilpailijansa luonnollisen kilpailuetunsa kautta. Oletuksena kaikki ryhmän jäsenet pitäytyvät samassa yksittäisessä strategiassa.

Seuraavat kolme määritelmää ovat yhtenevät:

1. Strategia on vahva ESS.
2. Strategialla on tasainen invaasiomuuri.
3. Strategia on lokaalisti ylivertainen.

Viimeiset kaksi määritelmää ja teoreema ovat Hofbauerin artikkelista, johon en pääse toistaiseksi käsiksi. Hofbauerin artikkelissa on tähän kuitenkin olemassa myös todistus, joten jos joskus satun sen löytämään, saatan sen käydä täällä tarkemmin läpi. Paremman puutteessa käytetään lähteenä tässä Stanfordin yliopiston filosofian laitoksen tieteellisiin julkaisuihin erikoistuneelta mainiolta SEP-sivustolta/tietokannasta löytyvää artikkelia. Strategian ylivertaisuus voidaan ainakin johtaa suoraan vahvan ESS:n määritelmästä.

Seuraavaan lähde täältä. En pääse lukemaan Sigmundin ja Nowakin alkuperäisartikkelia, joten käytän tässä vain sekundaarista lähdettä. Seuraavassa on sovellettu ESS-teoriaa populaatiokokoihin. Todellisessa maailmassa populaatioiden välinen dynamiikka nimittäin riippuu pelkän strategian ohella myös elintilasta ja resursseista kilpailevien yksilöiden määristä. Tätä tarkoitusta varten määritellään  myös erilliset kriittiset rajat populaatiokoille sekä näiden vaikutukselle ryhmien välisessä kilpailussa.

Olkoon evolutiivisia strategioita kuvaava matriisi muotoa.

Matriisin strategioiden E_A ja E_B kelpoisuus voidaan ilmaista muodossa
\begin{equation}E_A = ap_A +bp_A\end{equation}
\begin{equation}E_b = cp_B +dp_B.\end{equation}
Tällöin ehto mutaation A invaasiolle on
\begin{equation}E_A > E_B, \ eli \ p_A > \frac{d-b}{a-c}p_B. \end{equation}
Edellisestä huomataan, että strategioiden välinen siirtymäpiste on ehto
\begin{equation}p_A = \frac{d-b}{a-c}p_B\end{equation}
Oletetaan seuraavaksi, että a>c, tällöin voidaan sama kirjoittaa
\begin{equation}\lambda = \frac{p_A}{p_B}\end{equation}sekä invaasiokynnys  muodossa
\begin{equation}\lambda_0 = \frac{d-b}{a-c}.\end{equation}
Kun pätee
\begin{equation}\lambda_0 = \lambda, \end{equation}
kaksi strategiaa ovat tasapainossa, mutta kun siirrytään epäyhtälöihin, valloittaa toinen strategia elintilaa toiselta. Tällöin mutaatiot ja kilpailevat populaatiot syrjäyttävät vähitellen alkuperäispopulaatiota - tai toisin päin. Invaasiokynnyksen ollessa pieni vähäisemmänkin ulkopuolisen ryhmän on helppoa tunkeuta vallitsevan populaation elinalueille, ja homogeenisen populaation ylläpitäminen käy vaikeammaksi. Yllä annettu esitys siis perustuu sellaisenaan viimeksi annettuun lähteeseen.

Aiemmasta peto-saalismallista ja sen yhteydestä ESS-malliin täällä. En nyt ala turhia referoimaan erinomaisen tekstin sisältöä tänne, mutta sanotaan nyt vaikka, että dynaamisessa tapauksessa aiemmat stabiliteettitulokset sekä erityisesti asymptoottista stabiiliutta koskeva teoria osuvat näppärästi yhteen ESS-strategian kanssa. Järjestelmän ollessa stabiili populaatio kykenee siis pitämään puolensa mutaatioita vastaan.

Peliteorian dynaamisempa puolta tullaan käsittelemään erikseen ESS-sarjan myöhemmissä osissa.

Stokastisen analyysin ja martingaalien lyhyt oppimäärä, osa1

Tämä blogipostaus perustuu pitkälti Gregory F. Fawlerin erinomaiseen luentomonisteeseen. Tässä postauksessa on lyhyesti referoitu keskeisimpiä osia ja jätetty monia tärkeitä yksityiskohtia erikseen mainitsematta ja todistamatta. Suosittelenkin lämpimästi lähdeaineiston lukemista, jos aihe vain vähääkään kiinnostaa. 

Ehdollinen todennäköisyys ja odotusarvo

Ehdollinen todennäköisyys kirjoitetaan
\begin{equation}P(Y|X),\end{equation}
eli tapahtuman Y kohdalla tiedetään X sekä kahden olevan keskenään toisistaan riippuvaisia. Tällainen voisi olla esimerkiksi perinnöllinen sairaus perheessä: tällöin riippumattomuusoletus johtaisi yhden lapsen sairastumisesta muiden perheenjäsenten sairauden todennäköisyyden vähenemiseen, kun riippuvuusoletuksella tulos on päinvastainen, ja yhden sairastuminen lisää muidenkin riskiä sairastua, sillä nämä jakavat keskenään vanhempiensa geneettisen perimän.

Ehdollinen odotusarvo voidaan kirjoittaa muodossa
\begin{equation}E(Y|F_n),\end{equation}
missä F_n eli filtraatio viittaa tapahtumaa Y edeltävään informaatioon.

Kävin tämän aiheen perusteellisemmin läpi gradussani, joten en mene tässä aivan perustasoa pidemmälle.

Martingaalit

Martingaalien teoria perustuu ehdollisen odotusarvon perustalle. Tällöin oletuksella n < t, martingaalille pätee
\begin{equation}E(M_t|F_n)=M_n.\end{equation}
Toisin sanoen martingaalin M_t odotusarvo on sen ehtoa vastaavan informaation hetken martingaali M_n. Martingaalia voisi käytännössä havainnollistaa reilulla kolikonheitolla, jossa kummallakin pelaajalla on tasaväkiset mahdollisuudet voittaa.

Martingaali voidaan kirjoittaa myös muodossa
\begin{equation}E(M_n-M_m | F_m)=0,\end{equation}
eli riippumatta hetkestä tai historiasta, tämän hetken odotetun voiton suuruus on 0.

Kyseessä on supermartingaali jos
\begin{equation}E(M_t|F_n) \leq M_n\end{equation}
ja submartingaali jos
\begin{equation}E(M_t|F_n) \geq M_n.\end{equation}
Jos martingaalille pätee jompi kumpi annetuista määritelmistä, aiempaa kolikonheittoesimerkkiä soveltaen, peli suosii jompaa kumpaa pelaajista, eikä mahdollisuus voittaa siksi ole tasaväkinen.

Brownin liike, stokastinen integrointi

Brownin liike tai Wiener-prosessi on jatkuva satunnaisuutta kuvaava malli. Olkoon B_t=B(t) satunnainen arvo hetkellä t. Näiden satunnaisten arvojen välille oletetaan korrelaatiota sekä t -> B(t) oletetaan satunnaisfunktioksi. Satunnaisprosessia B(t) sanotaan yksiulotteiseksi Brownin liikkeeksi satunnaiskululla m ja varianssilla sigma^2, jos seuraavat ehdot pätevät:

1. B_0=0
2. Kun s<t, S_t-S_s on normaalijakauma varianssilla sigma² ja satunnaiskululla m.
3. Jos s<t, satunnaismuuttuja B_t-B_s on riippumaton muuttujasta B_r kun r <= s.
4. Funktio t -> B_t on muuttujan t jatkuva funktio todennäköisyydellä 1.

Jos lisäksi sigma² = 0 ja m = 1, on kyseessä standardi Brownin liike. Oletetaan seuraavaksi B_t standardiksi Brownin liikkeeksi. Tällöin Brownin liike voidaan kirjoittaa muodossa
\begin{equation}Y_t=\sigma B_t + mt,\end{equation}
missä Y_t on normaalisti jakautunut Brownin liike, jolla variaatio on sigma² ja satunnaiskulku m. Muuttujan B_t standardiudesta siis seuraa muuttujan Y_t yleinen normaalijakautuneisuus.

Stokastinen differentiaaliyhtälö voidaan kirjoittaa muodossa
\begin{equation}dX_t = m(t,X_t)+\sigma (t,X_t)B_t, \end{equation}
missä B_t on standardi Brownin liike. Stokastinen differentiaaliyhtälö kirjoitetaan siis samoin kuin aiemmin mainitti normaali Brownin liike Y_t, mutta muuttujan B_t tilalle voidaan valita jokin useasta eri tavoin jakautuneesta satunnaisprosessista. Annetun differentiaaliyhtälön ratkaisu on muotoa
\begin{equation}X_t = X_0 + \int_0^t m(s,X_s)ds + \int_0^t \sigma (s,X_s)dB_s.\end{equation}
Iton kaava, kun oletukset ovat yksinkertaisimmillaan:
\begin{equation}df(B_t)=f'(B_t)dB_t+\frac{1}{2}f''(B_t)dt.\end{equation}
Iton kaava, kun otetaan huomioon aika ja paikka:
\begin{equation}df(B_t)=\partial_x f(B_t)dB_t+(\partial_{t} f(B_t)+ \frac{1}{2}\partial_{xx}f''(B_t))dt.\end{equation}
Prosessia X_t sanotaan geometriseksi Brownin liikkeeksi, jos standardilla Brownin liikkeellä B_t, varianssilla sigma² sekä satunnaiskululla m pätee
\begin{equation}X_t=mX_t dt+ \sigma X_t dB_t = X_t(mdt+\sigma dB_t).\end{equation}
Samainen prosessi on keskeisellä sijalla rahoitusalan sovelluksissa ja Black-Scholesissa, joten tämän kanssa kannattaa olla tarkkana.

Radon-Nikodym, Girsanovin teoreema

Olkoon u,v sigma-äärellisiä avaruudessa (omega,F) ja v << u. Tällöin on olemassa funktio f, jolle pätee kaikilla E
\begin{equation}v(E)=\int_E du.\int\end{equation}
Funktiota f sanotaan mitan v Radon-Nikodym-derivaataksi suhteessa mittaan u. Funktiota merkitään
\begin{equation}f=\frac{dv}{du}.\end{equation}
Oletetaan seuraavaksi todennäköisyysavaruus (omega,F,P) ja todennäköisyysmitta Q, jolla pätee Q << P. Tällöin Radon-Nikodym-derivaatta
\begin{equation}X=\frac{dQ}{dP}\end{equation}
on ei-negatiivinen muuttuja, jonka odotusarvo on E(X)=1. Jos A on tapahtuma, voidaan kirjoittaa
\begin{equation}Q(A)=E_P(X1_A).\end{equation}
Todennäköisyysmittojen P ja Q odotusarvojen suhde voidaan vielä erikseen kirjoittaa muodossa
\begin{equation}E_Q(A)=E_P(X \frac{dQ}{dP})\end{equation}

Sovelletaan aiempia tuloksia pohjustamalla Girsanovin teoreemaa muutamilla aputuloksilla. Olkoon ei-negatiivinen martingaali M_t, jolle on voimassa
\begin{equation}dM_t = M_t A_t dB_t,\end{equation}
ja jonka ratkaisu on muotoa
\begin{equation}M_t = e^{Y_t}, Y_t = \int_0^t A_s dB_s - \frac{1}{2} \int_0^t (A_s)^2 ds.\end{equation}

Oletetaan seuraavaksi, että ratkaisu on martingaali, vaikka näin ei aina välttämättä olekaan. Määritellään sen avulla mitta P*: jos V on F_t-mitallinen tapahtuma, niin pätee
\begin{equation}P*=E(1_V M_t).\end{equation}
Jos oletamme, että mitat P ja P* on määritelty F_t-mitallisissa tapahtumissa, voidaan kirjoittaa
\begin{equation}\frac{dP*}{dP}=M_t,\end{equation}
mikä vastaa siis aiemmin määriteltyä Radon-Nikodym-derivaattaa. Seuraavaksi huomataan, että jos s < t ja V on F_s-mitallinen tapahtuma, niin V on myös F_t-mitallinen tapahtuma, jolloin siis pätee
\begin{equation}E(1_V M_s)=E(1_V M_t)\end{equation}
sekä F_t-mitallisella muuttujalla X
\begin{equation}E*(X)=E(X M_t).\end{equation}

Olkoon mitta P* kuten äskeisessä. Tällöin Girsanovin teoreeman mukaan yhtälössä
\begin{equation} dBt = A_t dt + dW_t\end{equation}
W_t on P*-mitallinen standardi Brownin liike, jolla on voimassa
\begin{equation}W_t = B_t - \int_0^t A_s ds.\end{equation}

Seuraava lyhyt esimerkki on peräisin täältä.

Finanssimatematiikassa Girsanovia käytetään riskineutraalin stokastisen satunnaiskulun, rahoitusintrumentin hinnan, määrittelemiseen. Oletetaan seuraavassa todennäköisyysavaruus riskineutraalilla todennäköisyysmitalla Q.

Kirjoitetaan ensin stokastinen differentiaaliyhtälö
\begin{equation}dY_t = (\mu-r)Y_t dt + \sigma Y_t d B_t, \end{equation}
ja muunnetaan se muotoon
\begin{equation}dY_t = \sigma \frac{(\mu-r)}{\sigma}Y_t dt + \sigma Y_t d B_t, \end{equation}
ja edelleen
\begin{equation}dY_t = \sigma Y_t d(\frac{(\mu-r)}{\sigma}t + B_t)=\sigma Y dW_t,\end{equation}
eli toisin sanoen pätee
\begin{equation}dW_t = B_t - \frac{(r-\mu)}{\sigma}t = B_t - \int_0^t A_s ds.\end{equation}
aivan Girsanovin teoreeman mukaisesti.

Euler-Maruyama ja stokastisten funktioiden visualisointi

Stokastisten differentiayhtälöiden ja satunnaiskulun visualisoinniksi on olemassa perinteisestä Eulerin rekursiomenetelmästä johdettu hyödyllinen stokastinen sovellus, joka kantaa muotoa
\begin{equation}Y_{n+1}=Y_n + a(Y_N,\tau_n)\triangle t + b(Y_n,\tau_n) \triangle W_n, \end{equation}
missä kolmio-t kuvaa aikaintervallia sekä kolmio-W normaalijakautuneen satunnaisluvun hetken t erotusta sitä edeltäneestä hetken t-1 satunnaisluvusta. Seuraavassa esimerkkikuvassa on simuloitu koron satunnaiskulkua kuvaavan stokastisen Vasicek-mallin eri realisaatioita:

Euler-Maruyama on välttämätön työkalu stokastisten yhtälöiden parissa työskennellessä, sillä menetelmä yksinkertaistaa ja selkeyttää käytännön sovellusten suhteen niin tehokkaasti muuten varsin vaikeaselkoista stokastista analyysiä. Minulla on tästä pitkät pätkät määritelmineen päivineen eräässä vanhassa harjoitustehtävässäni, joten en pistä täydellistä kuvausta aiheesta tänne.

Feynman-Kac, rahoituksen stokastiset menetelmät ym. lisäteoriaa jatketaan myöhemmin toisessa, aiheeseen syvällisemmin keskittyvässä blogipostauksessa.

Käytetty R-koodi:

T0 <- 1
r0 <- 0.03
kappa <- 0.35
thetaQ <- 0.0035/kappa
sigma <- 0.05

hedge.points <- 500
simulations.total <- 5
maturity <- T0

dt <- maturity/(hedge.points+1)
timeline <- seq(0,maturity, dt)

f <- matrix(r0,(hedge.points+2),simulations.total)

vasicek_rate <- function(r,kappa,theta,sigma,dt){
    expkappadt <- exp(-kappa*dt)
    vasi_vola <- (sigma^2)*(1-expkappadt^2)/(2*kappa)
    result <- r*expkappadt+theta*(1-expkappadt)+sqrt(vasi_vola)*rnorm(1)
    return(result)
}

for(i in 2:(hedge.points+2)){
    for(j in 1:simulations.total){
        f[i,j]<- vasicek_rate(f[i-1,j],kappa,thetaQ,sigma,dt)
    }
}

plot(timeline,f[,1], ylim=range(f,thetaQ), type="l", col=1,ylab="Korko (r)", xlab = "Hetki (t)")
for(j in 2:simulations.total){
 lines(timeline,f[,j], col=j )
}

title(main="Koron satunnaiskulun simulaatio Vasicek-mallin mukaan")