Todennäköisyydet generoiva funktio

Todennäköisyydet generoiva funktio (lyhennetään joskus tgf) on todennäköisyyslaskennassa ja tilastotieteessä satunnaismuuttujan todennäköisyysjakaumasta määritelty funktio, jonka avulla voidaan laskea jakauman todennäköisyyksiä ja tekijämomentteja.^[1]

Todennäköisyydet generoiva funktio voidaan määritellä sekä diskreeteille- että jatkuville satunnaismuuttujille. Se on kuitenkin käytännöllisempi diskreeteille satunnaismuuttujille, jonka tuloksia esitellään tässä.

Todennäköisyydet generoiva funktio on odotusarvo

${\displaystyle G(t)=E(t^{X}).}$ ^[2]

Diskreetille satunnaismuuttujalle generoiva funktio on potenssisarja

${\displaystyle G(t)=\sum _{i=0}^{\infty }f(x_{i})t^{x_{i}},}$

jonka eri asteisten potenssien kertoimet ovat pistetodennäköisyysfunktion arvoja eri satunnaismuuttujan ${\displaystyle X}$ arvoille ${\displaystyle x_{i}}$. Muuttuja ${\displaystyle t}$ on usein reaaliluku, mutta se voi olla myös kompleksiluku, sillä kaikki tarvittavat matemaattiset ominaisuudet periytyvät myös sille. Laittamalla muuttujan ${\displaystyle t}$ arvoksi nolla, voidaan funktion derivaatoista poimia esille todennäköisyydet ja arvolla yksi, laskea niistä erilaisia summia.

Potenssisarja suppenee yleisesti reaaliluvuilla vain, jos ${\displaystyle -1<t<1}$. Siten arvo ${\displaystyle t=0}$ on sallittu arvo. Sen sijaan arvo ${\displaystyle t=1}$ ei välttämättä käy, sillä sarja ei silloin suppene yleisessä tapauksessa. Potenssisarjalla saattaa kuitenkin olla olemassa sarjan raja-arvo, kun ykköstä lähestytään vasemmalta päin. Jos näin on, niin raja-arvoa voidaan ilmaista miinus-merkillä

${\displaystyle \lim _{t\to 1-}G(t)=G(1-).}$

Todennäköisyyslaskennassa alueen voi laajentaa ${\displaystyle -1\leq t\leq 1}$, sillä summassa olevien todennäköisyyksien summa on aina yksi. Monissa teksteissä ${\displaystyle G(1-)}$ merkitään siksi ${\displaystyle G(1)}$. Merkintää sovelletaan tässä myös derivaatoille.

Jatkuvalle satunnaismuuttujalle generoiva funktio määritetään

${\displaystyle G(t)=\int _{-\infty }^{+\infty }t^{x}f_{X}(x)\,dx.}$ ^[3]

Yleisessä tapauksessa, missä ${\displaystyle X=\{x_{0},x_{1},x_{2},\dots \}}$, saadaan

${\displaystyle G(0)=\sum _{i=0}^{\infty }f(x_{i})\cdot 0^{x_{i}}=0.}$ ^[4]

Erityistapauksessa, jossa ${\displaystyle Y=\{i|i=0,1,2,3\dots \}=\{0,1,2,3,\dots \}}$ ja niiden todennäköisyydet vastaavasti ${\displaystyle f(x_{i})=f_{i}=p_{i}=P(X=i)}$, tulee generoivasta funktiosta

${\displaystyle G(t)=\sum _{i=0}^{\infty }p_{i}\cdot t^{y_{i}}=p_{0}t^{0}+p_{1}t^{1}+p_{2}t^{2}+\dots ,}$ ^[2]

josta saadaan

${\displaystyle G(0)=\sum _{i=0}^{\infty }p_{i}\cdot 0^{y_{i}}=p_{0},}$ ^[4]

kunhan ${\displaystyle \lim _{t\to 0}p_{0}\cdot t^{y_{0}}=\lim _{t\to 0}p_{0}\cdot t^{0}=p_{0}.}$ ^[4]

Yleisessä tapauksessa, missä ${\displaystyle X=\{x_{0},x_{1},x_{2},\dots \}}$, saadaan

${\displaystyle G(1-)=\lim _{t\to 1-}G(t)=\lim _{t\to 1-}\left(\sum _{i=0}^{\infty }f(x_{i})\cdot t^{x_{i}}\right)=\sum _{i=0}^{\infty }f(x_{i})\cdot 1^{x_{i}}=\sum _{i=0}^{\infty }f(x_{i})=1,}$

sillä satunnaismuuttujan kaikkien arvojen todennäköisyyksien summa on aina yksi.^[4]

Jos muodostetaan uusi satunnaismuuttuja ${\displaystyle Y}$ kahdesta riippumattomasta satunnaismuuttujasta ${\displaystyle X_{1}}$ ja ${\displaystyle X_{2}}$ merkitsemällä ${\displaystyle Y=X_{1}+X_{2}}$, voidaan uusi generoiva funktio muodostaa vanhojen avulla

${\displaystyle G_{Y}(t)=G_{X_{1}}(t)G_{X_{2}}(t).}$ ^[2]

Satunnaismuuttujan momentit generoiva funktio on odotusarvo

${\displaystyle M(t)=E[e^{tX}].}$ ^[2]

Momenttifunktio voidaan kirjoittaa todennäköisyydet generoivan funktion avulla

${\displaystyle M(t)=G(e^{t}).}$ ^[2]

Sarjan derivointi suoritetaan jokaiselle sarjan termille yksittäin seuraavasti: ^[4]

${\displaystyle G(t)=E(t^{X})=\sum _{i=1}^{\infty }f(x_{i})t^{x_{i}}}$

${\displaystyle G'(t)=D\left(\sum _{i=1}^{\infty }f(x_{i})t^{x_{i}}\right)=x_{1}f(x_{1})t^{x_{1}-1}+x_{2}f(x_{2})t^{x_{2}-1}+x_{3}f(x_{3})t^{x_{3}-1}+\dots }$

${\displaystyle G''(t)=D^{2}\left(\sum _{i=1}^{\infty }f(x_{i})t^{x_{i}}\right)=x_{1}(x_{1}-1)f(x_{1})t^{x_{1}-2}+x_{2}(x_{2}-1)f(x_{2})t^{x_{2}-2}+x_{3}(x_{3}-1)f(x_{3})t^{x_{3}-2}+\dots }$

Ensimmäisen derivoinnin tulokset voidaan kirjoittaa

${\displaystyle G'(t)=\sum _{i=1}^{\infty }x_{i}f(x_{i})t^{x_{i}-1}}$

ja sen arvo ykkösessä antaa

${\displaystyle G'(1-)=\lim _{t\to 1-}G(t)=\sum _{i=1}^{\infty }x_{i}f(x_{i})1^{x_{i}-1}=\sum _{i=1}^{\infty }x_{i}f(x_{i})=E[X]}$ ^[2]

eli tuloksena on satunnaismuuttujan odotusarvo. Toisen derivoinnin tulokset voidaan kirjoittaa

${\displaystyle G''(t)=G^{(2)}(t)=\sum _{i=1}^{\infty }x_{i}(x_{i}-1)f(x_{i})t^{x_{i}-2}}$

ja sen arvo ykkösessä on

${\displaystyle G''(1-)=\lim _{t\to 1-}G^{(2)}(t)=\lim _{t\to 1-}\left(\sum _{i=1}^{\infty }x_{i}(x_{i}-1)f(x_{i})t^{x_{i}-2}\right)}$

${\displaystyle =\sum _{i=1}^{\infty }x_{i}(x_{i}-1)f(x_{i})1^{x_{i}-2}=\sum _{i=1}^{\infty }x_{i}(x_{i}-1)f(x_{i})=E[X(X-1)]}$

eli satunnaismuuttujan toinen tekijämomentti. Odotusarvo voidaan tulkita siten ensimmäiseksi tekijämomentiksi. Yleisesti, kun on otettu r:s derivaatta, saadaan

${\displaystyle G^{(r)}(1)=E[X^{(r)}]=E[X(X-1)(X-2)\dots (X-r+1)]}$ ^[4][2]

eli r:s tekijämomentti.

Erityistapauksessa, jossa ${\displaystyle Y=\{0,1,2,3,\dots \}}$ ja niiden todennäköisyydet vastaavasti ${\displaystyle f(x_{i})=p_{i}=P(Y=i)}$, saadaan derivaatoista määritetty pistetodennäköisyydet ${\displaystyle p_{i}}$. Generoiva funktio on nyt

${\displaystyle G(t)=\sum _{i=0}^{\infty }p_{i}\cdot t^{y_{i}}=p_{0}t^{0}+p_{1}t^{1}+p_{2}t^{2}+\dots }$ ^[2]

ja sen ensimmäinen derivaatta on

${\displaystyle G'(t)=\sum _{i=1}^{\infty }y_{i}p_{i}t^{y_{i}-1}=0\cdot p_{0}t^{-1}+1\cdot p_{1}t^{0}+2p_{2}t^{1}+3p_{3}t^{2}\dots =p_{1}t^{0}+2p_{2}t^{1}+3p_{3}t^{2}+\dots .}$

Sijoittamalla siihen ${\displaystyle t=0}$ saadaan

${\displaystyle G'(0)=p_{1}0^{0}+2p_{2}0^{1}+3p_{3}0^{2}+\dots =p_{1},}$

kun tilanteessa "${\displaystyle 0^{0}}$" huomataan ${\displaystyle \lim _{t\to 0}t^{0}=1.}$ Toinen derivaatta antaa

${\displaystyle G''(t)=\sum _{i=1}^{\infty }y_{i}({y_{i}-1})p_{i}t^{y_{i}-2}=1\cdot 0\cdot p_{1}t^{-1}+2\cdot 1p_{2}t^{0}+3\cdot 2p_{3}t^{1}+4\cdot 3p_{4}t^{3}+\dots =2p_{2}t^{0}+6p_{3}t^{1}+12p_{4}t^{2}+\dots }$

ja sijoittamalla taas ${\displaystyle t=0}$ saadaan

${\displaystyle G''(0)=2p_{2}0^{0}+6p_{3}0^{1}+12p_{4}0^{2}+\dots =2p_{2}.}$

Pienellä päättelyllä saadaan todennäköisyydet laskettua

${\displaystyle p_{k}={\frac {G^{(k)}(0)}{k!}}.}$ ^[2]

Tästä lausekkeesta voidaan ymmärtää funktion nimi: todennäköisyydet generoiva funktio.

Noppapeleissä käytetään arpakuutiota, jolla arvotaan kuusi lukua 1−6 ja jonka eri lukujen todennäköisyydet ovat yhtä todennäköisiä (eli noppa antaa luvun ${\displaystyle i}$ todennäköisyydellä ${\displaystyle P(X=i)={\tfrac {1}{6}}}$. Muodostetaan todennäköisyydet generoiva funktio

${\displaystyle G(t)=\sum _{i=1}^{\infty }f(x_{i})t^{x_{i}}=P(X=1)t^{1}+P(X=2)t^{2}+P(X=3)t^{3}+P(X=4)t^{4}+\dots ,}$

jolla on ominaisuus

${\displaystyle G(1)={\tfrac {1}{6}}\cdot 1^{1}+{\tfrac {1}{6}}\cdot 1^{2}+{\tfrac {1}{6}}\cdot 1^{3}+{\tfrac {1}{6}}\cdot 1^{4}+\dots ={\tfrac {1}{6}}+{\tfrac {1}{6}}+{\tfrac {1}{6}}+{\tfrac {1}{6}}+{\tfrac {1}{6}}+{\tfrac {1}{6}}+0+0+\dots =1}$

eli todennäköisyyksien summa on yksi.^[5]

Koska todennäköisyydet ovat samat ja muualla nolla, on sarja itse asiassa summa:

${\displaystyle G(t)={\tfrac {1}{6}}t^{1}+{\tfrac {1}{6}}t^{2}+{\tfrac {1}{6}}t^{3}+{\tfrac {1}{6}}t^{4}+{\tfrac {1}{6}}t^{5}+{\tfrac {1}{6}}t^{6}}$

${\displaystyle ={\tfrac {1}{6}}\left(t^{1}+t^{2}+t^{3}+t^{4}+t^{5}+t^{6}\right).}$

Derivaatta kohdassa yksi on

${\displaystyle G'(t)=1\cdot P(X=1)+2P(X=2)t^{1}+3P(X=3)t^{2}+4P(X=4)t^{3}+\dots }$ ^[5]

ja

${\displaystyle G'(1)=1\cdot P(X=1)+2P(X=2)+3P(X=3)+4P(X=4)+\dots }$

${\displaystyle =1\cdot {\tfrac {1}{6}}+2\cdot {\tfrac {1}{6}}+3\cdot {\tfrac {1}{6}}+4\cdot {\tfrac {1}{6}}+5\cdot {\tfrac {1}{6}}+6\cdot {\tfrac {1}{6}}+0+0+\dots ={\tfrac {7}{2}}=E[X].}$ ^[5] (odotusarvo)

Toinen derivaatta kohdassa yksi on

${\displaystyle G''(t)=2\cdot 1P(X=2)t^{0}+3\cdot 2P(X=3)t^{1}+4\cdot 3P(X=4)t^{2}+\dots }$ ^[5]

ja

${\displaystyle G''(1)=2\cdot 1\cdot {\tfrac {1}{6}}+3\cdot 2\cdot {\tfrac {1}{6}}+4\cdot 3\cdot {\tfrac {1}{6}}+\dots ={\tfrac {35}{3}}=E[X(X-1)].}$ ^[5] (ensimmäinen tekijämomentti)

Huomaa, miten saadaan varianssi näistä kahdesta tuloksesta

${\displaystyle G''(1)+G'(1)-(G'(1))^{2}={\tfrac {35}{3}}+{\tfrac {7}{2}}-\left({\tfrac {7}{2}}\right)^{2}={\tfrac {35}{12}}=Var(X).}$ ^[4][5]

• Cut the Knot's: Probability generating functions