Funzione logaritmicamente concava

In analisi convessa, una funzione non negativa f : R n R + {\displaystyle f:R^{n}\to R_{+}} è logaritmicamente concava se il suo dominio è un insieme convesso e se soddisfa la disuguaglianza

f ( θ x + ( 1 θ ) y ) f ( x ) θ f ( y ) 1 θ {\displaystyle f(\theta x+(1-\theta )y)\geq f(x)^{\theta }f(y)^{1-\theta }}

per ogni x , y d o m f {\displaystyle x,y\in domf} e 0 < θ < 1 {\displaystyle 0<\theta <1} . Se f {\displaystyle f} è strettamente positiva, ciò è equivalente a dire che il logaritmo della funzione, ossia log f {\displaystyle \log \circ f} , è una funzione concava; quindi,

log f ( θ x + ( 1 θ ) y ) θ log f ( x ) + ( 1 θ ) log f ( y ) {\displaystyle \log f(\theta x+(1-\theta )y)\geq \theta \log f(x)+(1-\theta )\log f(y)}

per ogni x , y d o m f {\displaystyle x,y\in domf} e 0 < θ < 1 {\displaystyle 0<\theta <1} .

Esempi di funzioni logaritmicamente concave sono le funzioni indicatrici 0-1 di insiemi convessi (che richiedono la definizione più flessibile) e la funzione gaussiana.

Analogamente, una funzione è logaritmicamente convessa se soddisfa la disuguaglianza opposta

f ( θ x + ( 1 θ ) y ) f ( x ) θ f ( y ) 1 θ {\displaystyle f(\theta x+(1-\theta )y)\leq f(x)^{\theta }f(y)^{1-\theta }}

per ogni x , y d o m f {\displaystyle x,y\in domf} e 0 < θ < 1 {\displaystyle 0<\theta <1} .

Proprietà

  • Una funzione logaritmicamente concava positiva è anche una funzione quasi-concava.
  • Ogni funzione concava che è non negativa sul suo dominio è logaritmicamente concava. Tuttavia, non vale necessariamente il viceversa. Un esempio è la funzione gaussiana f ( x ) = exp ( x 2 2 ) {\displaystyle f(x)=\exp(-{\frac {x^{2}}{2}})} che è logaritmicamente concava poiché log f ( x ) = x 2 2 {\displaystyle \log f(x)=-{\frac {x^{2}}{2}}} è una funzione concava di x {\displaystyle x} . Ma f {\displaystyle f} non è concava poiché la sua derivata seconda è positiva per | x | > 1 {\displaystyle |x|>1} :
f ( x ) = e x 2 2 ( x 2 1 ) 0 {\displaystyle f''(x)=e^{-{\frac {x^{2}}{2}}}(x^{2}-1)\nleq 0}
  • Una funzione non negativa, due volte differenziabile, con un dominio convesso è logaritmicamente concava se e solo se per ogni x {\displaystyle x} tale che f ( x ) > 0 {\displaystyle f(x)>0} ,
f ( x ) 2 f ( x ) f ( x ) f ( x ) T {\displaystyle f(x)\nabla ^{2}f(x)\preceq \nabla f(x)\nabla f(x)^{T}} ,[1]
ossia
f ( x ) 2 f ( x ) f ( x ) f ( x ) T {\displaystyle f(x)\nabla ^{2}f(x)-\nabla f(x)\nabla f(x)^{T}} è
semi-definita negativa. Per funzioni di una variabile, questa condizione si riduce a
f ( x ) f ( x ) ( f ( x ) ) 2 {\displaystyle f(x)f''(x)\leq (f'(x))^{2}}

Operazioni che conservano la concavità logaritmica

  • Prodotto: Il prodotto di funzioni logaritmicamente concave è anch'esso una funzione logaritmicamente concava. Infatti, se f {\displaystyle f} e g {\displaystyle g} sono funzioni logaritmicamente concave, allora log f {\displaystyle \log f} e log g {\displaystyle \log g} sono concave per definizione. Perciò
log f ( x ) + log g ( x ) = log ( f ( x ) g ( x ) ) {\displaystyle \log \,f(x)+\log \,g(x)=\log(f(x)g(x))}
è concava e quindi anche f g {\displaystyle fg} è logaritmicamente concava.
  • Marginalizzazione: Se f ( x , y ) : R n + m R {\displaystyle f(x,y):R^{n+m}\to R} è logaritmicamente concava, allora
g ( x ) = f ( x , y ) d y {\displaystyle g(x)=\int f(x,y)dy}
è logaritmicamente concava (vedere disuguaglianza di Prékopa-Leindler).
  • Ciò implica che la convoluzione conserva la concavità logaritmica, poiché h ( x , y ) = f ( x y ) g ( y ) {\displaystyle h(x,y)=f(x-y)g(y)} è logaritmicamente concava se f {\displaystyle f} e g {\displaystyle g} sono logaritmicamente concave, e perciò
( f g ) ( x ) = f ( x y ) g ( y ) d y = h ( x , y ) d y {\displaystyle (f*g)(x)=\int f(x-y)g(y)dy=\int h(x,y)dy}
è logaritmicamente concava.

Distribuzioni logaritmicamente concave

Le distribuzioni logaritmicamente concave sono necessarie per un certo numero di algoritmi, ad esempio adaptive rejection sampling.

Come è noto, molte distribuzioni di probabilità comuni sono logaritmicamente concave. Alcuni esempi:[2]

Notiamo che tutte le restrizioni sui parametri hanno la stessa motivazione di base: l'esponente di una quantità non negativa deve essere non negativo in modo che la funzione sia logaritmicamente concava.

Le seguenti distribuzioni sono non logaritmicamente concave per ogni scelta dei parametri:

Notare che la funzione cumulativa di tutte le distribuzioni logaritmicamente concave è anch'essa logaritmicamente concava. Tuttavia, alcune distribuzioni non logaritmicamente concave pure hanno funzioni cumulative logaritmicamente concave:

Le seguenti sono alcune tra le proprietà delle distribuzioni logaritmicamente concave:

  • se la densità è logaritmicamente concava, tale è la sua funzione cumulativa;
  • se una densità multivariata è logaritmicamente concava, tale è la densità marginale su ogni sottoinsieme di variabili.
  • la somma di due variabili casuali logaritmicamente concave indipendenti è logaritmicamente concava; ciò segue dal fatto che la convoluzione di due funzioni logaritmicamente concave è logaritmicamente concava;
  • il prodotto di due funzioni logaritmicamente concave è logaritmicamente concavo; ciò significa che le densità congiunte ottenute moltiplicando due densità di probabilità (ad esempio la normal-gamma distribution, che ha sempre un parametro di forma >= 1) saranno logaritmicamente concave. Questa proprietà è molto usata nei programmi per i general-purpose basati sul campionamento di Gibbs, quali BUGS e JAGS, che, in tal modo, sono in grado di utilizzare adaptive rejection sampling su una grande varietà di distribuzioni condizionate derivanti dal prodotto di altre distribuzioni.

Note

  1. ^ Stephen Boyd and Lieven Vandenberghe, Convex Optimization (PDF) p.105
  2. ^ See Mark Bagnoli and Ted Bergstrom (1989), "Log-Concave Probability and Its Applications", University of Michigan.[1]
  3. ^ a b András Prékopa (1971), "Logarithmic concave measures with application to stochastic programming". Acta Scientiarum Mathematicarum, 32, pp. 301–316.

Bibliografia

  • Ole Barndorff-Nielsen, Information and exponential families in statistical theory, Wiley Series in Probability and Mathematical Statistics, Chichester, John Wiley \& Sons, Ltd., 1978, pp. ix+238 pp., ISBN 0-471-99545-2, MR 489333.
  • Sudhakar Dharmadhikari e Kumar Joag-Dev, Unimodality, convexity, and applications, Probability and Mathematical Statistics, Boston, MA, Academic Press, Inc., 1988, pp. xiv+278, ISBN 0-12-214690-5, MR 954608.
  • Johann Pfanzagl e with the assistance of R. Hamböker, Parametric Statistical Theory, Walter de Gruyter, 1994, ISBN 3-11-013863-8, MR 1291393.
  • Josip E. Pečarić, Frank Proschan e Y. L. Tong, Convex functions, partial orderings, and statistical applications, Mathematics in Science and Engineering, vol. 187, Boston, MA, Academic Press, Inc., 1992, pp. xiv+467 pp., ISBN 0-12-549250-2, MR 1162312.

Voci correlate

  Portale Matematica: accedi alle voci di Wikipedia che trattano di matematica