close Warning: Can't synchronize with repository "(default)" (/var/svn/tolp does not appear to be a Subversion repository.). Look in the Trac log for more information.

Changes between Version 2 and Version 3 of Ticket #1377


Ignore:
Timestamp:
Dec 23, 2011, 4:54:43 PM (13 years ago)
Author:
Víctor de Buen Remiro
Comment:

Legend:

Unmodified
Added
Removed
Modified
  • Ticket #1377

    • Property Summary changed from Cadena log-likelihood en MCMC to Cadena log-densidad a posteriori en MCMC
  • Ticket #1377 – Description

    v2 v3  
    1 Si para cada simulación de una cadena de Markov de Montecarlo conociéramos la log-likelihood sería posible hacer diagnosis de convergencia muy útiles como el [wiki:OfficialTolArchiveNetworkBysSamplerPostProccess post-procesado de cadenas de Markov], que es un método robusto de re-muestreo que sustituye las arbitrariedades inherentes a los típicos ''burn-in'' y al ''thining'' por criterio objetivo y bayesiano.
     1Si para cada simulación de una cadena de Markov de Montecarlo conociéramos la log-densidad a posteriori sería posible hacer diagnosis de convergencia muy útiles como el [wiki:OfficialTolArchiveNetworkBysSamplerPostProccess post-procesado de cadenas de Markov], que es un método robusto de re-muestreo que sustituye las arbitrariedades inherentes a los típicos ''burn-in'' y al ''thining'' por criterio objetivo y bayesiano.
    22
    33Cuando se manejan modelos muy complejos y con muchas variables es casi inevitable que aparezcan problemas de multicolinearidad de mayor o menor gravedad. En esos casos es muy complicado distinguir un modelo que no ha convergido aún pero que tiene visos de hacerlo, de uno que no va a hacerlo nunca o que no va a hacerlo en un tiempo prudencial.
    44
    5 Durante los procesos de convergencia la cadena correspondiente a la log-likelihood de cada simulación debe tener una tendencia de crecimiento muy clara, mientras que cuando el modelo ha convergido, debe permanecer muy estable, por lo que en un vistazo obtenemos más información de esta cadena que de todas las demás juntas. Si la log-likelihood entra en tendencias negativas prolongadas es que algo no funciona bien, sea en el diseño del modelo, sea en el simulador.
     5Durante los procesos de convergencia la cadena correspondiente a la log-densidad a posteriori de cada simulación debe tener una tendencia de crecimiento muy clara, mientras que cuando el modelo ha convergido, debe permanecer muy estable, por lo que en un vistazo obtenemos más información de esta cadena que de todas las demás juntas. Si la log-densidad a posteriori entra en tendencias negativas prolongadas es que algo no funciona bien, sea en el diseño del modelo, sea en el simulador.
    66
    7 La cuestión es cómo calcular esta log-likelihood de una forma genérica y eficiente. En una simulación de Gibbs por bloques, como es el caso de BSR, cada bloque se genera en virtud de la densidad condicionada de cada bloque en función del resto. En general no tiene porqué ser conocida la fórmula analítica de esa densidad para ser muestreada, o puede ser conocida y ser muy complicada o lenta de calcular. Pero en el caso de BSR no tendríamos ese problema pues todos los bloques están bien definidos y se puede calcular sin problemas su densidad condicionada.
     7La cuestión es cómo calcular esta log-densidad a posteriori de una forma genérica y eficiente. En una simulación de Gibbs por bloques, como es el caso de BSR, cada bloque se genera en virtud de la densidad condicionada de cada bloque en función del resto. En general no tiene porqué ser conocida la fórmula analítica de esa densidad para ser muestreada, o puede ser conocida y ser muy complicada o lenta de calcular. Pero en el caso de BSR no tendríamos ese problema pues todos los bloques están bien definidos y se puede calcular sin problemas su densidad condicionada.
    88
    9 Mi duda es si la suma de las log-densidades condicionadas es la log-likelihood que buscamos. Mi intuición me dice que sí, pero no caigo en cómo demostrarlo.
     9Mi duda es si la suma de las log-densidades condicionadas es la log-densidad a posteriori que buscamos. Mi intuición me dice que sí, pero no caigo en cómo demostrarlo.
    1010
    1111
    1212
    13