source: tol/doc/modeling/BSR/BSR_P1_S2_Bloque_lineal.lyx @ 1b5b24e

devel
Last change on this file since 1b5b24e was e41ec2b, checked in by Víctor de Buen <vdebuen@…>, 16 years ago

Actualización del manual

git-svn-id: ​https://www.tol-project.org/svn/tolp/trunk@2615 be4846ae-f051-483a-831f-b64e7d08527f

  • Property mode set to 100644
File size: 23.3 KB
Line 
1#LyX 1.6.5 created this file. For more info see http://www.lyx.org/
2\lyxformat 345
3\begin_document
4\begin_header
5\textclass amsbook
6\begin_preamble
7%\documentclass[spanish]{article}
8\usepackage{babel}
9\usepackage{varioref}
10\usepackage{amssymb}
11\usepackage{latexsym}
12\usepackage{amssymb}
13\usepackage{amsmath}
14
15\usepackage{graphics}
16\usepackage{graphicx}
17\usepackage{ulem}
18\usepackage{color}
19\usepackage{multicol}
20\usepackage{longtable}
21
22%\usepackage{makeidx}
23\usepackage{hyperref}
24\makeindex
25
26\hypersetup{urlbordercolor=0 0 0,pdfborder=0 0 1 [3 2]}
27\end_preamble
28\use_default_options false
29\begin_modules
30theorems-ams
31eqs-within-sections
32figs-within-sections
33\end_modules
34\language spanish
35\inputencoding auto
36\font_roman default
37\font_sans default
38\font_typewriter default
39\font_default_family default
40\font_sc false
41\font_osf false
42\font_sf_scale 100
43\font_tt_scale 100
44
45\graphics default
46\paperfontsize default
47\spacing single
48\use_hyperref false
49\papersize default
50\use_geometry false
51\use_amsmath 1
52\use_esint 0
53\cite_engine basic
54\use_bibtopic false
55\paperorientation portrait
56\secnumdepth 3
57\tocdepth 3
58\paragraph_separation indent
59\defskip medskip
60\quotes_language english
61\papercolumns 1
62\papersides 1
63\paperpagestyle default
64\tracking_changes false
65\output_changes false
66\author ""
67\author ""
68\end_header
69
70\begin_body
71
72\begin_layout Chapter
73\begin_inset CommandInset label
74LatexCommand label
75name "cha:El-bloque-lineal"
76
77\end_inset
78
79El bloque lineal con restricciones lineales
80\end_layout
81
82\begin_layout Standard
83Casi todos los modelos de regresión contienen uno o varios bloques lineales
84 que suelen acumular la mayor parte de las variables por lo que es imprescindibl
85e atacar su simulación de la manera más eficiente posible, especialmente
86 si se trata de matrices sparse como es bastante habitual, sobre todo en
87 modelos estructurados como los modelos jerárquicos o las redes bayesianas.
88 También es muy importante poder forzar restricciones en forma de inecuaciones
89 sobre los parámetros de este bloque lineal.
90 Para ello es necesario manejar algoritmos sumamente eficientes de generación
91 de multinormales truncadas, descomposiciones de Cholesky y resolución de
92 sistemas lineales sparse y densos, que permitan al mismo tiempo conjugarse
93 con otros bloques de variables (Sigma, ARMA, Missing, ...) dentro del marco
94 del método de simulación de Gibbs.
95\end_layout
96
97\begin_layout Section
98\begin_inset CommandInset label
99LatexCommand label
100name "sub:LinearBlock_Antecedentes"
101
102\end_inset
103
104Descripción
105\end_layout
106
107\begin_layout Standard
108Sea el modelo de regresión lineal estandarizada de rango completo con restriccio
109nes lineales
110\end_layout
111
112\begin_layout Standard
113\begin_inset Formula \begin{equation}
114\begin{array}{c}
115Y=X\cdot\beta+\varepsilon\\
116C\cdot\beta\leq c\\
117\varepsilon\sim N\left(0,I\right)\\
118Y,\varepsilon\in\mathbb{R}^{m}\\
119\beta\in\mathbb{R}^{n}\wedge X\in\mathbb{R}^{m\times n}\\
120c\in\mathbb{R}^{\rho}\wedge C\in\mathbb{R}^{\rho\times n}\\
121m>n\\
122rank\left(X\right)=n\end{array}\end{equation}
123
124\end_inset
125
126donde
127\end_layout
128
129\begin_layout Itemize
130\begin_inset Formula $\beta$
131\end_inset
132
133 son los parámetros a estimar de la regresión,
134\end_layout
135
136\begin_layout Itemize
137\begin_inset Formula $n$
138\end_inset
139
140 es el número de parámetros a estimar de la regresión,
141\end_layout
142
143\begin_layout Itemize
144\begin_inset Formula $m$
145\end_inset
146
147 es el número de datos de contraste del modelo y ha de ser mayor que el
148 de variables,
149\end_layout
150
151\begin_layout Itemize
152\begin_inset Formula $\rho$
153\end_inset
154
155 es el número de restricciones de inecuaciones lineales,
156\end_layout
157
158\begin_layout Itemize
159\begin_inset Formula $Y$
160\end_inset
161
162 es la matriz de output estandarizado del modelo y es completamente conocida,
163 aunque puede cambiar de una simulación para otra si estamos en el marco
164 de una simulación de Gibbs con más bloques involucrados.
165 Para estandarizarla normalmente se habrá dividido previamente cada segmento
166 por su correspondiente parámetro de desviación típica, y también se habrá
167 filtrado eventualmente de las partes no lineales: ARMA, omitidos, etc.
168\end_layout
169
170\begin_layout Itemize
171\begin_inset Formula $X$
172\end_inset
173
174 es la matriz de iputs del modelo y es completamente conocida y de rango
175 completo, aunque puede cambiar de una simulación para otra lo mismo que
176 el output.
177 Para estandarizarla normalmente se hará igual que con el output.
178\end_layout
179
180\begin_layout Itemize
181\begin_inset Formula $\varepsilon$
182\end_inset
183
184 son los residuos estandarizados del modelo cuya distribución se propone
185 como hipótesis principal del mismo,
186\end_layout
187
188\begin_layout Itemize
189\begin_inset Formula $C$
190\end_inset
191
192 es la matriz de coeficientes de restricción, que es conocida y también
193 podría cambiar en cada simulación
194\end_layout
195
196\begin_layout Itemize
197\begin_inset Formula $c$
198\end_inset
199
200 es el vector de frontera de restricción que es igualmente conocida aunque
201 no necesariamente fija.
202 
203\end_layout
204
205\begin_layout Section
206Simulación del bloque lineal de rango completo
207\end_layout
208
209\begin_layout Standard
210Condicionando a la varianza
211\begin_inset Formula $\sigma^{2}$
212\end_inset
213
214, la distribución de
215\begin_inset Formula $\beta$
216\end_inset
217
218 es de sobras conocida y no ofrece mayores dificultades a nivel teórico,
219 pues se trata simplemente de una multinormal truncada
220\end_layout
221
222\begin_layout Standard
223\begin_inset Formula \begin{equation}
224\begin{array}{c}
225\beta\sim TN\left(\mu,\sigma^{2}\Sigma,C\cdot\beta\leq c\right)\end{array}\end{equation}
226
227\end_inset
228
229o bien una multinormal sin truncar si no hay restricciones, es decir, si
230 
231\begin_inset Formula $\rho=0$
232\end_inset
233
234
235\end_layout
236
237\begin_layout Standard
238\begin_inset Formula \begin{equation}
239\begin{array}{c}
240\beta\sim N\left(\mu,\sigma^{2}\Sigma\right)\end{array}\end{equation}
241
242\end_inset
243
244En ambos casos la media y la matriz de covarianzas son las mismas
245\end_layout
246
247\begin_layout Standard
248\begin_inset Formula \begin{equation}
249\begin{array}{c}
250\Sigma=\left(X^{T}\cdot X\right)^{-1}\\
251\mu=\Sigma\cdot X^{T}\cdot Y\end{array}\label{eq:media-cov-bloque-lineal}\end{equation}
252
253\end_inset
254
255
256\end_layout
257
258\begin_layout Standard
259Si se dispone de una descomposición simétrica de la matriz de información,
260 como podría ser la de Cholesky o cualquier otra que cumpla
261\end_layout
262
263\begin_layout Standard
264\begin_inset Formula \begin{equation}
265\begin{array}{c}
266X^{T}\cdot X=L\cdot L^{T}\\
267\Sigma=L^{-T}\cdot L^{-1}\end{array}\end{equation}
268
269\end_inset
270
271entonces es posible definir el cambio de variable de estandarización
272\begin_inset Formula \begin{equation}
273\begin{array}{c}
274\beta=L^{-T}\cdot z+\mu\\
275z=L^{T}\cdot\left(\beta-\mu\right)\\
276E\left[z\right]=0\\
277Cov\left[z\right]=L^{T}\cdot\Sigma\cdot L=I\end{array}\label{eq:muestreo-bloque-lineal-sin-restricciones}\end{equation}
278
279\end_inset
280
281
282\end_layout
283
284\begin_layout Standard
285Las restricciones sobre esta nueva variable quedarían así
286\begin_inset Formula \begin{equation}
287\begin{array}{c}
288C\cdot\left(L^{-T}\cdot z+\mu\right)\leq c\\
289C\cdot L^{-T}\cdot z\leq c-C\cdot\mu\end{array}\end{equation}
290
291\end_inset
292
293y definiendo
294\begin_inset Formula \begin{equation}
295\begin{array}{c}
296D=C\cdot L^{-T}\\
297d=c-C\cdot\mu\end{array}\end{equation}
298
299\end_inset
300
301se obtiene que la distribución de es una multinormal independiente truncada
302\begin_inset Formula \begin{equation}
303\begin{array}{c}
304z\sim TN\left(0,I,D\cdot z\leq d\right)\end{array}\end{equation}
305
306\end_inset
307
308
309\end_layout
310
311\begin_layout Subsection
312Algoritmo de factorización
313\end_layout
314
315\begin_layout Standard
316Aunque a nivel teórico el método presentado no ofrece gran dificultad, no
317 es trivial obtener la descomposición de Cholesky de una forma eficiente
318 cuando el número de datos
319\begin_inset Formula $m$
320\end_inset
321
322 y sobre todo el de variables
323\begin_inset Formula $n$
324\end_inset
325
326 empiezan a crecer.
327 Para empezar, algo tan aparentemente inofensivo como el producto
328\begin_inset Formula $X^{T}\cdot X$
329\end_inset
330
331 precisa nada menos que de
332\begin_inset Formula $n^{2}\cdot m$
333\end_inset
334
335 productos y
336\begin_inset Formula $n^{2}\cdot\left(m-1\right)$
337\end_inset
338
339 sumas de números reales.
340 Con unos pocos cientos de variables y apenas unos miles de datos se va
341 a los centenares de millones de operaciones.
342 Cuando
343\begin_inset Formula $X$
344\end_inset
345
346 es fija a lo largo de las simulaciones no tiene ninguna importancia, pero
347 si no es así hay que repetir el proceso miles o decenas de miles de veces
348 con lo cual se alcanza sin dificultad los billones de operaciones aritméticas.
349\end_layout
350
351\begin_layout Standard
352Si
353\begin_inset Formula $X$
354\end_inset
355
356 cambia dependiendo de forma univariante o como mucho bivariante es posible
357 utilizar un método de interpolación para ahorrar tiempo de computación.
358 Este es el caso de la matriz de diseño extendido de un nodo observacional
359 dentro de un modelo jerárquico.
360\end_layout
361
362\begin_layout Standard
363Si
364\begin_inset Formula $X$
365\end_inset
366
367 es sparse entonces existen métodos de descomposición de
368\begin_inset Formula $X^{T}\cdot X$
369\end_inset
370
371 sin necesidad de construir explícitamente el producto.
372 Concretamente el paquete CHOLMOD
373\begin_inset CommandInset citation
374LatexCommand cite
375key "Cholmod_User_Guide"
376
377\end_inset
378
379 dispone de un método muy eficiente tanto en la descomposición, como en
380 la resolución de los sistemas triangulares asociados.
381\end_layout
382
383\begin_layout Standard
384Para el cálculo de
385\begin_inset Formula $\mu$
386\end_inset
387
388 conviene disponer los cálculos así
389\end_layout
390
391\begin_layout Standard
392\begin_inset Formula \begin{equation}
393\begin{array}{c}
394\mu=L^{-T}\cdot\left(L^{-1}\cdot\left(Y^{T}\cdot X\right)\right)\end{array}\end{equation}
395
396\end_inset
397
398
399\end_layout
400
401\begin_layout Subsection
402Algoritmo de factorización precondicionada
403\end_layout
404
405\begin_layout Standard
406Cuando la cadena de Markov ha convergido es de esperar que no haya grandes
407 diferencias entre las matrices
408\begin_inset Formula $L$
409\end_inset
410
411 de simulaciones consecutivas.
412 Si es así puede ser de gran ayuda usar la descomposición
413\begin_inset Formula $L_{0}$
414\end_inset
415
416 de la iteración anterior como precondicionador de la actual, puesto que
417 se tendrá lo siguiente
418\begin_inset Formula \begin{equation}
419\begin{array}{c}
420\dot{X}=X\cdot L_{0}\\
421\dot{X}^{T}\cdot\dot{X}=\dot{L}\cdot\dot{L}^{T}\simeq I\end{array}\end{equation}
422
423\end_inset
424
425lo cual hace suponer que las
426\begin_inset Formula $\dot{X}$
427\end_inset
428
429 y
430\begin_inset Formula $\dot{L}$
431\end_inset
432
433 transformadas son más sparse que las correspondientes matrices originales,
434 y por tanto más rápidas de factorizar.
435 Es posible que para que realmente sean sparse sea necesario truncar los
436 valores próximos a 0 según un parámetro de tolerancia predefinido.
437 Esto será útil también independientemente de que se precondicione o no,
438 si existen circunstancias que provoquen valores próximos a 0 que puedan
439 ser truncados, como por ejemplo si existe parte ARMA, puede ocurrir que
440 variables originalmente sparse se conviertan en falsas densas con valores
441 cercanos a 0.
442 Una vez realizada esta factorización se obtendrá la original teniendo en
443 cuenta que
444\end_layout
445
446\begin_layout Standard
447\begin_inset Formula \begin{equation}
448\begin{array}{c}
449X^{T}\cdot X=L_{0}^{-T}\cdot\dot{X}^{T}\cdot\dot{X}\cdot L_{0}^{-1}=L_{0}^{-T}\cdot\dot{L}\cdot\dot{L}^{T}\cdot L_{0}^{-1}\end{array}\end{equation}
450
451\end_inset
452
453es decir
454\end_layout
455
456\begin_layout Standard
457\begin_inset Formula \begin{equation}
458\begin{array}{c}
459L=L_{0}^{-T}\cdot\dot{L}\\
460L^{-1}=\dot{L}^{-1}\cdot L_{0}^{T}\end{array}\end{equation}
461
462\end_inset
463
464
465\end_layout
466
467\begin_layout Standard
468En principio no sería necesario tampoco actualizar la
469\begin_inset Formula $L_{0}$
470\end_inset
471
472 en cada iteración sino tras un determinado número de iteraciones que incluso
473 podría ser creciente conforme la cadena se va estabilizando.
474 Un criterio razonable es el tiempo que lleva el cálculo realizado con precondic
475ionamiento con respecto al tiempo que llevó la última vez que se factorizó
476 la matriz
477\begin_inset Formula $X^{T}\cdot X$
478\end_inset
479
480 original.
481 Mientras el tiempo sea sustancialmente menor merecerá la pena continuar
482 con la misma matriz de precondicionamiento.
483 Si ya la primera iteración cuesta más o apenas poco menos el método de
484 factorización original, entonces se vuelve a este durante un número dado
485 de iteraciones.
486 Si este número se define como infinito o simplementente mayor que la longitud
487 de la cadena, entonces nunca se intenta el método precondicionado y todo
488 queda como estaba.
489\end_layout
490
491\begin_layout Subsection
492\begin_inset CommandInset label
493LatexCommand label
494name "sub:Algoritmo-de-simulación-trunc-multi-normal"
495
496\end_inset
497
498Algoritmo de simulación de la multinormal estandarizada truncada
499\end_layout
500
501\begin_layout Standard
502El algoritmo utilizado para generar los
503\begin_inset Formula $z$
504\end_inset
505
506 está basado en el
507\emph on
508Sampler TN2
509\emph default
510 descrito en las páginas 9-11 del artículo
511\begin_inset CommandInset citation
512LatexCommand cite
513key "Efficient_Gibbs_Sampling_Truncated_Multivariate_Normal"
514
515\end_inset
516
517, y de hecho es conceptualmente idéntico salvo que en la implementación
518 de la fórmula 24 se evitan los productos
519\begin_inset Formula $D_{-j}\cdot z_{-j}$
520\end_inset
521
522 actualizando el vector
523\begin_inset Formula $D\cdot z$
524\end_inset
525
526 que se calcula sólo una vez al principio.
527\end_layout
528
529\begin_layout Standard
530El algoritmo es el siguiente
531\end_layout
532
533\begin_layout Enumerate
534Se parte de un vector
535\begin_inset Formula $z$
536\end_inset
537
538 que cumple las restricciones
539\begin_inset Formula $D\cdot z\leq d$
540\end_inset
541
542
543\end_layout
544
545\begin_layout Enumerate
546Se calcula y almacena el producto
547\begin_inset Formula $\zeta=D\cdot z\in\mathbb{R}^{\rho}$
548\end_inset
549
550
551\end_layout
552
553\begin_layout Enumerate
554Para cada columna
555\begin_inset Formula $j=1\ldots n$
556\end_inset
557
558 de
559\begin_inset Formula $D$
560\end_inset
561
562 se siguen los siguientes pasos
563\end_layout
564
565\begin_deeper
566\begin_layout Enumerate
567Se extrae el vector
568\begin_inset Formula $\zeta^{j}=\left(D_{j,1}\cdot z_{j},\ldots,D_{j,r}\cdot z_{j}\right)^{T}\in\mathbb{R}^{r}$
569\end_inset
570
571
572\end_layout
573
574\begin_layout Enumerate
575Se calcula
576\begin_inset Formula $\zeta^{-j}=\zeta-\zeta^{j}$
577\end_inset
578
579
580\end_layout
581
582\begin_layout Enumerate
583Se calcula el límite inferior
584\begin_inset Formula $\begin{array}{c}
585\lambda_{j}=\underset{i=1\ldots\rho}{\max}\left\{ \left.\frac{d_{i}-\zeta_{-j}}{D_{i,j}}\right|D_{i,j}<0\right\} \end{array}$
586\end_inset
587
588
589\end_layout
590
591\begin_layout Enumerate
592Se calcula el límite superior
593\begin_inset Formula $\begin{array}{c}
594\kappa_{j}=\underset{i=1\ldots\rho}{\min}\left\{ \left.\frac{d_{i}-\zeta_{i}^{-j}}{D_{i,j}}\right|D_{i,j}>0\right\} \end{array}$
595\end_inset
596
597
598\end_layout
599
600\begin_layout Enumerate
601Se simula la normal truncada estándar univariante
602\begin_inset Formula $\xi_{j}\sim TN\left(0,1,\lambda_{j},\kappa_{j}\right)$
603\end_inset
604
605
606\end_layout
607
608\begin_layout Enumerate
609Se modifica
610\begin_inset Formula $\zeta\leftarrow\zeta^{-j}+\left(D_{j,1}\cdot\xi_{j},\ldots,D_{j,r}\cdot\xi_{j}\right)^{T}$
611\end_inset
612
613
614\end_layout
615
616\begin_layout Enumerate
617Se modifica la componente igualándola al valor simulado
618\begin_inset Formula $z_{j}\leftarrow\xi_{j}$
619\end_inset
620
621
622\end_layout
623
624\end_deeper
625\begin_layout Subsection
626Inicialización de la cadena de Markov con una solución factible
627\end_layout
628
629\begin_layout Standard
630
631\size large
632\color red
633Pendiente!!
634\end_layout
635
636\begin_layout Section
637Descomposición de bloques lineales
638\end_layout
639
640\begin_layout Standard
641Cuando el bloque lineal de un modelo tiene demasiadas variables puede ser
642 necesario dividirlo en varias partes para acometerlo bien secuencialmente
643 o bien en paralelo si sus dimensiones sobrepasan la capacidad de la máquina
644 y el diseño del modelo lo permite.
645\end_layout
646
647\begin_layout Subsection
648Descomposición del modelo jerárquico
649\end_layout
650
651\begin_layout Standard
652El modelo jerárquico HLM presentado en
653\begin_inset CommandInset ref
654LatexCommand ref
655reference "sub:El-modelo-jerárquico"
656
657\end_inset
658
659, es un caso típico de modelo divisible de forma natural.
660 Cada nodo observacional es independiente del resto de nodos observacionales
661 y está relacionado con una reducida selección de ecuaciones de los nodos
662 latentes y a priori de forma exclusiva, es decir, cada ecuación latente
663 o a priori sólo afecta a un nodo observacional como máximo, ya que alternativam
664ente podría afectar a un nodo latente.
665 Aunque esto mismo se podría decir para los nodos latentes de cada nivel
666 con respecto al nivel superior, lo normal es que, en los modelos masivos
667 donde puede ser interesante la descomposición, el tamaño relativo de la
668 parte latente y a priori es insignificante con respecto a la observacional
669 por lo que no es necesario descomponerlos.
670\end_layout
671
672\begin_layout Standard
673Se dispone por tanto de una partición inconexa de las ecuaciones del modelo
674 en una serie de bloques con las ecuaciones ligadas a cada nodo observacional,
675 más otro bloque con el resto de ecuaciones ligadas a los nodos latentes.
676 En cada bloque observacional se debe introducir las ecuaciones respetando
677 los segmentos de donde provienen, es decir, debe haber un segmento para
678 las ecuaciones del nodo observacional y otro segmento para las ecuaciones
679 de cada nodo padre, latente o a priori.
680 Nótese que la varianza de los nodos latentes que no estén fijas serán un
681 parámetro más de condicionamiento externo para los bloques observacionales,
682 mientras que las varianzas de estos no serán parámetros condicionantes
683 del bloque de latentes, que sólo dependen de las variables del bloque lineal
684 de sus hijos.
685\end_layout
686
687\begin_layout Standard
688Esta descomposición en bloques permite además ejecutar las simulaciones
689 de los nodos observacionales en paralelo como bloques de Gibbs condicionados
690 al bloque único de los nodos latentes, y después habría que simular éste
691 bloque conjunto de latentes condicionado a todos los observacionales.
692\end_layout
693
694\begin_layout Standard
695Lo dicho anteriormente reza para el modelo HLM sin restricciones de desigualdad
696 ya que si existiera alguna de ellas que afectera a varios nodos al mismo
697 tiempo entonces la distribución de los mismos ya no sería independiente
698 y habría que mantenerlos dentro de un mismo bloque de Gibbs.
699 En este caso sería necesario dividir los nodos en clases de equivalencia
700 con la relación 'existe una restricción de desigualdad entre variables
701 de ambos nodos'.
702 En el peor de los casos se podría tener todos los nodos en una misma clase
703 y no sería posible la simulación en paralelo.
704\end_layout
705
706\begin_layout Standard
707Los nodos que estuvieran relacionados aún se podrían dividir en un bloque
708 BSR para cada uno, sólo que la simulación habría que hacerla secuencial
709 dentro de la clase de nodos relacionados, puesto que todos dependen de
710 todos.
711 Esto podría ser útil si no fuera posible almacenar en RAM el bloque conjunto
712 de toda la clase de nodos relacionados.
713\end_layout
714
715\begin_layout Subsection
716Descomposición del modelo jerárquico con output combinado
717\end_layout
718
719\begin_layout Standard
720El modelo jerárquico con output combinado HLM-OC presentado en
721\begin_inset CommandInset ref
722LatexCommand ref
723reference "sec:El-modelo-jerárquico-combinado"
724
725\end_inset
726
727, es también un modelo divisible aunque en este caso sólo son separables
728 los nodos que no comparten variables con coeficiente no nulo en los bloques
729 
730\begin_inset Formula $\nabla_{*}^{*}$
731\end_inset
732
733 de ninguna ecuación latente ni a priori.
734 En este caso sería necesario dividir los nodos en clases de equivalencia
735 con la relación 'existe o bien una restricción de desigualdad, o bien una
736 combinación de output latente o a priori, entre variables de ambos nodos
737 '.
738\end_layout
739
740\begin_layout Subsection
741Simulación del bloque lineal de rango incompleto
742\end_layout
743
744\begin_layout Standard
745Otro caso en el que puede ser útil descomponer un modelo BSR en varios ocurre
746 cuando hay menos datos que variables en el bloque lineal, o en general,
747 cuando se tiene un modelo de rango incompleto.
748 Si la matriz
749\begin_inset Formula $X$
750\end_inset
751
752 no fuera de rango completo,
753\begin_inset Formula $rank\left(X\right)=r<n$
754\end_inset
755
756 ÂŽ, siempre que no tenga ninguna columna totalmente nula, aún sería posible
757 simular los
758\begin_inset Formula $\beta$
759\end_inset
760
761 rompiéndolos en
762\begin_inset Formula $J$
763\end_inset
764
765 trozos
766\begin_inset Formula \begin{equation}
767\begin{array}{c}
768X\cdot\beta\end{array}=\left(\begin{array}{ccc}
769X^{\left(1\right)} & \cdots & X^{\left(J\right)}\end{array}\right)\cdot\left(\begin{array}{c}
770\beta^{\left(1\right)}\\
771\vdots\\
772\beta^{\left(J\right)}\end{array}\right)\end{equation}
773
774\end_inset
775
776
777\begin_inset Formula \begin{equation}
778\beta^{(j)}\in\mathbb{R}^{n_{j}}\wedge X^{(j)}\in\mathbb{R}^{m\times n_{j}}\forall j=1\ldots J\end{equation}
779
780\end_inset
781
782
783\end_layout
784
785\begin_layout Standard
786elegiendo los bloques de forma que
787\begin_inset Formula \begin{equation}
788n_{j}=rank\left(X_{j}\right)<m\end{equation}
789
790\end_inset
791
792 .
793 Es decir, si hay más variables que datos hay que romper en tantos bloques
794 como haga falta para que cada bloque tenga al menos tantos datos como variables
795, y si hay colinealidades hay que romperlas poniendo una de las columnas
796 implicadas en un bloque distinto.
797\end_layout
798
799\begin_layout Standard
800En estos modelos la varianza debería ser dada como un parámetro fijo y no
801 ser simulada, o bien serlo con algún tipo de restricciones o distribución
802 a priori
803\end_layout
804
805\begin_layout Standard
806Otra cuestión aparte es que la simulación los modelos de rango incompleto
807 realmente llegue a converjer, es decir, una cosa es que se pueda simular
808 algo condicionando a otro algo y otra cosa es que eso converja a alguna
809 parte.
810 La experiencia demuestra que incluso con modelos de rango completo pero
811 con mucha correlación entre variables, la cadena no converge sino que se
812 da paseos entre lo que soluciones prácticamente equivalentes.
813 Si eso ocurre sin llegar a ser colineal, está claro que con rango incompleto
814 es de esperar problemas de ese estilo.
815\end_layout
816
817\begin_layout Standard
818Incluso en el caso en que convergiera la superficie de respuesta de este
819 tipo de modelos, es menor que 1,
820\begin_inset Formula $m/n<1$
821\end_inset
822
823, por lo que habría que ser extraordinariamente cautos a la hora de hacer
824 inferencia con ellos, pues incluso con superficies de respuesta de
825\begin_inset Formula $m/n=10$
826\end_inset
827
828 pueden aparecer facilmente problemas de sobreajuste, de forma que se obtienen
829 buenos resultados intra-muestrales pero las inferencias extra-muestrales
830 son significativamente peores.
831\end_layout
832
833\begin_layout Standard
834Nótese que en este caso no cabe la posibilidad de ejecución en paralelo
835 ya que cada bloque depende de todos los demás, por lo que el condicionamiento
836 ha de ser secuencial.
837\end_layout
838
839\begin_layout Standard
840En cualquier caso, siempre que sea posible, será preferible añadir información
841 a priori razonable de forma que la matriz del diseño resulte de rango completo.
842 Por ejemplo, en un modelo con
843\begin_inset Formula $k_{obs}$
844\end_inset
845
846 nodos observacionales con
847\begin_inset Formula $m_{obs}$
848\end_inset
849
850 datos y
851\begin_inset Formula $n_{obs}$
852\end_inset
853
854 variables relativas a los mismos conceptos en cada nodo, si tiene sentido
855 aplicar un hiperparámetro a cada una de las
856\begin_inset Formula $n_{obs}$
857\end_inset
858
859 entonces se añaden
860\begin_inset Formula $k_{obs}\cdot n_{obs}$
861\end_inset
862
863 ecuaciones latentes y si además se dispone de información a priori sobre
864 dichos hiperparámetros, se agregarán otras
865\begin_inset Formula $n_{obs}$
866\end_inset
867
868 ecuaciones a priori.
869\end_layout
870
871\end_body
872\end_document
Note: See TracBrowser for help on using the repository browser.