En agosto de 1936, el mismo Henri Verne pidió la confirmación y el envío de dicha lista. Hitler había remilitarizado Renania y la guerra se acercaba. En marzo de 1938, después de la anexión de Austria por parte de la Alemania nazi (Anschluss), Germain Bazin, el conservador de las pinturas del Louvre, mandó fabricar cajas para guardar las colecciones.
También había que pensar en proteger al personal del museo. Se construyeron cuatro refugios antiaéreos en el Louvre; el arquitecto del museo Albert Ferran estuvo a cargo de la obra. Los dos más importantes, de 350 m2 cada uno, tenían puertas herméticas y una red de aire autónoma para hacer frente a los gases químicos. El primero, en la sala San Luis, era para los estudiantes y el personal de la escuela del Louvre; el segundo, en los sótanos del Pabellón de las Sesiones, para el personal. Los otros dos estaban debajo del jardín de la Infanta (al excavar se encontraron restos de fortificaciones del siglo XII) y en una galería subterránea debajo del jardín de las Tullerías. A esta altura, en septiembre de 1938, Hitler había ocupado los Sudetes y ya pensaba en entrar a Francia por Bélgica, eludiendo así la Línea Maginot.
A fines de septiembre se organizó el éxodo de las obras maestras. Dos convoyes salieron del Louvre en dirección al castillo de Chambord, en la región central del valle del Loire. Se identificaron las cajas con un sistema codificado de letras y números. “LP” significaba “Louvre Pintura”; “LR”, “Louvre colección Rothschild”. A su vez, las cajas de cada rubro eran numeradas, y las listas de las obras, guardadas en secreto, no estaban en poder de quienes las transportaban. A la identificación mencionada se agregaron etiquetas con colores que indicaban el grado de prioridad de las cajas: rojo implicaba “obras mayores”, amarillo “obras importantes”, verde “obras menos valiosas”, sin color “obras menores”. El Louvre parecía durante la Segunda Guerra Mundial un museo fantasma; el temor a que se perdieran las obras estaba dado no sólo por los eventuales bombardeos sino por la amenaza de que los nazis las robaran o confiscaran. Las obras fueron llevadas a castillos y museos que alejados de las ciudades y de las líneas de ferrocarril.
La caja de La Gioconda llevaba las letras LP, el número 0 y tres etiquetas rojas. El 27 de septiembre de 1938 a las 6 de la mañana esta obra salió del Louvre en dirección a Chambord, donde permaneció algo menos de un mes, luego volvió al museo y en agosto de 1939 volvió a partir hacia Chambord; finalmente, en noviembre de 1939 La Gioconda fue trasladada hacia el castillo de Louvigny, y en junio de 1940 siguió viaje hacia la abadía de Loc-Dieu, en Aveyron. Allí estuvo 4 meses y luego fue trasladada al museo Ingres de Montauban. Permaneció en ese lugar hasta marzo de 1943, en que fue trasladada al castillo de Montal, en Lot, en el que permaneció durante el resto de la guerra. Finalmente, Gerald van der Kemp, encargado del depósito del castillo de Valençay y futuro director del palacio de Versailles tras la liberación de Francia, la escoltó de regreso a París en junio de 1945.
La Victoria de Samotracia requirió un operativo especial para descolgarla y sacarla del museo y fue trasladada directamente al castillo de Valençay, en Indre, junto con la Venus de Milo y otras obras importantes, el 3 de octubre de 1939. En la Primera Guerra Mundial la habían acorazado y protegido con toneladas de bolsas de arena tablas gruesas por la dificultad y los riesgos de moverla, pero en esta ocasión el operativo diseñado para sacarla del museo fue exitoso, con un sistema de andamios y aparejos que depositó la estatua en una especie de carro de madera que bajó por una rampa-tobogán creada sobre la escalera Daru. El pedestal, más pesado que la estatua, quedó en el rellano de la escalera, como esperando que el retorno de la divinidad que transitoriamente dejaba su casa. Se colocaron bolsas de arena alrededor del mismo y se lo protegió con tablas, y así oculto pasó la guerra.
Hasta que su compañera volvió.