En 1896, le Facteur Cheval décide de faire bâtir sa maison à côté du Palais idéal déjà en chantier depuis 17 ans. Cette maison deviendra "La Villa Alicius", hommage à sa fille Alice décédée 2 ans plus tôt à l'âge de 15 ans. Ici, il est entouré de son épouse Philomène, de son fils Cyrille (qu'il a eu de son précédent mariage) et de sa belle-fille Louise à la fenêtre.