La fondation de l’église Saint-Germain est parfois attribuée à Agnès de Montfort, cette dernière ayant exprimé l’intention de vouloir faire édifier une église à Cléry-en-Vexin. Si son projet a été réalisé au milieu du XIIe siècle, il ne peut toutefois pas s’agir de l’église actuelle, dont les parties les plus anciennes ne sont pas antérieures au XIIIe siècle.
C’est au moins la deuxième église à cet emplacement, la première ayant été donnée à l’abbaye Saint-Martin de Pontoise en 1099 et a été remplacé au XIIIe siècle. Ses parties les plus anciennes sont le transept, le clocher en bâtière se dressant au-dessus de la croisée du transept, et le chœur carré. La nef et ses deux bas-côtés proviennent du XVIe Le portail est constitué de deux portes rectangulaires de part et d’autre d’un pilier central, qui, à l’instar des piédroits, comportent une niche à statue au dais finement ciselé.
Seule la niche centrale abrite une statue, en l’occurrence une Vierge à l’Enfant. Le tympan ajouré possède comme remplage un complexe réseau flamboyant. Le pinacle au sommet de la verrière est cassé.
À gauche du portail, se trouve une baie ogivale bouchée ; à droite, une courte tourelle d’escalier ronde permet l’accès aux combles. Sur le côté droit de l’église, à l’extérieur, enfeu contenant le tombeau de Jacques de Poissy-Cléry (XVIe siècle).
L’ancienne tour de télégraphe, bâtie au sommet de la colline, servait de relais à celle de Montjavoult (Oise). C’est la seule tour subsistant en Vexin français.
Le hameau du Tillay est situé sur la chaussée Jules-César. Le cadastre de 1831 révèle un enclos (mur, palissade, …) autour du hameau du Tillay à Cléry . Plusieurs découvertes datant de l’époque romaine y ont été signalées ; au Moyen Âge, il relevait de l’Hôtel-Dieu de Paris. Son nom est attaché au tilleul, arbre souvent lié dans nos régions à des chapelles ou des calvaires comme la croix du Til au Perchay.
Un pigeonnier se trouve parmi les dépendances de la ferme dont l’un des bâtiments porte la date de 1747. Ce pigeonnier est de forme carrée avec de gros chaînages d’angle
Le château du Bâtiment, accosté de sa tour, est l’ancienne demeure de la famille de Poissy-Cléry. Vers 1740, la dernière héritière, Marguerite-Suzanne de Pinthereau de Boislisle, épouse le prince Georges Rakoczky, fils du héros national hongrois François II, prince de Transylvanie.
La chaussée dite Jules César reliant Paris (Lutetia) à Rouen (Rotomagus) par Pontoise (Briva Isara) traverse le département du Val d’Oise de Sud-Est en Nord-Ouest, sous la forme d’un axe remarquablement rectiligne. Elle contourne le hameau du Tillay.
Un tronçon d’une vingtaine de kilomètres, subsistant sous la forme d’un chemin entre Pontoise et Magny, a fait l’objet d’une opération de mise en valeur par le Parc Naturel du Vexin Français en collaboration avec la Fédération Française de randonnée Pédestre et le comité départemental de randonnée du Val d’Oise.
