Les seigneuries de Vaudrocques et de Gournay sont situées à Limpiville à l'emplacement du château et de sa ferme.
La propriété de Limpiville, fut confirmée à l'abbaye De Fécamp par Richard II, avec la charte de 1026. Les abbés de Fécamp ont été seigneurs de Limpivile de 1206 à 1748.
Limpiville était certainement un domaine agricole important, avec de nombreux bâtiments présents sur un plan de 1736, disparus depuis.
Simon Pierre Dyel, Pierre Dyel (1565-?), Adryen Dyel (1605-1662) sont successivement seigneurs de Vaudrocques et de Gournay. Adrien est gouverneur et lieutenant général pour le roi des îles de la Martinique et de Sainte-Lucie.
Son fils Louis Dyel de Vaudrocques (1649-1740) construit le pavillon central du château. Son petit fils Louis François (1706-1778) rajoute deux pavillons en légère saillie rattachés au corps central par deux ailes à la Mansart. Il achète aux moines en 1748 les droits seigneuriaux de Limpiville, et prend le titre de marquis de Vaudroc.
Louis François débute la petite histoire des jardins de Limpiville : il voulut transformer un ensemble rural, somme toute assez modeste, avec ses joncs, ses herbages et ses pommeraies, en "château" du XVIIIe siècle.
Il lui fallait une perspective, la demeure étant orientée nord-sud, et située dans un léger creux, il planta des tilleuls coté sud en taille dégradée, pour finir sur un alignement plus étroit longeant la route vers la ferme du Gournay, pour donner de la grandeur et de la profondeur à l'ensemble. On observe également des alignements de tilleuls au nord, servant de cadre à un dessin en volute du XVIIIe, actuellement reconstitué en gazon.
Puis ce fut le couronnement de l'ensemble, une charmille en forme de double lyre, l'une s'ouvrant au levant, l'autre au couchant, et se rejoignant au centre, encore unique dans le nord de la Loire et refermant des charmes d’origines.
A la mort de Louis François Dyel en 1778, le domaine fût légué à son fils qui spécula sur les assignats et mourut aux Etats-Unis.
Après la Révolution française et à partir de 1806 le domaine de Limpiville a été la propriété de différents propriétaires qui chacun apporta sa main dans la reconstitution des jardins.
C’est au XIXe siècle qu’on note l’unique création de cette période pour le jardin : le théâtre de verdure à l’italienne.
Il faut attendre 1958 pour une restauration des jardins à l’image du XVIIIe siècle après que celui-ci est subit des abandons après la guerre , alors qu’il n’était qu’un fouillis indescriptible d’orties, de ronces et bois mort.
Le parc a été reconstitué d’après les plans d’origine avec les moyens de l’époque : cordeaux, échelles, ciseaux à haies et scies, pour ramener la végétation dans ses dimensions d’origine, soit un retrait souvent proche de 10 à 15 mètres.
Le Château est inséré dans un important massif forestier de 43 ha, partiellement classé en 1943 et 1944 pour éviter les destructions de la guerre (pieux anti-aériens sur les plages normandes et chauffage).
Ces bois remarquables ont été plantés depuis Louis XIII et Louis XIV pour alimenter la construction navale des arsenaux du Havre.
Après la restauration intérieure du Château, les propriétaires actuels l’ont habité à partir de 1964.