Les premiers seigneurs d’Argy apparaissent lors de l’établissement de bâtiments religieux dès le XIe siècle. Ils dépendent alors du seigneur de Buzançais, distant de quelques kilomètres. Un cadet de la famille de Brillac, originaire du Poitou, épouse au XIIIe siècle l’héritière de la seigneurie d’Argy.
Le château des XVe et XVIe siècle a été réalisé par Charles de Brillac avant sa mort en Italie, en 1509. Il est donc le reflet des goûts de cette vieille famille au début de la Renaissance française. Il est contemporain de Blois & Chaumont sur Loire, mais antérieur à la plupart des autres châteaux de la Loire.
Nous y trouvons une tour, au nom de tour de Brillac, et deux galeries. A leur rencontre se situe une tourelle polygonale avec un escalier qui permet l’accès aux trois corps de bâtiment.
Les intérieurs montrent qu’un certain confort était recherché, notamment dans les pièces avec cheminées.
Le château, les communs du XVIIe siècle et le parc de 40 hectares composent un patrimoine exceptionnel dont l’unité a été reconstituée par le Club du Vieux Manoir depuis 1966, puis agrandi du Columbarium des Archives Nationales de 1862 et d’un musée sur la vie paysanne en Berry au XIXe siècle. L’association a le souci environnemental depuis son origine. Le parc du domaine sert donc de refuge à la nature autour d’un étang de 3 ha. On y trouve en rappel de son ancien usage de ferme, des poules, des oies, des paons, des daims, des canards, des chèvres, un âne…