Le conservatoire est né à la suite d'une collecte nationale de vieux matériel agricole, réalisée à l'initiative du SEDIMA (Syndicat national des entreprises de service et de distribution du machinisme agricole) en 1978-1980. Le fonds a été enrichi par la collection de l'Institut national agronomique de Paris-Grignon (1983, 1986, 1995) : machines, maquettes, dessins techniques. A cela s'ajoutent de nombreux dons, achats et dépôts.