Le musée a été constitué entre 1931 et 1939 par la direction des musées de Strasbourg à partir des collections du Moyen Age et de la Renaissance des différents musées de la ville, du dépôt des sculptures et vitraux de la cathédrale et des fonds regroupés par la Société pour la conservation des monuments historiques d'Alsace depuis la deuxième moitié du XIXème siècle.