À sa mort en 1926, Paul Leblanc-Duvernoy légua à la ville d’Auxerre sa maison familiale de la rue d’Égleny où, grand amateur de musique, il réunissait ses amis mélomanes et artistes pour des concerts.
Sa maison est devenue un petit musée où subsiste en particulier l’extraordinaire décor du salon de musique, composé d’un ensemble de tapisseries de la manufacture de Beauvais qui faisait partie de la célèbre suite intitulée « histoire de l’empereur de Chine ».
Le musée est en grande partie consacré à la céramique. Il présente une collection de grès de Puisaye et surtout un important ensemble de faïences françaises régionales, parmi lesquelles de très belles pièces issues de la production nivernaise. Les périodes révolutionnaires y sont particulièrement bien représentées. De plus, la donation Pagès représente un enrichissement considérable avec une exceptionnelle collection de faïences patronymiques. S'ajoutent à cela meubles et tableaux, qui enrichissent le décor de leur présence.