Le musée abrite les plus belles pièces de la collection léguée à la ville de Vézelay par Christian Zervos. Critique et éditeur d’art, fondateur de la fameuse revue Les Cahiers d’art, publiée de 1926 à 1960, Christian Zervos côtoya les plus grands artistes du XXe siècle.
Au rez-de-chaussée, des petites sculptures et un imposant relief en fonte de Henri Laurens côtoient un grand mobile de Calder tandis que, dans la salle Picasso, des œuvres de Pablo Picasso et de Julio González présentent les liens qui existaient entre ces deux artistes.
À l’étage, on peut voir des sculptures de Giacometti, des peintures d’Ernst (La Sauterelle), Kandinsky, Miró, Jean Hélion, Victor Brauner et Willi Baumeister. Pour les années 50, des œuvres de Jacques Villon, Nicolas de Staël, Serge Poliakoff, Joseph Sima ou Étienne Hajdu.
Dans l’espace des combles, sont présentés les Cahiers d’art, le catalogue raisonné de l’œuvre de Picasso (entrepris par Zervos en 1932, à la demande de l’artiste) et son activité d’éditeur montrant la grande diversité des talents de Zervos, et sa curiosité avec la collection d’objets de l’ancien monde méditerranéen : idoles des Cyclades, figurines d’Égypte, de Chypre et de la Grèce archaïque.
La première peinture murale de Fernand Léger, réalisée à Vézelay, est présentée au rez-de-chaussée dans un espace donnant accès à la terrasse et à la maison du jardinier, réservée aux présentations temporaires.
Le musée est situé dans la maison où est mort Romain Rolland. La chambre de l’écrivain où sont montrées quelques-unes de ses œuvres a été conservée.
Le musée possède des sous-sols médiévaux et sa terrasse ouvre sur le Morvan.