Deux mois après sa nomination, il entame la première des grandes tournées d'inspection qu'il effectue entre 1834 et 1852. Il en rapporte des rapports méticuleux, décrivant tous les monuments dans le détail. Il a des édifices une approche objective et un peu froide que lui reproche Vitet : « Mérimée admire les beaux monuments mais il n'a jamais senti ses yeux se mouiller à l'aspect de leur ruine ». Cela ne remet pas en cause son investissement personnel. Conscient de l'importance de sa mission, il se démène pour sauver les édifices les plus importants.

Pour cela, il organise l'archivage et le classement des données recueillies, établissant des listes de bâtiments à restaurer de façon prioritaire, afin d'éviter la dispersion des fonds qui lui sont alloués. On procède à un classement en trois catégories selon « le mérite sous le rapport de l'art, la situation matérielle, les ressources des localités ». La première catégorie est la plus importante. Elle concerne « des édifices qui sont pour ainsi dire des types et qu'on ne pourrait abandonner à la destruction sans encourir les reproches de la postérité. » Derrière une volonté d'objectivité, percent souvent les goûts personnels. Ces goûts incitent Mérimée à privilégier les édifices romains et médiévaux, notamment religieux.