Un des ouvrages les plus anciens de la bibliothèque est un manuscrit sur parchemin protégé par des plats de couverture en bois (ais) et illustré de lettrines enluminées : c’est le Commentaire des épîtres de Saint-Paul qui provient de l’abbaye de La Charité de Neuvelle-les-La Charité (fondée en 1133, Haute-Saône) et date des 12e-13e siècles.
A côté des manuscrits des 12e-19e siècles dont les registres des impératrices Joséphine et Marie-Louise – épouses successives de Napoléon – la bibliothèque conserve des incunables – premiers ouvrages imprimés sur papier sur des presses – dont les caractéristiques physiques sont les suivantes : ais en bois ou en « carton », absence de page de titre, présence d’un incipit (« ici commence ») et d’un colophon (date et/ou lieu…), répartition du texte en colonne façon parchemin… Les incunables sont des ouvrages édités entre 1452 et 1501. De 1501 à 1510 on parle de post-incunables et ensuite de livres anciens. Parmi les 18 incunables de la bibliothèque de Gray on peut citer : L’Ethique d’Aristote de Jean Buridan imprimé à Paris en 1489, La Consolation de la philosophie de Beotius imprimé à Lyon en 1480, l’Histoire du monde (Fasciculus temporum) du moine chartreux Werner Rolevinck imprimé à Lyon vers 1495.
Sont conservés à la bibliothèque de nombreux ouvrages des 16e, 17e et 18e qui reflètent les curiosités des sociétés de ces époques : textes des auteurs antiques et des philosophes, livres d’histoire, de voyages, de sciences naturelles, de droit, de controverses religieuses, de médecine…
