L’abbaye, troisième fille de Cîteaux est fondée par le futur saint Bernard, le 25 juin 1115, dans une vallée étroite s'ouvrant sur celle de l'Aube.
A l'écart du monde, le lieu reflète l'idéal voulu par le nouvel ordre cistercien, souhaitant vivre authentiquement la règle de Saint-Benoît, dans le silence, le travail et la prière. Le développement de l’Ordre Cistercien et son expansion dans toute l’Europe médiévale doivent beaucoup à l’abbaye de Clairvaux et à la personnalité hors du commun de saint Bernard. 
Dès 1153, 169 abbayes sur le continent peuvent se réclamer de la filiation de Clairvaux. Leur nombre augmentera encore au cours du XIII^e siècle et on peut retrouver des fondations de Clairvaux, dans toute l'Europe, notamment en Suède, dès 1143, à Alvastra ou au Portugal à Alcobaça, en 1148, sans oublier en Angleterre, avec Rievaulx (1132), Fountains (1138) ou Eberbach (1135), en Allemagne actuelle, Chiaravalle (1135) ou Casamari (1144), en Italie.

La guerre de Cent Ans, puis les guerres du début du XVII^e siècle, dévastent le domaine de Clairvaux mais l'abbaye ne sera jamais pillée.

C’est au siècle suivant que plusieurs campagnes de construction vont profondément transformer l’ensemble des bâtiments. Les travaux commencent par modifier le logis abbatial, achevé en 1705, la porterie et le bâtiment des hôtes, en créant une grande composition d'architecture classique.

Les moines quittent l’abbaye en 1791 et les bâtiments sont vendus comme Bien National dès l’année suivante. La bibliothèque de l'abbaye est transférée à Troyes où elle est conservée, dans la médiathèque. Elle a été inscrite par l'UNESCO, comme « patrimoine du monde », en 2009.

L’Etat achète les bâtiments de l'abbaye en 1808 pour en faire un dépôt de mendicité, puis une maison centrale de détention, accueillant les condamnés de neuf départements. La création de ce centre de détention, toujours en activité, a préservé la plupart des bâtiments de l’ancienne abbaye, sauf l'église abbatiale.

Son emplacement, longeant l’aile ouest du cloître, est traditionnellement réservé aux convers dans une abbaye cistercienne.
Ce sont des religieux, mais non des moines, qui mettent en valeur le domaine agricole de l'abbaye par leur travail. Ils vivent dans les granges que l'on appellerait aujourd'hui des fermes ou des exploitations agricoles. L'abbaye de Clairvaux en possédait six quand Saint-Bernard était abbé (1115 - 1153), vingt quatre, à la fin du XIIIe siècle.

Chaque samedi, les convers rentraient à l'abbaye pour suivre les offices religieux du dimanche, expliquant ainsi les dimensions du bâtiment. Il s'élève sur deux étages et s’étend sur 74 m avec une largeur de 21,50 m. Il comprenait à l’origine 14 travées et trois vaisseaux par niveau. Aujourd’hui, il s’interrompt au début de la 13e travée, en raison des travaux du XVIIIe siècle qui ont entraîné la suppression de son extrémité nord du côté de l’église de l'abbaye. De grandes arcades rythment les façades est et ouest et servent de contreforts. Elles évoquent d’autres constructions édifiées par l'abbaye au début du XIIIe siècle, comme les celliers de Clairvaux à Colombé-le-Sec et à Bar-sur-Aube, ou celui de Dijon.

Dans la plupart des abbayes cisterciennes de cette époque, les bâtiment des convers reproduisent une disposition identique à celle de Clairvaux : au premier niveau, au sud, le réfectoire, séparé du cellier, au nord, par un passage charretier qui permettait de faciliter le transport des vivres dans le cellier. L'étage servait de dortoir. A l'extérieur, du côté du cloître, un passage, la ruelle des convers, leur permettait de rejoindre l'église abbatiale. A l’intérieur, les trois vaisseaux sont voûtés sur croisées d’ogives à l’étage inférieur alors que l’ancien dortoir, au-dessus, possède des voûtes d’arêtes. Cette disposition est celle de l’aile des convers de l’abbaye de Pontigny déjà achevée dans la seconde moitié du XIIe siècle. En revanche, les trois vaisseaux rappellent ceux des bâtiments des convers de Vaucelles ou de Longuay édifiés au début du XIIIe, mais les échelles sont différentes .

A Clairvaux, le style de l’édifice évoque la fin du XIIe siècle, au plus tôt autour des années 1180, quand l’abbaye commence à jouir d’une aisance financière certaine et que le nombre des convers augmente. Avec leur diminution, le bâtiment des convers devient un cellier et un grenier, entre le début du XVIe et la Révolution.
Au début du XIXe siècle, l’administration pénitentiaire apporte des modifications : deux escaliers intérieurs sont créés et la plupart des baies sont reprises.

L’édifice est occupé par des détenues de 1820 à 1858, avant de devenir un atelier. L’ancien cellier leur servait de réfectoire. On comptait 489 femmes à Clairvaux en 1858.

Le bâtiment n’est plus utilisé depuis 1955. Sa restauration ne commence qu’à la fin des années 1960 et s'est poursuivie jusqu'en 2013. Pendant cette période, plusieurs découvertes ont permis de mieux connaître l'édifice et son décor. L'une des portes du cellier s'ouvrant sur le passage charretier a été dégagée. Elle témoigne du niveau du sol médiéval de celui-ci et du cellier, plus élevé que celui du réfectoire; à l'étage, une baie d'origine a été retrouvée, permettant ainsi de retrouver la taille des baies qui ont été restituées au cours de la dernière campagne de restauration achevée en 2013. Cette baie d'origine conservait les traces d'un décor de faux appareil dessinant des joints blancs sur un fond ocre qui a été révélé dans d'autres parties du dortoir.

La campagne de restauration qui s'est achevée en 2013, en recréant l'ouverture des baies d'origine ainsi que l'espace intérieur du réfectoire des convers, offre au visiteur un bâtiment qui reflète l'esprit dans lequel il a été conçu.