Ce rocher servit d'appui à la construction du château des comtes de Caylus au XIème siècle, dont il ne reste aucune trace aujourd'hui.Au pied du Rocher, à l'intérieur de l'enceinte fortifiée, étaient regroupé les maisons des serviteurs du château, formant de l'est à l'ouest une rue traversante.Les habitants de Saint-Affrique s'étant plaints du seigneur de Caylus auprès de Raimond VII, le château fut détruit à la suite d'une rebellion en 1238 du comte de Caylus contre son suzerain Raymond VII, comte de Toulouse, marquis de Provence et de Gothie.Le mur d'enceinte a subsisté jusqu'au début du XIXème siècle : en 1808, le Conseil Municipal de Saint-Affrique le fit abattre pour empierrer la route de Tiergues, alors route impériale 99.Le rocher culmine à 519 mètres.