Σύμφωνα με τον Παυσανία το βουνό στα αρχαία χρόνια ονομαζόταν «Υπάτιον Όρος» και στην κορυφή του υπήρχε μεγαλοπρεπής αρχαιοελληνικός ναός και άγαλμα του Υπάτου Διός. Στη βυζαντινή περίοδο και ειδικότερα τον 12ο αιώνα, άρχισε να κτίζεται η Ιερά Μονή. Κτήτορας ο Όσιος Κλήμης και χρηματοδότης ο αυτοκράτορας Αλέξιος Κομνηνός, ο οποίος με χρυσόβουλό του το 1106 παραχώρησε ιδιαίτερα προνόμια στο μοναστήρι, καθώς και πλούσια δώρα. Την εποχή αυτή αλλάζει και η ονομασία του βουνού από «Υπάτιον» σε «Σαγμάτιον» πιθανώς επειδή το βουνό μοιάζει με σάγμα (=σαμάρι) ή επειδή οι παλαιοί μοναχοί ασκούσαν την τέχνη και εργασία του σαγματοποιού.