El convento fue construido en el siglo XIV por la Orden Franciscana. Sus ocupantes fueron los introductores en Galicia de unos pimientos traídos de América que hoy son conocidos como Pimientos de Padrón. En la actualidad es albergue de peregrinos, aunque ha sido durante muchos años un colegio privado.