Fou l'antiga Aureliacum (vil·la d'Aureli) i existia ja a l'època gal·loromana amb un fanum poligonal del segle I (descobert el 1977 a Lescudillier). Aquesta vila antiga, a les altures que dominen Saint-Jean-de-Dône ("Dône" = dunum) fou abandona com altres oppidum durant l'època romana i establerta a la plana, però amb la inseguretat del segle iii i IV es va iniciar un procés d'encastellament establint-se una posició fortificada a mig camí entre l'antic oppidum i la nova vila, on avui dia hi ha el castell de Saint-Étienne.
Geraud era senyor del castell d'Orlhac el 856 quan hi va néixer el seu fill anomenat també Geraud; aquest fill va fundar vers el 894 l'abadia benedictina que després portarà el seu nom. Geraud va morir vers el 910 (encara avui dia molts nascuts a Aurillac són batejats com Geraud). Fou llavors capital de l'Alta Alvèrnia, i va créixer a l'entorn del monestir benedictí de Sant Geraud, que estava sota la invocació de sant Pere i sant Climent, i que va adoptar la reforma de Cluny. En fou monjo, entre altres, Gerbert, futur papa Silvestre II. El 1255 els francesos van adquirir el castell de Sant Esteve; en el segle XIII i XIV Aurillac va sostenir alguns setges contra els anglesos. El 1298 l'abat cedí al municipi tots els drets que posseïa sobre la vila llevat de la jurisdicció. Al segle xvi va patir les guerres religioses i l'abadia fou convertida en col·legiata secular (1562) i posteriorment l'abadia fou incendiada i destruïda pels hugonots el 1569 perdent-se la seva rica biblioteca. El darrer abat fou nomenat el 1752. El 1759 es va fer el primer cens que va donar 6.268 habitants. Després de la revolució i encara que per un temps va alternar amb Sant Flor, Aurillac va esdevenir definitivament capital de Cantal. La via fèrria hi va arribar el 1866.