L'Archivio di Stato di Fermo fu formalmente istituito come Sezione dell'Archivio di Stato di Ascoli Piceno con d.m. del 10 luglio 1965, in applicazione della legge archivistica del 1963 n. 1409 (art. 3).
Già in precedenza, vista l'importanza del patrimonio documentario locale ed in particolare dell'archivio storico comunale, si era preso in considerazione di aprire una sede e il Comune di Fermo, con una delibera del 5 dicembre 1957, si era impegnato a sostenerne tutte le spese. Nel novembre 1958 il Ministero dell'Interno accordò la propria autorizzazione e la sede distaccata fu inaugurata nel maggio 1959 mediante la stipulazione di un accordo fra l'Archivio di Stato di Ascoli Piceno e il Comune di Fermo.
A seguito dell'istituzione della Provincia di Fermo con L. 147 dell'11 giugno 2004, la Sezione fu elevata ad istituto autonomo con decreto del Ministero per i beni e le attività culturali del 28 dicembre 2007.
