«Det af graae Steene bygde Provianthuus» er festningsbyens eldste bygning, oppført i tiden 1674 – 1696. Mot elven er veggene opptil 4 meter tykke. Bygningen viser tydelig festningens rolle som depotfestning, her var det bakeri og proviantlager for både festningen, hæravdelinger i felt og for marinen. I underetasjen er det nå selskapslokaler og på bakkeplanet er det kunstnerverksteder og gallerier.
Brannbatteriet
1682 ble det anlagt et «bombesikkert» hvelvet kruttmagasin med et blokkhus over i søndre ende av Proviantmagasinet. Her hadde festningen sin «kakebu» til blokkhuset ble revet i 1934, og herfra skyter Forsvaret fortsatt sine salutter. Ved siden av Proviantmagasinet ligger Gamle slaveri, bygget som hovedvakt i 1731. Fra 1734 ble det også innredet et rom for festningsslavene her, og her satt Hans Nilsen Hauge i arrest i 1797. I området ved Grunnmurede Provianthus og Gamle Slaveri ligger nå «Bastiuon 5, et kunstnersenter med verksteder, gallerier og kafé.
