Der romantische Putzbau wurde um zwei unterschiedlich große Höfe errichtet und 1844 fertig gestellt. Das Gebäude war Kaserne und Waffenarsenal zugleich und schloss alle für das Militär wichtigen Einrichtungen mit ein: Militärgericht, Gefängnis, Rekrutierungs-kommission, Schulzimmer, Übungs- und Speiseräume sowie Stallungen. Auch das 1828 entstandene Militärhospital an der Wismarschen Straße wurde mit einbezogen.

Das Arsenal ist dem Stil der Tudor-Gotik nachempfunden, einer englischen Stilrichtung der Spätgotik. Charakteristisch sind die imposanten Türme des Mittelrisalits sowie der Eckpavillons und die gesamte Zinnenbekrönung der Taufe. Die konsequente Fugenquaderung der Wandflächen betonen den burghaften Charakter des zweigeschossigen Bauwerks mit Rundbogenfenstern.

Rund 6 Millionen Mauer- und Dachsteine wurden damals von den Ziegeleien auf den Inseln Kaninchenwerder und Ziegelwerder sowie dem Schelffeld (Schweriner Stadtteil Schelfwerder) geliefert. Die Baukosten betrugen 134.000 Taler.

Der Bauplatz des Arsenals war für die Weiterentwicklung der Stadt entscheidend. Bis dahin war sie über ihre mittelalterliche Grenze Richtung Westen nicht hinausgewachsen. Um den Pfaffenteich, der vorher außerhalb lag, wurde nun weiter gebaut. 

Nach dem ersten Weltkrieg wurde das Gebäude als Polizeikaserne genutzt. Zur Zeit des Drittes Reiches trug das Arsenal den Namen "Adolph-Hitler-Kaserne". Von 1945 bis 1947 war das Gebäude Flüchtlingsunterkunft, danach bis 1989 Sitz der "Bezirksbehörde der Deutschen Volkspolizei". Seit 1990 ist das Arsenal Sitz des Innenministeriums. Es wurde bis 2003 in Stand gesetzt und erhielt dabei seine heutige Farbe.