Musik wurde in früheren Jahrhunderten vor allem an Fürstenhöfen und als geistliche Musik zu Ehren Gottes in der Kirche und in Klöstern betrieben. Auch in Arnsberg gab es ein Musikleben im Kloster Wedinghausen. So waren die Mönche unter Abt Michael Reinhartz (1663-1688) angehalten worden, mindestens ein Musikinstrument zu spielen und vom Abt Josef Fischer (1781- 1803) schreibt Hofrat Brisken, dass er mit einer wundervollen Stimme begabt sei. Es gab Musikdarbietungen durch Mönche und Schüler des Gymnasiums Laurentianum, das für regelmäßige Aufführung von Singspielen bekannt war. Mit der Auflösung des Klosters durch die Säkularisation wurde hier eine Zäsur gesetzt. Doch mit der neuen Regierung für die kurkölnische alte Grafschaft Arnsberg durch das Großherzogtum Hessen und ab 1816 durch das Königreich Preußen kamen als neue Bürger junge Beamte mit ihren Familien nach Arnsberg, die frisches Leben und Drang nach Geselligkeit, Unterhaltung und musischer Betätigung mitbrachten. So kam es, dass der musikbegeisterte hessische Aufhebungskommissar und Regierungsrat Franz Adam d´Alquen (1763-1838) im Jahre 1809 den Arnsberger Musikverein gründete, in dem anfangs im kleinen Kreis später auch öffentlich im Rathaussaal oder im Casinosaal instrumentale und vokale Musikwerke dargeboten wurden. Wurde erst der Verein vornehmlich von den hessischen bzw. preußischen Regierungsbeamten getragen, kamen bald weitere Mitglieder dazu. Im Jahre 1840 wurden schon 85 Familien in der Mitgliederliste geführt. 1833 führten Mitglieder zum 25jährigen Bestehen eine Messe von Joseph Haydn auf.

Die ersten Statuten stammen aus dem Jahre 1842. § 1 lautete: Der Zweck des Arnsberger Musikverein ist 1. die Ausbildung der Instrumentalmusik und des Gesangs, 2. die Veranstaltung musikalischer Aufführungen für seine Mitglieder. § 2: Zur Erreichung dieses Zweckes wird der Verein in sich schließen 1. ein Orchester, 2. einen Gesangsverein. Er wird Übungen sowohl in der Instrumentalmusik als im Gesange vornehmen und nach den vorhandenen Mitteln im Laufe des Jahres 8 bis 12 Konzerte geben.

Die Konzerte waren auch für die Öffentlichkeit zugänglich. Aufgeführt wurden Werke von Haydn, Beethoven, Mozart, Spohr und Mendelssohn-Bartholdy. Die Möglichkeiten waren bei einem kleinen Orchester natürlich beschränkt und so wurden einzelne Nummern aus den beliebten Opern bevorzugt.

Nach zeitweiligem Niedergang kam es zu einem ungeahnten Aufschwung unter einem Dirigenten von besonderer künstlerischer Befähigung, dem Freiherrn Friedrich von Quadt. So wurde in den Jahren 1909 bis 1927 – mit Unterbrechung während der Kriegszeit – fast jährlich ein großes Werk mit eigenem Chor und eigenem – verstärktem – Orchester aufgeführt, wie Mozarts „Requiem“, Händels „Messias“, Bruchs „Glocke“, Haydns „Jahreszeiten“, Schumanns „Das Paradies und die Peri“, Mendelssohns „Elias“, Händels „Josua“ und andere. Die Nachfolger des Freiherrn von Quadt in der musikalischen Leitung standen in Ben Esser für eine Intensivierung und Verbesserung der Chorarbeit und in Hans Herwig für einen Ausbau des Orchesters, das in seiner Leistungsfähigkeit für eine Stadt der Größe Arnsbergs sehr bemerkenswert war.

Mit der Verleihung der großen Zelterplakette im Jahre 1939 wurden dieses musikalische Wirken und die Tätigkeit des Städtischen Musikvereins Arnsberg gewürdigt.

Nach dem 2. Weltkrieg begann schon 1946 wieder die Chorprobenarbeit. Im Juli 1946 wurde Haydns „Schöpfung“ und im Dezember Brahms „Ein Deutsches Requiem“ zur Aufführung gebracht. 1953 übernahm der junge Musiker Franz Selter aus Endorf bei Sundern die Aufgabe der musikalischen Leitung, nachdem er an der Musikhochschule Detmold sein Examen abgelegt hatte. Weitere Musikstudien mit dem Schwerpunkt Kammermusik, 1955 ein Dirigentenkurs bei Radio Hilversum unter Ferdinand Leitner und ein Studium der Kirchenmusik in Dortmund mit Examen 1956 vervollständigten seinen musikalischen Werdegang. 1956 wurde er Organist und Chorleiter an der Johanniskirche Sundern und später Leiter der MGV Cäcilia Sundern. Durch diese Verbindung mit Sundern wurden Aufführungen großer Chorkonzerte in der Johanniskirche zusammen mit dem dortigen Kirchenchor ermöglicht. In Arnsberg lag bis in die sechziger Jahre die gesamte Planung und Durchführung der Konzertreihen in seinen und des Vorstands Händen, bis dies von der Stadt selbst übernommen wurde. Als 1968 Heinrich Wildenhues das Amt des Vorsitzenden übernahm, führte er den damals kriselnden Musikverein zusammen mit Franz Selter zur neuen Blüte. Der Chor wuchs wie auch die Qualität der Konzerte. Die Zahl der aktiven wie fördernden Mitglieder stieg und durch die Zuschüsse der Stadt zu den sinfonischen Chorkonzerten war auch die finanzielle Basis gesichert. Jährlich wurden ein bis zwei Konzerte in Arnsberg oder mit befreundeten Chören an anderen Orten zu Gehör gebracht. Im Programm standen alle bekannten Oratorien, Messen und Requien. 

Der Wechsel zum neuen Vorsitzenden Norbert Baumeister im Jahre 1994 und zum neuen musikalischen Leiter Kreiskantor Gerd Weimar im Jahre 2000 fiel zusammen mit der Ära der knappen Kassen der Kommunen, so dass finanzielle Unterstützung der musikalischen Arbeit ausblieb bzw. nur in geringen Maßen stattfand. Trotzdem konnte der Chor unter Gerd Weimar musikalische Fortschritte machen, an beeindruckenden sinfonischen Chorkonzerten, jetzt vor allem in der Abteikirche Königsmünster Meschede, teilnehmen und Kirchenkonzerte in den Kirchen Arnsbergs selbst durchführen.

Zusammen mit den Chören des Evangelischen Kirchenkreises Arnsberg konnte der Oratorienchor des Städt. Musikvereins die großen Chorwerke wie das Requiem von G. Verdi, von W.A. Mozart, dessen Krönungsmesse, die Chorwerke von J.S. Bach, den Elias von F. Mendelssohn-Bartholdy und viele weitere Werke darbieten. Ein besonderer Höhepunkt war 2001 die beeindruckende Aufführung des War Requiem von Benjamin Britten. Im Mai 2006 konnte der Oratorienchor mit dem Projektchor des Evangelischen Kirchenkreise an Aufführung der Requien von W. A. Mozart und G. Verdi in der Basilika des Klosters Eberbach teilnehmen. In den folgenden Jahren bereicherte der Chor mit vielen weiteren gelungenen Konzerten, hier sei noch die Aufführung im Jahre 2019 hervorgehoben: Gemeinsam mit dem Theatron-Theater wurde Tippett’s „A Child of our time“ in der Abtei Königsmünster in Meschede eindringlich und bewegend realisiert.

Zehn Jahre zuvor konnte der Verein im Jahr 2009 sein 200-jähriges Vereinsjubiläum feiern. Damit dürfte der Städtische Musikverein Arnsberg zu den ältesten bürgerlichen Vereinen Deutschlands gehören, die sich der Musik verschrieben haben. Für dieses langjährige Engagement wurde ihm 2009 die Zelter-Plakette verliehen.

Im Städtischen Musikverein war neben dem Oratorienchor in den Jahren 2010-2020 außerdem der Seniorenchor beheimatet, der unter der Leitung von Uschi Schröder Gottesdienste musikalisch gestaltete und wiederholt im Hospiz traditionelle Lieder anstimmte.