La naissance du musée est liée aux premières fouilles archéologiques (1858) et aux destructions urbaines dues à la croissance industrielle. Au début du siècle, un fonds important d'art populaire a été constitué grâce à des achats et des legs et une collection d'histoire des vieilles familles mulhousiennes (portraits, mobilier, objets de la vie quotidienne) a vu le jour. La collection d'histoire est liée à l'ancienne république de Mülhausen (mobilier, bannières, objets du patrimoine municipal XVIe-XVIIIe siècle).