三山會館始建於1909年（清宣統元年），歷時5年竣工。全館占地4畝，是滬唯壹保存完好的晚清會館建築。飛檐翹角、氣勢雄偉，具有典型的 三山會館福建建築風格。館內古戲臺的設計與制作工藝尤罕見，項部是金碧輝煌喇叭型的藻井，四周刻有上海城墻模型。1959年三山會館被列為市級文物保護單位，成為滬上新的歷史文化景觀。
上海開埠以後，各地商人雲集上海，相繼建立了數百家同鄉會館和同業公所，作為福建會館的三山會館建於1909年，整幢建築別致秀麗，雕梁畫棟、流金溢彩。古戲臺的藻井為全木結構，雕刻著“五福捧壽”、“暗八仙”圖案以及上海老城的八座城門、城墻。城門上有百鳥朝鳳，鑲嵌著夜明珠。古戲臺前的石柱上鐫刻著對聯“集古今大觀時事雖異，得管弦樂趣情文相生”。三山會館是上海工人三次武裝起義的遺址，1926年10月、1927年2月和3月，上海工人在中國***產黨領導下，為響應北伐、推翻軍閥政府在上海的反動統治，先後舉行了三次武裝起義，指揮部就設立於此，周恩來曾到三山會館慰問工人。
民國29年前後，在會館內創辦三山中學和八閩小學，1950年中學部停辦。1952年後，小學由人民政府接辦，改名半淞園路第壹小學，直到1979年停辦。
1980年列為市級文物保護單位。1986年，為辟通中山環路，上海市人民政府決定將三山會館作移位修復，工程歷時3年完成。1989年9月26日，會館移位修復後正式對外開放，展出上海工人三次武裝起義史料等，現設三山會館管理處負責保護管理。
三山會館除了繼續保持愛國主義教育基地作用外，還在文物保護、旅遊功能等方面加以拓展，上海民間收藏品陳列館以其新、奇、精、博的特點，吸引了成千上萬的觀賞者。三山會館古色古香的古建築與美輪美奐的民間收藏品融為壹體，珠聯璧合，相映成輝，給人以美的享受。設在三山會館內的上海民間收藏品陳列館，自1992年開館以來，每年舉辦壹次至二次大型的收藏展覽。“92上海民間收藏品大展”，被列為92中國友好觀光年上海十大活動之壹；1993年12月“紀念毛澤東同誌誕辰壹百周年大型收藏展”；1994年4月“古董藝術家具展”；“2002年上海民間收藏展”等。這些展出活動，參展者之多，藏品之豐富，給人新、奇、精、博的感覺，展現了上海民間收藏“半壁江山”的風采。
會館是社會發展的產物，也是中華民族悠久歷史文化重要的組成部分。上海的會館公所興起、繁榮至消逝，歷史過程長達三個多世紀。據史料記載，鼎盛時期上海的會館公所多達400余座，大多沿黃浦江和老城廂壹帶而建，它們在助推上海近代化進程中發揮了重要的作用。
會館是城市發展的見證，也是上海移民城市、多元文化形成重要的組成部分。始建於清宣統元年（1909）的三山會館是滬上唯壹保存完好、對外開放的晚清會館建築，也是上海工人第三次武裝起義唯壹保存下來的革命遺址。1959年被列為上海市文物保護單位。三山會館如今已走過了百年歷程，經歷了翻天覆地的變化。在中國2010年上海世博會開幕前夕，壹座以展示上海會館公所“興衰史”的陳列館在三山會館拔地而起。它與會館古建築融為壹體，相映生輝，將成為中外文化傳播與交流的橋梁。