早期木柵、深坑、石碇是沿景美溪的小鄉村，平地少，山多，除幾處煤礦之外，居民多以務農為生。對外的交通惟靠沿景美溪的一條台車道。因此，初期的台灣北部宣教活動並未來到這些鄉村。但上帝的奇妙作為，仍讓木柵居民得有機會領受救恩，並早在百年前建立了教會，成為福音的據點。
■福音的傳入
木柵山上指南村的居民，大多是兩百多年從福建安溪移民而來，世代務農，也種茶，特別是鐵觀音茶極富盛名。直到一百多年前，當地有位頗負名望，在日據時代曾當過保正的茶農，叫張迺鴻，主後1878年的某日，他途經新店屈尺附近的甲亭埔橋，適逢偕叡理牧師（馬偕博士）正在佈道，其中有句【聖經】上的話語非常吸引他，就是〔馬太福音〕十一章28節：「來吧，所有勞苦、背重擔的人都到我這裡來！我要使你們得安息。」張迺鴻因常挑重擔，所以這節經文特別打動他的心，他專心的聽這位外國人講道，深受感動，並相信了主耶穌基督。信主後，每主日張迺鴻偕其妻到新店教會禮拜，並帶領鄰人張進來、張迺炰、張臻等人信主，同往新店教會聚會。後來張迺鴻亦被選為新店教會長老。
■教會的建立
由於到新店教會禮拜必須步行遙遠路途，張迺鴻等人乃於1891年，在指南村的渡船頭（現政治大學堤防外運動場附近），租房子作為聚會場所，取名內湖教會（新店教會的支會）。1897年，張等人以卅元在木柵開元街購買現址，並於次年1898年4月建造禮拜堂，完成獻堂（即現已拆除之紅磚小教堂，前少年團契教室），取名為木柵教會。當時，信徒雖僅有九戶，且都住在山上，離教會約一小時路程，但他們卻有眼光在當時木柵的精華區，唯一的一條街道∼開元街購地建堂，令人敬佩。 *註：當時會友計有張迺鴻、張建孢、張進來、張三旗、張迺省、張榜、張迺妙、張海水等九戶。
■成形期的動盪
教會建立之後，有葉金木傳道師前來牧養，但由於教會尚屬弱小，以致傳教師受派前來牧養的任期都不長，影響教勢的進展。木柵教會在戰後，1954年台北中會夏季例會，准升格為堂會，但仍不是很穩固，傳教師更動頻仍，這不僅使教會無法向外擴展，更造成內部的不和諧與爭執。終於很遺憾地在1955年，因帳目不清的爭議，而導致教會分裂，除原木柵教會外，另一批信徒在同一條街相隔50公尺的地方，於1956年另正式成立新興教會，1959年封立黃玉波教師為該會牧師。1962年9月，在台北中會的努力下，兩間教會復和，並改名為文山教會迄今；原先早在同年4月22 日以在現址空地興建新教堂，即目前之舊堂。教會復和後仍時有摩擦，直到1971年9月27日才封立陳文福牧師為首任牧師。然而，陳文福牧師隨即於翌年赴美深造，再次引發教會內部紛爭。教會從建立到1971年封立首任牧師為止，期間歷任的傳道師或神學生有廿多人，由此可知教會的不穩定，以及駐堂牧者的高流動率，很多都是一、兩年就離任。
■安定中的成長
1973年1月1日，台北中會派傳道師陳勝三駐堂牧養，並於當年12月2日封立為本會第二任牧師迄今，教會總算較為安定，也因此內部爭議減少，較能同心於所應關切的教會事工。這期間，相繼成立少年團契、青年團契、婦女團契、社青團契、夫婦團契和成人主日學等（兒童主日學早已成立，據估應有三、四十年歷史，但確切日期已不可考），使朝更健全的方向邁進。1988年10月，於萬芳社區開設本教會的支會──萬芳教會，期望對該新社區的宣教有所助益。
■建堂的奇妙
1980年代時期之教勢發展，因外來人口漸多，聚會人數漸增，教勢發展迅速，但也凸顯使用空間的不足和老舊不堪，教會感到建立新禮拜堂之必要，於是著手準備土地相關資料。豈知，教會兩百多坪的土地和鄰近土地總計三千多坪，早在1969年就因都市計劃被編列為行政機關預定土地，並將於1987年開始徵收土地，興建行政中心。土地沒了，禮拜堂也不可能存在，此消息對教會有如晴天霹靂。面對這個難題，教會除了企謀解決之道，也開始發起建堂基金奉獻。另方面，也開機及尋找適當地點，考慮遷地重新建堂。然而以當時台北市的地價，本會實在沒有能力進行購地，長執會幾次會此傷腦筋之餘，年老的張約旦長老（或許對這塊地有特殊的感情，因為是大學祖父張迺鴻長老的手所買下的）常會說，為何我們老是談找地點的事？ 為何不設法留下這塊具有歷史意義的地方呢？
摘錄到此 （略去 未來的展望）以下是日後由教會所補述的
張約旦長老的這番話是對長執會的極大挑戰，也是極為艱難的任務，但是身為教會的一份子，維護前輩所遺留寶貴資產責無旁貸，因此長執會終於下定決心，全力設法爭取，並籲請全體信同心禱告，靠著上帝的大能來完成這項「不可能的任務」。
於是從1986年2月2日向有關機關遞出第一份陳情書開始，教會展開為土地奮戰的過程，期間可說一波數十折，歷經多次失望打擊和挫折，終於在多位牧長協助，和眾信徒每晚訂時迫切禱告下，在四年後1990年7月20日，奉行政院核准，以「文化資產保存區」之名保留本土地，其餘預定地則都難逃被徵收的命運。這件事除了再次證明禱告的功效，也再次讓我們體驗上帝真是行奇妙的大事的上帝。雖然第一仗打贏了，但接下來還有許多難關擺在眼前，尤其在申請建照上，又歷經了一次大難關，經過兩年多時間多次的審核和修改，才於1993年4月獲准申請建照。
1994年3月13日，開始破土動工見唐，眾人滿心以為很快便可看到期待多年的新堂落成，但事實並不如想像中順利，在興建過程中屢屢遭遇困難和阻撓，例如因為法令的修改，雖然地基已經開挖，不得不暫停做工程修改。終於，在上帝的保守下，1996年5月，完成教堂硬體結構和外觀，並取得使用執照。接著如何裝潢、禮拜堂內部設計和空間使用、發包批價、資金又一度出現不足等等許多難題，一次又一次考驗建堂委員的智慧和信心，誠如〔腓立比書〕四章13節說：「藉著基督所賜的力量，我能夠適應任何情況。」大家專心仰望，克服了重重的難題。 1998年4月12日復活節當天，終於將這座得來不易的聖殿，奉獻給萬軍之耶和華。
