早在清道光十六年(1836)美国波士顿浸信会即派遣传教士来广州建堂传教，但因遭清政府拒绝而阻留于澳门。鸦片战争后，传教士在不平等条约的保护下进入广州，在东石角和南关等地租赁民房设堂传教，但屡遭居民捣毁，珠江上传教的紫洞教船亦被击沉。同治九年(1870)，美国基督教南差会在市内五仙西购置铺屋建立福音堂。不久即因该地过于繁喧，不宜传教，加上教徒日增，教堂已不敷应用，乃将旧址出售，在今寺贝通津9号购地重建教堂。新堂奠基于光绪三十四年(1908)，翌年建成。同年5月2日成立东山浸信会。当时所建为葵棚结构临时建筑，后因两次被大风吹倒，且前来参加宗教活动的教徒日益增多，在东山的几所教会学校的师生也常来此进行礼拜祈祷，遂于1923年7月动工扩建，至1927年4月16日竣工，举行隆重的献堂典礼，改名为基督教东山浸信会堂。