早在光绪十四年（1888年）汕头埠已有了同济善堂，但随着大量流动人口涌入汕头，以及光绪二十五年（1899年）鼠疫在汕头埠（时潮汕地区还有潮阳棉城，海阳县庵埠）集中爆发，汕头埠单一的善堂的慈善行为捉襟见肘。同年，潮阳棉城棉安善堂社员赵进华到汕头埠打工，看到汕头埠街边无人收埋的流民贫民遗尸很多，便从棉安善堂念佛社请来了大峰祖师木雕像，并由士绅李泰丰出面向当时的同济外局借地，设坛办起存心善堂念佛社。后李泰丰逝世，由赵进华继任。不久因同济外局要收回所用场所，善堂暂迁移至华佗庙内。后首先由于元兴洋行的商人倡导，得到当时汕头埠郭丽州等四十八家商界名流支持，由他们出面作为善堂司事筹办建堂，并得到了官府的重视，光绪二十七年（1901年）由澄海县（时汕头埠属澄海县管辖）正堂出示晓谕，于汕头埠营盘角择地一区，东至义冢（今张园内街），南至水沟（今外马路 (汕头)），西至顺兴街高墙，北至乞食寮前（现存心小学）建存心善堂，并先后筑造义冢多处。时由袁忠信负责募捐、赵进华负责督建，并得到怡和洋行萧犀珊、太古洋行林邦杰、南记洋行林兆龄、元兴洋行萧展初、同泰洋行薛子珊、光兴洋行陈吉六等绅商支持，于当年兴建，人力方面由玉峡宏志善堂、存心老社以及汕头埠近郊的达濠、华坞等地社友助工。建设历时三年，至光绪三十年（1903年）落成，建筑面积1000多平方米。