历史上的台儿庄是一座商旅所萃、居民饶给的运河名城， 它形成于汉，发展于元，繁盛于明清，据《峄县志》记载：“台(儿)庄跨漕渠，当南北孔道，商旅所萃，居民饶给，村镇之大，甲于一邑，被国朝高宗（乾隆皇帝）赐为天下第一庄’”，呈现出“商贾迤逦，一河渔火，歌声十里，夜不罢市”的繁荣景象。

明朝万历年间，京杭大运河徐州段因黄河多次淤塞，南北交通中断。于是，不得不耗费国力“开泇行运”，从微山湖东南段韩庄出口，取道台儿庄，向南直通邳州。因为有泇河补充水源，这段运河因名泇运河（俗称韩庄运河）。泇运河这段比起徐州段，不仅水道畅通，避“黄河夺运”之害，又能缩短路程七十里。于是，这段运河成为清时期京杭大运河山东段的主要通道（今天也是如此）。由此，使得运河上的重镇台儿庄成为傍水而筑、因河而兴的“水旱码头”。

至清朝初年，台儿庄已成了一座繁华的城镇，城市人口最多时高达6万多人。作为重要的商品集散地，每年通过运河漕运，台儿庄云集了大批的晋商、徽商、浙商、闽商、粤商，是辐射苏鲁豫皖地区一座重要的商埠城市。城区内现仍保留长达3公里的古运河河道及明清繁荣时期的街巷、码头等遗址，被中外专家誉为“京杭运河仅存的遗产村庄”。台儿庄至今基本保留明清时期古城脉、古河道、古码头，多是低平建筑。

一九三八年春发生的台儿庄大战，使这座古城化为废墟。台儿庄大战胜利后，国民政府在《中央日报》宣布要重建台儿庄古城，但是由于种种原因，最终成了镜花水月。新中国建立后，台儿庄古城区一直是兰陵县和台儿庄区政权所在地，旧城的老居民区依然保持着古朴自然的陈旧落后面貌，开发重建台儿庄古城，成了台儿庄几代人的梦想。2008年4月8日，在纪念台儿庄大战胜利七十周年的活动上，枣庄市正式宣布，启动台儿庄古城重建工作。

2010年5月1日正式开城，5月4日台湾国民党荣誉主席连战先生来台儿庄古城为复兴楼奠基。

2011年5月12日，台湾国民党荣誉主席吴伯雄先生参加台儿庄古城开埠仪式，他说，“对于能够来台儿庄古城参加开埠仪式，我深感荣幸，并且终生难忘。我去过世界上很多名胜古迹，但只有来到台儿庄才感觉到自己是这里的一分子，让人感觉亲切。把台儿庄作为两岸交流基地再合适不过了。我们希望它为两岸经济文化交流发挥更大的作用。”

2011年6月19日，时任中共中央政治局常委的李长春同志，亲临台儿庄古城视察，并给予高度评价，指出古城建设“是大思路，大手笔，很了不起，看了以后很震撼”，“留下了深刻美好的印象”。

2012年9月16日，时任中共中央政治局常委、全国政协主席的贾庆林同志，莅临台儿庄古城视察，并给予高度评价。强调重建台儿庄古城，符合全球中华儿女的心愿，对于促进海峡两岸交流、增强台湾同胞对中华民族和中华文化的认同，具有重要意义；要把台儿庄古城保护好、管理好、利用好，切实发挥好作用。

2013年8月5日，台儿庄古城重建项目历时四年全面竣工。

2015年3月30日，山东枣庄落马书记陈伟，曾叫停棚改重建台儿庄古城。