东汉后期，射阳县曾为广陵郡郡治，大名鼎鼎的陈登在这里做过太守。《资治通鉴》卷62记载：建安二年(197)，涟水人陈登被曹操看中，命他为广陵太守，用以掣肘吕布。”临别操执登手曰：“东方之事，尽以相付”。《三国志》卷229记载，陈登在广陵，“明审赏罚，威信宣布”，“未及期年，功化以就，百姓畏而爱之。”建安四年(199)，他协助曹操、刘备在下邳消灭了吕布，“功拜伏波将军，甚得江淮间欢心”。后来东吴孙策率十倍兵力围攻广陵郡，也被他击败。改任东阳太守时，“广陵吏民佩其恩德，共拔郡随登，老弱襁负而追之”。他在这里造福后代的事情很多。比如治水，沿运一带不少地方名“陈公塘”，据说即是他当年开始兴修的塘埝。但陈登在历史上传名全不是因为这些，而是他那“湖海元龙豪气”⑤。
三国时代，淮阴县、射阳县均属于魏。不久，射阳县被废，直到晋太康元年(280)才又恢复，中间约有半个世纪。见《宋书》卷35州郡一。
公元二百年十月，魏文帝曹丕废汉献帝刘协为山阳公，安置在河南山阳。淮安从晋代起亦称山阳，不知从何时起，竟认为刘协降封的山阳就是楚州。今楚州区粮食局处，过去是一座“都土地祠”，里面供奉的都土地就是山阳公，并有汉献帝和伏皇后的塑像。宋王象之《舆地纪胜》卷39“楚州古迹”即记载“古山阳土地庙”，“像设冕服”，并云“旧志”就是如此记载的。同时记载的古迹还有刘伶、杜康的遗迹刘伶台、杜康墓，均在楚州山阳“县北边淮”。淮安汉晋古迹还有一个范张祠，在城内南市桥南。范张指汉范巨卿、张元伯。据正德《淮安府志》卷十一记载，旧有碑，碑载二人友谊，详见《汉书》所载。祠中原塑有范张二人像，有道士供事香火。日久，道士潜易其扁曰“南道堂”，毁二像，易以道像。正德十二年，知府薛(斌下金)责令道士复范张祠原额，仍塑二贤大像。明末祠废。
两晋、南北朝
西晋时，射阳、淮阴二县同属于徐州广陵郡。(此时广陵郡只统8县，共8800户)永嘉之乱以后，淮河以北大抵沦于石勒，属于北朝。公元317年，晋元帝南渡，进人东晋时代，淮河一带开始成为南北战争的前沿阵地，时得时失，相互拉锯。
东晋安帝义熙七年(411)，分广陵郡增设山阳郡，同时置山阳县。山阳郡的治所就设在山阳县，就是在我们现在楚州区这个地方。此为淮安称山阳县之始。山阳郡的建立，使淮安在历史上真正以一个府郡州一级的城市，第一次成为苏北的一个政治军事经济文化中心，至今已将近1600年。
郡县名所以称山阳，有几种不同说法。一说其境内有一大的集镇，地名就叫山阳，新建的郡也就叫山阳，是顺理成章的事情。《寰宇记》云：“以境内有地名山阳，因以名郡县。”《宋书·州郡志》：“山阳令：射阳境，地名山阳，与郡俱立。”清范以煦《淮壖小记》亦主此说，当与史实相符。另一说法是因内有一钵池山。县在此山之山阳故名山阳。此说亦有道理，但无书证。还有一说，见《元和郡县志》引《通典》，说“吴王濞反于广陵，山阳率众于此拒之，因以山阳为名”。好像山阳是一人名，但无其他佐证，很难采信。如这个山阳是地名的话，则山阳一名更早了，竟有2158年以上!
郦道元(466—527)《水经注》卷30云：中渎水(即今运河)“自广陵出山阳白马湖，迳山阳城西，即射阳县之故城也。”根据这条记载，新建之山阳县城当与原射阳城很近，在射阳县城稍东。
正如前文所说，山阳县虽然始建于411年，但山阳这一地名却是很早就有了的，并且作为军事重镇载入史册，它的名字甚至比射阳二字还响。前面所引《资治通鉴》卷70记载蒋济作“土豚”，将山阳池中的战船全部引入淮河一事，就说明山阳这一地名，三国末期(黄初6年[221]10月)就存在，此时离建立山阳郡、山阳县之前至少有186年了。此后山阳一名史不绝书：
《晋书》卷91：孔衍为广陵太守，“虽郡邻西贼，犹教诱后进，不以戎务废业。石勒尝骑至山阳，敕其党，以衍儒雅之士，不得妄入郡境。视职期月，以太兴三年(320)卒于官，年五十三。”《十六国春秋》：隆和元年(362)，北中郎将庾希协助陈佑守洛阳。后希自下邳退屯山阳。
《晋书》卷73庾亮传：太和中(366—371)，庾希“为北中郎将徐兖二州刺史。……初，郭璞筮冰云：子孙必有大祸，唯三阳可以有后。故希求镇山阳。”
《晋书》卷8：太和四年(369)十月，桓温与燕人作战失败，“收散卒，屯于山阳。”11月辛丑，“桓温自山阳及会稽王昱会于途中，将谋后举。”
《资治通鉴》卷113：晋安帝元兴三年(404)四月，“刘裕以新淦县公诸葛长民都督淮北诸军事，镇山阳”。《晋书》卷85诸葛长民传亦载此事，并云：“义熙初，慕容超寇下邳，长民(自山阳)遣部将徐琰击走之”。
《宋书》卷51刘道怜传：义熙四年(408)，“时鲜卑侵逼，自彭城以南，民皆保聚山阳，淮阴诸戌并不复立。道怜请据彭城以渐修创。朝议以彭城县远，使镇山阳。”
《宋书》卷1，义熙六年(410)，刘裕“至下邳，以船载辎重，自帅精锐步归。至山阳，闻何元忌败死，虑误京邑失守，卷甲兼行，与数十人至淮(江)上。”
历史文献记载，山阳在建郡县之前，不但是军事重镇，而且早已成为兖州、青州等州的治所。例如《南齐书》卷14记载：“晋明帝太宁三年(325)，郗鉴为兖州，镇广陵，后还京口。是后兖州或治盱眙，或治山阳。”事实上此时山阳已成为州郡一级的城池，只是尚没有正式明文固定下来而已。山阳未建县建郡之前近200年中，由一个大集镇，屡次成为重兵镇守之地和州郡治所。这为后来同时在这里正式设立山阳郡、山阳县奠定了基础。义熙间建立郡县只不过是水到渠成罢了。、
当时山阳虽未立县，但山阳大镇却早已有了城池。《南齐书》卷14续云：义熙二年(406)，诸葛长民为青州刺史，把他的治所迁到山阳。这时山阳与北朝鲜卑接境，诸葛长民上表云：“此蕃十载，衅故相袭，城池崩毁，荒旧散伏，边疆诸戍，不闻鸡犬。且犬羊侵暴，抄掠滋甚。”于是便又回到京口去了。既然尚未建县时已”城池崩毁”，可见筑城时间当然就更要早了。
有一种说法，山阳的城池是晋穆帝永和5年(349)，由荀羡(321—358)开始营建的，至今已有1600多年了。《晋书》卷75有荀羡的传，传云：“羡字令则。……除北中郎将、徐州刺史、监徐兖二州扬州之晋陵诸军事、假节。殷浩以羡在事有能名，故居以重任。时年二十八，中兴方伯，未有如羡之少者。羡至镇，发二州兵，使参军郑袭戍淮阴。羡寻北镇淮阴，屯田于东阳之石鳖。寻加监青州诸军事，又领兖州剌史，镇下邳。”传中未提及筑山阳城之事，说他筑城的是唐杜佑的《通典》。该书卷181“州郡十一”云：“淮安，……穆帝时中郎将荀羡《北征诗》云：“淮阴旧镇，地形都要。水陆交通，易以观赏，沃野有开殖之利。方舟运漕，无地屯兵，乃营立城池焉。”宋王象之《舆地纪胜》也有类似的记载⑥。然当时淮阴与山阳并存，荀羡所镇乃淮阴而非山阳，故荀所筑之城当非山阳之城。不过，山阳城也应是这段时间内建成。荀羡在这里的头衔是“建威将军、吴国内史。除北中郎将、徐州刺史、监徐兖二州扬州之晋陵诸军事、假节。”(《晋书》卷75本传)、“以建武将军”、吴国内史荀羡为使持节、监徐兖二州诸军事、北中郎将、徐州刺史。”(《晋书》卷8)据此“监徐兖二州”头衔，他管的事当不止淮阴一处，安知山阳城不在营立之内?《通典》、《舆地胜纪》如此记载，亦当有一定的依据。
南北朝时代，淮安仍然属于南北交战之地。《宋书》记载，南朝刘宋时(420—479)，射阳、淮阴二县属南徐州临淮太守(临淮太守辖7县，户3711，人22886)，山阳郡则属南兖州，下辖4个县：山阳、盐城、东城、左乡。东城在今复兴乡境内，左乡在今博里乡三元 村。名为4县，实际只有2814户，人口只有22470人。
《南齐书》记载，南朝萧齐时(479—502)，射阳、淮阴仍属南徐州临淮郡，但已无实土了。山阳郡仍属南兖州，仍领原来四县。当时北兖州设有阳平郡，下辖泰清、永阳、安宜、丰国4县，而郡治寄于山阳。则山阳同时为二郡之治所。不过当时阳平郡是侨置郡，郡小人少，并无另外实土，只是一个安置流民的名目而已。所谓侨治郡县，是当时的一种特殊现象，因为战乱，北方士族南逃，他们大多是豪门大族领头，一个家庭或几个家庭，带着他们的亲属、乡党、宾客和奴仆、佃户一起逃难。他们到了一个新的地方，同来的人自然就成了士族的依附人口，不可能入当地的籍。为了保持他们的名誉地位，显示他们的存在，便要求在新落脚的地方打起原来郡县的旗号，仍称为某某郡某某县，实际上没有一寸土地，与新所在地亦毫无关系。东晋政府为了维护封建统治秩序和保护南迁士族的利益，便在流人集中的地方，设立了若干侨置州、郡、县⑦。在侨置的县中曾有一个叫“阳平郡石鳖县”的，清钱大昕《廿二史考异》：“阳平郡治石鳖，在山阳境内。”“石鳖”后属宝应，今在金湖境内。还有一个叫“淮安县”的，它可是在淮安境内第一次出现“淮安”一名，但它是山南来的侨置县，与后来的地名“淮安”毫不相关。当时除山阳郡所属的县以外，均无实际意义的郡县存在，有的只是一些流民集团和他们的虚有旗号而已。
侨置郡县现象给治理国家带来很多麻烦，后来便被废止了，实行“土断”政策，即人到了哪里，不准再立原来郡县名目，统一归所在地郡县管理。于是山阳境内不再有那些复杂的地名了。
梁初因之，但不久这里即进入了后魏的版图。《魏书》卷106记载，“淮州，萧衍置，魏因之。治淮阴城。领郡四县九。”其中“山阳郡治山阳城，领县二：山阳、左乡。”
两晋南北朝时期，政治斗争激烈，政权不断更迭，战争频仍。人间充满灾祸、死亡、恐怖，人们都在寻求解脱。士人崇尚清谈和玄学，而佛教的教义更适合人的心理，从皇帝到庶民都在信奉，因而佛教极为盛行。西晋泰始元年(265)，印度和尚竺法护来华，永嘉二年(308)，随处译经，挂锡广陵，辗转山阳。山阳人夏宽施地400余亩，由当时镇守山阳的将军庾希建一个寺庙，留他在淮安翻译《法华经》，因此，该庙即取名为正法华院，这是淮安龙兴寺的起始。龙兴寺毁于民国年间，遗址在现在淮中校园中。建寺不久，又修建了一座宝塔，这就是现在的文通塔。天启《淮安府志》说，此塔建于晋大兴二年(319)，(另有一说建于唐代中宗二年)，初名尊胜塔，是江苏省省级文物保护单位。
前几年，我市楚州区法院工地出土一尊石刻造像，正面是佛像，背后是铭文，文中有云：“敬白十方诸佛，一切圣贤，窃惟人生无常，财非已有，咸共割舍，仰为皇帝陛下、州牧守令、已身眷属，敬造佛像一躯。”铭文字里行间正反映了这时期的人的心态。此碑制作于东魏武定五年(547)，距今已有1400多年。发现后即被专家定为国家一级文物，现藏楚州区博物馆。
在东晋时期，淮安就开始造城了。为什么要在这里造城呢?因为它的位置非常重要，处于徐州、海州、南通州、扬州的中心，东边面临黄海(东门外，曾有座“望海楼”)，西边接着江淮平原，北边有淮(废黄海)、泗两条大河，西南有白马湖，东南有射阳湖。境内虽然没有高山峻岭，却能控制南北交通和东西往来。特别是邗沟的开凿，更使淮安成为古代军事要地。在历史上南北分争的动乱时期，淮安便成了兵家必争之地。