淮阴是一个非常古老的地方，早在旧石器时代，这里就有人类居住。先秦时期，淮阴是徐文化的中心地域，地处淮河(古淮河自南而来，今杨庄以东废黄河是其入海通道)南岸，旧以山之北、水之南为阴，因此名为淮阴。
据《禹贡》记载，夏代，淮阴以淮河为界，分属徐、扬二州之域。商周史籍称为东夷、淮夷之地。
春秋末，属吴。吴被灭后属越。周贞定王二十四年（前445年），楚国屡侵泗水流域，淮阴归属时越时楚，后来终属楚。
秦王政二十四年(前223年)秦灭楚，始设淮阴县，属泗水郡（一属东海郡，也称郯郡），淮阴县治所设在今楚州区。西汉初，分出淮阴县西南地域置富陵县（今洪泽湖内和洪泽、盱眙的部分地区)。
高祖六年（前201年），封韩信为淮阴侯，淮阴为其封邑。十一年，韩信被杀，淮阴侯国取消，仍称淮阴县。武帝元狩六年（前117年），置临淮郡，淮阴、富陵为其属县。
王莽篡汉，改淮阴为嘉信，并改临淮郡为淮平郡。
东汉初并临淮郡入东海郡，淮阴县属之，且撤富陵县，其地入淮阴县，永平十五年(72年)分临淮郡故地立下邳国。
建安十一年(206年)，下邳国名废除，仍为临淮郡，淮阴属之。
三国时属魏，魏承汉制，没有变更。
晋武帝初，仍属临淮郡。
太康三年，移广陵郡治于淮阴，至晋元帝渡江，广陵郡移去，其间共三十四年。
东晋以征北、镇北将军，青兖二州刺史或徐州刺史镇淮阴，淮阴遂为重镇。
永和八年(352年)，荀羡以北中郎将徐州刺史镇守淮阴。他认为淮阴旧镇“地形都要，水陆交通，易以观衅，沃野有开殖之利，方舟运漕”，却“无地屯兵”，因而在秦汉故城(即甘罗城)之南一里许，营造新的城池(后来的淮阴故城，今码头镇附近)，自此淮阴为南朝国防要地。
石闵率领十万精锐之师赶到了淮阴，可是他连淮阴的城头都没有见到，眼前的这条淮河堑，就足以让他望而兴叹！
庾翼是下令淮阴和寿春的晋军坚壁清野是没错，但是这淮河也是可以依仗的有利地形，所以曹据专门在淮河的南岸建造了一座巨大的营寨，只不过赵军来得太快了，几日的时间，营寨只是完成了一个大概，实质上防守能力是很差的。
绕是如此，想要在晋军的阻击之下强渡淮河，谈何容易？
“大王，末
…。。