石的南面迅速筑起了一座被称为“南硖戍”的堡垒，作为合肥的前哨。
同年七月，曹操征伐孙权。同年十月，曹操无功而返，自合肥还。曹操在离开合肥时，带走了大批部队欲作西征之用，给屯驻合肥的张辽与乐进、李典等将领只留下了七千余人。张辽得知曹操有西征之意，认为合肥即将孤立无援，孙权必会趁机来攻，于是开凿了藏舟浦，用来隐藏舟船。
筑垒硖石南、开凿藏舟浦，都展现了张辽防患于未然的深谋远虑。
建安二十年（215年），曹操率领重兵西征张鲁，让护军薛悌送去一封信函，信函边还写明，要在有敌人来攻时再打开来看。
建安二十年（215年）八月，东吴首领孙权率领十万大军进围合肥，张辽与诸将打开信，信中说：“若孙权军来到，张、李将军出战；乐将军守，护军不得与战。”曹操只在信中明确了3位将领的分工，但是，完全没有提及何时出城、何时撤退、出城人数、攻向哪里、如何接应等具体措施，况且，将在外君命有所不受。因此，合肥诸将们都感到疑虑。在“诸将皆疑”的氛围中，张辽审时度势，根据曹操远征汉中而合肥缺乏后援的现状，做出了分析，提出在合肥城还没有被孙权大军完成合围之前，率先出击，“折其盛势，以安众心”，然后就可以守住城池。张辽此番分析消除了诸将的疑惑。李典也对张辽所说的话表示赞同。
于是，张辽在当夜募集敢于出城迎战的精锐将士八百人，开剥牛肉赏给将士饱食，准备明日大战。天色刚亮，张辽披甲持戟，亲自先登直陷敌阵，撕裂了东吴军队的防线。在他率军冲入东吴的营垒之前，张辽就已经亲自斩杀了数十名东吴士卒和两名东吴将领。他一边大声呼喊着自己的名号，一边登锋陷阵，冲入东吴的营垒。此后，张辽率军继续猛攻，一直冲杀到孙权的主帅旗之下。孙权见状大惊，东吴众将士也因惊慌失措而不知道该如何应付，于是，孙权等人逃跑到一座较高的山冢上，用长戟来自卫。张辽见敌方主帅退避，便叱喝孙权，挑衅他下来对战。但孙权没有轻举妄动，随后孙权发现张辽所率领的士兵非常少，于是聚拢东吴军队将张辽的部队重重包围。张辽率领左右将士突围，径直向前实施“急击”，将东吴的包围圈打开。在战斗中期，张辽曾经带领着中期破围的几十人突出了重围。然而，当时在东吴军队的包围圈中，依然有张辽军馀众几百人（张辽军馀众有几百人，该结论是由“辽募其敢死者八百人，登锋陷阵，大破之”、“吴人夺气”、“众心乃安”等史料推定）。馀众几
…。。