甘宁与沈弥、娄发等人起兵反叛刘璋，但被赵韪击败。甘宁便率领八百多人，去荆州依附刘表，留驻南阳（南阳是甘宁的祖籍）。
刘表是东汉末年颇有名气的“八俊”之一，时为荆州刺史。但正如诸葛亮在《隆中对》里分析刘表终不能守住荆州一样，甘宁也发现刘表不习军事，在当时天下不宁、群雄纷争的形势下，终将无成。这时，他听说孙权在江东“招延俊秀，聘求名士，鲁肃、诸葛瑾等始为宾客”，[4]便决定前去投效。
甘宁路经夏口（今湖北武汉），部队不得过，只好暂且依靠江夏太守黄祖。
建安八年（203年），孙权领兵西攻江夏，黄祖大败，狼狈逃溃。甘宁将兵为其断后。他沉着冷静，举弓劲射，射杀孙权的破贼校尉凌操。孙军不敢再追，黄祖性命这才得以保全。甘宁立下大功，可黄祖仍不重用，甘宁也想弃之而去，只是没有一条万全的途径，因而，独自忧愁苦闷，无计可施。
弃黄归孙
苏飞察知甘宁之意，邀请甘宁，置酒欢宴，酒酣之际，对他说：“我数次推荐，主上不肯任用您。日月流逝，人生几何？应该早做长远打算，寻一个知己，成一番大事！”甘宁停了一会，说：“我也想走，可惜没有合适的机会。”苏飞说：“我请主上派你去于是，苏飞提出让甘宁任邾长，黄祖同意。甘宁招回原来离去的一些手下，又聚集一些愿意相从的人，带着他们投奔了孙权。
由于周瑜、吕蒙的推荐，孙权对甘宁十分器重，对待他如原来那些老臣一般。甘宁心情愉快，立即向孙权献计：“如今汉家运数日益衰微，曹操更为骄横专断，最终要成为篡汉的国贼。荆州这个地方，山势屏障利便，江河流畅通行，这是我们东吴西面的屏障啊！我是在刘表手下干过的。据我观察，刘表这个人，自己既没有深谋远虑，接班人又差，根本守不住那地方。将军应该先下手为强，不可落在曹操之后。图谋刘表的计划，第一步先从黄祖下手。黄祖如今年老，昏聩无能，军资粮食都很缺乏，身边的人在愚弄欺瞒他，而他一味地贪图钱财，在下属官吏兵士们头上克扣索取。这些人都心怀怨恨，而战船及各种作战器具，破损而不加修整，荒误农耕，军队缺乏训练有素的队伍。主上现在前往进取，必定将他打败。一旦击败黄祖的队伍，即可击鼓西进，前据楚关，军势即增大扩广，这样可逐渐谋取巴蜀之地了。”甘宁的这个意见与鲁肃此前提出的意见，竟然不谋而合。孙权很赞赏这个意见，更加坚定了用兵的决心。
当时张昭在座，对甘宁
…。。