入的汶水等河流都比较清澈，所以这段河流河水较清，因此得名。
清河这个名字在后来逐渐取代了“济水”。
到北宋神宗年间，黄河在澶州决口，滔滔黄水舍弃北流河道，冲入梁山泊。又从梁山泊分成两支，一支冲入清河，东流入海；一支向南，由泗水进入淮海。
从此之后，人们把东流入海的这条清河就叫做“北清河”，把南流入泗的这条叫做“南清河”。
北清河被黄河水冲入之后，逐渐北移，在济南附近决口，脱离了原有的济水河道，占据了漯水河道入海。之后黄河水退，北清河再也没有回到原有的河道上。也就是说，从此时起，清河不但丢掉了“济水”的名字，而且也失去了济水的河道，已经完完全全和原先的济水没有关系了。
再到两宋之交，伪齐刘豫为了运输之利，在济南筑泺堰，将原本流入清河的一条支流——泺水导引入济水故道，这条人工引导的河流大家也叫它“清河”。为了和原本的清河相区别，人们把原本的那条清河叫做“大清河”，而把刘豫修筑的这条清河叫“小清河”。
后面小清河河道变化频繁，又脱离了济水故道。
至此，大清河、小清河正式形成，而原来的济水却再无踪迹可寻了。