汉人把羯人视为蛮夷，一直压着羯人打，并且坚持祖训，不把羯人当人，所捉俘虏直接贬为奴隶，石勒少年从军，在与匈奴的冲突中，也曾被俘，当了一段时间奴隶。
而刘渊，正是匈奴部的统领，也正是他在二十年前大破羯族，展开一场滔天杀戮。
刘渊出名门，是西汉时期匈奴首领冒顿单于的后裔。
冒顿单于统治下的匈奴空前强盛，得汉朝不得不采取和亲政策，冒顿单于娶了一位汉宗室之女，并于汉高祖相约为兄弟，所以，冒顿单于的子孙都以刘氏为姓。
东汉建武初年，乌珠留若鞮单于之子右奥鞬逐王比自称南单于，进入西河的美稷定居，中平年间，羌渠单于派其子于扶罗率兵援助东汉，讨平黄巾军。
当时正碰上羌渠单于被国人所杀，因此于扶罗将所率的兵众留驻在东汉境内，自称单于。
紧接着便是东汉末年，董卓叛乱，于扶罗不甘心蛰伏，也趁着天下大乱的时候率兵劫掠太原、河东，后驻扎河内。
于扶罗死后，其弟呼厨泉继位，任命于扶罗之子刘豹为左贤王，刘豹即刘渊的父亲。