王济的父亲王浑曾任越骑校尉，当初司马望出督关中之时，任便任命王浑镇守陈仓，后来陈仓失守，王浑以身殉国，司马昭怜其忠义，乃将王济留在了自己的身边任职。
王济是并州太原人，当时胡人内迁，并州乃是汉胡杂居之地，王济很容易地就结识了刘渊。
刘渊是西汉时期匈奴首领冒顿单于的后裔。汉高祖刘邦一统天下建立汉朝之后，大举进军准备灭掉匈奴，但白登之围却让刘邦吃足了苦头，不得以将一位宗室之女，作为和亲公主嫁给冒顿单于，并与冒顿单于拜把子做了兄弟，所以，冒顿单于的子孙都以刘氏为姓。
东汉建武初年，乌珠留若鞮单于之子右奥鞬日逐王比自称南单于，进入西河的美稷定居，当时离石的左国城就是单于迁移的宫廷。中平年间，羌渠单于派其子于扶罗率兵援助东汉，讨平黄巾军。当时正碰上羌渠单于被国人所杀，因此于扶罗将所率的兵众留驻在东汉，自称单于。紧接着董卓叛乱，于扶罗率兵劫掠太原、河东，后驻扎河内。于扶罗死后，其弟呼厨泉继位，任命于扶罗之子刘豹为左贤王，刘豹就是刘渊的父亲。后来，曹操将呼厨泉的兵众分为五部，任命刘豹为左部帅，其余部帅也都由刘姓担任。
这个刘渊幼时便极为聪明，虽是胡人，但对汉人的文化却是极为地精通，不但对四书五经多有研习，而且极喜兵书兵法。身为胡人，刘渊自然也继承了家族的好体魄，别看刘渊今年只有十七岁，但却生得是虎臂熊腰。身高八尺六寸，极是魁梧。胡须长三尺多，心口上有三根红色的毫毛。长三尺六寸。
这那个时代，凡是生有异相的人都是极受重视的。司马炎长发及地双手过膝，就被裴秀奉为有帝王之相，这刘渊也是极被人看重的，当时，屯留人崔懿之、襄陵人公师彧等都善于给人看相，见到刘渊，他们都非常惊奇，并且相互转告说：“此人形貌非常。吾所未见也。”
所以，在并州一带，刘渊还是相当有名气的，身为太原人的王浑自然对刘渊十分地看重，其子王济与刘渊同年，王浑便令王济与刘渊交好，所以王济虽然谈不上和刘渊是总角之好，但也称得上是发小，两个人关系一直很不错。
后来，王济和刘渊都相继离开了并州。王浑任职越骑校尉，王济自然也跟着到了洛阳。随后刘渊也到了洛阳，但刘渊到洛阳来。却并不是来做官的，由于刘渊的父亲刘豹是匈奴左部帅，所以他是做为人质被送到洛阳来的。
所以，在此次的洛阳事变发生之时，刘渊正好也在晋王宫内，看到司马炎的身边并没有什么得力的武将，王济便向司马炎推荐了刘渊。
刘渊不光是生得孔武有力，而且弓马纯熟，十八般武器样样精通。有着匈奴人应有剽悍和豪猛。司马炎一听，甚为欣喜。立刻差人将刘渊给传唤上来。
不多时，刘渊便牵着一匹浑身如火炭一般的骏马来到了宫门处。手捂心口，弯腰致礼，以匈奴人的标准礼仪向司马炎行礼。