回到上党之后，刘胤没有做任何停留，当即挥师南下，从壶关直抵高都。
高都是蜀军目前在并州控制的最南端的城池，过了高都，就进入到了晋国所控制的河内郡。
尽管这儿是双方的交界处，但由于目前双方交战的重心在冀州，晋国在河内的防守兵力并不太多。
整个黄河以北都属于讨逆大都督羊祜的防区，河内郡也不例外，羊祜几乎将所有的兵力都集中到了邺城，河内郡这边的防守自然比较空虚。
刘胤这次迂回上党进攻河内，做的非常的隐密，偃旗息鼓，尽可能地不向外泄露消息。羊祜的壕堑战术虽然有效地阻挡了蜀军的进攻，但却隔绝了他对外界的消息掌控，刘胤回兵上党迂回转战河内，羊祜根本就无法知晓，更谈不上调兵回防河内了。
而刘胤一路倍道兼程，保持着较高的行军速度，为的就是在河内打晋国一个措手不及。
并州的地势高峻，出高都向南，便是河内广阔的平原，蜀军已高屋建瓴之势，呼啸而下，一夜之间，便包围了山阳城。
山阳城只驻守着千把来人，守将于真看到蜀军大军来袭，吓得屁滚尿流，丝毫没有抵抗就开城投降了，蜀军轻取山阳，打开了进入河内的门户。
蜀军突然出现在河内，让晋国朝廷是惶恐不已，河内郡是洛阳北边的唯一屏障了，一旦河内失守，洛阳便危矣。所以一听蜀军攻占了山阳，司马炎便是坐立不宁，急令河内太守董艾挥师讨之，又下令羊祜派兵增援。
河内太守董艾本来兵就不多，而且多是缺乏战斗力的郡国兵，而蜀军的虎骑军、虎步军、永安军那一个不是虎狼之师，董艾根本就不是对手，在射犬和蜀军打了一仗，结果是全军覆灭，董艾战死于乱军之中，蜀军挥师南进，夺下了河内郡的郡治怀县。
接下来几天，蜀军在河内横行无阻，如入无人之境，连克野王、温县、河阳数座城池，直逼小平津渡口。
洛阳朝野上下，宛如经历了一场八级的地震一般，剧烈震动，司马炎坐如针毡，急调洛阳附近的兵马赶往小平津关，严防死守。
小平津关位于黄河南岸的北邙山，距离洛阳城只有三四十里的距离，一旦失守，那对于洛阳而言，就等于是灭顶之灾，所以司马炎绝不敢等闲视之。洛阳表里山河，八关固守，这小平津关便是其中之一，与洛阳东北面的孟津关互为倚角，共扼黄河天险。