刘琨北上邺城之后，刘羡与司马乂留百人守河桥，并率禁军主力返回河南，他们没有在洛阳停驻，而是沿河东行二十里，驻扎在北邙山上，背靠北峰为屏，自东向西扎营列阵，其营垒最东端，距离成皋关仅仅只有十四里。
按照事前计划，刘羡等人并没有急于出兵虎牢关前，而是一面等待刘琨的回信，一面派斥候侦察前线消息。与此同时，为避免北军进一步压缩禁军的活动空间，刘羡从主力中分兵四队，每队千人，分别由傅畅、上官巳、郗鉴、王导四人带领，入驻到偃师、巩县、轘辕关、鄂阪关四城。
结果刘琨还未回来，朝廷便收到一则坏消息：许昌的范阳王司马虓为北军声势所慑，与虎牢关陆机处频频通信联系，似有率征东军司北上汇合的架式。
此事令朝廷百官倍感忧虑，若范阳王也加入北军，那朝廷与北军的差距将进一步拉大，国家分裂的局面也将进一步恶化，这无疑是司马乂不想见到的。故而司马乂遣使许昌，加封司马虓为征东大将军，希望以此来拉拢关系，劝说他不要北上。
其实按理来说，朝廷也不是没有援军。司马乂在推翻司马冏后，就令豫章王司马炽前去接管青州，平昌公司马腾前去接管并州，加上如今刘弘坐镇的荆州，皇甫重所在的秦州，至少还有四州愿意听从朝廷的号令。幽州都督王浚、凉州刺史张轨、交州刺史顾秘、广州刺史王毅四人，虽说态度暧昧，但到底也没有倒向成都王，仍奉朝廷为主。
可要命在于，除了正在平叛的荆州之外，这些地方都地处偏僻，根本无力参加河南战事。但即使如此，司马乂还是按照祖逖的建议，向这些地方尽数发信，希望他们都根据自身情况，对朝廷稍加支援。
而在这种情况下，刘琨完成使命返回河南，无疑令众人松了一口气：决战的时间越早，对于朝廷就越有利，至少现在看来，双方的实力暂时不会再变化了。
司马颖给朝廷的战书，是说要在九月底进行一场大战，至于双方约战的具体时间与地点，则由前线的将帅自己去协商。
于是朝廷便再派使者到虎牢关，与北军进行沟通。朝廷派出的代表乃是彭城王司马释，北军派出的代表则是石超，双方经过短暂的商议后决定，请朝廷禁军后退十里，就在九月辛卯，双方于偃师北面的邙山上进行会战。
邙山虽名为山脉，但地势并不算陡峭，尤其是偃师北面的山段，山脊是一段较为迟缓的斜坡，宽达四五里，尤其适合跑马厮杀。将决战的地点定在此处，双