刘邦得知韩信已经攻破代国，心下大喜。因为这个时候项羽已从齐国战场把楚兵全部撤出，带到了荥阳一线，和刘邦对峙。刘邦没有韩信在身边，渐感吃力，就下令韩信把主力部队调到了荥阳，共同抗击项羽。
韩信的主力部队被调走了，他的部下们都十分着急。他们都纷纷对韩信说：“大将军，如今代国虽破，但是还有更为强大的赵国等着我们去征服呢！如今大王把我们的主力调走了，我们拿什么和赵王歇和陈余大战呢？”
韩信见将领们都很着急，就安慰他们道：“主力被大王调到了荥阳也不用发愁。我们身处代地，我们可以重新征兵嘛！”
将领们听到韩信要重新征兵，都纷纷说道：“大将军，所谓‘养兵千日，用兵一时’，如果我们仓皇征兵，那如何与训练有素的赵兵作战呢？”
韩信笑着说：“就算是一帮乌合之众到了我韩信手里，我也会把他们变成能征善战的士兵，何况我们的新兵都是英勇的代地人呢！”
众人见韩信如此自信，也都不便再说什么了。他们都亲眼看见过韩信用兵如神，因此他们相信韩信，也相信韩信一定有办法打败赵王歇和陈余。
随后，韩信在代地大举征兵。代地人都已听说韩信用兵如神，是一个能够成就大业的人，于是他们纷纷投靠韩信。韩信大喜，很快就组织起来一支四万余人的队伍。这些新兵在韩信的训练下，迅速成为了一支纪律严明的队伍。
公元前204年10月，韩信留下一万余人镇守代地后，和张耳带着三万余人向井陉口进发了。赵王歇和陈余听到消息，立刻派了重兵在井陉口集结，准备迎战韩信。他们对外宣称，井陉口的赵兵足有二十万人。
由于陈余没有采纳李左车的建议，坚持在井陉口迎战韩信。韩信大喜道：“天助我也，立刻命令士兵往井陉口进发，明天天一亮就发动进攻。”
韩信针对陈余盲目轻敌的心理，想出了一个以少胜多、以弱胜强的战斗计划。要用背水列阵之机，打垮赵军，全歼敌人。汉军艰难行进，在距离井陉口陈余所设军营还有30里路的地方，韩信下令安营扎寨，士兵休养生息，再周密进行军事部署。
部队遵命扎营，准备过夜。将士们劳累了一天，吃了东西，躺倒之后就酣然入梦了。正当大家睡得香甜，突然又传来“紧急集合，马上出发”的命令。部队很快集合好了。韩信从中选出轻骑二千，给他们交代的任务是：每人手持一面汉军所用的红旗，从东北方向迂回到抱犊山北面，潜伏起来，监视赵军营垒的动静，绝对不许暴露行踪。
韩信还对带队的军官说：“明天我军要同赵军决战，先假作战败而后退，赵军如果看到我军主力部队后退，一定会倾巢出动追赶。到那时，你们乘赵军营垒空虚之机，立即攻进去，把赵军的旗帜全部拔掉，再把我们汉军的红旗插上。然后关闭军营，凭借敌人构筑的堡垒，阻击赵军返回大营，配合我军主力部队共同夹击赵军。”诸将不知道韩信葫芦里卖的是什么药，你望着我，我望着你，非常诧异。那些看不起韩信的人更是心中不服，等着看他的笑话。
紧接着，韩信又命令他的副将弄一点食物给士兵们吃，并告诉大家说：“先随便吃点吧，等打败了赵军，咱们再正式会餐！”战士们听到这样的军令，自然相信击破赵兵不必费太多周折，所以士气高涨起来，个个摩拳擦掌，准备奋勇杀敌。
那些了解敌我力量对比的汉军众将领，却都觉得韩信的这道军令未免太过自信了，一顿早饭的时间，就能将二十万赵军将士打垮？但是，军令如山，他们又不便公开反驳，只好一面互相传递着疑问的眼神，一面敷衍了事地齐声回答：“好，我们就等着胜利后大会餐！”吃完饭以后，这两千骑兵就按韩信的部署出发了。
实际上，韩信是个聪明人，对于诸将的神色自然都看在眼中。但是他不愿在此时揭破，他相信自己的谋略足以破敌，到那时汉军将领的满腹疑问，自然然会化作衷心折服。
之后，韩信派遣一万名士卒，作为前锋。这一队前锋乘着明亮的月光，向井陉口进发，争取天明之前越过井陉口，渡过大河，在东岸背靠大河，也就是背水摆阵。在那里，扎下大营，摆开阵势。
不论从整个楚汉战争的全局考虑，还是从韩信自身面临的危机出发，对于这次攻关之战，韩信的选择只有一个，那就是速战速决。不战则已，一战必须全胜，击溃赵国主力，站稳脚跟，使其无法再对汉军构成威胁。不然的话，汉军不但不能击败赵军，还可能会自身难保。持久战和消耗战是汉军长途奔袭的大忌。如果项羽击败对手，抽出兵力同赵国合击，韩信就会陷入两面夹击的危险境地。
其实，韩信的担心并不是完全没有道理的。后来的战局发展也完全证实了这一点，韩信在平定赵国之后不久，果然遭到项羽的奇兵渡河偷袭。现在，天时、地利、人和，汉军能胜算几分？利弊得失权衡，韩信该如何量裁？大战在即，这场战役应该如何筹划呢？井陉关前的韩信，眉头紧锁，勒马望关，陷入沉思。
韩信知道陈余的胃口很大，想乘此把汉军一口吞掉，不会急于攻打这一万先头部队，就给这一万兵马的将领和士兵壮胆打气说：“赵军已经占据有利地形，还构筑了营垒，陈余的意图在于围歼我军。所以，他们在没有见到我军大将的旗鼓出现之前，是不肯轻易地进攻我军的先头部队的。我们这一万兵马虽不是对手，但赵军知道你们不是汉军主力，又没设置大将旗帜，因而胃口很大的陈余是不肯来攻打你们的。我们恰恰可以利用敌军的这种心态派出一支人数众多的先头部队，占领一处地盘，构筑我方营垒。只要营垒落成，我军就有了立足之地，不怕优势敌军的进攻了。你们不要有什么顾忌，就大胆的去吧。”
这一万人马立即就出发了，直奔井陉口前的谷地，并依照韩信的吩咐，在绵蔓河的东岸，迅速构筑营垒。果然不出韩信所料，陈余没能阻击这支部队，这一万先头部队就顺利地开赴绵蔓河的东岸，背水建立了阵地，蓄势待发。赵军望见汉军背水为阵，这不是自绝退路吗？汉军怎么连起码的军事常识都不具备呢？但是，又怕韩信耍诈，所以就赶忙报告陈余。
陈余听到报告，开始还不敢相信，便赶紧跑到壁垒上一看，发现情况果然如此，不禁哈哈大笑，轻蔑地对诸将说：“没有想到韩信这个无名小辈，竟然如此愚蠢，简直不读兵书，不学无术。从‘背水布阵’来看，他还不懂得兵家的大忌，看来关于他‘用兵如神’的传说，都是不可靠的了。刘邦重用这个人，真是天大的笑话！”
将士们也跟着哄笑起来。赵军上下都无形中产生了一种盲目轻敌情绪。
兵书《尉缭子》上说过：“背水阵为绝地。”只要是带过兵、打过仗的人，都知晓这个道理。背水列阵，又名背水阵，是兵法上的一种阵名，即沿河设阵，背靠大河，前临大敌，后无退路，以坚定战士拼死求胜的决心，从而夺取胜利。由于背水列阵危险性很大，稍不小心，就会全军覆没，导致失败，因而向为军事家所忌用。同时兵法上还说，布列阵地要右后靠山，左前临水，切忌背水列阵。
对于这个部署，不但韩信手下的诸将都大吃一惊，就是张耳、曹参也感到奇怪。尽管大家心中不服，但也没有人敢于出来违抗军令。同样，赵军也不知道这是韩信的计策，陈余这个书呆子也因此中了计，麻痹了起来。