中国象棋大约起源于战国时代，那时盛行着一种六博象棋，每方有棋子6枚。此即中国象棋的前身。《楚辞·招魂》“蓖蔽象棊（即棋）”几句是象棋出现的最早文字资料。象棋源于春秋战国时两军对垒的战阵（车战与步战），根据这种战阵军事人员和作战工具的构成创造了这种形象的战斗游戏。原来象棋有了“将、马、车、卒”4个兵种，唐代象棋有了一些变革，牛僧孺加“炮”，与现代棋子已同，但其着法是“车”直进无回。棋盘和国际象棋一样，由黑白相间的64个方格组成。
北宋末南宋初，中国象棋基本定型，还增加了士、象。象棋风行全国。宋代的《事林广记》中就记载着中国目前所能看到的最早象棋谱。
到了明代可能为了着棋和记忆的方便，才将一方的“将”改为“帅”和现代中国象棋一样了。