不久，陕甘游击队正式改编为中国工农红军第二十六军第四十二师第二团，团长王世泰，杜衡兼军团两级政委刘志丹以党的利益为重，积极协助好团长的工作，实际参加了许多场战斗的指挥，他经过对各路敌人的比较分析，提出首战焦坪。为了麻痹敌人，部队按照刘志丹的布置，于25日夜撤离驻地杨家店子，佯作西攻马拦，26日夜秘密突回焦坪，27日凌晨发起攻击，几乎未遇任何抵抗，就一举全歼守敌，俘敌60多人，自己无一伤亡。接着，又打了若干艰苦的游击战，扫除了四周白点，用一个月左右的时间初创了照金根据地。
由于力量不足，刘志丹提出暂不与其余白点强敌交锋，而是集中精力在已开辟地区进行土地革命，但杜衡却执意要打。1933年1月17日夜，开始强攻庙湾，部队伤亡很大，被迫撤出战斗。这时，指战员们强烈要求恢复刘志丹领导职务。杜衡把所有责任推到参谋长郑毅身上，撤了他的职务让刘志丹接任，并夸大敌人的力量，提出放弃照金根据地，南下创造商洛新区，与外蒙联系，打通国际路线。刘志丹想竭力说服杜衡依托桥山山脉中段，在庆阳、合水一带坚持斗争，但他的发言被杜衡武断拒绝，还诬蔑刘志丹“一贯右倾”。
5月29日，杜衡强令部队撤离照金，南渡渭河。但当部队到达渭河桥渡口，杜衡被强敌吓得魂飞魄散，竟以向省委汇报为名，独自逃跑。杜衡走后，刘志丹带领部队与追击的敌人左右周旋，边走边战，顺利渡过渭河。但在蓝田张家坪一带被5000余强敌围攻，刘志丹眼见取胜无望，遂将部队分成三路，命令扔掉所有车马辎重，轻装突围，刘志丹、曹士荣一路在终南山一带辗转苦战两个月，部队损失惨重。弹尽粮绝之际，刘志丹率十余人冲出重围，在深山老林里潜伏打游击，采集野果充饥，时值盛夏多雨，加之敌人经常派兵搜山，处境十分困难。
革命的严重挫折，动摇不了刘志丹坚定的意志，他亲切地和战士们谈心，鼓舞士气说：“月亮都有时圆，有时缺呀！革命在一时一地的失败，算得了什么？失败了再干呀！咱们道理正，穷苦人都站在咱们这边！”“天不能老是阴雨，总有个放晴的时候！”后来他动员大家突围，在通过封锁线时又遭到敌人的袭击，大部分人牺牲了。刘志丹奋力拼搏，死里逃生，一个人冲了出来，随即隐蔽在深山里，昼伏夜出，几次遇险，几乎丧生。但他坚强地战胜种种困难，后来遇见红二十六军先锋队一个战士，才被救下山，与失散的王世泰、曹士荣等会合。1933年10月4日，刘志丹、王世泰等脱险返回照金根据地。
1933年夏，日本帝国主义加快侵华步伐，全国掀起了轰轰烈烈的抗日救亡热潮，革命形势又有新发展。7月21日，陕军骑兵团团长王泰吉率部在耀县通电起义，成立西北民众抗日义勇军，受挫后，与新成立的耀县游击队(负责人张邦英、张仲良、陈学鼎)等部转入照金，壮大了艰苦支撑的照金根据地。同时，由于这时陕西省委遭破坏，陕甘边摆脱了左倾错误的直接统治，形势发展转为有利。
8月，陕甘边特委举行党政军联席会议，纠正了分散红军的错误主张，决定成立陕甘边红军作战临时总指挥部，统一指挥革命武装，任命王泰吉为总指挥。10月4日，刘志丹脱险回到照金，即被任命为副总指挥兼参谋长。刘志丹总结了二十六军南下失败的教训，对习仲勋说：“这次我们又上了机会主义的大当，又吃了一次大亏！现在好了，陈家坡会议总算清算了左倾错误，回到正确路线上来了。现在需要把部队集中起来，统一领导，统一指挥，我们重新干起来，前途是光明的。”
由于红军有了正确的军事领导，很快就取得了许多胜利，相继收复了一些地区。
几年斗争，刘志丹跑遍了陕甘边的山山水水，对于各方面情况已了如指掌，一个促进革命发展的计划在他脑中已经酝酿形成。在11月3日于包家寨召开的陕甘边特委、陕甘边工农民主政府、陕甘边红军总指挥部联席会议上，刘志丹提出了具有远见的建议，即把陕甘边与陕北的游击战争作为一个战略全局来考虑，划分三个战略区，成立三路游击队总指挥部：即陕北、南梁、照金战略地区一、二、三路总指挥部，军事总后方北移到南梁，红四十二师驻南梁居中策应。
这个建议，扭转了长期以来陕甘边党和红军在战略方向上徘徊不前的局面。过去，省委虽曾先后决定以渭北和照金作为战略总后方，但因距敌统治中心太近，虽经苦战奋斗，能一时立住脚跟，但均在数月后被迫退出。而南梁虽未经过大革命的洗礼，党和群众的基础也不及渭北、照金好，但人民的革命要求还是非常迫切的，况且这里位于陕甘交界处，山大林深，地势险要，有广阔的活动空间。这一地区只有地方军阀和民团把守，他们各派之间矛盾很多，相互战乱不断，红军更易生存发展。
以南梁作为战略总后方，再以渭北、照金为广大的游击战场，充分利用了各地之所长而弥补了其不足。同时，陕甘边的战略总后方北移至南梁，就造成了向陕北接近的态势。这是完全符合毛泽东关于红色政权的理论的正确抉择，它标志着刘志丹已经能够正确认识并利用陕甘边游击战争的规律，成长为一位成熟的军事将领。与会人员完全接受了刘志丹的建议，最后形成相应的决议，包家寨会议成了陕甘边革命斗争史上一个重要的转折点。
红军的胜利发展，造成敌人的极大恐慌。12月初，西安绥靖公署调集驻保安、合水、庆阳等县的正规军4个营及地方民团千余人，分9股向陕甘根据地发动了第一次“围剿”。刘志丹和王泰吉缜密部署，决定红四十二师南下南梁作战。适值福建事变发生，敌人未能立即发动进攻，红军遂借机大力开展群众工作，在正宁、旬邑、淳化一带扩大武装。在此期间，刘志丹写了《军事教育大纲》作为教材，依此对部队进行军事整训。
2月，敌人又重新发动进攻，红军配合地方游击队和敌人连打九仗，均获胜利，取得重大战果。5月，敌人追兵再至，刘志丹率部挥师南梁，又经过一两个月的战斗，彻底粉碎敌第一次“围剿”。从1933年冬到1934年夏，在陕甘边特委的正确领导下，刘志丹等率红二十六军主力和游击队配合作战，大小战斗30余次，歼敌3000余人，解放了陕甘地区10多个县的大部分农村，拔掉敌人成百据点，在广大的区域内建立了工农兵政权和14个游击支队。
同年秋，梨园堡成立陕甘边苏维埃政府及革命军事委员会，刘志丹任军委主席，习仲勋任苏维埃政府主席，同时相继建立贫农团、农会、赤卫军、工、青、妇、儿童团等组织。边区政府发布了一系列政策法令，从政治、经济、军事、文化到群众生活都作了明确规定。为了培训干部还办了军政干校，刘志丹兼校长，习仲勋兼政委，马文瑞、蔡子伟、吴岱峰等负责教学工作，分批轮训各级干部和战斗骨干。各乡还办起了列宁小学，发展教育，扫除文盲。陕甘边银行还发行了布制货币，建立了集市贸易，根据地的经济文化日益发展和繁荣起来。
这时，陕甘边和陕北根据地的统一问题，已提上日程。陕甘边和陕北，由于敌人的分割，一直是互不相连的两块根据地，存在两支革命武装和两个领导。陕甘边根据地和红军属陕西省委领导，陕北根据地则属中央驻北方代表领导，两地之间虽互帮助，但各自活动。为集中壮大力量，刘志丹、谢子长早已考虑过两地统一的问题。1934年7月8日，陕北游击纵队总指挥部成立后，总指挥谢子长就率一、二、五支队和200余赤卫队到南梁与红四十二师会合。8月，谢子长在指挥陕北第一次反“围剿”战斗中中弹受伤后，陕北特委又函请刘志丹共商统一领导问题。
10月20日，刘志丹率红二团北上到达安定县水晶沟，与病中的谢子长交换了意见。1935年1月29日，刘志丹主持召开了陕北省第一次工农代表大会，讨论建立各级工农民主政府，开展土地革命战争以及保卫发展革命根据地等问题，选举产生了陕北省工农民主政府执行委员会，刘志丹当选为主席，领导制定和颁布了土地、劳动、婚姻等重要法律法令，随即建立起16个县的工农政府。
2月初，刘志丹与谢子长再次就重大问题，尤其是反对敌人第二次“围剿”的问题取得了共识。5日，陕北、陕甘边两个特委在赤源县周家岭附近的刺儿圪塔村召开联席会议，决定成立中共中央西北工作委员会和中国工农红军西北军事委员会，统一了两地党政军的领导，确定了反“围剿”的战略方针。谢子长因伤病严重未能出席这次会议，刘志丹积极推荐他担任军委主席，自己则被选为工委委员、军委副主席和前敌总指挥。21日，谢子长不幸逝世，刘志丹继任军委主席，指挥第二次反“围剿”战争。
刘志丹率领根据地军民进行了两次反“围剿”斗争，坚持发展和巩固了根据地。迎接红二十五军进入陕北，为中央红军立足陕北奠定了基础。1936年刘志丹在东征时不幸牺牲。