面对法国侵略越南，并进而准备侵略中国的严重局势，中国人民坚决主张保卫祖国，援越抗法。清朝统治阶级内部也出现了两派，一是以清流派首领李鸿藻等人为代表的主战派，一是以洋务头子李鸿章等人为代表的主和派。
清流派是19世纪70年代清朝统治阶级内部出现的一个派别。他们中大部分人是没有实权的官僚、士大夫，经常上奏慷慨评说天下事，对内主张弹劾权贵对外标榜抗战。清流派是从清朝统治阶级内部洋务派和顽固派、湘系集团和淮系集团斗争的夹缝中出现的一种舆论力量。是清朝统治者面临危机时进行自我调节的工具；是那拉氏操纵不同政治派系力量天平上的法码。在法国侵略越南、中国问题上，清流派慷慨激昂地主张抗战。但他们只是纸上谈兵，甚至纸上也提不出有效的抗战方案。湘系集团中的彭玉麟、曾纪泽、刘坤一和左宗棠等也主张抗战，但他们瞧不起，乃至敌视人民群众这支最强大的抵抗力量，过分地相信他们自己的军事实力。刘坤一曾奏言：“由广东、广西遴派大员，统带劲旅，出关驻扎谅山省等处，以助剿匪为名，密订该国君臣共筹防法之策”。彭玉麟、曾纪泽等人的抗战主张虽发表了不少，结果只能限于空谈。
主和派的首领是淮系军阀李鸿章。他是中国大地主和大买办阶级的代表人物，担任直隶总督兼北洋大臣达25年之久。事实上成为清政府旁边的第二中央政府的首脑。曾国藩死后，清朝统治者对李鸿章更为倚重。派他前往广东督办越南事宜，广东、广西、云南3省的防军都归他节制，但他为保存淮军的实力，竟不敢接受这个任命，因为他不敢与法国侵略军在越南交锋，就提出了各种反对主战派的诡辩。他在《密陈越南边防事宜折》中说：“越之北圻沿边诸省地本最瘠，万山丛杂道路崎岖，水毒风恶，烟瘴终年不解，法人岂肯冒此危险”。他对曾纪泽电称法国将派兵2000人驻越，分据要隘的情报，认为无足重视，认为法国增兵吞并越南的说法，“皆西人夸诞之言，奚足深信！”他在《论海防兵单未可轻言战事》一文中说：“各省海防，兵单饷匮，水师又未练成，未可与欧洲强国轻言战事”。他认为法国船械精良，操演熟练，在海上不可与法国争锋。在他看来，唯一的出路就是出卖国家主权，依靠洋人支撑清朝统治，扩大本集团的权势。李鸿章散布一套失败主义的滥调，力图证明他的中国必败的谬论。他诬蔑黑旗军的胜利纯属偶然，认为即使“一时战胜，未必历久不败，；一处战胜，未必各口皆守”。李鸿章曾毫不掩饰地公开建议出卖越南，作为向法国侵略者投降妥协的条件。清廷中以那拉氏为首的最高当权集团摇摆于主战和主和两派之间，有时主张抵抗，但更多的时候是趋向妥协。法国侵略者知道清政府没有抵抗侵略的决心，便更加猖狂地通过侵略越南进而侵略中国。
1883年12月，法国议会两次通过共达2900万法郎的侵越军费和派遣15000名远征军的提案，“决议夺取山西、北宁，将不与中国谈判”。12月11日，法国水、陆军共6000多人，乘12艘兵舰从河内出发，向驻守山西的黑旗军、清军和越南抗法军进攻。从这时起，中法战争正式揭幕。
早在1881年底和1882年初，清军就根据越南政府的请求，开进越南的北圻。开战前，北圻防务的部署是：黑旗军驻扎在河内西北的怀德和丹凤，人数约2000，处在阵地的最前沿；云南布政使唐炯率滇军800余人，驻扎在山西，在黑旗军的后边，实际是第二线；广西布政使徐延旭率粤军6000余人，驻扎在北宁，位置在河内东北，屏蔽着背后的浪张府、谅山和镇南关（今友谊关）。黑旗军积极备战，准备迎战法军，而两支清军却在投降主义路线的指导下，不做任何迎敌准备。因为清军在出国作战时，清政府就向他们明确提出：“不可衅自我开，转滋口实”。“法人并未与我失和，我军总以剿办土匪为名，未可显露作战之迹，致启衅端”。这就是说，既要清军参加抗法，又要清军不露痕迹；既要清军准备作战，又要清军不去主动进攻，不可向法军挑衅。结果在抗击法国进攻时，就出现两种截然不同的结局。
1883年8月15日，法军在波滑统率下，以1800人、兵船9艘，进攻怀德。黑旗军奋勇迎敌与法军大战14小时，结果法军大败，退回河内。黑旗军发现怀德地势低洼，易被水淹，转到丹凤驻扎。9月1日，法军3000人乘11艘兵船，进攻丹凤。黑旗军与法军激战3天，大破法军，法军80余人被击毙，200余人被击伤。这两次大战使法军损失很大，波滑回巴黎搬取救兵。但黑旗军损失也有千余人，失掉了部分精锐。这两战是黑旗军向法国侵略者所进行的两次可歌可泣的战斗。它使法军无法沿红河上溯，使保胜一带成为可靠的后方基地。
当黑旗军与法军激战时，唐炯、徐延旭两支清军不加支援而是逍遥自在，坐山观虎斗。但当黑旗军大败法军后，他们却假冒他人战功捏奏上报，往自己脸上贴金，昏愦的清政府并无察觉，竟把唐炯和徐延旭分别提升为云南巡抚和广西巡抚，以奖励他们的“战功”。
12月11日，法军6000余人在孤拔率领下大举进攻山西，驻扎在山西的唐炯认为朝廷正在议和，不宜开衅，意然撤军而走，逃回云南去庆祝自己的升官去了，他之所以敢置边事于不顾，是因为他摸清了朝廷的脉络，知道朝廷抗法的态度不坚决，因而，胜利了也无功劳，失败反而成罪过，所以率军而逃。守城的主力就剩黑旗军了。另外还有两营桂军和黄佐炎统督的2000越军守在城外。13日，敌军大举来犯，黑人和越南人打头阵，法人尾随督战，一色快枪快马，兵船上又开炮轰城，弹如雨下，来势凶猛。黑旗军拼命向前冲打，和敌人展开肉搏战，用大刀把敌人砍杀得人仰马翻，仅法国官兵就有300人伤亡，黑旗军也损失惨重。法人依仗人多枪快，轮番进攻，昼夜不停。16日，侵略军又从河内运来炮弹，向城内猛轰。黑旗军在寡不敌众外来无援的情况下，被迫弃城退守兴化。
山西是东京地域各河流战略要害的中心，形势险要，是兵家必争之地，又物产丰富，利于屯兵。山西城既失，不仅失去了对河内法军的威胁，还构成了法军对中国边疆的威胁，动摇了北宁的地位，失去了兴化和宣光的屏蔽。因此，山西失守是清军失败的转折点。法军攻占山西的消息传到法国，国内一片欢腾。资产阶级报纸狂妄地说“色当被山西掩蔽了”。意思是说，山西战役的胜利，洗刷了法军在普法战争中色当之战失败的耻辱，于是煽动起更大的侵略狂潮。
随后，孤拔被提升为法国远东舰队司令，法国陆军中另派米乐任侵越军司令。1884年3月，米乐在得到大批援兵以后，便向北宁进犯。北宁位于河内东北二三十公里的地方，地处通往谅山的大道上，具有重要的战略地位。当时驻守北宁的是徐延旭率领的桂军，兵力有40多营，约2万人。徐延旭对军事一窍不通，又骄傲轻敌，曾6次上疏请战说，“不战则己战则必胜”。可他“仅出关数日，即折回龙州避署，逗留竟至数月”。驻在北宁的清军人数已达2万，但徐延旭仅留下提督黄桂兰和道员赵沃驻守。这两人又互相猜忌、互相倾轧。驻城的越南总督张登坛与敌私通，迎法军头目入城宴饮，出城时还带走了火炮，几个谷仓的军粮被运空。两名清军统领却不闻不问，张登坛又利用两统领的猜疑，将清军从关内辛苦运来的8000余杆快枪、40万颗子弹控制在越兵手里，清军反而只能用旧式的火铳枪。
3月12日，法军长驱入扰北宁，分三路包抄，清军堵守北宁前路，后路空虚。法军一兵船绕至城北涌球，冲毁竹筏大桥，断绝援兵来路，又在高坡上架炮轰城。黄桂兰见势不妙，先弃城逃跑。赵沃在前路督战，还未交锋就败了回来，一见黄桂兰已逃走，也不愿困在城中等死。这时越军又拿起清军拨给的快枪，反戈来攻，于是赵沃也急忙逃命。这时涌球已被法军占领，不能退还谅山，赵沃逃到太原，北宁就这样轻而易举地被法军占领了。
山西、北宁失败的消息传到北京，清政府大为惊慌。为了掩盖败绩，将徐延旭、唐炯撤职查办，以潘鼎新为广西巡抚、张凯高为云南巡抚，并由云贵总督岑毓英负责前线战事。与此同时，西太后对中央决策机构进行全面改组，把首席军机大臣兼管总理衙门的恭亲王撤了职，其他4名军机：武英殿大学士宝鋆、兼吏部尚书的李鸿藻、兼兵部尚书的景廉、兼工部尚书的翁同和，也都是罢职的罢职，降调的降调，退休的退休。新任的首席军机是礼亲王世铎，主持总理衙门的是贝勒（后为庆亲王）奕劻；另外还指定：一切军机紧要事情要与光绪帝的生父醇亲王奕“会同商办”，把军机处的实权交给了他。
但是，这种前方军事和中央人事方面的变动，都无法挽救彻底腐败了的清政府，它已是一具政治僵尸，任何措施都无法使它起死回生。相反，前方军事上的失利，却给主和派以可乘之机。李鸿章加紧进行投降妥协活动，他通过总理衙门，任命淮系的李凤苑接替曾纪泽为驻法公使，为和谈铺平了道路。1884年4月17日，法国海军中校福禄诺通过粤海关税务司德璀琳的关系，向李鸿章提出议和。4月20日，西太后任命李鸿章与法国议和，不得“迁延观望”。5月11日，李鸿章与福禄诺在天津签订了《中法简明条约》，主要内容是：中国承认法国占有全部越南，中国将驻北圻的部队即行调回边界，并对越法之间所有已定与未定条约一概不过问；法国不向中国索取赔款，但法国商品可以从云南、广西输入中国内地；法国答应在与越南订约时，决不出现有损于中国体面的字样；3个月后，双方各派全权大臣，照以上各节，制定细则。
这个条约，完全违背了中越两国人民的利益，中国人民无比愤怒；统治阶级内部也引起了轩然大波。清流派人物弹劾李鸿章通敌，把他比作秦桧、贾似道。在人民群众的斗争和全国舆论的压力下，清政府命令在北圻的清军“仍扎原处”，不得撤回。滇、桂军将帅面对国内的愤怒情绪，也不敢擅自撤回边界。
1884年6月6日，法国强迫越南签订了第二次《顺化条约》，从而确立了法国对于越南的殖民统治。《中法简明条约》中规定，中国在北圻的驻军即行调回边界，法国侵略军便于6月间向北圻进兵，去执行所谓“接防”任务。23日，准备“接收”谅山的法军700人在度日业率领下到达北黎（当时中国称之为观音桥）以北的谅江，再向前就是清军的防地。为防冲突，清军代表向法军去解释，说没有接到上级的撤退命令，请暂缓进兵。但法军统帅却蛮横地说：“一点钟内，法国军队将继续前进”。及至与清军接触时，扬言“和与不和，三日内定要谅山”。随后，法军开枪打死清军代表，炮击清军阵地，清军被迫自卫反击。在23日和24日两次战斗中，清军都获得胜利，击毙法军将校2人、士兵17人，打伤法军官兵七八十人，法军丢掉了几乎所有的行李、军火和给养，狼狈退驻屯牙。这次事件被称为“北黎冲突”或“观音桥事变”，法国把破坏条约的罪名推到中国身上，掀起一股侵华叫嚣。7月12日，法国提出要求赔款2.5亿法郎，并索取履行条约和赔款的“担保品”，限7日内答复。14日，一支由孤拔率领的远东舰队，擅自开进我国福建的闽江口，准备把战火引到中国本土上来。