1880年秋，李鸿章又委派盛宣怀举办电报事业，统筹全国各地电线电缆的铺设，建立国家电报局，把洋人非法在我国铺设的“水线”，该拆的拆，该买的买，以争回电报自主权。这件事“创行之始，人皆视为畏途”，因为这不同于办一般的实业，前面虎狼成群，先得在谈判桌上“推磨”，扫除了障碍，事情才能办成，这是一场政治、外交和个人胆识的较量。
当时，列强已在事实上盘踞了中国的电报业，水底下的电线纵横如蛛丝。
1874年，日本侵略台湾，中国吃了信息不灵、调兵迟缓之亏，李鸿章认为架设电线、开通电报势在必行，而真正将架设电线、开通电报付诸实践的则是盛宣怀，如盛同颐所述：“英、法、德、美各使请设立万国电报公司于沪，拟添由沪至粤各口海线，并由英商添设自沪甬、瓯、闽、厦、汕海线，其势几难禁，府君请细谕华商自设沿海各口陆线，以争先著，使彼无利可图，或者中止。且从此海疆各省与京外脉络贯注，实于洋务、海防有裨，即商民传输贸易消息灵通，为利亦更广远。文忠遂与译署商派府君诣沪，次第开办。”
1880年秋，继架设津沽电线之后，李鸿章委派盛宣怀设立津沪电线，盛宣怀在天津中国电报总局，自作总办，并任郑观应为电报上海分局总办。不久，他拟定《开办自津至沪设立陆线电线大略章程二十条》，得到李鸿章批准。开始，津沪电报为官本官办，1881年冬，津沪陆线竣工，盛宣怀请改为官督商办，其理由为：“中国兴造电线，固以传递军报为第一要务，而其本则尤在厚利商民，力图久计。”电报根本是为商业的需要而设，因此商本商办，国家不加干预才是电报业发展的出路。然而在电报业未获大发展，商人投资电报不甚踊跃之时，国家应在资金、政策方面予以扶持，以保护电报的初创和发展，如果朝廷不加以“认真照料保护，则恐费糜巨万，功堕半途，华商寒心，外人贻笑”。为办好电报局，盛宣怀亲拟《电报局招商章程》，后增为《详定大略章程二十条》上于李鸿章，其中就电报局已存的官股与商股的关系、国家的利益作了翔实可行的说明，最后强调电报局内部的管理一律按商业原则，政府不得干预，并且提出除军机处、总理衙门、各省督抚衙门、各国出使大臣所寄洋务军务电信，区别对待记账结总作为归还官款外，其他所有各省官府电信一律收取现金，并要先付钱后发电。其他的关于电线材料免税、各局用人、洋员的使用和严格要求、巡警沿途保护电杆电线、电码的规格和使用法等，盛宣怀都做了周密的规定和安排。
自1881年中国电报总局改归官督商办、盛宣怀任督办后，在他的主持下，1882年接办了苏、浙、闽、粤等省陆线，1883年办了长江线；1884—1885年因海防吃紧，设济南至烟台线，随后添至威海、刘公岛、金线顶等地方；1887年因郑州黄河决口“筹办工赈事宜”，由山东济宁设线至开封；1888年因广东官线已造至南雄州，乃由江西九江设起到赣州以达瘐岭入南雄相接；1889年因东三省边防需要，由奉天接展吉林至珲春陆线；1890年“因襄樊地方为入京数省通衢，楚北门户边境要冲”，乃由沙市设线起以达襄阳，1893年又由襄阳设至老河口；1895年由西安起设电线与老河口相接，“使西北电线得有两线传递，庶无阻隔之虞”；1896年设线武昌至长沙，1898年又由长沙设至湘潭、萍乡等地。这是电线干线的敷设，另外，盛宣怀还主持设立了许多电报支线。
电报局与轮船招商局一样，在发展中同样受到了与洋商英国大东公司、丹麦大北公司竞争之事，盛宣怀在李鸿章的支持下，坚持与大东、大北公司斗争，最后终于做到了中国收回大东、大北公司设在岸上的陆线，并且拒绝了大东、大北公司要将海线牵引上岸的要求。在1887年与大东、大北公司签订了《华洋电报公司会订合同条款》，即电报“齐价合同”，既收回了利权，又有利于中国电报事业的发展。
另外，为了中国电报事业能早日不借用洋人，早在1880年津沪电线架设时，盛宣怀就建议设立天津电报学校，以培养电报业的人才，获得李鸿章的同意。天津电报学堂的开办，原来只有一年，后因津、沪、浙、闽、粤和长江线需用人才，天津电报学堂连续办了几年。为了提高学堂的地位，减少办学的阻力以及鼓励学生学习的积极性，原来以电报局名义开办的电报学堂，第二年盛宣怀即提议学堂应由朝廷的名义开办，由朝廷提供办学经费。他对李鸿章说：“学生俟到局派事之后，薪水由本局开支，所有设立学堂经费系为国家造人才起见，应在军饷内开支，免在商本内归还。”李鸿章同意了盛的意见，这样，电报局节省了办学的投资，减轻了商资的负担，有利于电报局的发展。
盛宣怀办理电报卓有成效，李鸿章向清廷为其请奖。在该请奖折片中，李鸿章盛赞了盛宣怀主持中国电报局的业绩：“沿江沿海各省电线系派布政使衔直隶候补道盛宣怀总理其事，该道首赞成议，会商各省地方官次第筹办，事属创始，而规划精审，调度悉合机宜，用能妥速告成，远近无忧。复以经费有常，劝集华商巨款，将各省正线改归商办，俾公家久享其利，商人亦获什一之盈，实能裨益大局。各国觊觎已久，英丹电报公司且于九龙及上海至吴淞安设陆线，方谓非常之举，中国未必果行，遂群起相争，多方挠阻，该道奉饬设法抵制，相机操纵，一面集资赶设沿海陆线，使彼狡谋废然中止，保我自方之权，尤于国体商情所关匪细。今线路绵亘万数里，京外军谋要政瞬息可通，成效昭著，其功实未可泯。该员才具优长，心精力果，能任重大事件，足以干济时艰。”