五代十国时期，武夫横行，文臣不过聊备点缀，大为世人所轻。整个社会普遍存在一种重武轻文的风气。随着五代十国动乱局面的结束和专制集权的君强臣弱格局的形成，赵匡胤从和平环境下百业待兴的实际需要出发，对这种相沿以袭的社会风气进行了有力的矫正。
建隆三年（962年）二月，经过深思熟虑的赵匡胤，突然向近臣们提出了一个设想，他说他准备下达一道命令，让武臣们“尽令读书，贵知为治之道”。赵普等人没想到不久前还说“之乎者也”成不了大事的当今皇帝，思想观念的转变如此之快，一时没有思想准备，竟不知对皇帝陛下的设想如何评价。特别是赵普，他本人虽说被赵匡胤唤作书生，但自己并不以为然。史书上说他“初以吏道闻，寡学术”，“未尝以文称”。这就是说，办实际事情的行政能力还不错，但却算不上一个博学多才、见多识广的知识分子。而且赵普本人对知识分子并没有好感。为相之初，据魏泰的《东轩笔录》记载，“尤不爱士大夫之论事”，大臣所上奏章，凡涉及时政利害者均不上奏。由此可见赵宰相对知识分子防范之深、之严。很显然，在最初，赵普对赵匡胤重用文臣的统治意图是不理解甚至在行动上消极抵抗的。
这种态度使赵普吃了大亏。962年，赵匡胤思谋改变建隆年号，下令让赵普等人议定新号，赵匡胤特意交代要“求古未尝有过”的年号。赵普等于是议定“乾德”，并经赵匡胤批准后实行。乾德三年平蜀后，赵匡胤的宫廷中收留了一部分后蜀宫妃，是年五月，赵匡胤在宫中观赏其后蜀宫女的梳妆用具，忽见一铜镜背面刻有“乾德四年铸”五字，赵匡胤大惊失色道：“今始三年，怎么会在四年铸此镜？”于是将此镜交赵普等人传看，皆不能对。赵匡胤又找来翰林学士陶谷、窦仪询问。窦仪答道：“从前伪蜀王衍当政时有此年号，此镜必得自蜀中。”赵匡胤这才松了一口气，同时感慨万分：“宰相须用读书人！”
赵匡胤这声感叹，无异于是对赵普的一种严厉批评，等于说你赵普孤陋寡闻，出此洋相，实在不配当宰相。实际上，类似的警告已不止一次，只是赵普在思想深处没有引起重视罢了。据魏泰的《东轩笔录》卷一记载，赵匡胤本人欣赏的是后晋桑维翰那种见多识广、足智多谋的宰相。赵普出任宰相，在他看来，并非最理想的人选。所以，每当赵匡胤同赵普商议军国大事意见难以一致时，赵匡胤便总想起桑维翰对石敬瑭的辅佐，他说：“要是能有桑维翰这样的人在一起共事就好了。”赵普很不服气地反驳说：“假如桑维翰再世，陛下也一定不会用他，因为此人爱钱！”赵匡胤却这样回答：“用人如用其长，则当护其短，读书人眼孔小，给他十万贯，屋子都塞破，何足惜也！”
不管怎么说，乾德三年改元闹出的笑话给赵普的刺激很深。对他转变观念，领会赵匡胤的意图影响很大，加之赵匡胤经常劝他读书，赵普从此开始发愤。《东都事略》本传记载说：“当其为相，每朝廷遇一大事，定一大议，才归第则亟阖户，自启一箧，取一书，而读之有终日者，虽家人不测也。及翌旦出，则事决矣。用是为常。后普薨，家人始得开其箧而见之，则《论语》二十篇。”从“不以文著”到“手不释卷”，通宵达旦，反映出赵普思想转变之迅速和深刻。据说他曾宣称：“《论语》二十篇，吾以一半佐太祖定天下。”这就是后来广为流传的赵普“半部论语治天下”的故事。传说不免夸张，但后来赵普留心读书则是事实。赵光义为他撰写的《神道碑》中记载说：“及至晚年，酷爱读书，经史百家，常存几案，强记默识，经目谙心，硕学老儒，宛有不及，既博达于古今，尤善于谈谐。”剔除其中的溢美之辞，则可看到赵普的确在读书上是下了功夫，而且是很有成效的。说他“博达于古今”，连“硕学老儒”都比不上他，自然有些夸大其词，但“善于谈谐”则可能就是读书的效果之一。总之，赵普已不是最初的赵普，说他勤奋学习，学识大为长进应当是比较符合事实的。
赵普担任宰相的初期，赵匡胤对赵普还是十分倚重和信赖。他常到官阙附近的赵普家中喝酒议事，对赵普之妻以“兄嫂”称呼，每逢军国大事，都要听取赵普的意见。开宝二年（969年）冬天，赵普患病，赵匡胤亲至中书省慰问。次年，又专程到他家中探视，并给予大量赏赐。开宝六年（973年）吴越国王钱俶为了苟且偷安，派人专门送信给赵普，并赠送十瓶瓜子金。不巧被不请自来的赵匡胤发现，赵普吓得大气不敢出，没想到赵匡胤却十分轻松地开着玩笑，劝赵普收下这份带有明显行贿意图的厚礼。
大凡搞政治的人，最难受的莫过于“有职无权”，但相反的，权高位重，锋芒毕露，以至功高震主，也是种种悲剧上演的一个重要原因。
赵普和赵匡胤的确有过一段不短的“蜜月期”。特别是赵普为相之初，被赵匡胤看作是“萧、曹故人，燕赵奇士”，因而“视如左右手，事无大小，悉咨决焉”。权力是很大的，也是深得赵匡胤信任的。但时间一长，两人的关系却出现了裂缝，最终发展到不可弥合，从而导致赵普被罢相。
总揽大权的赵普渐渐变得专断起来，据说在赵普权势炙手可热之际，臣僚晋见皇帝，赵普总是“先令供状”，直到确认臣僚奏章“不敢诋斥时政”，方许登对。他曾设一大瓦壶于视事阁中，中外表疏，赵普不打算采纳的，连上报都懒得报，就把它们投入壶中，予以烧毁。俨然“一人之下，万人之上”的气派。
赵普似乎也没有意识到赵匡胤的身份已发生了天壤之别的变化，赵匡胤当上皇帝后，还时常拿赵匡胤青年时代的种种缺点和窘状作话题，惹得赵匡胤颇不愉快。特别是在人事上，赵普往往固执己见，例如对他向赵匡胤推荐的人，赵匡胤看不中，赵普便不罢休，甚至皇帝动怒，将奏章摔地而去，赵普仍执意上奏；又比如赵匡胤看不惯某人，本该迁官，赵普就是不同意，便软磨硬泡，直到赵匡胤答应为止。
在赵匡胤的心目中，皇权是至高无上的，遗憾的是，这位手握相权的重臣却没有对皇权表现出某种适当的敬畏，而是仗着自己同皇室的深厚渊源和亲密关系，越来越没有界限，从而招致了赵匡胤的不满。身为皇帝的赵匡胤对这位首相身上散发出来的某种试图左右朝廷的阴谋气息和老谋深算使他感到有一种本能的排斥。
赵普也似乎胆子越来越大了，为了在开封和洛阳修建自己的豪华住宅，公然违反政府禁令，派人私贩秦、陇大木，联巨筏水运至京，具体操办者又因之打着他的旗号，私自贩卖木材。据《画墁录》记载，赵普在开封和洛阳修建的房子，极尽豪华，“外门皆柴荆，后苑亭榭制作雄丽，厅事有椅子十双，式样古朴，坐坎分列”，“堂上有当时酒凝如胶漆，以水参之，方可饮，馨烈倍常。”当时河南府的租课收入中，甚至私自截留一块为赵普充作专门的修房经费，赵匡胤于是觉得此人“终是不纯”。
赵普位高权重，为政专横，自然树敌不少，他的对手抓住他的诸多把柄，连番上书，最终动摇了赵匡胤对他的信任。
大约在971年以前的10年间，赵普同赵匡胤的关系可以说是比较融洽的。即使赵匡胤面对诸多臣僚的交章弹奏，和他本人对赵普渐渐产生的种种看法，赵匡胤还是对他留有余地，大加庇护的。据说有段时间赵匡胤曾把他的另一亲信王仁赡单独召来谈话，引起了赵普的不快，他曾亲自上书，称“仁赡奸邪，陛下昨日召与语，对我极尽毁谤之能事”。赵匡胤阅后，犹豫再三，举笔批道：“我留王仁瞻谈话，你见我叫谁去召他了！你莫要小鸡肚肠，心怀嫉妒，叫外人笑话我们君臣不睦。另外，你也小心点，莫把我惹恼了！”
这个见于《东原录》的故事，明显地反映出两人的关系已经蒙上了一层阴影，但赵匡胤采取了息事宁人的态度。
开宝元年（968年）十月，由于中书堂的办事人员依附赵普，擅自增减刑名，导致了赵普同判大理寺雷德骧的尖锐矛盾。雷德骧于是向赵匡胤状告赵普“强势入第宅，聚敛财贿”等不法之事。史书记载赵匡胤当时对司法官员敢于控告首相十分恼怒，叱责他说：“鼎铛犹有耳，汝不闻赵普吾之社稷臣乎！”说完竟用玉斧将雷德骧的牙齿打断两颗，命左右曳出，让赵普对雷德骧处以死刑。后来赵匡胤冷静一想，感到雷的控告也不是空穴来风，因而只追究他擅自闯入宫禁之罪。这说明，此时赵普还是比较受信任的。
但到开宝四年（971年）三月，左监门卫大将军赵玭控告赵普贩木谋利的不法行为时，赵匡胤的态度已经明显不同。史书记载说，赵匡胤闻讯大怒，“促閤门集百官，将下制逐普”。召集百官讨论首相该当何罪，这在赵普与赵匡胤的关系史上是前所未有的。
与此同时，臣僚中觎觊相位者大有人在。翰林学士卢多逊，自恃有才，又常能投赵匡胤之好，而深得赵匡胤的器重。卢多逊任知制诰时，就同赵普不和，出任翰林学士后，“每召对，多攻普之短”。等赵匡胤察觉赵普专权而召集臣僚专为赵普挑毛病时，卢多逊更是找到了机会。当时另一位翰林学士窦仪曾极力为赵普开脱，但赵匡胤很不高兴。等卢多逊奏事时，一贯善于揣摩皇帝心理的卢多逊投其所好，极言赵普所为无法无天，请求断然处置。
赵匡胤对赵普逐步采取了防制措施。开宝五年（972年）二月，任命端明殿学士、兵部侍郎刘熙古为参知政事，至此，参知政事已增至三人，大大加强了对赵普的牵制力量。九月，赵匡胤得知枢密使李崇矩同赵普“厚相交结”，并将自己的女儿嫁给赵普的儿子赵承宗，大有将本为互相牵制的两个部门变成家天下的趋势，赵匡胤更感到事态的严重。于是下令修改以前制度，将枢密使和宰相候对长春殿时同止庐中的旧例改为单独候对，以避免双方互通声气。赵匡胤又抓住李崇矩的门客郑伸告发李受贿请托之事，不管所控是否属实，坚决罢免了李崇矩的枢密使职务，而将告发者郑伸提升为酸枣县主簿，并赐他同进士出身。
为了进一步削弱赵普的势力，赵匡胤对中书堂吏进行了大规模清理整顿。开宝六年（973年）四月，赵匡胤下诏说：“堂后官十五人，从来不曾替换，宜令吏部流内铨于前资见任令录、判司簿尉内，拣选谙会公事、有行止、无违阙者十五员，具姓名奏，当议差补，仍三年与替，若无违阙，其令录除升朝官，判司簿尉除上县令。”赵匡胤试图以3年一换的制度来对赵普的势力釜底抽薪。五月，有关部门经过挑选未能选够15员，赵匡胤于是召见旧任者刘重华等4人，面加戒励，许诺岁满无过，与上县令，若“稍有愆咎”，则“重置其罚”。同时，又任命姜宣义等数人担任新的堂后官，削弱了赵普控制手下的能力。
局势对赵普越来越不利。是年六月，由于攻击赵普而被贬为商州司户的雷德骧，因与知州奚屿不和，被素与赵普关系密切的奚屿抓住把柄，控告他“讪谤朝廷”，又被削籍流徙灵武。雷德骧一贬再贬，其子雷有邻便迁怒于赵普，“日夜求所以报普者”，他得知中书堂后官胡赞、李可度曾有请托受贿行为，又探知上蔡县主簿刘伟伪造有关履历证明骗取官职，并故意抓住宗正丞赵孚在乾德中授西川官职时，称疾不赴任等数事一并上告，称这些不法行为都是赵普包庇的结果。赵匡胤于是大怒，下令让御史台调查核实。结果，胡赞等人都受到查处，与此同时，赵匡胤公开表示不信任赵普，下令让参知政事薛居正、吕馀庆升都堂，与宰相同议军政大事，并让他们与赵普更知印、押班、奏事，赵普的权力再次受到分割和牵制。
同年八月，赵匡胤正式下诏，罢免了赵普的宰相职务，让他出任河阳节度使，而将薛居正和沈伦提升为宰相，卢多逊晋升为参知政事。由于赵普是开国元勋，并与赵家关系密切，故而在解除赵普职务时，用了个冠冕堂皇的借口，说是赵普虽为国家重臣，但也应当均劳逸，不宜让他过于操劳，这算是为赵普保留了一点点面子。
赵普和赵匡胤从亲密无间的主从关系演变到两人公开决裂，深刻反映了宋初的君臣关系，也反映出皇权与相权的矛盾。在中国历史上，宰相能够专权，一般是两种情况：一是君主昏庸，而宰相本人奸佞狡诈；一是君主幼弱，而宰相本人精明强干。从这种意义上来说，一直在寻求“独制天下”的赵匡胤最终要踢开赵普是迟早都会发生的事，因为皇权与相权的矛盾注定会导致这场悲剧的上演。