第一批东西，系五百套呢制服、呢大衣、皮鞋、帽子、皮件、衬衣等等，正式报关由运输公司起运。哪知服装店经理巴结生意，在每件制服里面，钉上一块白布，海关上一检验，觉得特别触目，认定是军装，就全部扣留，我得了这信息，焦急万分，一面打电报报告校长，一面托人各处想办法，向海关许监督交涉，又转托叶琢堂、王一亭、沈田莘、虞洽卿等从中帮助，经十余天之努力，终算将被扣留的军服等收回。不过其中有束腰皮带枪带和刀鞘三样东西，海关方面认为军用品必须充公。许监督对我说：“这一点东西，不过是作为酬谢关员的意思，你也不必再追究了。”所以这件事，只好承认晦气，损失数百元。可是军服等虽已收了回来，仍然不准出口，这又使我感觉困难，几次同海关监督公署商量，没有办法。据该署中人说：有一路可通，不过要你们自己去想办法，官家是绝对不能通融的。于是托人打听，探得上海有一家公司，专门偷税，包运货物，并且运费较正式报关起运为便宜。我找到之后，深恐靠不住，先派人用少数东西，试了一试，过几天广州来电，居然如期到达，并没有出什么岔子，这才放心，将这一批服装等等，完全交由该公司代运，不久全部到达广州，送到指定地点，而且计算起来，比正式办法便宜数百元。后来黄埔军校所用的军装皮件，以及教导团第一、二团全部的棉衣军毯等等，均在上海制办，都是交付那个公司负责装运，几件大衣或几套棉衣，包成一包，每包至少比正式报关起运要便宜一元几角，而目稳妥简捷。
陈果夫通过这次经验之后，再给广州方面采办物资就方便、简单多了。当然，在采办过程中，由于上海各种势力错综复杂，再加物资种类多，而且数量、价格都不等，所以仍须付出极大的努力，冒极大的风险。这段时期，陈果夫几乎将整个心力都投入到采办物资中去，想尽各种办法，才很好地完成了一次又一次的采办任务。
到了年底，孙中山任命陈果夫为招兵委员，同时被任命为招兵委员的还有赵澄志、刘祖汉二人，并且指定由陈果夫负责主持其事。他们的任务主要是为黄埔军校一、二两个教导团招募一上兵，而且要求他们一般只在江苏、浙江、安徽三个省进行。此后，蒋介石恐他们力量薄弱、人手不够，又陆续从广州派来陆福廷、戴任、王震南、王伯群、胡公冕，陈乐亭、周少游等人来上海帮助陈果夫进行工作。
孙中山先生独到精辟的见解影响着陈立夫。之后陈立夫虽信奉孙先生的三民主义，但他的三民主叉是蒋介石对三民主义的曲解，而非真正的孙中山先生的三民主义。采办物资是困难重重，而招募上兵则困难更大。第一，当时正值江浙战争爆发，军阀齐燮元、卢永祥为了打仗，拼命补充兵源，正在江苏、浙江、安徽等地招募新兵，这就使陈果夫的招兵工作遇到了竞争对象，而齐、卢军阀有钱、有粮、有势，陈果夫根本竞争不过。有时，通过各种办法，辛辛苦苦招来的新兵，还不及到达上海，就在半路被齐、卢军阀或者扣留，或者高价收买，或者诱骗过去。第二，各地方军阀为扩大势力，也在广招兵源，当陈果夫招来的新兵从上海到广州时，多在中途被他们截留，如地方军阀张毅、张贞、洪兆麟、范石生等，都曾在厦门、汕头、香港等处诱骗，截留过新兵。第三，上海1937年，“七七事变”引发了中国民众的抗日热潮。各种反动势力对招兵工作多方破坏，如当时上海码头上的一帮流氓，对招来的新兵乘机敲诈，规定每名新兵上船，须缴款一角至二角。再如，张宗昌的宪兵随意到招兵机关捕人，开始，陈果夫在中国地界小东门租了一处房子，挂了一张揭普道路募工驻沪办事处的招牌，对外称招募工人，同时还常常到法院与县公署各方面去接洽，所以工作还进行得比较顺利，后来张宗昌的宪兵队打听到是招兵机关，于是派了大批宪兵来捕人，陈果夫急忙躲避，结果，招兵机关被捣毁，一切东西抢个精光。在这种情况下，陈果夫只好将招兵机关转移到上海证券物品交易所内，表面做生意，暗中进行招兵事宜，但还是有各种不明身份的人来此捣乱。没办法，陈果夫将招兵机关搬到了季陶办事处，当时，戴季陶正在此埋头撰写《三民主义的哲学基础》等书，他十分欢迎这位交易所时期的把兄弟来此居住和工作，但陈果夫的招兵机关并不能避免无端的滋扰，为了招兵工作的正常进行，也为了不影响戴季陶的正常写作，陈果夫只好将招兵机关搬到杭州，这里远离上海的尘嚣，反动势力也较上海薄弱，招兵工作才能比较顺利地进行。
虽然有如此多的困难，陈果夫还是想尽一切办法，尽最大努力，完成了招兵任务，总计招募新兵4000多人，这些人后来成为黄埔军校的基本力量，并为后来的北伐战争作了军事上的准备。而更重要的是，为蒋介石扩展个人势力，建立自己的党军打下了坚实的基础，所以在这个意义上可以说，陈果夫是替蒋介石招兵买马的功臣。
在招兵的同时，陈果夫还担负着为黄埔军校招生的任务。最开始，黄埔军校在上海招生时，陈果夫主要负责转汇经费和收发电文等事宜，工作相对简单些。到第三期招生时，陈果夫被任命为招生委员，事物有所增加，需检验证件、考核文化程度。但由于当时广东方面军事任务紧，急需培养大量军事人才，因此一般查看一下证件，对文化程度大体认可就行了，随后发给新生12元旅费，让他们自行到广州报到。
第四期招生时，对文化程度要求较高，要举行考试。因此，蒋介石又派王仲廉，贾韫山等四人来上海协助陈果夫。陈果夫等找了一所学校设立报名处，主要面向江苏、浙江、安徽和上海招生，先接受报名，再进行文化考试。因当时环境恶劣，陈果夫主张一切从“快”，接受报名后，立即举行考试。果然，最后一天考试结束时，被警察发现，将考生驱散。由于一切工作已经结束，没造成什么影响，这一期竟招了1400多军校学生，收获甚丰。
除了招兵外，陈果夫还奉命罗致技术人才，据陈果夫回忆：“那时广东方面需要很多的军官和军医、无线电及其他技术人员，校长电命设法罗致此项人才，关于无线电人才，当时北京政府之下，颇有些与我相识的，不过很不易找，有个姓朱的，我跑去找了他六次，还是因为嫌路太远，不肯去。还有几个姓邱的、姓华的、姓李的，都经跑了若干次，没有允许，因此无线电技术人才，一个也没有找到，一直到十五年的秋天，在广州开办训练班时，才找到三四位。当时技术人才的希贵缺乏，可想而知。军医经多方设法，才找到四个介绍去。另外又找到一个自言在沈阳兵工厂会造迫击炮的人，我报告了校长之后，就约了他到广东去。”
当时，国共合作虽已建立，但国民党内一些右派仍然反对共产党，在上海的戴季陶正为排斥共产党而积极撰写文章。陈果夫于此时还没有参与反共的活动，一方面因他此时与共产党接触较少，另一方面因他忙于招兵工作，无暇参与反共，他后来回忆道：上海招兵，“当时报名处，设在环龙路四十四号（国民党上海执行部所在地——著者），考试地点在上海大学，那时上海大学办事人与共产党关系很密切，和环龙路方面站在相反的地位，双方暗斗颇烈，幸我未尝参加他们的争执，所以倒还没有什么冲突发生……”
1926年1月，中国国民党在广州召开第二次全国代表大会，陈果夫当选为第二届中央监察委员，为了掩护他在上海的秘密招兵工作，即以他的字“陈果夫”公布，后来，很多人竞不知他的原名“祖焘”了。这时，蒋介石以东征英雄的面貌出现，当上了中央执行委员会常委，军事方面仍担任军事委员会委员、第一军军长、广州卫戍司令、中央军事政治学校（国民党二全大会1月12日决议将各军所办的军校合并黄埔军校后改称）校长，成为军界领袖与国民党内重要领袖人物。但蒋介石还觉羽毛未丰，还需进一步扩展势力，补充干部，因此，他急需将自己的心腹喽哕聚集起来，以实现他夺取国民党最高权力的阴谋。于是，他多次去信去电上海，要陈果夫到广州来协助工作。陈果夫见蒋介石如此倚重自己，又见广州确实有利可图，于是他答应了蒋介石的要求。
1926年4月底，陈果夫离开上海，前往广州赴命，开始了他生命中另一个独特的历史时期。
一生想为煤矿事业献身的陈立夫，却阴差阳错地在国民党派系争斗中，争夺自己的天下，多年的寒窗废于一旦。做蒋介石的秘书
陈立夫回来了，西装革履、气度不凡地出现在上海滩上，以致前来迎接他的哥哥陈果夫在其映衬下感到自己的土气与衰老。兄弟见面后，自然是少不了一番亲热。亲热过后，谈话的主题便涉及到归国后的工作问题，陈果夫希望弟弟参加国民革命，从事政治活动，但陈立夫却不屑一顾。他说他当年考上大学，后来出国，就已经走上了与哥哥不同的道路，即要以科学救国，以振兴实业救国，现在回来了，初衷仍然没有改变，他要做一名矿冶工程师，投身到振兴实业中去。当时，他已经接受了山东中兴煤矿公司钱新之先生之邀请，准备到那里担任工程师。
陈果夫见不能说服弟弟，便拿出蒋介石的两封电报，电报说希望陈立夫到广州去协助他工作。陈果夫又不失时机地劝说：“你去美国时，蒋先生也曾帮助过你一部分学费，而且他已来了两次电报，嘱你去帮忙。你如果一定要做工程师，可当面报告蒋先生，他曾经同意你学矿，或许会替你决定的。”一席话说得陈立夫犹豫了，他决定去广州面见蒋介石。
果然，陈立夫的到来，使蒋介石喜出望外，因为蒋介石正在日益加紧篡夺国民革命领导权的活动，他悉心培植自己的私人势力，把一切忠实于他的奴才走卒都网罗在周围，逐渐形成以他为中心的右派力量。他见陈立夫依然如当年机灵敏捷，而且又添了一些稳重，更是喜爱。他问了一些海外留学的情况后，便直接了当地要陈立夫留在广州参加革命工作。陈立夫说自己还是想当采矿工程师，只见蒋介石摆了摆手，以不容置疑的口吻说：“现在是需要你革命的时候，还开什么矿，要开矿，可开采革命之矿。”根本不愿听陈立夫陈述采矿工作的兴趣和志愿。
蒋介石说得斩钉截铁，陈立夫知道争也无用。再加上他也深深知道，当时的中国，国家不统一，军阀不打倒，实业救国是不会有什么成效的，于是便答应了蒋介石。他说：“我没有学过军事，不能投身行伍，只想做点文职工作。”并提出了两个条件：“第一，如有机会，我仍希望回到我本行去工作；第二，我为你效力，一定竭尽智能，接受指导，同时也希望你尊重我的人格，不受怒骂。”蒋介石想了想，表试想当年，若非蒋介石的盛情邀请，陈立夫定会在自己的煤矿事业中大展宏图，那又是另一番景象了。示同意。后来的事实证明，第一件，蒋允诺了，但并没真心去做，陈立夫一直没有回到他的本行；第二件，蒋允诺，也基本上做到了，陈立夫追随蒋介石25年，一般来说，蒋没有对他发过脾气，甚至连大声喊的情况也很少发生，这一点，陈立夫说：“我是非常感激他的。”
蒋介石根据陈立夫的要求，当即安排他为黄埔军校校长办公室机要秘书，跟在他身边，参与机密事宜。陈立夫终于放弃了所学多年的矿冶工程技术，去从事另外一种对他来说还是完全陌生的工作——政治。中国工程技术界，少了一名优秀的青年工程师，而国民党的政治星空中，一颗新星在悄然升起。
陈立夫虽是黄埔军校的秘书，实际上是蒋介石的私人秘书，他住在广州东山区蒋介石的官邸，与蒋同用三餐，共同生活。当时机要秘书有两人，除陈立夫外，还有邵力子，主要帮蒋介石处理重要机密文件，以密电翻译为最多，还有书信、电文等的拟定、誊缮，每日工作量相当大。后来，邵力子被派往北方，到冯玉祥部接洽要事，整个工作重任，由陈立夫一人挑起，他每天披星光起床，伴月光忙碌，工作时间长达十几个小时，由于他年轻力壮，硬是撑了下来。
陈立夫每天处理的文件包罗万象，十分复杂，有政治的，有党务的，有军事的，有经济的，还有私人的，五花八门，目不暇接，整天疲于奔命，十分辛苦。陈立夫是学工程的，他常想，在工程中，技术进步可以提高生产效率，公文工作能否破除以往常规，搞一点技术革新呢？他反复思考，仔细推敲，到了入迷程度。经过一段时间的琢磨，陈立夫自创了一套“五笔检字法”，将此运用于文件归档、电报分类，使工作效率大为提高。
五笔检字法即将文字分为五个笔画系统：点、划、直、斜、曲，这是第一个系统，然后在第一个系统下，又可产生25个部类，例如，在点之下，依次序排列为：点点、点划、点直、点斜、点曲等。
陈立夫将此分类法运用于公文工作中，十分方便，如果一个电报，是何应钦发来的，那么将它归／（斜直）类的档案抽屉内，将来要查找，便在／（斜）类的第四个抽屉内去找即得，十分方便。一次，蒋介石要查找一份文件，陈立夫到机要室，仅半分多钟就拿出呈上。蒋介石十分惊奇，问陈立夫怎么一下子就能寻到，陈立夫即道出秘密，并就此宣传了“五笔检字法”的好处，蒋介石听了非常高兴，当即夸奖陈立夫：“你这是把科技知识运用于你的文书工作了。”并鼓励他将这种方法推广，后来，陈立夫将其整理成书，名曰《五笔检字法之原理与运用》，由上海中华书局出版。
陈立夫除了忠实做蒋的秘书外，由于常在一起生活，有时对蒋的个人性格方面也提一些善意谏言，由于他提得比较策略，有些方面也能为蒋接受。如蒋介石有时脾气很坏，特别是对军人，脾气来了大声吼叫，甚至谩骂。陈立夫认为这种性格不好，影响人际关系，破坏个人形象。一天，饭后他陪蒋介石散步，便开始谏言。陈立夫先讲了德国兴登堡将军的故事，然后说：“兴登堡将军说过一句名言：‘发脾气是自己惩罚自己’，兴登堡这个人是从不发脾气的，他是一个天才军事家，他有一段时间处境也很困难，但他不发脾气，威廉二世下台后，人民便选举兴登堡为第一任总统。”
由于陈立夫的劝说很讲究方法，对蒋介石产生了一些作用，后来，蒋的脾气有所改变，特别是对陈立夫，20多年很少发过脾气。
陈立夫确实是“竭尽智能”、“忠心耿耿”为蒋介石效劳。刚开始，他的想法还是良善的，以为这是为国家、为社会服务，但他并不了解社会发展的规律，所以，当他把自己绑在了蒋介石的战车上后，当整个国民党违背历史规律的时候，他越是尽心、尽力、尽责地进行工作，献身于他的“理想”，那么，便离他最初的美好愿望相去越远。
在做蒋介石机要秘书时，陈立夫的脸上已多了几分英武之气。男大当婚
“男大当婚、女大当嫁”，这是每个中国人成年后所面临的一个不可抗拒的法则。二陈兄弟当然也不能例外。