该馆成立时租用了3间旧房，购置了两部手摇印刷机、3部脚踏圆盘机和3部手扳压印机，雇用了十来名宁波工人，主要业务是招揽小件印刷品。
由于各地维新变法运动的日益高涨，中外交流不断扩大，为适应一大批知识分子和工商界人士学习外语的需求，该馆用中英文对照排印了《华英初阶》、《华英进阶》等书籍，“销路甚广，利市十倍”。1898年书馆迁往北京路，房屋扩大，设备增添，还改用煤油发动机做动力，提高了效率。
由于商务印书馆的创办人熟悉排字等印刷技术和业务，不惜重金购买了日商在沪经营的修文印刷局，改善了印刷设备。1903年，他们又与日本金港堂协议合资经营，资本额20万元，中日双方各半。其后，商务印书馆的业务蒸蒸日上，企业规模迅速扩大，成为全国规模最大、技术设备先进的印剧出版企业。
1902年，该馆成立编译所，先后聘请蔡元培、张元济任所长，并在他们主持下翻译出版了《天演论》、《伊索寓言》、《哲学要领》等。后书馆又出版了《最新初小国文教科书》和多种工具书、刊物、丛书等等，均十分畅销。
商务印书馆不仅在上海总馆设有制度完备、机构健全的总务处、编译所、发行所和印刷总厂，还在全国各省市和重要商埠设有86个分馆以及印刷分厂。同时他们还跨出国门，在新加坡、吉隆坡设立了分馆。职工总数由最初的十来人增至千余人。
据统计，该馆出版的图书杂志1902年为is种，27万册；1911年为141种，583万册。资本额由1901年时的5万元增加到1913年时的150万元，成为我国近代史上规模最大，人员最多的印书馆，在全国乃至东南亚地区一度雄居榜首。
1914年1月，商务印书馆与日商签订了收回日股的契约，并且辞退了所有的日方人员。