1999年，可能就是一种巧合，马云带着自己的团队南下杭州的时候，正是另一位网络精英丁磊带着他的“网易”北上的时候，守着自己已经辛苦打下的一片“江山”不要，却偏要回一个江南小城杭州重新创业，这不是一般人能够理解的。但后来的事实证明，选择重回杭州创业是马云这辈子做出的最正确、最英明的决定之一。其实，后来快速崛起的阿里巴巴与地区贸易的兴盛有着密切联系。孕育阿里巴巴“出世”的浙江有中国最庞大的从事外贸事业的中小企业群体，当时购销资讯的空缺、产购信息的不对称以及国际业务和转口贸易的成本偏高、中介过多等因素都是很多企业的实际难题，而阿里巴巴的出现恰恰为他们带来了一个有效的解决方案。浙江商人向来都是以精明和有生意头脑而著称的，当互联网能够为他们提供实际的利益和效率的时候，几乎没有人会拒绝这个陌生的新生事物。因此，阿里巴巴就成了为他们解决难题、为他们带来效益的首选，而阿里巴巴也开始进入快速发展状态……
五年以后，当阿里巴巴首战告捷，在五周年庆典的大礼堂中，2000多名热血沸腾的阿里巴巴人又唱起了那首激人奋进的歌--《真心英雄》。而站在前排的阿里巴巴创始人老歌重唱，那是一种难忘的、激动的、喜悦的心情。他们仿佛又想起了当年那个告别北京的小酒馆，又想起了他们含泪而歌的那个晚上……
不疯魔不成活，阿里巴巴横空出世
黑暗之中一起摸索，一起喊，我喊叫着往前冲的时候，你们都不会慌了。你们拿着大刀，一直往前冲，十几个人往前冲，有什么好慌的？
--马云
“善胜不败，善败不亡。”古往今来只有经得起失败的人，才会取得成功。从中国黄页的成功到与杭州电信的一拍两散，让马云懂得了要想让互联网生存，最重要的就是要务实。而在北京的14个月时间让马云学会了判断国家宏观经济的发展方向。更重要的是，马云在接触互联网最前沿的阵地上嗅到了中国互联网大潮的味道。对马云来说，如何能坚持住自己的想法简直就是一种最大的考验。创业前期的失败让马云承受着巨大的压力，但是从海博翻译社到中国黄页，再到中国外经贸部，马云经历了太多太多的大风大浪，同时也培养了他面对压力和挑战的承受能力和应对能力，因此，在现实面前，他没有感到迷茫而不知所措，相反地，马云却愈加显得沉稳和坚强。
1999年1月15日，马云和他的团队悄然回到杭州。从北京回到杭州，马云一时之间成了一位名副其实的无业游民。向来都非常自信的马云显然没有对自己的身份抱有丝毫的不满和遗憾，因为这个时候的马云和他的团队正在酝酿一个更大的梦想。
当初离开北京之前，马云在长城上看见许多涂鸦者留下的“××到此一游”之类的痕迹时，就有了自己的想法。本来在文物古迹上刻画是一种道德陋习，但是那时的马云却在想：“这也许就是中国人热爱随手写点什么的"历史传统"吧。”后来，马云在谈到这个发现的时候说：“长城上的这些涂鸦其实就是BBS的早期雏形。”1999年2月新加坡召开了亚洲电子商务大会，由于马云在中国外经贸部做网站时已经使他在互联网界小有名气，所以他有幸受到大会的邀请。之所以说他有幸，是因为尽管大会美其名曰“亚洲大会”，但受邀的人员中真正的黄皮肤、黑头发的亚洲人却是寥寥无几。据说当时参加大会的欧美人竟然占到了80%。当然我们不能因为来了多少外国人就判断这次会议的规格有多么高，但是至少可以证明一点，那就是当时的亚洲电子商务几乎还没有开始起步，否则也就不会不惜重金请一批不了解亚洲国情的欧美人在台上高谈阔论了。老外们谈的自然都是欧美式的电子商务，他们讲eBay，讲亚马逊，此刻在台下认真聆听的马云不禁陷入了深深的思考当中。
当轮到马云发言的时候，他并没有丝毫犹豫，而是用流利的英语说：“亚洲电子商务实际上是步入了一个误区。亚洲是亚洲，美国是美国，现在电子商务全都是美国模式的，亚洲实际上应该有自己独特的模式。”
马云是一个聪明人，他在会议上提出了问题，但同时他也保留了自己的想法。因为这是马云马上要着手做的事情，也就是说马云马上要开始自己的新事业了。这个时候的马云决定创办一种中国目前还没有、在美国也找不到的商业模式。曾有投资人这样对马云说：“互联网是一个高科技行业，人们肯定更相信一个海归的MBA，而不愿意看到一个杭州师范学院出来的老师在那里折腾。”但是马云却不这么认为，他觉得在自己并不缺乏海外文化滋养的基础上，自己远可以比“海归”做得更好。
和所有的网络精英不一样的是，马云既不像丁磊那样有着国内名校的出身，同时也没有杨致远的海外留学经历。也正是因为这些原因才使得马云决定不做那15%大企业的生意，而只做85%的中小企业的生意。用马云的话说就是“不要鲸鱼，只抓虾米”。其实，这其中的道理很简单，因为大企业有自己专门的信息渠道，有巨额的广告费，而小企业却什么都没有，它们才是最需要互联网的人。马云说：“如果把企业也分成穷人、富人，那么互联网就是穷人的世界，因为在互联网上大企业和小企业发布多少PAGE是一个价钱。”
1999年2月，在杭州湖畔花园的一个普通得不会有人注意的小区住宅里，马云的阿里巴巴计划被提上了议程。马云选择在杭州创办阿里巴巴的理由非常简单，因为这里远离北京、深圳这些IT中心，人力资源相对较为便宜。而对于阿里巴巴，马云所要做的事情就是要为企业家提供这样的事情，将全球的中小企业的进出口信息都汇集起来。马云说：“中小企业好比是沙滩上的一颗颗石子，通过互联网可以把这些石子全粘起来。粘起来的石子可以和巨石抗衡，而互联网经济的特色正是以小搏大、以快打慢。”
马云在湖畔花园的家中召开了第一次全体会议，并按照惯例把这一“重大事件”全程录了下来，他坚信这些录像将会有巨大的历史意义和价值。在这个资料片中，在光线昏暗的画面中有18名创业成员或站或坐，神情肃穆地围绕着慷慨激昂的马云，而马云站在一张桌子后面，快速而激动地发表着他那激情洋溢的演讲。马云激动地对创业成员说：“黑暗之中一起摸索，一起喊，我喊叫着往前冲的时候，你们都不会慌了。你们拿着大刀，一直往前冲，十几个人往前冲，有什么好慌的？“在这次会议中，马云说：“启动资金必须是闲钱，不许向家人、朋友借钱，因为失败的可能性非常大。我们必须准备好接受"最倒霉的事情"，但是，即使是泰森把我打倒，只要我不死，我就会跳起来继续战斗。”
于是，马云和自己的伙伴们就把各自的口袋掏了个精光，筹到了50万元的启动资金。同时，马云和伙伴们约法三章：大家不要想靠资历任高职。他说：“你们只能做个连长、排长，团级以上干部得另请高明。”每当回忆起当初的这段经历时，马云的脸上就会不自觉地浮现出一丝得意的笑容：“那天，我就像一个疯子般地在那里讲话，我当时说，把你们的钱都放到桌子上来，最后我们一共凑了6万美元，那就是我们的第一笔资金。”当时，马云真的是让团队中的每个人和自己都没有了退路。
在开会的过程中，马云家里的墙壁突然渗水了，他便对大家说：“我出去找材料。”过了一会儿，他抱回来了一大卷旧报纸，然后大家就开始一起把报纸贴在了墙上，他们就这样开始了创办公司的第一天。据说，后来为了保持统一，马云就把报纸作为大部分房间的装饰。口才向来很好的马云当然不会放弃在这个历史性的时刻对大家说：“我们要办的是一家电子商务公司，我们的目标有三个：第一，我们要建立一家生存102年的公司；第二，我们要建立一家为中国中小企业服务的电子商务公司；第三，我们要建成世界上最大的电子商务公司，要进入全球网站排名前十位。”也就是从那一天起，马云就开始铁下心来做电子商务。
为了实现这三个目标，在很长的一段时间里，马云的团队成员就像从所有的公共场合销声匿迹了一样。当时由于资金有限，他们并没有租写字楼，而是在马云家办公，最多的时候房间里坐了35个人。马云不断鼓励员工：“发令枪一响，你不可能有时间去看对手是怎么跑的，你只有一路狂奔。”除此之外，他还告诉员工：“最大的失败就是放弃，最大的敌人就是自己，最大的对手就是时间。”马云带领着员工每天工作16～18个小时，他们昼夜不停地设计网页，讨论创意和构思，困了就席地而睡。邻居们经常为此感到奇怪：“这群人早晨六七点离开马云家，下午三四点怎么又来了。”
付出就会有收获，1999年3月，马云的阿里巴巴网站正式推出了。对于为何起名为“阿里巴巴”，马云当时的想法非常有远见。虽然当时他们只有50万元的创业资本，但马云还是认为未来的公司应该具有俯瞰世界的眼光和气魄，因此名字也应该是非常响亮的、国际化的。马云发现阿里巴巴的故事几乎被全世界的人所熟知，而且不论语种，其发音也都非常相似。因此就这样一锤定音，马云将“阿里巴巴”确定为了公司的名字。
潜龙在渊，马云的“秘密打造”策略
我们极其挑剔，仅一个主页面，我们就枪毙了16次。
--马云
人们常说：“神龙飞天，必先潜渊。”马云立志要把阿里巴巴打造成最出色的电子商务网站，所以，他决定下最大的工夫对其进行全面攻关，并且还选择了秘密进行的策略，因为他明白这个时候绝不是张扬的时候，只有潜心修炼的人才能一鸣惊人，拥有不同凡响的效果。
在阿里巴巴网站启动之前，当马云把B2B模式完全推出的时候，程序员对此并不同意，而且有一些编辑人员也不同意，大多数人脑子里的电子商务模式几乎都是B2C（也就是企业对消费者的电子商务模式）和C2C（也就是消费者与消费者之间的电子商务模式）。因为当时世界上成功的电子商务模式就只有这两种，因此，很多人也都认为电子商务的模式只能是这两种才能取得成功。所以当马云提出B2B模式的时候，遭到所有人的反对，最终他也没能说服他们，最后还是马云下死命令，员工才开始按照他的意思执行了。
但是不做门户网站，也不做B2C，只做B2B，这样如何操作呢？这还得大家一起商量、讨论。阿里巴巴的标志该如何设计？阿里巴巴的页面该如何制作？商家的买卖信息该如何贴上去？如何进行信息的核实和分类？所有的这些细节，全部都是在充分民主的讨论基础上完成的。
阿里巴巴在创办初期，并没有严格的公司管理制度，也没有正规的工作流程，很多问题都是自由争论、平等抉择。楼文胜说：“在决定页面的时候，我们彻夜不停地争论；在设计标志的时候，我们争论过20多个方案，但当盛一飞拿出今天人们随处可见的那个字母a的变形时，我们大家都一致认可了，这个标志的变形其实就是孙彤宇的侧面像。”设计网站页面的时候，开始是由工程师宝宝做了个模板，而且这个模板做得很成功，也有很好的扩展性，然后大家就在这个模板基础上一起开发程序，工程师狮子主要负责写Windows下的程序，很快，阿里巴巴的页面就被他们设计了出来。
马云说：“因为我不懂技术细节，而我的同事们都是世界级的互联网顶尖高手，所以我尊重他们。他们说该这么做，我就说好，就这样去做吧。试想一下，如果我很懂技术的话，我就很可能会说："那样做没这样做好。"这样我们就会天天吵架，吵技术问题，而没有时间去思考发展问题了。”