1992年的春天，马云在杭州解放路基督教青年会里组织了一个英语夜校班，每周学习一至两晚。学生中有想出国留学的高中生，有在校大学生，有工厂里的工人，而大多是大学毕业刚参加工作不久的上班族。
马云的英语课和学生们想象中的完全不一样。大多数老师上课时会带领大家抱着课本按部就班地背单词、分析课文、讲解语法等，一堂课下来，学生大多听得晕晕乎乎，不知所云。而马云则不同，他讲课时往往抛开书本，很少讲解语法和词句，更注重和大家的口语交流，常从新闻中找吸引人的话题来进行课堂讨论，再配以幽默风趣的语言和夸张的肢体动作，大大提升了这帮“哑巴菜鸟”学习的积极性。学生们常常在笑声中不知不觉就学会了口语。
马云每次讲课时都会出一个命题，让同学们选择某一方的观点，而自己坚持剩下的“无理”那一方的观点，与所有同学展开辩论。尽管学生中也有口才不错的，但马云总是获胜方，这不仅是因为马云的英语口语更好，也是因为他看问题的角度很特别。逆向思维是他的一大特色。
当时马云班上有个学生叫陈伟，他后来成了马云的助理，他回忆的一个小故事就很能体现马云思维的特别。一次马云在香港开会，记者问：“现在你们公司资金这么少，与对手竞争起来，怎么才能保证公司活下去，你对‘一山难容二虎’怎么看？”马云回答：“主要看性别。”记者茫然。马云接着说：“我从来不认为‘一山难容二虎’正确。一座山上有一只公老虎和一只母老虎，那样才是和谐的。”
马云后来还带领他的学生在少年宫门口的广场上办了一个“英语角”，马云特意把时间安排在晚上。因为晚上比较黑，互相都看不清相貌，使得大家说英语的胆子大了起来，各种带着语病的“中国式”英语夹杂着汉语齐飞。
至于创立翻译社，是因为随着外向型经济的发展，社会上翻译外文资料的需求越来越大。马云看到了这个商机，也盘点了自己的资源，他身边的许多同事和退休老教师都闲在家里，于是他决定在杭州成立一个专业的翻译机构。这样既能减轻自己的负担，也能让那些老师赚点外快贴补家用，一举两得。
1994年1月，马云利用基督教青年会临马路的两间房办起了“海博翻译社”，“海博”是英文“希望”（hope）的音译，寓意是“大海一般博大的希望”。
但马云的希望很快遭遇了失望——翻译社生意惨淡。当时一个月的营业额是200多块钱人民币，可是光房租就要700元。
翻译社并非没有做宣传，当时虽然只有少数几个学生入股参与运营，但马云的全体学生都积极对外宣传，有一次他们还拉着横幅去杭州市中心的武林广场做了次宣传。
马云选择坚持下去，他给翻译社题写了四个大字“永不放弃”。他利用翻译社房子临街的优势，兼卖鲜花和生日礼物。为了进货，马云在双休日还带队去义乌小商品市场采购上货。他的付出是远远大于回报的。
马云的学生们也在努力，其中有个八十多岁的学生G，她主动要求去做宣传，并去一些公司联系业务。大家都不忍心让她去，她却说：“我去容易成事，谁会拒绝一个八十多岁又会讲英语的老太太的请求呢？”事实正如G说的那样，年轻人办不了的事，G出马基本一次搞定！
这样支撑了一年多，翻译社的生意渐渐好起来了。而1995年马云已经把重心转到互联网创业上，就把翻译社送给了其中一个入了股的学生。
马云课外办培训班、组织英语角、创立翻译社，大大提升了他在杭州的知名度。
英语班的事情传到了中央电视台，引起了《东方时空》杭州籍的编导樊馨蔓的兴趣。她带着摄影师来到杭州，打算为他们拍摄一个短片。不久英语班的故事就出现在《讲述老百姓自己的故事》节目里，这节目收看的人不少，播出第二天就有不少熟人跟英语班的学生说：“昨天我在中央台看到你了！”
1995年，马云的英语口语在杭州已小有名气，当时杭州在西湖上举办国际摩托艇大奖赛，200多名杭州美女报名争做司仪，主办方就请马云帮忙培训这些美女的英语口语。还有一个例子是当时杭州有档很火的广播节目叫《外来风》，专门介绍国外流行歌曲，马云被邀请去做客串主持，很多杭州人都是从听这个节目开始才慢慢地了解并喜欢英文歌曲的。
因为马云的活动能力带来的名气，1995年，一家国外公司来到浙江说要做投资，聘马云为翻译，后来又带他到美国。马云后来成为互联网大佬就是因为这次契机。
因为有一颗奉献的心，马云成为了非常有钱的人。
马云认为挣大钱的人不是最精明的人：“这个世界上小聪明的人很多。有一次我在上海五星级波特曼酒店宴请一位重要客户，当时一位很高很帅的服务员小伙子端着盘子进来，看到我说，啊呀，我认识你，我用你们阿里巴巴的支付宝分期付账，仔细算了一下，可以省下一毛二分钱的利息呢。当时我就想，这种人就是太小聪明了，如果今天他不这么‘聪明’算计，也许已经是总经理了。”
不精明的人才能挣大钱，这也是太极式辩证法的又一个案例。
两次创业失败：梦想是虚的，但是你必须把它做实
1995年，因为一次奇遇，马云开始了他的创业历程。
前面说过，一家声称要在中国投资的公司邀请马云到美国。马云受到了盛情款待，他被安排住在拉斯维加斯酒店顶楼的房间，一按旋钮屋顶立即打开，只剩一层玻璃，躺在床上就可以看见满天繁星。
马云后来发现那帮人和别人谈判时说的事情根本与事实不符，他们还要求马云为一些子虚乌有的东西“做证”。马云觉得他们可能是一个国际诈骗组织，就拒绝跟他们合作。对方立即露出了狰狞面目，说不合作他就休想回去，并把马云的东西全都扣下。
马云设法逃出魔掌后，在拉斯维加斯赌场用25美分在老虎机上赢了600美元，买了到西雅图的机票。之所以去西雅图，是因为杭州电子工业学院的外教同事之前说起过的互联网，那位同事的丈夫就在西雅图当时仅有的一个网络公司工作。
美国朋友很热情，带他到了名为ISP的小公司，公司的两间小屋里坐着五个面对电脑屏幕不停敲击键盘的年轻人，朋友告诉他可以在互联网上搜索任何东西，并让他试试。西班牙《国家报》生动地描述了马云当时的心情：“我甚至害怕触摸电脑的按键。我当时想，谁知道这玩意儿多少钱呢！我要是把它弄坏了就赔了。”
马云在雅虎搜索栏里敲了一个词“Beer”（啤酒），很快就蹦出了一大堆：美国啤酒、日本啤酒、德国啤酒，但就是没有中国啤酒。马云很好奇，又在键盘上敲了一个“Chinese”（中国），搜索的结果是“no data”（没有数据）。马云又敲china history（中国历史），只找到一个50字的介绍。
马云问：“为什么有些能搜索到，有些搜索不到？”公司的人告诉他：“要先做个homepage（主页），放到网上去，然后，全世界的人就能搜索到了。”
于是马云就请美国朋友帮忙制作杭州海博翻译社的主页，按照马云的意思，制作人员在海博翻译社网页写明了报价、电话和信箱。网页当天就完工了，晚上马云就收到了五封邮件，有来自美国的、日本的，也有来自欧洲的，发邮件的有机构、公司，也有当地留学生。信上说，这是我们发现的第一家中国公司的网站，你们在哪里？我们想和你们谈生意。
马云兴奋不已，他感觉到了互联网蕴藏着改变世界的巨大能量！马云的第一个想法是把中国企业的资料翻译成英文，寄到美国，然后让美国的朋友做成网页放到网上。
1995年3月，马云用身上的全部资金——在拉斯维加斯的老虎机上赢得的美元，买了一台484电脑，回到了杭州。
回国后不久，30岁出头的马云放弃了当时被大家看成金饭碗的大学教师工作，辞职下海了。马云后来的助理陈伟回忆说，马云告诉他，在他打算辞职的时候，本来还挺犹豫的。后来有一天快下班的时候，在校园里遇到了系主任。系主任骑着一辆自行车，车把上挂着两把刚从菜市场买回来的菜。他叫住马云，语重心长地劝他好好干英语教师这份很有前途的工作。“我看着他的样子，突然明白，如果继续在学校待下去，他的现在就是我的将来了！”于是，马云辞职了。
马云辞职创办互联网公司并不被朋友们理解。当时他每天都兴高采烈地跟朋友和学生讲互联网，讲他的创业计划，然后问他们有什么想法。
有人向马云提了几个关于创业步骤的问题，马云答不上来，说他还没有想好。于是大家一起摇头叹息，纷纷向他泼起了冷水：“马老师，你开酒吧、开饭店，办个夜校，或者继续当老师，怎么都行，就是干这个不行。这到底是什么？中国人没一个知道的——不是说它不好、没前途，而是因为这玩意儿太先进……中国人不会买账的。”
马云完全是凭着一腔热情创业的。1995年4月，马云拿出了六七千元钱，联合家人亲朋凑了两万元（马云曾准备把自己的房子做抵押来贷款），创建了中国最早的互联网公司之一“杭州海博电脑服务有限公司”。马云去美国花了一点点钱注册了“China page”（中国黄页），电脑显示：“You are lucky…”（你很幸运！这个名字没有被注册。）
公司刚成立时员工只有三个人：马云、马云的爱人张英和被马云“忽悠”过来的在学校时的同事何一兵。有一天公司招聘，马云还让英语夜校的学生去帮忙壮声势。当时的学生陈伟去了后，发现一个不小的房间里空荡荡就放了一张课桌和一把椅子，有点小孩子过家家的感觉。
海博电脑服务公司的命运跟海博翻译社比较相似，一开始也是没什么生意。马云就先从身边人下手拓展业务。
当时陈伟在出口电视机的公司上班，另一个女同学周岚在望湖宾馆做大堂经理，马云就把陈伟公司14英寸出口彩电的资料和望湖宾馆的图片发上了互联网。不久之后北京召开了世界妇女大会，会后一些代表来杭州游玩，选择入住不算杭州一流的望湖宾馆。当被问及为什么会选择入住望湖宾馆时，她们回答说，因为这是互联网上所能搜到的中国的唯一一家宾馆。
光靠熟人是做不了几单生意的，马云还四处推销。一位曾在大排档里见过马云的老乡这样描述他：喝得微醺、手舞足蹈，跟一大帮人神侃瞎聊。马云曾回忆过那段经历：“我那时名义上是总经理，其实就是个推销员——跟当时上街推销保险、保健品的那些‘令人讨厌的业务员’没什么两样。”
那时人们还不知道互联网为何物，为了说服一个怀疑电子商务真实性的杭州老板，马云收集了大量有关电子商务的资料，一遍又一遍地向他介绍和讲解这种崭新的商业模式，告诉他“在网上做广告比在其他媒体上做有更广泛的效应”。但在空口无凭的情况下，这位老板死活不松口。马云改变策略，临走时要了一份该企业的宣传材料。几天以后，马云带着一台电脑向这位老板展示企业的网页，才终于使得他同意付款。
担心上当受骗的远不止这个老板。刚开始创业的三四个月，马云只能凭着几份美国寄来的打印纸和一个越洋电话向客户证明他的公司已经在互联网上了——他兜售的实际上是一种在国内还看不到的商品。于是有人怀疑这些打印纸是马云自己在电脑上制作出来的，是骗钱的东西。
1995年7月，上海开通了44K的互联网专线，马云决定进行一次互联网现场演示证明自己。马云找来了望湖宾馆的老总和杭州明珠电视台的记者。记者把摄像机对准电脑，然后马云从杭州打长途到上海联网（当时还是拨号上网方式），大家焦急等了三个半小时，网页才下载完毕，电脑屏幕上出现了望湖宾馆的主页！整个宾馆在场的人员一片欢呼，马云终于洗去了骗子的罪名！
马云不仅没有害人之心，甚至还缺乏防人之心。