1944年夏天的一个傍晚，冯·诺伊曼来到阿伯丁车站等候去费城的火车。在候车室里，身旁的一位青年很快就认出他就是闻名世界的大数学家冯·诺伊曼，便怀着年轻人会见大人物时那种局促不安的心情走了过去。这位名叫格尔斯坦的青年涨红着脸向数学家自我介绍，说他在费城宾夕法尼亚大学的莫尔学院工作。冯·诺伊曼热情地招呼他坐下，关心地询问他的工作状况。大科学家毫无架子，和蔼谦虚的态度很使格尔斯坦感动，他向冯·诺伊曼请教了一些数学疑难问题。最后，他还告诉数学家说，他正在莫尔学院参加试制每秒钟能计算333次乘法的电子计算机的工作。
原来，格尔斯坦所在的莫尔学院正是受阿伯丁弹道实验所的委托，于一年多以前开始世界上第一台电子计算机的试制工作的。这件事恰巧同冯·诺伊曼当时正在日日夜夜思索的问题不谋而合。格尔斯坦的介绍，引起了冯·诺伊曼的极大兴趣。他拉住年轻人，向他详细了解了这方面的工作，从中领悟到了头等重要的意义。
20世纪30年代，由于电子学的发展和在研制穿孔卡片式统计分析机的过程中积累的经验，为创立电子计算机提供了主要的技术前提。
二次大战中，宾夕法尼亚大学莫尔学院电子系和阿伯丁弹道研究实验室共同负责为陆军每天提供6张火力表。这项任务非常困难和紧迫。因为每张表都要计算几百条弹道，而一个熟练的计算员用台式计算机计算一条飞行时间60秒的弹道要花20小时。尽管他们改进了微分分析仪，聘用了200多名计算员，一张火力表仍要算二三个月，问题相当严重。
当时，负责该项工作的军方代表是年轻的格尔斯坦中尉，他原是一位数学家。他的朋友莫希莱这时正好在莫尔学院电子系任职。1942年8月，莫希莱写了一份《高速电子管计算机装置的使用》的备忘录，即ENIAC的初始方案。思想敏捷的格尔斯坦意识到这一方案的巨大价值，立即向他的上司汇报，获得支持，成立了研制小组。这个小组的成员是：负责电子计算机总设计方案的是物理学家莫希莱；芬兰人艾克特担任总工程师，负责解决制造中一系列困难复杂的工程技术问题；年轻的格尔斯坦中尉不仅在数学上能提出有用的建议，而且是精干的科研管理人才；另外还有年轻的逻辑学家勃克斯参加。
正当研制工作停滞不前，研制者大伤脑筋时，冯·诺伊曼投身到新型计算机设计者的行列中来了。
冯·诺伊曼是20世纪上半叶世界最伟大的数学家之一，具有纯数学家和应用数学家典型的双重性格。他追求纯粹数学的严密和美感，又注重数学的应用以及与物理学等其他学科的联系。这使他不仅在集论、算子谱理论、实函数论和测度论（遍历定理）等纯数学领域，而且在博弈论、数理经济学、计算机理论和计算数学等应用数学部门都作出了重大贡献，成为这些数学分支的主要开创者。
第二次世界大战期间，冯·诺伊曼参与了许多军事方面的研究。1940年，他被阿伯丁弹道实验研究所聘为科学顾问；1941年受聘任海军军械局顾问；1943年成为洛斯阿拉莫斯实验室顾问。无论是作为主角还是配角，他都以他出色的才能解决了一个个重大的课题。这些课题涉及到流体力学、空气动力学、气象计算等许多方面，显示出冯·诺伊曼熟练的分析技巧和严谨的逻辑推理本领。
洛斯阿拉莫斯实验室是原子弹研制机构，这里聚集着一批像奥本海默、维格纳、费米、特勒那样的高水平的物理学家和工程技术人员，但缺少既懂得物理学家们的要求，又能很快从数学上拿出解决方案的．数学家。奥本海墨认定冯·诺伊曼就是这样的人。他热情地邀请了冯·诺伊曼到洛斯阿拉莫斯实验室帮助工作。冯·诺伊曼不负众望，凭借他熟练的分析技巧和特有的数学计算才能，为洛斯阿拉莫斯实验室解决了好些关键问题。他对原子弹的引爆提出的建议被实验所证实；对提高原子弹爆炸效果以及有效地配置原料进行估计，也卓有成效。在洛斯阿拉莫斯，冯·诺伊曼碰到了许多必须依靠大量的计算才能解决的问题，如受控热核反应过程，它涉及数10亿次的初等算术运算和初等逻辑指令。这不是靠人力和一般的计算机所能解决的。怎样才能获得超高速计算呢？冯，诺伊曼当时尚不清楚，但问题既然提出，一旦有机会总是要解决的。
同格尔斯坦分手后，冯·诺伊曼急不可耐地写信告诉宾夕法尼亚大学的莫尔学院，希望马上访问那儿，看看这台尚未出世的机器。莫尔学院计算机设计组的领导者艾克特和莫希莱听说后十分高兴。他们非常渴望能得到这位大科学家的指导和帮助。艾克特还说：“冯·诺伊曼是否真正的天才，从他来以后提的第一个问题就可判断出来。”这年8月初，冯·诺伊曼来到莫尔学院，参观了尚未竣工的被称为ENIAC的电子计算机，他第一个问题就问起机器的逻辑结构。艾克特心中暗暗佩服：“不愧是位天才的科学家，一下就点到问题的要害！”这以后，冯·诺伊曼就成为莫尔学院的实际顾问者，他同ENIAC的首批研制者们讨论了提高电计算机性能的各种措施，对ENIAC的优缺点作出判断，并提出相应的改进建议。正是因为冯·诺伊曼所起的决定性作用，才使ENIAC在这一年里得以试制成功。
ENIAC是一个庞然大物，体积大约90立方米，占地170平方米，总重量达到30吨。它拥有电子管18000个，继电器1500个，耗电150千瓦，每秒运算5000次，比机械计算机快几百倍到一千倍，比人运算快一千倍到几千倍，而且计算过程是按照编好的程序自动进行的。
ENIAC在计算机发展史上的重要性是毋庸置疑的。它是世界上第一台真正能够运转的大型电子计算机。它的成功开辟了提高计算速度的极为广阔的前景。但它毕竟是新生事物，尚不完善。例如，它的储存容量太小；程序是“外插型”的，不便使用，为了几分钟的计算，而准备工作却要数小时。连研制者本人也感到它的弱点，有待改进。
1945年6月，冯·诺伊曼起草了一个全新的存贮程序通用电子计算机方案--EDVAC（ElectronicDiscretVarableAutomaticComputer），对ENIAC进行了改造。这项更完美的设计为现代电子计算机的结构奠定了基础。
一年后，又一份关于电子计算机装置逻辑结构的更详细报告发表，它是又一个新的电子计算机（IAS机）方案，而且包括有关结构选择的论证。在这份报告的指导下，一个广泛的电子计算机的研究工作在美国以至世界许多地方展开。
冯·诺伊曼在报告中提出的主要建议的实质有四个方面：（1）将十进位改为二进位；（2）建立多级存储结构，由它容纳并指令程序；（3）机器要处理的程序和数据，均由二进制数码表示；（4）采用并行计算原理，即对一个数的各位同时进行处理。
虽然二进制在计算机中使用的合理性以及关于存储器的设想，在冯·诺伊曼之前就有人提出，但是，冯·诺伊曼的功绩在于他不仅提出并论证了这些新思想、新概念，而且还研究了实现它们的方法，即提出了EDVAC和IAS机方案。1951年，IAS机以比ENIAC快几百倍的事实以及后来的研制计算机的经验证明了冯·诺伊曼全部结论的正确性。冯·诺伊曼的报告是对通用电子计算机线路结构方面的巨大贡献。人们确认，计算机工程的发展应大大归功于冯·诺伊曼，因为无论是计算机的逻辑图式，还是现代计算机中存储、速度、基本指令的选取以及线路之间相互作用的设计，都深深地受到冯·诺伊曼思想的影响。
EDVAC方案明确规定新机器有五个构成部分：①计算器；②逻辑控制装置；③存贮器；④输入；⑤输出，并描述了这五部分的职能和相互关系。EDVAC方案有两个非常重大的改进：一是采用二进制，二是完成了存贮程序，可以自动地从一个程序指令进到下一个程序指令，其作业可以通过指令自动完成。“指令”包括数据和程序，把它们用码的形式输入到机器的记忆装置中，即用记忆数据的同一记忆装置存贮执行运算的命令，这就是所谓存贮程序的新概念。这个概念被誉为计算机史上的一个里程碑。为这个方案作出贡献的冯·诺伊曼被誉为“计算机之父”。
长达101页的EDVAC方案是计算机发展史上的一个划时代的文献。它向世界宣告：电子计算机时代开始了。
谁知，新机器EDVAC还没来得及问世，研制人员却为争夺ENIAC的优先权问题进行了争吵。1945年底，莫尔学院的计算机研制小组分裂了，艾克特和莫希莱自己开了家公司，从事计算机研制及大规模的生产。冯·诺伊曼则带着格尔斯坦回到了普林斯顿高等研究院，准备为电子计算机的进一步完善继续奋斗。
很快，普林斯顿高等研究院由于冯·诺伊曼的归来掀起了一个真正的“计算机热”。在他的带领下，原来从事理论研究的，显得冷冷清清的研究院，开展了从计算机的研制到计算机应用的广泛研究。不多久，这里便成为美国电子计算机的中心，吸引了大批工程师和专业人员。在各方面的合作下，冯·诺伊曼等人终于研制成全自动的通用电子计算机EDVAC。这是现代电子计算机的原型，后人也称它为“冯·诺伊曼机”。
第一代电子计算机的研究与发展，不只是美国领先，英国也作出了很大的贡献。此后各国竞相开展研制。日本的第一台电子计算机完成于1956年，叫做“FUJIC”机。1958年8月，我国完成了第一台电子计算机“103机”。到50年代中期，全世界已经制造了大约1000台电子计算机。人们利用这些电子计算机，把人造卫星送上了天，还发展了一批核武器。到50年代末，全世界电子计算机已经达到5000台左右，每秒平均运算五六万次。
第一代电子计算机，硬件主要采用电子管。虽有了质的飞跃，具有许多特点，但这些计算机造价高、体积大、功耗多、速度低、可靠性差、维修复杂，程序设计以使用机器语言和汇编语言为主，繁冗、易错、不直观，需要进一步改进。
1955年，第一批由晶体管构成的基本电路的电子计算机诞生了，称之为第二代计算机。它主要被用于军事上，作为机载（装在飞机上）计算机。1958年11月，美国制造的第一批批量生产的大型晶体管通用计算机投入运行。
第二代电子计算机比之第一代，体积、重量、耗电量都大大减小了。它有两个衣柜那么大。同时，由于它的造价降低，不仅在军事上，连商业上、工业上、农业上、国民经济的各个部门都有可能使用。它的运算速度是每秒几万到几十万次，1964年还研制成每秒二三百万次的大型晶体管计算机，并且成批生产。它的可靠性也比第一代提高许多倍。
1962年，美国制成了第一台集成电路电子计算机。它标志着电子计算机由第二代向第三代的过渡。第三代电子计算机，硬件主要采用集成电路，体积进一步缩小，功耗进一步降低，运算速度每秒几十万次到一千万次。可靠性也比晶体管计算机提高了十几倍。软件也有了很大的发展，用于程序设计的各种高级语言已达数百种之多，并且出现了具有分时、多道功能的操作系统。
随着集成电路工艺的发展，集成电路不断提高。1959年，一块商用的硅片只包含一个电路，到1964年增加到十个电路，1970年又增加到大约一千个电路。习惯上把由一百个以上具有一个系统或一个分系统功能的电路集成的硅片，叫做大规模集成电路，这就使电子计算机又迈入新的一代。第四代电子计算机的硬件主要采用大规模集成电路，使计算机体积缩小，稳定性提高，成本降低，运算速度达到新的高度，有的大型计算机每秒可运算1．5亿次。计算机操作系统，编译程序系统软件更趋完善。
70年代以后，电子计算机向微型化、巨型化、网络化和智能化方向发展，并成为下一次技术革命的主干技术。
当前，电子计算机发展已形成以精简指令系统计算机RISC（ReducedInstructionSetComputer）、并行处理技术、多媒体技术为主，计算机软件和网络相应发展的主潮流。
在电子计算机飞速发展的同时，光学计算机也取得了突破性进展。1991年美国贝尔实验室公布了数字光学处理机的成果。据研制组的领导人艾伦·董（董廷珏）说：“一个通用的光学计算机将在、2000年前后制造出来。”他预计光学计算机的运算速度可能比今天的超级计算机快1000至10000倍。光在长距离内传输要比电子信号快约100倍，光器件的耗能非常低。所以光计算机有广阔的发展前途。
而比电子计算机和光学计算机更具优异性能的生物计算机（又称分子计算机）正在研制之中。可以乐观地预言，由电子计算机引发的新技术革命，将促进人类社会走向辉煌的未来。
电子计算机是20世纪科学技术的重要标志。自从18世纪瓦特发明蒸汽机以来，再没有什么比电子计算机的发明更加激动人心的了。自它问世以来，就以惊人的速度发展着，它的广泛应用，推动了现代科学和生产技术的迅速发展，并对社会生活的各个方面产生了深刻影响。冯·诺伊曼作为电子计算机的重要研制者和组织者，为现代科学的进步作出了不可磨灭的贡献。
值得注意的是，一个偶然的机会；把冯·诺伊曼引向20世纪后半期最重要的科学技术--计算机技术。仅从这一点，就可看出他具有的科学胆识和创造才能--善于捕捉机遇。他凭着敏锐的识别能力，抓住有意义的线索，毅然投身到计算机研究领域。他在这一领域中发挥了卓越的独创精神，使自己成为电子计算机、计算机科学和技术、数值分析的重要开创者。