1944年下半年,世界大战已经持续了好几年，盟军的轰炸战略逐步改变了欧洲的经济力量平衡。诺曼底登陆成功将德国人从英吉利海峡逼退，而苏联军队则从东欧向德国逼近。在投入产出法的帮助下，轰炸瓦解了德国的战争经济。但日本人依然在战斗，而且他们的战略很特别：用传统的轰炸工业中心的方法无法结束战争，需要一枚有史以来最大的炸弹。
冯·诺依曼，一位精通计算的“超级天才”，热衷于研究轰炸问题和军事应用，他多次被美军聘为顾问，探索数学在战争中的长期应用，之后加入研制原子弹的“曼哈顿计划”。《战争中的经济学家》一书讲述了1945年广岛原子弹爆炸背后的故事，对冯·诺依曼而言，这是一次巨大的成功，他目睹了爱因斯坦和奥本海默领导的科学家们对此流露出既喜悦又悔恨的情感。他有些嘲讽地评论道：“有些人因带来光明而承认有罪。”
坐在洛斯阿拉莫斯实验基地的地堡上，冯·诺依曼对此事陷入深思。在欧洲开战时，冯·诺依曼就积极做美国政府的工作，说服他们参战。他认为这是维护人类文明基本准则的需要。当时的美国总统罗斯福可能想参战，但国会不同意。美国又保持了两年的中立，直到“珍珠港事件”后才宣布参战。和其他多数欧洲移民一样，冯·诺依曼对美国参战的消息感到欢欣鼓舞。
甚至，冯·诺依曼在战前就已经开始考虑他在这场战争中可能扮演的角色。他知道自己在数学方面的才华，也了解这一学科对现代战争的重要性。他甚至天真地认为，他参与这场战争的最好做法就是加入美军，因为这样可以帮他获得计算所需的军方数据。尽管看起来不像应征者，但他还是参加了美军军官考试。他记住了敌情手册中的所有相关内容，这对他来说并非难事，因此在绝大部分测试中获得了满分。
在最后一次欧洲之旅结束返回普林斯顿之后，冯·诺依曼也以满分的成绩完成了他最终一轮的军官考试。但由于他已经35岁，所以被拒绝服役。这丝毫没有影响他继续以军事为重点的数学研究。他写了一篇论文《从连续差异中估算可能的误差》，通俗地说就是“在连续几次错失目标的情况下如何对投弹进行修正”。他已经成为一名通过数学计算轰炸模式的专家。
尽管冯·诺依曼无法成为美军的一分子，但他随后多次被美军聘为顾问，探索数学在战争中的长期应用，帮助军方制定精确的射击表。这一探索借助了早期的计算设备，如查尔斯·巴贝奇设计的计算器。火炮的发展不断趋于大型化、复杂化，这让弹道计算也变得越来越复杂。在第一次世界大战中，军队不得不在移动的坦克上、糟糕的海况下以及运动的飞机上进行瞄准射击。
建立爆炸冲击波的模型则更加复杂，还需要了解炮弹或机翼周围产生的气流将如何影响弹道轨迹。解决这些问题都需要复杂的数学计算。
在普林斯顿以南一个多小时车程的地方，是美国政府的阿伯丁陆军兵器试验场，冯·诺依曼受邀帮助那里正在进行的数学研究。他很高兴地发现，这项研究十分具有挑战性。他的天才禀赋不久就得到了认可。他受邀成为美国政府弹道研究顾问委员会的委员，该委员会自诩拥有一批顶尖学者。
他们每年会举办几次会议，讨论关于数学和物理在冲击波、碎片化、摧毁目标、风洞实验和气压等方面的军事应用问题。这份工作让冯·诺依曼得以进行一系列的射击和轰炸应用研究，他因此也成了评估复杂爆炸成果的专家。不久后，他还入选美国国防科学委员会，研究炸药中用于聚集爆炸效果的炸药设计。这项研究的实际成果之一是巴祖卡反坦克火箭筒。与战时其他国家相比，美国战争部门在组织研究活动方面特别有效。
冯·诺依曼很快就有了众多拥趸，美国的陆军和海军将领都在争夺他的时间和注意力。他说他更喜欢后者，因为海军在午餐时间会喝更多的酒。不久，他也为海军工作，致力于开创性地研究运筹学在水雷战中的应用。
冯·诺依曼的名声传到了大西洋彼岸，那里不久就亟需他的特殊技能。1943年上半年，他被派往英国以帮助美国政府在那里开展的爆炸物研究工作。
为准备出行，他一遍又一遍地整理行囊，为了给体积庞大的《牛津英国史》腾出空间，他决定放弃海军发给他的钢盔。在对自己此行的风险进行数学概率估计后，他为自己买了一份价值2万美元的人身保险（约等于现在的30万美元）。他被临时授予高级军衔，若他一旦被德国人抓获，可以依据《日内瓦公约》不受审讯。
在英国，海军希望他研究狡猾的德国水雷布雷模式背后的算法。这些水雷都使用了复杂的延迟爆炸装置。冯·诺依曼很快就搞清楚了精于算计的德国人在（盟军）护航航线上布雷的具体算法，他设计了一个公式来进行最有效的反击。随后，他还与英国许多战时科学家合作，特别是在如何扩大爆炸效果、使用风洞实验数据以及通过摄影记录监测爆炸效果等方面。
在英国期间，冯·诺依曼参观了巴斯航海年鉴办公室。
《航海年鉴》是一份官方出版物，它精确定位了一年中每小时太阳、月亮和恒星的位置，被航海家用于天体导航。该办公室正在制作复杂的海图，以便盟军的海军在大西洋航行时可以精确定位，从而避免受到德国U形潜艇的攻击和封锁，还可以寻求帮助。《航海年鉴》是在一台经过巧妙修改的国家收银公司(National Cash Register)的收银机上制作而成的。
在回伦敦的火车上，冯·诺依曼写了一个数学程序来帮助机器更好地工作。这是计算机编程的早期应用。
冯·诺依曼接下来的工作相当复杂：他加入了已经开展的旨在提高盟军对德国轰炸效率的大规模研究。英国夜间轰炸袭击风险极大（每次任务一度损失多达20%的飞机），精确度很低，几乎没有位置引导，对轰炸结果监测也不到位。
此时美国空军的轰炸目标选择采用了里昂惕夫的投入产出分析法，而里昂惕夫本人则在位于华盛顿的战时情报机构战略情报局工作，研究苏联经济。他的一位同事名叫尼古拉斯·冯·诺依曼，是战略情报局匈牙利方面的专家。尽管名字不同，尼古拉斯实际上是约翰·冯·诺依曼的弟弟（切勿与德国移民弗朗茨·诺依曼混淆，他当时与里昂惕夫在战略情报局一起研究苏联经济问题，后来被怀疑是苏联间谍）。
里昂惕夫的方法是攻击敌方的经济命脉，而冯·诺依曼则致力于扩大爆炸的破坏效果。通过一起分析炸弹爆炸的照片，著名科学家雅各布·布罗诺夫斯基对冯·诺依曼的思维模式有了深入了解。一天，冯·诺依曼对他说：“哦，不，不，你看不到。你那种视觉化的头脑是看不到这个的。当你抽象想想的时候第一个差分系数的轨迹就消失了，这就是为什么可见的只是第二个差分系数的轨迹。”布罗诺夫斯基对此心悦诚服。
冯·诺依曼本人热衷于继续研究欧洲的常规轰炸问题，但美国政府则对他另有重用。按照政府的要求，他于1943年9月返回普林斯顿。在20世纪40年代早期，美国科学家一直在研究一种全新的致命性爆炸形式的可能性。1941年，罗斯福总统授权当时世界上有史以来最昂贵的科学项目：在美国参战前一个月（罗斯福总统）以行政令的方式批准了20亿美元的投资决定。这就是研制原子弹的“曼哈顿计划”。
不久以后，冯·诺依曼被要求加入该项目。
“曼哈顿计划”由美国军事总监莱斯利·格罗夫斯将军和科学总监罗伯特·奥本海默共同管理。两者均非常人，虽然性格大相径庭，但都才华横溢。他们合作运行这一巨大的工程，管理着难以管理的顶级理论学者、令人敬畏的目标以及通过原子裂变在地球上造成比以往更大破坏的项目。该项目集中在洛斯阿拉莫斯外的新墨西哥州沙漠中的一个大型秘密建筑物里。
那里有来自欧洲和美国的科学家，形成了各种聪明才智的独特组合。他们中的大多数人在政治上有些左倾。这可能是迄今为止为了历史上最重大事件之一而聚集的最伟大的科学天才。
1943年9月，冯·诺依曼受命加入“曼哈顿计划”，尽管军营偏远、生活艰苦，但他发现这种人才队伍和工作任务的结合是他一生中最令人振奋的时光。最初，这项研究是由物理学家（包括许多前匈牙利人）而不是数学家主导的。在洛斯阿拉莫斯，有很多意识形态上的争论和意见分歧。尽管被认为思想上右倾，但冯·诺依曼似乎能够与该项目的主管和科学家们和谐相处。
除了数学研究，冯·诺依曼还参与了洛斯阿拉莫斯的社交生活。
偶尔，他会参加周日的户外徒步旅行，尽管有些犹豫，但通常在活动中他还是穿着西装。他经常打扑克，尽管在游戏策略上他占据先机，但冯·诺依曼通常会输。这显然是因为在玩游戏的同时，他在脑海中还不断思考其他问题。他的大脑很复杂，他的第二任妻子克拉里说：“奇怪的矛盾和有争议的人，幼稚和幽默，老练和野蛮，极度聪明但本能地缺乏处理自己情感的能力。一个无法解释的自然之谜。
”他的女儿记得他表面上开朗温和，内心却有着悲观和愤世嫉俗的一面。
冯·诺依曼在加入开发团队时，有些人认为这是一项有原罪的任务，但洛斯阿拉莫斯科学家的共同看法是，除了赶在纳粹之前制造出原子弹之外别无选择。战后，他的一些同事计划通过提供开源技术来进行弥补，但冯·诺依曼不同意这种观点。他认为，打败军国主义和极权主义政权是没有罪的，而且他更认为战争不会因为德国的失败而消亡。他预见到，这枚原子弹只是新一代超级武器中的第一枚，希特勒也只会是新一代邪恶独裁者中第一个被打败的。
冯·诺依曼心中明白，随着经济的崩溃，德国和日本必将投降，而苏联将是今后要战胜的大敌。在洛斯阿拉莫斯，对原子弹设计采用了两种主要方法。方法之一是使两块铀-235互相碰撞产生爆炸。这种方式的技术可行性很大，但需要较长时间才能从原铀中提纯出足够的铀-235。第二种方法是使用钚，从化学角度看，钚的生产要更容易一些。但现有的爆炸装置对钚不适用，必须设计一种新的内爆方法。
包括冯·诺依曼在内的一组科学家被指派来解决这个问题，他们就不同的可能性展开了激烈的争论。最终冯·诺依曼设计出了汇聚内爆法来解决这一问题。
除了引爆问题外，冯·诺依曼还专注于研究投下这种炸弹的最佳高度。构建模型计算投弹高度如何影响炸弹设计和对目标的爆炸影响，甚至如何尽量减少轰炸机被摧毁的可能性。他采用置信区间和其他概率论方法对这一切都进行了精确的数学计算。
不幸的是，项目团队里有德国人克劳斯·福克斯。他系统地监视着冯·诺依曼，并将他的一些实验结果传给了苏联人。克劳斯·福克斯是德国共产主义者（他与里昂惕夫和冯·诺依曼同时就读于基尔大学）。冯·诺依曼和福克斯甚至在1946年共同申请了一项氢弹的设计专利。颇具讽刺意味的是，如果美国和苏联充分利用这一信息的话，氢弹的设计将会提前几年。
康托洛维奇可能曾使用过一些福克斯泄露的数据，但对美国而言，幸运的是斯大林不相信他获得的情报，苏联人甚至没有把所有的情报都翻译过来。
1933年，冯·诺依曼第一次对流体动力学的湍流感兴趣，但他很快就明白用数学建模的复杂性。20世纪30年代,台式计算机不能满足如此庞大的数字计算需求。当冯·诺依曼在进行军事应用研究时，经常会碰到计算问题。如今“曼哈顿计划”涉及的计算问题出现了。
冯·诺依曼来到洛斯阿拉莫斯的时候，物理学家正为此焦头烂额，他们的研究迫切需要数学的帮助。该团队开创性的数学建模技术大大加速了原子弹的设计进程。有了足够的计算能力，物理实验可以通过数学建模的方式进行，并估算结果。
汇聚内爆法设计背后的数学是极其复杂的。最初，许多模拟都是通过粗略的估算得出一个数量级来完成。冯·诺依曼的估算速度非常快。在洛斯阿拉莫斯，他以能够使用数学方法解决任何问题而声名鹊起。
正式的计算是利用台式计算机，但研究小组遇到了远远超出他们能力的计算问题。1944年6月，该项目在洛斯阿拉莫斯安装了一些IBM穿孔卡片计算机。冯·诺依曼对此印象深刻，他开始思考如何将它们转换为可以在日常处理大量数据的计算机，以提高效率。他不知道康托洛维奇在苏联也做着类似的事情。
彼时，现代电子计算机尚未诞生。
它的起源比较复杂，但基础理论将基于哥廷根大学的数学家们在20世纪20年代对量子力学的开创性突破。冯·诺依曼曾与许多引领电子时代的巨匠共事。当时,在计算机领域的最大成果是，盟国在二战中全力以赴打破了复杂的敌方加密通信代码。在这方面,最重要的是英国布莱奇利公园在解密德国恩尼格玛(Enigma)密码机和其他密码方面的工作。这种机器每天可以多次更改其设置，并可以产生上万亿种组合，无法通过传统的计算解密。
由剑桥大学的艾伦·图灵领导的卓越的英国数学家团队在1943年成功建成由数百个真空管组成的“巨人”密码破译机，通过和机器相连接的纸带每秒可以处理成千上万个字符，以获取德文信息。
在英国工作时,冯·诺依曼对计算技术的兴趣已经欲罢不能了。他是否设法得知了高度保密的“布莱奇利公园”行动，我们不得而知，但这个可能性是有的，因为图灵在战前曾经是他在普林斯顿大学的研究助手，而布莱奇利公园的领导者麦克斯·纽曼(Max Newman)也是他的朋友，两人在1937—1938年曾在普林斯顿大学共事。
回到美国后，冯·诺依曼询问在洛斯阿拉莫斯有什么计算设备可用时，他被告知可以使用位于马萨诸塞州坎布里奇市哈佛大学的“马克一号”计算机，该计算机曾被里昂惕夫用来运算巨大的美国经济投入产出模型。同时，他们还可以使用贝尔实验室在新泽西州的电力计算机。1944年初，冯·诺依曼尝试了这两台机器，发现它们的作用不大。
哈佛的机器花了整整五周才完成他前半部分的计算，另一个现有的选择是宾夕法尼亚大学范内瓦·布什的微分分析机，每台都重达一吨，包括150个电机和基于光电电池的复杂机械。这些机器被描述为“巨人机”。
随后这一领域有了重大发展。1943年夏末,冯·诺依曼在宾夕法尼亚州阿伯丁车站的站台上等火车，这时一位名叫戈德斯汀中尉的年轻数学家走近他。戈德斯汀正在宾夕法尼亚大学摩尔学院从事一项新的开发工作。
戈德斯汀回忆道:“当冯·诺依曼清楚地知道我正在开发的是一台能够进行333次/秒计算的电子计算机时，我们整个的谈话气氛从轻松幽默变成了更像数学博士学位的答辩。”戈德斯汀说的是一种ENIAC(电子数字集成计算机)的机器，美国陆军军械部资助了一部分，但显然洛斯阿拉莫斯的军事人员并不知道此事。它是由工程师J·普罗斯珀·埃克特和数学家约翰·威廉·莫奇利于前一年开发的。
1944年8月，冯·诺依曼参观了费城的实验室。他看到了一个长100英尺、高10英尺的机器怪物。它有17000个真空管、70000个电阻器、10000个电容器和6000个开关。尽管冯·诺依曼感到十分震撼，但天性使然，他的思维立即跳到如何改进其逻辑的设计上。
他思考如何利用ENIAC来协助空气动力学爆炸的计算。显然，重置程序需要很长时间，且每次必须将所有数据输入计算机的累加器。
尽管计算速度会比哈佛“马克一号”快得多，但是输入需要更长的时间。他们需要某种存储程序的方法。形势发展得很快，冯·诺依曼对如何做得更好闪现了新的灵感。阿伯丁弹道研究实验室同意在1944年8月底研究他的建议。1945年初，上级要求他报告实际进展。1945年3月，他发表了EDVAC(电子离散可变自动计算机)的报告草案。
这份101页的报告是他在乘长途通勤火车到洛斯阿拉莫斯途中手写的，他把这份手稿寄回了费城的摩尔学院。
这份关于EDVAC的报告改变了世界计算发展的未来。一段时间以来，冯·诺依曼一直在思考人脑是如何工作的，以及机器如何可以像大脑一样工作。现在，他的报告解释了现代计算机的构成：它应该有三个基本组件，即一个中央处理单元进行中央分析、一个中央控制部分提供正确的操作排序，以及一个用于数据和指令的内存。
数据可以通过电传线胶带、磁丝、钢带或穿孔卡输入。他写道:“这三个部分……与人类神经系统中的神经元是相对应的。”
该研究提出了一种新的结构形式：具有简单固定结构的计算机，可以通过编程来执行任何类型的计算，而无须对电路重新布线。这被称为程序存储技术，它将成为未来几代高速数字计算机的基础。根据存储在内存单元的数据指令程序，运算可以随时中断和重启。这允许子程序不必重新编程，但可以在内存中保持完好，以便根据要求读取，许多程序都可以通过子程序库进行组合。这些技术不久以后就成了行业标准做法。
报告详细介绍了“极高速自动数字计算系统”的设计。与采用十进制的ENIAC不同,该系统采用的是二进制。计算系统结构尽量简单,从而避免繁杂的操作。这种给机器下指令的先进编程系统,也改变了计算机程序员的角色,冯·诺依曼的妻子克拉里(她一直在普林斯顿从事统计工作)成为世界最早的现代程序员之一。冯·诺依曼指导她用程序语言负责美军的编程工作。
1945年4月,欧洲战争终于接近尾声:苏美两军在德国的易北河会师。几天后,柏林被苏军包围,墨索里尼在意大利被绞死,达豪集中营被美军解放,希特勒自杀。随后,德国在5月7日宣布投降。在太平洋战场,日本人正在从中国和东南亚撤退,但中国国共两党之间再次爆发战争。
随着一些传统大国的战败或衰落以及核武器的诞生,各个军事、政治和经济战略家都在寻求一种解释新的权力平衡的方法。
冯·诺依曼为他们提供了一种新工具,即博弈论。冯·诺依曼意识到他的理论还不是很成熟,于是在继续深思熟虑,考虑这一理论将来在金融、经济和政治方面的应用。博弈论的最初关注点是引导寡头垄断行业的商业行为,并刺激在诸如贸易谈判等情况下的经济策略。随后,博弈论的应用研究扩展到心理学、社会学等其他诸多领域。
随着战后局势的紧张,冯·诺依曼非常热衷于将博弈论应用于政治、经济和战争。冯·诺依曼以博弈论的视角预测第二次世界大战,他对同事坚称盟国将会获胜,部分归因于这些国家的工业优势。不久后,随着冷战的发展,他也开始对美国和苏联之间发生冲突的可能性感兴趣。在此期间,他继续在洛斯阿拉莫斯为“曼哈顿计划”工作。
1945年年中,谜底终于揭晓,原子弹轰炸的首个目标选定了日本,这是因为日本地方军事领导人呼吁针对美军可能在日本本岛登陆展开大规模的自杀性防御。到6月时,横滨的大部分已经被摧毁,因此在名单中被另一个港口城市长崎取代。冯·诺依曼也同意最终目标可以在广岛、小仓兵工厂和长崎中选择。7月16日,冯·诺依曼在新墨西哥州沙漠中观测到“三位一体”核试验的成功,这表明他提议的钚弹引爆装置发挥了作用。
他面无表情地计算出,由此产生的2万吨TNT当量的爆炸将使一座近50万人口的城市化为灰烬。这些计算表明,与欧洲轰炸不同,其目的不是破坏已经被有效摧毁的日本经济能力。冯·诺依曼此时还不知道放射性那挥之不去的影响(后来得知这一情况后,他非常痛苦),他的目标选择意在杀死尽可能多的平民,以此来证明霸权的可怕。然后,他构建了一个基于博弈论的数学模型,用于规划美军的轰炸航线,从而最大限度地减少被击落的概率。
剩下的就和历史上所知的一样了。1945年8月6日，U-235原子弹(“小男孩”)在广岛市投下。三天后，原计划在小仓投下使用冯·诺依曼点火装置的钚弹(“胖子”)，但遇到云层覆盖，美国空军飞行员继续飞行，把这第二枚原子弹投在了长崎市。两枚炸弹都按计划爆炸，破坏力十分可怕。对冯·诺依曼而言，这是一次巨大成功。他目睹了爱因斯坦和奥本海默领导的科学家们对此流露出既喜悦又悔恨的情感。
他有些嘲讽地评论道：“有些人因带来光明而承认有罪。”