用人工智能挑战自然智慧的关键因素是机器是否有意识。无意识的物体，如石头或啤酒、罐头，是没有欲望的，而且只有当你真正想要占据世界的时候你才会尝试着去做出努力。因此任何强劲的机器都要有意识。在这里，凯文和伊格尔有了分歧。凯文认为制造机器人的全部目的是让机器人做那些我们不愿做的不愉快和危险的任务。而对伊格尔来说，他的目的是建立脑样系统，用来帮助我们理解自然脑是如何工作的，并解开大脑是如何产生主观经验这个最后的谜。
一、人类机器：机械论
非生物装置是否可以有意识，这个问题至今仍是全新的。17世纪法国哲学家麦特里大胆地提出人类只是一部机器，正如他的一个追随者说的，“大脑产生想法如同肝脏分泌胆汁”。大约在同时期，雷内·迪斯卡特斯绘制了大脑如何像机械设备一样工作的示意图；他的理论没有包括灵魂现象，灵魂是当时的一种宗教思想，认为它是游离于卑微的躯体思考之外的。
直到20世纪40年代后期，当可编程电子计算机普遍应用以后，思想者先驱开始严肃而详细地比较机器和人脑的区别。由神经病学家转行成为数学家的沃伦·麦卡洛克苦思冥想，如果仿效人脑众多的神经元建造一个有许多真空管的计算机，那么可能要帝国大厦才能容纳它，要用尼加拉瀑布来启动它，并用尼亚加拉河来使之冷却。麦卡洛克为脑细胞和计算机节点之间的相似性所着迷。他着手建造“理想神经元”的合成电路--神经元或活跃或安静，或开或关，和计算机启动有同样的逻辑原理。
大约在同时期，数学家维纳提出了控制论的概念。这是一个令人兴奋和新鲜的概念，名字取自希腊语“控制”或更确切地说是“驾驶”的意思。维纳想设计一套可同样应用于机器或人脑的原则，以此来揭示每个系统是如何工作的。但是，在计算机开发运用早期，问题在于指令必须从远离主机和内存储器的外部传递过来。然而，真正的大脑并不是这样工作的；正如我们在前面看到的那样，我们的大脑并不是信息的被动接收者。
二、微妙发问：图灵试验
但纽曼，一位来自普林斯顿大学的数学家，设计了一种方法，其指令程序真正来自计算机内部。这个进步使机器科学更接近人脑科学。最终甚至可以设计一种能“学习”的系统，不单单通过简单的说明而且通过经验来达到期望的结果。推测当人脑突然变得很容易理解时，这种设备也总有一天会变得和人脑一样复杂、有意识。
英国数学家和计算机先驱艾兰·图灵设计了一种测验，以其作为明确机器是否有意识的最终方法。在图灵的试验中，询问器在不知道谁是谁的前提下，同时向机器人和人发问。目的是想从两者的回答中区分他们。越是拐弯抹角和微妙的问题，越是能在一些缓慢的、反射样的、程序化的反应中发现两者的区别，并发现人脑敏捷和富有创造力的特点。
迄今为止，没有一台机器能通过图灵试验。比赛的内容局限，试验很简单，但即使是这样，没有一台机器可以让测试者认为回答问题的是生物的大脑。但是，奇怪的是，相反的情况出现了：有一个人失败了，没有通过测试，给人留下他是一台机器的印象！
但是，即使机器通过了图灵试验，我仍不认为机器是有意识的。图灵试验纯粹是基于被测者的回答，我们知道意识可以不依赖外部行为而发生。想象一下某人在沉思：目的是增加人的意识，所有外部的行为征象都微不足道，就像家人睡眠的时候。的确，梦是意识的形式，当大脑不受外部刺激的影响，并因此变得骚乱时，再次说明，没有传递到外面的外向反应。
再者，计算机越来越使人相信它们能和人进行人类式的对话，虽然它们的反应还不说明它们是有意识的。和击键者对话的个人计算机，以及更邪门的如果遭人忽视便会死去的计算机宠物，便是计算机魅力的强有力证明。但是没人声称这些聪明的机器是真正有意识的。
三、直觉或常识：非运算法则
数学家罗杰·彭罗斯注意到另一个重要的差别。计算机的功能依赖于一步步称为运算法则的指令。运算法则是支持完成某项任务的逻辑性程序；比如，许多人在学校里学习程序，或运算法则，将华氏换算成摄氏。但我们知道人脑并不是以数字和机械的方式工作的。彭罗斯提到计算机像棋手“深思”。“深思”下棋时遇到除国王外只剩下兵的情况时，兵被安置在不能逾越的防线里，因此，人类选手如果要不输棋的话，只需将皇帝移到兵的后面。是的，这不是赢的手段，也不是一个有趣的游戏，但关键是不能让另一方赢。然而，“深思”小心翼翼地根据已经设定好的程序下棋，因此输了游戏。计算机缺乏直觉，只能通过漫无目的地浪费时间来避免失败。彭罗斯的观点是我们会用更多不固定的方法来解决问题。正如物理学家玻尔曾经警告一位学生道，“你不在思考，你只是变得很有逻辑”。
这些非运算法则的过程，即我们所称的直觉或常识，很难和脑部的真正物理事件相联系。但我们能不能认为我们头脑里的神经元最终可以在细胞或分子水平缩减成运算法则？这是美国生理学家史蒂文·平克的观点，他认为思考和感觉是一系列的目标和亚目标，只要我们将大脑的复杂加工过程分解成最基本的步骤，它们最终能被计算机化。这只是说明它们的复杂性，他争辩道，说明心理过程最终不是有规则可循的。让我们看看史蒂文·平克是否正确，并研究一下生物大脑的基本过程如何用非生物系统来构建。
四、电传递：硅片神经元
一个很好的切入点是大脑的结构基础--神经元。生理学家罗德尼·道格拉斯和凯文·马丁创建了一个在功能上与真品非常相似的人工装置--他们构建了一个硅片神经元。当道格拉斯和马丁刺激他们的发明体时，它会像真的神经元产生动作电位那样出现短暂的电压变化。如果进行更多的刺激，这些人为动作电位的产生频率便会增加，就像在自然环境下发生的那样。然而，尽管硅片神经元是神经元网络活性的理想模型，但它远不是一个最完美的神经元模型。正如我们在前面看到的，动作电位是由离子短暂的流动和对流产生的。它们跨越结构很复杂的细胞膜，而不是半导体连接。再者，真正神经元的细胞膜只是细胞内众多复杂化学反应的一个开端。这些反应不仅影响离子的流入，而且也影响细胞核遗传性指令的产生。
生物神经元有非常广博的相互联系--神经元之间的联系比神经元本身的联系更重要。神经元之间无止境的成形和再成形联系是大脑非程序化加工过程的物质基础，也是大脑功能得以发挥的枢纽。因此，科学家们能否用一些人工的、非程序性的网络来模仿大脑，而不是用像计算机那样的程序性系统？
事实上，几十年来计算机科学家已经在这方面作了努力，即设计了叫做神经网的装置。神经网依靠电连接而不是化学神经递质将信号从一个“细胞”传到另一个“细胞”。有趣的是，大脑某些部位的神经元相互联系时不需要化学神经递质。神经元有时候融和在一起，因此一个细胞产生的动作电位能被动地传递到下一个细胞，而不需要跨越它们的突触或化学物质。这种“电传递”是神经元联系的另一个含义，它既不慢，也不像突触间传递那样耗能。在这个系统中，没有能量浪费在众多的化学物质中，也不像释放神经递质、与受体镶嵌式结合、触发靶细胞离子交换那样花费时间。但电传递在大脑中还是相对罕见的。为什么耗能和花时间的突触间化学物质传递这么普遍呢？
答案可能在于神经递质赋予天然神经元的灵活性上。神经网的人工“神经元”是个简单的装置，根据连接的强度决定能否将信号传递到另一个细胞。与之相比真正的神经元是非常复杂的。当它们进行信号传递时，有非常多的神经递质，而且每个神经递质可以和若干个不同类型的受体作用，因此它的作用不仅仅是有选择的，而且可能是变化多端的。其结果是要将各种各样的可能性再建于硅片上。
还有，迄今为止，我们只是考虑了熟悉的，即比较完备的神经元跨突触信号传递的过程，表现为靶细胞的兴奋或抑制。近来神经科学家们已经认识到这并不是故事的全部--突触传递还有一个与计算机程序或神经网开/关作用不同的一面。[事实上，正是这种简单的开/关作用促使诺贝尔奖金得主--生理学家约翰·阿克斯在20世纪60年代认为“你脑内的任何事情都可以用抑制或兴奋来表示”。有了这种说法，在大脑和计算机之间作比较将变得多么容易。现在我们知道神经递质不仅仅只会表达是或否，它们能够“调整”靶细胞，不是直接给信号，而是更微妙的，给细胞一个红色警告。