人工智能研究的终极目标是设计一个真正能在人类所处环境中表现出像人类一样智能行为的计算机。要解释什么是“智能”恐怕要比解释什么是“人工”更棘手。在一篇1950年发表的著名论文“计算机器与智能”中，图灵详细讨论了“机器能否拥有智能？”的问题。有趣的是，作为公认的计算机科学与人工智能共同的先驱，图灵成功定义了什么是机器，但却不能定义什么是智能。正因如此，图灵设计了一个后人称为图灵测试的思想实验。
在图灵测试中，一个计算机在没有直接物理接触的情况下接受人类长时间的询问，如果“足够多”的询问者在“足够长”的时间里无法以“足够高”的正确率辨别被询问者是机器还是人类，我们就认为这个计算机通过了图灵测试。图灵把“通过图灵测试”看作“机器拥有智能”的充分条件，同时他相信这个条件可以在2000年左右时基本实现。
人工智能关注如何模拟人类的智能活动，而不是全部脑力活动。关于图灵测试在这方面的争议在于人类的脑力活动不仅包括智能，同时还具有情感、审美能力、性格缺陷、社会文化习惯等等一系列“非智力特征”。因为图灵测试的模仿对象是普通人，它对这些“非智力特征”的要求甚至可能还高过纯粹“智力要求”。
人工智能关注计算机的外部智能行为，而不是产生该行为的内部过程。这是一个典型的功能主义/行为主义风格的定义，也是一个人工智能经常被指摘的地方。严格的“主观思考”定义要求具有自我意识。但一方面，从严格的学术角度，我们甚至并不真的确定是否真的存在“意识”这个东西。另一方面，可以从数学上证明任何一台图灵机都可被另一台图灵机所模拟。
人工智能的主题是设计能够综合适应“人类所在环境”的单一智能体，而不是专门解决特定数学问题的算法。“综合模拟人类的智力活动”这一基本目标正是人工智能区别于其他计算机科学分支的地方。我们通过比较人工智能软件与传统软件来说明这一点。首先从最广义的角度看，传统软件其实也属于人工智能的范畴。
拥有高度的智能也许是人类至今最引以为傲的能力。较容易增强和扩展硬件和软件能力，是机器相比于人类最大的优势之一。人工智能方面一旦产生重大突破，即使在我们有意克制地不用于制造新的物种的情况下，也至少会导致人类对自身智能、情感、意识等一系列概念的重新审视和理解，而这势必进而导致人类对待伦理和法律观念的变革，从而对整个社会产生深远影响。