智能系统不能决定自己的初始目标，但会根据经验构建自己的派生目标，而其行为是被这些目标共同决定的。在这方面计算机和人类并无本质区别，所以人工智能系统完全可以达到人类水平的自主性。我们应当对由此而来的机会和挑战有所准备，而简单地断言“人工智能归根结底是实现设计者目标的工具（所以没什么新鲜的）”或“人工智能的目标是我们完全无法影响的（所以必定毁灭人类）”都是错的。
在那些认为人工智能永远不能达到人类水平的理由中，最常见的一个是“所有智能系统都是设计者实现自己目标的工具，而机器自身是不可能有任何目标的。只有人能为自己设定目标。”我在这里要指出这个断言是错误的。
计算机系统中的目标每个系统都有“做什么”的问题，也有“怎样做”的问题。前者是关于目标或任务，后者是关于方法或手段。在传统计算系统中，二者都是人定的：每个程序都按人指定的方法实现人设定的目标。当要达到的目标很大的时候（比如“成为首富”），一个自然的策略是将其分解成若干小些的目标。如果一个“小目标”仍嫌太大（比如“先挣一个亿”），那就进一步分解，直到目标可以实现为止（比如“从床上爬起来”）。
即使是目前火爆的机器学习，也只是从大量数据中总结实现给定目标的方法，而目标本身不是学到的。智能和自主性AlphaGo算是有智能吗？不同的人会有不同的评价，但我想不少人会和我一样觉得真正的智能系统必须有自主性，即在“做什么”和“怎样做”两方面都能自己做主。
在《计算机能有创造性吗？》之中，我已经解释了怎样让智能系统自己发现解决某些问题的办法，而这里要介绍怎样让它为自己设定目标。我在《你这是什么逻辑?》等专栏文章中已经介绍了我设计的“纳思”系统的若干方面。因为纳思必须在知识和资源相对不足的条件下工作，其中对目标的处理和传统系统非常不同。
综上所述，纳思的目标派生过程同时也开始了一个“手段目的化”的过程。如果初始目标Ａ触发了派生目标Ｂ的创立，这二者的关系仅仅是历史性的，而不是永久性的。系统会把Ｂ作为一个独立的目标来对待，而不是作为Ａ的附庸。当然这里会有一个量上的差别，即Ｂ的优先度开始时会低于Ａ的优先度。
智能系统的目标体系那些本来就对人工智能心怀警惕的读者现在会想：如果目标异化不可避免，那人工智能岂不就是必然失控并导致灾难了吗？我认为恰恰相反，正是上面描述的这种目标机制使通用人工智能的良性使用成为可能。
和主流的人工智能技术相比，纳思在目标处理上的不同点可以总结为两个关键词：“制约”与“演化”。由于主流人工智能致力于“解决那些以前只有人脑能解决的问题”，大部分系统只接受一个初始目标，而其余目标都是它的子目标。即使那些接受多个初始目标的系统一般也假设这些目标之间不冲突，且可以逐个实现。
正是这种目标体系的可塑性使得我们可以通过教育来保障智能系统的安全性。不论设计如何小心，我们也没办法完全预料一个通用智能系统在未来的全部行为，因为我们不能准确地知道它在未来会面对什么样的情况。对纳思这样的系统，我们应当通过教育和社会化来逐渐塑造其目标体系，而不是试图在设计过程中解决所有问题。