人类智能被人工智能取代已经成为人类的一个重大忧虑，很多科幻文学作品早就在表达这种担忧。为了应对这种担忧，艾萨克·阿西莫夫(Isaac Asimov)在1950年就构想了“机器人三定律”，成为科幻世界无可撼动的铁律：(1)机器人不得人类，或者因袖手旁观使人类受到。(2)机器人必须服从人类的命令，除了第一定律的情况。(3)机器人必须自己的，除了第一、第二定律的情况。⑩“机器人三定律”是人类担忧的集中体现。
人工智能在某一方面确实可以超过人类智能。比如在记忆方面，智能系统储存的信息量和持久度，都已经远远大于人脑。电脑在数字处理方面也可能远超人脑。1997年5月，超级计算机深蓝击败当时世界排名第一的国际象棋棋手加里·卡斯帕罗夫，世界。然而更多的人相信电脑不可能超过人脑。李述茂认为：“电脑具有记忆和推理功能，但是其推理绝对严格，不具有可变性，不能产生新思想，没有智慧。所以，电脑不能取代人脑。”(11)左大开认为：“人制造的机器，即使再精致和再高级，也不能出现生命的本质特征——更新。”(12)吕国忱说恩格斯早就有这样一个预见：“人们可以用人工的方法来模拟大脑的思维活动，但不能模拟和代替大脑的全部活动，‘电脑’不能取代人脑。”(13)
为什么电脑只能处理事实和规则呢？最根本的原因就是电脑是“被制造”出来的。或者说，电脑的“行为”选择是被决定的，不论它的程序设计有多么复杂。而人脑与它的最大不同是，至少迄今为止人们仍然相信我们有意志，人的每一个选择都不是被决定的，而电脑的选择是被程序决定的。阿尔法狗的出现似乎已经打破了人们的这一认知，引起世界的轰动。然而很多学者仍然暂时不愿承认它已经拥有了如人类那样思考的智能，即不认为它拥有了意志。
关于决和意志的争论已上千年。科学家试图说明人的选择行为都是按一定科学规律进行的，更多哲学家都更愿意相信人存在意志。例如诺贝尔获得者维尔纳·海森堡(Werner Heisengerg)尝试从他的非决出发，得出意志的立场。(15)决和意志的争论至今未止，而且随着科学研究的不断推进而此消彼长地呈拉锯式发展。薛定谔在研究生命现象的时候也没有能够得出最终结论，但是他提出了一条重要的意见，认为可以尝试从下面两个前提中推导出正确且不矛盾的结论来：
测试我的另一半
(2)凭借我们丝毫不用怀疑的直接经验，我总是在指导着自己的身体运动，并且在运动的最后阶段总能预见到其结果。这些结果是决定性的因素，十分重要，鉴于此，我觉得有必要对这一结果负全部责任。
薛定谔因此认为“从这两个事实可以得出一个并且是唯一一个的可能推论是，如果有这样的人的话，那么我就是这样的人——一个按照自然规律来控制原子运动的人。”(16)这个说法表现出很强的决倾向，意志仿佛只是人的错觉。从最近科学研究的结果来看，意志论和决仍然难分高下，但似乎支持存在意志的论点略占上风。意志论很容易获得常识的认可，也容易得到教、法律、伦理学、心理学、文学的支持。量子力学看起来似乎是支持了意志，实际上并非如此，量子力学只是认为物质具有概率波等不确定性，但认为仍然有稳定的客观规律，而不是说人的意志可以控制这些规律甚至让它发生改变。从总的倾向来看，科学研究结论的总体倾向是强调关系，强调客观规律，而人文学科的总体倾向是强调心灵、意志的主动性。
关于决和意志的讨论争论千年而无结果，本文至今也无法给出一个确定的结论，但是在这个讨论中，我们可以得出另一个结论，而此结论至少可以用来说明人工智能和人类智能的核心区别：由于人工智能是人类按一定的目的设计制造出来的，所以人工智能的一切程序设计及运行规律均受控于人类设定的目的；而人类不可能完全按自己的目的设计制造自身，所以人类智能自身的运行规律不可能受控于自身设定的目的。简而言之，人工智能无法设计自己的目的，人类可以设计人工智能的目的；人工智能的目的被人类掌控，人类的目的不能被人工智能掌控，也不能被自己设计。人类的目的是不可掌控的、不可预知的、非必然的。康德认为人类的目的不能被感性地表现出来，所以“观念把这种目的当作判断人类形态的原则，人类的目的就通过作为其结果的人类形态在现象中显示出来”。(17)或者说，作为思考的对象，人类的目的不能被自己知觉或设计，只能通过结果显示。怀特海(Whitehead)认为：“我们的经验与我们的希望不是同步的”，所以“的实质便是目的的可行性”(18)。所谓意志，就是人类自己设计可行目的的能力，此能力不是必然性的设计，而是可能性的设计。人工智能的设计，是人类努力按照必然性原则的设计，因此人工智能能够解决在设计范围内的必然性问题。赵毅衡的说法很有趣，机器人一旦“获得人类的意义能力，世界就换了主人。幸好，至今为止，动物把所有时间用来觅食生殖，机器总得等待人来按按钮”。(19)
人工智能服从律，人类智能服从目的律。人类智能是根据目的去清理关系，人工智能是根据关系去完成某种目的，二者的根本区别正在于此。所以无论人工智能如何发达，它也无法超越自身去设计自己的目的。由意志律支配设计目的的能力，是人工智能不能替代人类智能的。正是由于这个原因，现行法律就找不到任何依据给机器人，因为我们找不到任何表明机器人拥有意志。而法律之所以能够给人，最根本的依据便是我们认为“人的活动不同于自然物，不是遵从自然律，而是遵从目的律”(20)。此观念是新康德的创始人鲁道夫·施塔姆勒的核心观点，也是现代的基本原则，因此现代认为“目的是整个法的创造者”(21)。对历史知识而言也是如此，唐君毅认为：“人类之建造其历史知识，必要求其所知的历史之发展，为合‘目的’‘律则’‘方向’之观念的。因而其所不断地选择为重要之历史事件与历史人物，即不自觉地受此‘方向’‘目的’与‘律则’之观念所裁定。”(22)此为人类学术史上的说法之一种，而他认为这些说法“皆可说”。总而言之，人文学科的基础在于它是服从目的律的学科，科学是服从律的学科，人类智能与人工智能的根本差别也正在于此。数字人文这个词，可拆分成两个部分，“数字”部分服从律，“人文”部分服从目的律。人文学科在这个时代的工作重点，在后半部分。凡是必须以人类的目的性为基础才能存在的知识、责任、情感等，就是人工智能不能替代的，也就是人文学学者未来工作的领域。