无论是社会科学还是自然科学,一旦研究对象的量级超过某个阈值,即可表现出某些超出预测的特征。譬如,社会科学是以人、人类群体、人类社会、以及由人类构成的不同等级的各类行为主体为研究对象的学问,对应的学科由经济学、人类学、社会学、政治学、管理学等。其中,基于个体的研究所得出的结论不一定完全适用于由个体构成的群体研究。
因为个体与个体之间存在相互影响,不同的个体聚集在一起,当数量达到或超过一定规模时,会产生涌现效应。此时,群体可能会表现出完全不同于个体的群体特征,出现本质的变化。例如,蜜蜂、蚂蚁等低级生物聚在一起就变得有智慧了;在人工智能领域,基于海量数据和参数的大数据模型能够展现出训练数据中没有的能力和行为。对于前者,相应学科领域已经开展了长时期的研究,相应研究成果也已被用于解释其它领域的同类现象。但对于人工智能领域的涌现效应,人类的认识才刚刚开始,对于潜在的涌现效应还缺乏足够认识,由此也导致部分学者担心人工智能对人类社会、乃至整个人类的影响。例如,如果基于海量数据的人工智能突然产生类似于人的意识,具有了自主意识,我们将如何避免被机器替代、乃至奴役的命运?已经有不少文艺作品来描述这种未来场景,如上世纪的《21世纪太空漫游》、《黑客帝国》、阿西莫夫的机器人系列等。
在基于海量数据和强大算例的大模型迅速发展的今天,基于人工智能所产生的涌现效应还表现在哪些方面?在给人类带来惊喜的同时,还会产生哪些负面影响?由于缺乏相关素材,目前的研究大部分还局限于猜测状态。不过,由人工智能引发的这类问题确实是人类面临的紧迫问题。前两年,chatGPT横空出世时引起科技伦理道德及法律规范问题讨论很有必要。并且,这些讨论只是局限于把chatGPT作为一个工具,这样的讨论有待进一步深入。