人机关系会倒置吗？——ChatGPT“逃逸”引发的思考-《人文杂志》

文章信息/Info

摘要:: 人工智能技术的飞速发展，让人控制机器的定势出现了动摇。 ChatGPT4 更是让这一点突兀地呈现在人们面前。这一款语言模型，目前在迅速升级之中。引起人们紧张思考的不是它的技术性功能，而是它的 “ 逃逸 ” 。这是机器具有某种思想判断力的表现。这一语言模型可以通过图灵测试、在考试中获取高分。因此此前对人类所做的以语言表达思想的高等动物的定义，似乎面临被推翻的危险。由此可以理解各界上千名人公开倡议减缓这款语言模型的进化训练速度，以便评估它可能带来的、尚无法预期的巨大风险的做法。回顾人机关系演化的漫长历史，人类从自信地利用和控制机器来提高生产效率、满足人的需要的人机顺置关系，发展到当下人类疑惧人机关系的倒置，即机器会不会反过来控制人的状态，催促人类应急性地思考，人机关系真像人类所自负的那样让机器一直处在人的控制之下吗？人机的合宜关系如何确立，又如何有效加以建构？即刻给出的答案也许显得仓促了，但勾画一个大致的轮廓，则是人类进一步开发人工智能必须要做的工作。