作者：宋春艳（湖南省社会科学院（湖南省人民政府发展研究中心）哲学研究所）

　　随着人工智能对人类认知能力模仿水平的提升，智能机器人能否产生自我意识的问题已从远虑逐渐变成近忧。对此，学界有乐观、悲观和中立的不同立场。目前有可能产生自我意识的智能机器人，是一种高级人工智能，具有互动性、自主性与自适应性等特征。对智能机器人自我意识问题的深切关注，反映了人们对智能机器人失控的忧惧。而消除这种忧惧的最佳方式，就是深刻认识和把握其原理与本质，打开智能机器人自我意识的黑箱，并推动其向善发展。

　　总的来看，人类自我意识的产生主要有两种方式，一是自我激发，二是他人认同。自我意识与自我认同是不可分割的，而自我认同则离不开群体中他人的认同。所以，自我意识通常在获得社会其他成员的认同中产生。在探索智能机器人自我意识时，这两种路径各自进行了尝试，并取得了不同的进展。按照技术发展路径，智能机器人主要分为数据智能和类脑智能，二者自我意识产生分别采用了他人认同路径和自我激发路径，其本质也不相同。

　　一是数据智能机器人“设计”出自我意识，即他人认同路径。这一路径通过算法设计和大数据支持，让机器人表现得具有“自我意识”。无论是数字计算机，还是量子计算机，其产生自我意识的途径都属于数据智能路径。但这一路径存在数据兼容和溢出的风险。很明显，这一路径产生的“自我意识”是环境中的设计者和使用者赋予智能机器人的，认知主体是人体而非机体。这在情感机器人或社交机器人中尤为常见。而社交类智能机器人的使用者，往往会在与其长期相处中产生机器人也有情感和自我意识的错觉。心理学上将这种现象称为共情效应。通常情况下，能产生越强共情效应的机器人往往越受消费者欢迎。然而，通过考察情感或自我意识内在的真实内容及其规律性就会发现，这只是特定情境中的使用者认为机器人已彰显出自我意识和情感。因此，并不能说明这类机器人能够自我激发产生自我意识或情感。

　　二是类脑智能机器人“生长”出自我意识，即自我激发路径。这一路径通过类脑技术支持，让机器人拥有能感知的“身体”，形成独立的“自我意识”。这里的“自我意识”虽然源自机体，但却是承载生物芯片的有机体，因此无论是技术悲观派还是乐观派都不能否认其产生自我意识的可能性。比如，曾毅团队在认知神经科学家的实验基础上，用自主研发的类脑机器人成功挑战了自我意识镜像实验，为机器人自我意识建立了受生物激发的模型。虽然镜像实验只能作为机器人自我意识验证的一个视角，但我们可以据此展望未来，制造出生物性质的类人自我意识的智能机器人并不是天方夜谭。这一路径存在生物芯片信息难以掌控的风险。目前大多数相关研究都局限于实验室内，而已临床使用的仅是针对脑部疾病的脑机接口技术，并且这种技术的使用需要患者提前进行训练，也就是要通过人的协助才能展现出智能。

　　智能机器人自我意识的产生可能增加人类对其失控的忧惧，而人机融合发展则能够降低这种危害的可能性。人机融合智能是充分利用人和机器各自的长处形成的新型智能形式。大数据人工智能、互联网群体智能、感知和跨媒体智能、人机混合智能、自主智能系统等是目前主要的五类人机融合智能。为引导智能机器人向善发展，规避不良社会影响，需要人类主动回应和采取措施。

　　一是进行前瞻性伦理设计。技术实体论认为，技术是一种实体，是负载着价值的。尤其是现在自主性越来越强的智能机器人，根据算法的设计能够自适应环境自主决策，产生的结果甚至是不可控的。这种算法复杂性和不可控性，很好地支持了技术实体论的立场。由此，对技术风险的治理则需要一种前瞻模式。虽然目前类脑智能对意识和自我意识的研究尚处于初级阶段，但让其自主产生自我意识一直是很多研发者的目标。因此，要在其自我意识研究尚处于初级阶段时提出伦理框架，根据“自上而下”和“自下而上”各自的优势提出组合模式：将“不伤害不作恶”作为底线原则进行价值敏感设计，并在后天学习中通过底线原则对学习到的人类行为进行过滤。倘若完全采取情境学习的路径，一旦投入市场使用，就会出现不可控的后果。因此，必须将底线原则与情境学习相结合，才能保证智能机器人的安全可控。

　　二是建立以人为主导的人机协同演化关系。对智能机器人自我意识的深切关注，实质上反映了人们对智能机器人失控的忧惧。在此基础上形成的人机关系，既不利于人工智能的健康发展，也不利于人的自由而全面发展。对此，我们需要探索出一种健康、可持续的人机关系，即以人为主导的人机协同演化关系。以人为主导，可以保证人在协同演化中不丧失主体性。只有保持这种主体性，人类才能理性决定机器人“能够做什么”和“应该做什么”，保证人工智能产品按照人的价值理念演化，从而掌握协同演化的主动权，实现智能机器人向善发展的目标。同时，以人为主导才能促使人类主动承担协同演化中的过失责任。若智能机器人产生自我意识，将引发其道德地位和道德承受能力的争论。实际上，让机器人拥有一定的道德判断能力，目的是为了更好地为人类服务，尽量减少甚至避免负面影响，而不是让它们必须拥有权利或承担责任，二者是可以分开的。人是责任的承担者。人的责任不仅包括在风险预防阶段做好价值敏感设计，也包括在风险产生后通过制度构建来降低损失。

　　三是建立“社会—技术”一体化协调发展的体制机制。若智能机器人产生自我意识，所带来的变化不仅是技术上的颠覆性创新，而且对原有社会运行机制的影响更是难以清楚预判。面对具有自我意识的智能机器人的来临，不仅需要在研发阶段进行提前干预，同时也需要社会体制机制的创新来适应。为保证新的智能机器人产品的向善导向，就必须在研发和使用中进行监管。同时，政府要积极引导第三方机构对其可能引发的隐私、安全、社会公正等问题进行敏感性评估，要求企业对出现问题的产品建立补偿或召回机制。

　　四是积极引导公众参与。技术的进步与应用在为人们的生活带来便利的同时，也让人们在一定程度上产生了恐惧。这种技术恐惧源于技术自身的复杂性和不确定性，尤其是对于可能产生自我意识的智能机器人。要消除技术恐惧的根本方法，就是让公众参与到智能机器人的技术治理过程当中。一方面，公众参与有助于提高智能机器人的社会接受度。公众对技术研发的参与程度越深入，对技术细节越了解，也就越容易接受具有自我意识的智能机器人。另一方面，公众参与有助于提高智能机器人社会风险评估的准确性。适当的公众参与对智能机器人的社会风险因素识别更加全面和准确，由此制定的预防性措施将更加有效。总之，更多公众参与将有助于实现人工智能向善的目标，这也是提出人机融合智能的初衷。

　　（本文系国家社科基金一般项目“人机融合智能的道德风险及其协同治理研究”（20BZX029）阶段性成果）

　　坚持把增进人民福祉与促进人的全面发展作为发展数字经济的出发点和落脚点，充分发挥数字技术在推进公共服务均等化、助力乡村振兴、促进城乡融合发展、推动共同富裕等方面的关键作用。

　　坚持好、运用好贯穿其中的立场观点方法，坚持用马克思主义之“矢”去射新时代中国之“的”，在新时代伟大实践中不断开辟马克思主义中国化时代化新境界！

　　使发展成果更多更公平地惠及全体人民，满足全体人民对美好生活的需求，让每个人都能如愿地发展自我和奉献社会，让每个人都能体面地享受生活和追求幸福。

　　文化的积淀是一个社会、一个民族最宝贵的精神财富，也是这个民族、这个社会能自立于其他民族、其他社会之间的“基因身份证”。

　　实现人与自然和谐共生的现代化，必须深刻、准确地理解把握人与自然和谐共生的现代化道路的丰富内涵与实践路径，进而推动美丽中国建设。

　　要准确认识和适应全球政治发展演变的基本趋势和特征变化，站在历史正确一边，顺应历史进程谋求战略创新，为国家长治久安提供可靠安全保障。

　　人民所表达的意愿、所创造的经验、所拥有的权利、所发挥的作用，在社会主义制度下得到了全方位、全过程地实现，社会主义伟大事业也让每个人的能力、人的丰富性得到全面提升。

　　推进马克思主义中国化，要坚持和发展当代中国马克思主义、21世纪马克思主义，坚持用马克思主义之“矢”去射新时代中国之“的”。

　　深入推进军民融合战略，着力提升国家在海洋、太空、网络空间、生物、新能源等新兴领域的核心竞争力，全面构建一体化国家战略体系和能力。

　　在数字经济时代，全民数字素养与技能的提升能够为厚植我国发展新优势构筑最为广泛、最为持续、最为强大的微观新动能。

　　电力行业是关系国计民生的基础性行业，是能源转型的关键领域，电力行业实现结构性转型是绿色低碳发展、实现“双碳”目标的一个极其重要的方面。

　　今后五年对于助推中小企业高质量发展至关重要。中小企业数字化转型“好在哪里”“难在哪里”“路在哪里”，这些问题都需要进一步梳理。

　　企业是推动创新创造的生力军，要更加突出企业的主体地位。完善科技治理体系，就是要围绕科技创新体系中企业和大学这两个基本主体的定位，为企业和大学创造好的环境。

　　我们应该在人类命运共同体理念下，秉持平等和尊重，摒弃反对傲慢和偏见，倡导科技无国界、无障碍、无歧视的合作精神与合作理念，共同寻求科学的答案解答，共同推动人类社会可持续发展。

　　坚持走中国特色自主创新道路是我国不断提高科技发展水平、提升综合国力的正确选择。只要全体中国人民咬定青山不放松，充分激活中国人的潜能，中国在创新上一定能够“再攀高峰”。

　　强化就业优先政策最重要的是要始终坚持以人为本的发展思想，财政、货币等宏观经济政策要将就业目标置于更加优先的位置，根据就业目标进展情况，动态调整宏观经济政策力度。

　　直播电商具有广阔的市场前景，在推动我国经济社会发展中已经成为一股不可忽视的力量。因此，当前市场迫切呼唤更加完善的制度规范和正面引导，为直播电商健康发展营造良好的环境。

　　无论范围如何扩大，国家安全学学科的核心本质没有变化，它是一门基于政治学的综合性、应用性的学科。当前在扩大国家安全学内涵的同时，应该特别注意明确其边界到底在什么地方。

　　为保障委托代理实效，应对体制机制挑战，需要抓住机制设计的“牛鼻子”。只有做好权责区分、监管闭环的设计，才能解决委托代理面临“代理人道德风险”的问题。

　　在增强主体性的过程中，我们要更多地实现本土化，但本土化并不意味着建构封闭的纯粹地方性知识，而是以民族性、本土化的形式体现出以全部人类文明成果为基础、面向未来的普遍性内容。