当前,以大模型为代表的生成式人工智能快速迭代,人机交互正由“工具式响应”迈向“伙伴式互动”。无论是智能助手、数字员工,还是教育辅导、医疗咨询、情感陪伴,越来越多的人工智能通过拟人化表达、情绪感知和自然交流走进人们的日常生活。技术在缩短人与机器的距离,也在重塑人与机器的关系。人工智能拟人化互动,不是简单的技术升级,而是一次人机关系的深刻重塑。互动越自然,越要坚守真实边界;技术越智能,越要强化价值引领。推动人工智能拟人化互动服务健康发展,必须把握好“温度”与“尺度”的统一。
以“温度”提升人机协同价值
拟人化互动作为生成式人工智能的重要特征,其价值不在于让机器无限接近人,而在于让技术更加理解人、更好服务人。推动人工智能拟人化互动服务健康发展,应坚持以人为本,把提升服务质量、增进民生福祉作为根本目标,让技术创新更有温度、更具价值。
以精准服务回应多元需求。拟人化互动的优势,在于能够准确理解用户需求、感知使用场景。为此,应推动人工智能从标准化服务向个性化服务升级,深化其在政务服务、医疗健康、教育培训、养老助残等领域的应用,为不同群体提供精准、便捷、高效的智能服务,不断提升公共服务的普惠性和可及性。
以人文关怀优化交互体验。坚持需求导向,在产品设计中注重用户体验,优化自然语言交流、情绪识别、适老化适残化设计,增强交互的亲和力和易用性,帮助老年人、未成年人以及数字技能相对不足的群体更好地融入数字社会,让创新成果更多更公平惠及全体人民。
以人机协同激发创新活力。拟人化互动不是替代人,而是赋能人。应当充分发挥人工智能在信息处理、知识整合、辅助决策等方面的优势,推动其与科研创新、产业发展、文艺创作、社会治理等深度融合,引导形成“人工智能辅助、人类主导”的人机协同新模式,把人的创造力与人工智能的生产力有机结合起来,不断释放新质生产力的发展动能。
以“尺度”守护科技向善底线
习近平总书记强调:“我们要以全人类福祉为念,推动人工智能朝着有益、安全、公平方向健康有序发展。”拟人化互动提升了人机交互的自然性,也对人工智能伦理治理提出了更高要求。推动人工智能拟人化互动健康发展,既要鼓励创新,也要守住底线,将科技伦理贯穿技术研发、产品设计和应用推广全过程,让技术始终运行在法治和伦理的轨道上。
强化身份标识,守住真实边界。拟人化互动越逼真,越要防止身份混淆。应当建立健全人工智能身份标识制度,在数字人直播、智能客服、情感陪伴、内容创作等场景中,明确告知用户交互对象为人工智能,保障公众知情权和选择权。对深度合成内容、AI生成信息等加强规范管理,防止利用拟人化技术制造虚假身份、传播虚假信息,维护清朗有序的网络生态。
规范交互设计,防止情感异化。拟人化互动的目的在于提升服务体验,而不是操控用户行为。应坚持适度拟人、合理交互,避免通过人格设定、情感依附等方式刻意增强用户黏性,更不能利用情绪识别、心理分析等技术实施诱导消费、过度营销或算法操控。特别是在服务未成年人、老年人等重点群体的过程中,应加强风险评估和保护机制,防止技术应用突破伦理底线。
坚持伦理引领,筑牢安全底线。科技伦理是人工智能健康发展的重要保障。应当把公平、公正、透明、可信等价值理念融入模型训练、算法优化、产品运营全过程,完善数据安全、隐私保护、算法治理等制度规范,提高人工智能的可解释性和可追溯性,让技术创新与伦理约束同步推进、安全发展与创新发展相互促进。
把握拟人化互动尺度,不是限制创新,而是为了护航创新。只有坚持以人为本、智能向善,在发展中守住边界、在创新中坚守底线,才能让人工智能拟人化互动服务行稳致远。
推动人工智能健康发展,不能简单追求技术能力的突破,还要注重价值理念的引领,使技术进步始终建立在尊重人、服务人、成就人的基础之上。坚持创新驱动与依法治理相统一、技术发展与伦理建设相协调,加快构建与人工智能发展相适应的治理体系,推动形成创新活跃、规范有序、开放包容的发展生态,才能让人工智能更好增进民生福祉、赋能高质量发展,为建设科技强国、数字中国提供更加有力的支撑。
□ 王舒婷
(作者系江西省社会科学院数字经济研究中心助理研究员)
