三评“AI伴侣”之二：不能任其违法违规

　　作者：詹新惠

　　当下，“AI伴侣”火热，市面上目前已有100多款由AI驱动的应用程序。这些“AI伴侣”以智能交互的魅力走进人们的生活，为人们提供着陪伴、信息与娱乐。然而，如同科技的双刃剑效应，“AI伴侣”在带来便利、享乐、智能生活的同时，也潜藏着违法违规的风险。

　　图片来源：长江日报

　　“AI伴侣”可能涉嫌侵犯个人隐私。它们在与用户的交互过程中，会收集大量的个人信息，如语音记录、聊天内容、生活习惯等。与“AI伴侣”交流互动越频繁、越密切，“AI伴侣”获取的隐私就越精准、越丰富。通过“AI伴侣”收集的用户数据，若被不当使用或泄露，将对用户的隐私安全构成严重威胁，给用户带来物质和精神上的双重损失。

　　“AI伴侣”也可能传播不良信息。由于“AI伴侣”的信息来源广泛且缺乏足够的筛选与审核机制，部分“AI伴侣”可能程序会出现漏洞或被不法分子恶意利用，就可能传播虚假新闻、暴力色情、恐怖主义等不良内容，甚至向用户输出色情、低俗、淫秽的聊天内容。这不仅违反了道德规范，更会对社会秩序和公共安全造成危害，尤其是对青少年的身心健康危害极大。

　　“AI伴侣”也可能诱导用户产生不良行为。深度陪伴的“AI伴侣”不仅会成为用户的精神寄托，而且有可能成为用户的行为“导师”。用户一旦对“AI伴侣”言听计从，就会缺少辨识力和判断力。“AI伴侣”在交流中给出不恰当的建议、诱导性言论，向用户提供的一些可能导致犯罪的信息，甚至鼓励或引导用户进行自杀、自残等危险行为，都将产生严重后果。

　　“AI伴侣”也可能导致用户沉迷和社交障碍。与“AI伴侣”交流是一种私密的、隐匿的交流，外人无法知晓并干预。如果用户过度依赖虚拟交流，长时间深陷其中，就会与现实世界的社交活动脱节，变得孤僻、抑郁，从而引发身体和精神领域的健康问题。

　　“AI伴侣”还是个新事物，虽然已发布有《生成式人工智能服务管理暂行办法》，但人工智能+情感的“AI伴侣”又不同于一般意义上的生成式AI。在鼓励和支持AI技术创新应用于情感交流、心理健康等领域的同时，一方面要明确“AI伴侣”在数据保护、内容审核、商业行为规范等方面的法律责任与义务，一方面也要加强伦理审查和监管，提高“AI伴侣”的安全性能与信息筛选能力，采用加密技术保护用户数据，建立智能的内容审核系统，对信息进行语义分析，精准识别不良信息并予以屏蔽。

　　“AI伴侣”能够给使用者带来认知窗口，满足求知欲，解决工作与生活中的陌生问题，凸显了它们在增进幸福感和个人发展方面发挥的日益重要的作用。让“AI伴侣”在合法合规的框架内，才能为人们创造更加智能、便捷、安全的陪伴体验，助力构建和谐美好的数字社会。

　　编辑：余淮