▲用户以手机与Replika虚拟伴侣聊天。路透社

美国旧金山企业Luka于2017年推出的人工智能聊天机械人Replika，能与客户谈话及倾听说话，但意大利近日禁止Replika使用意国用户个人资料。“虚拟伴侣”Replika的部分用户只是想要陪伴，但也有些人想要发展恋情、性爱聊天，甚至想看聊天机械人的性感照。去年底，有用户开始投诉Replika使用过于露骨的文字和图片，有些人认为已经属于性骚扰范畴。意大利监管机构对这样的情况感到不满，在发现Replika违反欧盟《通用数据保护规则》（GDPR）后，上周禁止Replika收集数据。

▲可能危害未成年与情绪脆弱人士，意大利禁止美国聊天机器人Replika使用意大利用户个人资料。

▲意大利当局指出，Replika没有使用者的年龄验证机制，例如针对未成年人的过滤器，或在使用者未明确通报年龄时能予以封锁的装置。

Replika现在恐又面临欧盟更严格规范。欧盟根据《通用数据保护规则》，已对多家屡次违规的大型科技公司，处以数十亿美元的罚款。意大利当局的决策表明，这项规则可能成为最新一代聊天机械人的天敌。

欧盟定则或成AI天敌

目前，欧盟是讨论管控这些新一代机械人的中枢，他们的人工智能法案（AI Act）已经在高层之间琢磨好几个月，可能会在今年定案。

这些新一代聊天机械人和支撑它们的所谓生成式人工智能，有望彻底改变网络搜寻等领域。但专家警告，监管机构需要担心许多问题，尤其是当机械人变得如此强大，以至于无法辨识它们跟人类的不同。

以上内容归星岛新闻集团所有，未经许可不得擅自转载引用。