筑梦岛APP因低俗内容被约谈，AI聊天软件需加强审核
据“网信上海”6月19日消息，因AI智能体对话存在低俗擦边内容，筑梦岛APP被上海市网信办依法约谈。
近期有媒体报道，筑梦岛APP 等AI聊天软件存在虚拟角色互动生成低俗内容等问题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未成年人身心健康。
据悉，6月19日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。
“筑梦岛”App是一款以AI陪伴为核心功能的应用，主要提供用户与虚拟AI角色的聊天互动服务。
公开信息显示，筑梦岛App目前由上海筑梦岛人工智能科技有限公司负责运营。
2025年1月，“筑梦岛”已正式独立运营，并完成新一轮融资。天眼查显示，这笔融资由商汤国香基金、阅文集团等战略投资方共同投资，融资金额超1000万美元。
6月13日，“央广网”微信公众号发布文章《AI聊天软件诱导10岁女孩聊色情内容甚至割腕！记者调查→》提到，一位初一男生表示，他常玩的AI聊天软件是筑梦岛App，在他的使用感受中，该软件“违禁词少一点”。
他还提到，其中不乏色情擦边和“分尸猎奇”等内容。央广网记者下载安装筑梦岛App，随机选择一位虚拟互动对象，对方发来的第一句开场白就是“先叫声老公来听听”，随后的对话中又提到“叫声爸爸来听听”。
在与该款产品多个虚拟角色的交流中，也都可以进行色情擦边类内容互动，并且，其中一些虚拟角色的对话尺度，并未因为央广网记者提供的假定年龄未成年而受到有效控制，这暴露出该软件在自动生成内容审核机制上存在明显漏洞。
（文章来源：深圳商报·读创）
声明：
- 风险提示：以上内容仅来自互联网，文中内容或观点仅作为原作者或者原网站的观点，不代表本站的任何立场，不构成与本站相关的任何投资建议。在作出任何投资决定前，投资者应根据自身情况考虑投资产品相关的风险因素，并于需要时咨询专业投资顾问意见。本站竭力但不能证实上述内容的真实性、准确性和原创性，对此本站不做任何保证和承诺。
- 本站认真尊重知识产权及您的合法权益，如发现本站内容或相关标识侵犯了您的权益，请您与我们联系删除。
推荐文章：