生成式AI在带来便利的同时，也成了侵权的工具。

AI滥用现象普遍

近期，AI换脸以及伪造内容频繁地出现了，有人借助这项技术去冒充他人身份进而实施诈骗，或者在社交平台之上散布虚假信息，2024年，浙江有某企业高管被AI变声技术骗走200万元，这类案件在全国多个地方都有发生 。

部分企业所开发的AI功能，欠缺有效的管控措施，上海网信办察觉到多款APP，并未设置内容过滤这一机制，致使用户能够随性生成侵权内容，这些工具常常被运用来制造名人的淫秽图像，或者伪造证件，对网络秩序造成了严重的破坏 。

安全评估存在漏洞

诸多企业并未依照法律规定去开展安全评估，上海于专项检查里发现，有超过30家AI服务提供商未曾建立内容审核系统，这些平台是直接朝着公众开放的，欠缺对生成内容的实时监测能力。

某些企业居然蓄意躲避监管，有的技术公司借助境外服务器来提供服务，借此逃脱安全审查的责任，这般行径致使违法内容传播风险增大，给用户权益保护造成严峻的挑战 。

防护措施严重不足

展现出显著缺失之趋向在于为常规安全防护，经调查表明，将近半数于进行了检查的AI平台之中，并未去设置针对用户的实名认证，并且也未能构建起针对违规内容的用来追溯的机制，如此一来则导致像“开盒”这类侵犯隐私的行为变得难以去进行追查。

技术防护手段的更新处于滞后状态，面对持续翻新的AI滥用手法，多数企业依旧采用传统的关键词过滤方式，这种防护措施用于变体文字以及图像内容的识别时效果有限，不能够有效拦截新型违规信息。

违规应用屡禁不止

AI技术被运用到违法犯罪活动当中，2024年在国内出现了多起利用AI伪造证明去办理网络贷款的案例，这些案例致使金融机构遭受了重大损失，另外还有犯罪团伙运用AI换脸技术来进行非法跨境资金转移 。

有部分应用商店，违规上架了AI工具，在上海网信办今年开展的专项治理里，发现了54款APP违规提供了生成式人工智能服务，这些应用多数没有按照要求进行安全备案，存在着严重的数据泄露风险。

执法监管持续加强

采取多维度治理措施的是监管部门。在“亮剑浦江·2025”行动里的上海，首次按照《生成式人工智能服务管理暂行办法》，对3家违规网站作出处罚。并且建立专家团队，为企业提供合规指导 。

执法行动着重于将教育同惩戒相互结合起来，针对26家往昔被要求进行整改的网站展开“回头看”检查，以此保证问题不会出现反弹的情况，对于5家初次违规的企业给予其改正的机会，指导它们去完成安全评估以及备案工作。

行业治理初见成效

企业在合规意识上有明显极大程度的往上升高，借助专项治理，于上海这个区域的所有AI服务提供商的安全评估给搞定完成的总体比率，从一年开始的时候的百分之四十五，向更高数值提升到了高达百分之八十二，大多数企业开始主动去配备设置内容审核系统，并且强化增强对用户行为的管理。

逐步完善起长效监管机制，网信部门构建了AI服务备案数据库，达成对重点平台的动态监测，与此同时，推出《人工智能生成内容标识实务解析》，给行业予以明确操作指引 。

你于运用AI技术之际有无碰到过侵权方面的问题呢，欢迎去分享自身经历，同时也请给予点赞以此来支持网络安全方面的治理哟。