AI技术滥用危害大！网信办列出整治重点清单

AI技术正在以前所未有的速度渗透进我们的生活，从智能客服到人脸识别，从内容生成到自动驾驶，人工智能的应用场景越来越广泛。然而，随着技术的快速发展，AI滥用问题也日益凸显。近日，某社交平台爆出"AI换脸"黑产链，不法分子利用深度伪造技术制作明星不雅视频牟利；多地曝出诈骗团伙使用AI语音模仿亲人声音实施电信诈骗；更有企业滥用算法推荐，导致青少年沉迷不良内容。这些乱象不仅侵犯个人权益，更对社会秩序造成严重威胁。在此背景下，网信办发布《生成式人工智能服务管理暂行办法》，针对AI技术滥用列出整治重点清单，引发社会广泛关注。

深度伪造技术成网络诈骗"新宠"

AI换脸、语音克隆等深度伪造技术正在被不法分子广泛用于网络诈骗。近期多地警方破获的案件显示，诈骗分子仅需获取受害者亲友3秒的语音片段，就能通过AI技术克隆出几乎无法辨别真伪的声音。更令人担忧的是，一些黑灰产平台提供"AI换脸"服务，收费仅需几十元，就能将普通人照片移植到色情视频中。网信办将重点整治这类利用生成式AI技术制作、传播虚假信息的行为，要求平台必须对AI生成内容进行显著标识，并建立完善的投诉举报机制。

算法推荐加剧信息茧房效应

部分互联网平台过度依赖算法推荐，导致用户陷入"信息茧房"。调查显示，某短视频平台青少年用户中，有超过60%的人表示"刷到的内容越来越相似"。更严重的是，一些平台利用AI算法精准推送博彩、借贷等不良信息，甚至根据用户情绪状态推荐极端内容。网信办明确要求，算法推荐服务提供者应当建立健全人工干预机制，优化推荐模型，防止产生信息茧房。同时，禁止利用算法从事影响网络舆论、规避监管等违法违规活动。

AI数据采集侵犯个人隐私

在AI模型训练过程中，大规模数据采集带来的隐私泄露风险不容忽视。某知名AI公司被曝未经用户同意收集数百万张人脸照片；多款智能音箱被发现在后台偷偷录音；更有AI绘画软件擅自抓取艺术家作品进行训练。这些行为严重侵犯了公民个人信息权益。网信办将重点整治未经同意收集个人信息、超范围使用个人数据等行为，要求AI服务提供者必须依法开展数据处理活动，并采取有效措施保障数据安全。

AI技术是把双刃剑，在带来便利的同时也伴随着诸多风险。网信办此次出台的整治措施，既是对当前突出问题的及时回应，也为AI产业健康发展指明了方向。随着监管政策的不断完善，我们有理由相信，AI技术终将在规范中实现其造福社会的初衷。