据央视新闻报道,近期,一些网络账号在发布人工智能生成的合成信息时未添加人工智能标识,导致存在利用虚假内容误导、误导公众的问题,破坏网络生态系统,造成负面影响。网信部门要求网站平台开展彻查整治,依法依约删除账号13421个,删除违法信息54.3万余条。目前报道的典型案例如下。 1、微博账号“城谷”、快手账号“菱子爱狗”、哔哩哔哩账号“金刚有声电影”等,通过发布狗在高铁救人、残疾狗等发送炸弹救人、鳄鱼伤人的视频,在不添加AI生成标识的情况下,通过编造感人故事、怪异事件来恶意获取流量。对应的账户nts已按照法律和合同进行处置。 2、微信账号“浮萍9419”、微博账号“乘风回来了”、快手账号“东东情感”等,利用AI变脸、语音克隆等方式冒充运动员、演员、主持人、商人等名人,发布虚假言论吸引粉丝,并利用“未经许可出售”生成的名人“送祝福”“送新年”的AI视频。获得许可证并从中获得不公平的优势。相应账户已按照法律规定和合同约定进行处置。 3、“巷子里的鱼”、“禾速”等抖音账号,“朵姐真耿耿”、“小猪猪”等快手账号,发布人工智能生成的虚假火灾场景照片、视频,恶意编造、夸大火灾事件,迷惑公众,扰乱公共安全。相应账户已处置根据法律和合同。 4、B站账号“我很难知道”抖音账号“小奥特曼大智慧”、百度账号“轻在影视”等利用人工智能神奇改造未成年人喜欢的卡通人物,制作小马宝莉被刀砍头、奥特曼怀孕等视频,传播低俗恐怖、血腥暴力内容,宣扬不良价值观,威胁未成年人身心健康。对应账号为5、“浪涛大师”、“南坤商城”等小红书账号发布“豆宝图片去水印神器”等内容并分享软件和教程。“浙江智艺AI”、“丁建祥旗舰店”等淘宝、闲鱼、拼多多店铺销售AI去标识教程、软件和服务的账号,均按照规定处理。法律和合同,非法产品已从商店货架上撤下。下一步,网信部将对不涉及人工智能识别的虚假虚假信息保持高压严控,一发现即采取行动,严厉打击违法行为。同时,我们敦促广大网络内容创作者按照相关规定积极添加AI标识,避免公众误解,共同构建廉洁、公平的网络环境。 (央视记者张刚)编辑李伊林子