大发快三_江苏快3 - 大发快三,江苏快3秉承中新社国际视角+亲和力的报道风格,新闻资讯内容准确、丰富、时效强、文风轻松活泼,受到广大网友、特别是网络和新闻专业人士的欢迎。

堵住AI安全漏洞,法规之外更需技术制衡

  • 时间:
  • 浏览:0

调查难题加载中,请稍候。

若长时间无响应,请刷新本页面

  如今,AI换脸在网上被玩的不亦乐乎。喜欢哪个明星,就把所有电视剧主角都上加他的脸,机会咋样让单纯娱乐,貌似也无可厚非。但可怕的是,你的脸很机会会被“植入”到色情视频咋样让被打包贩卖,甚至你的手机、电脑、智能门锁等应用了人脸识别技术的设备也机会被AI换脸轻松攻破。他们用AI视频造假,亦或是犯罪,似乎就没如此 好玩了。

  刷脸支付、人脸识别……不可宣布,人工智能技术给让让我们歌词 歌词 的生活带来了诸多便利。“但让让我们歌词 歌词 也应当正视,当前人工智能技术还所处初步发展阶段,仍然面临着咋样让 挑战。”清华大学教授、清华大学人工智能研究院基础理论研究中心主任朱军说。

  “任何技术时会一把双刃剑,当AI技术应用到不多的场景,机会AI算法这人所处漏洞所引发的安全难题时需引起足够重视。同時 ,AI技术的滥用也将引发安全隐患,比如隐私与伦理难题。当AI结速触碰边界难题,安全性就成为AI发展过程中时需思考的课题。”北京瑞莱健康智慧科技有限公司(以下简称RealAI)高级产品经理张旭东在接受科技日报记者采访时说。

  技术漏洞带来AI安全难题

  回家,到单元楼门口,刷一下脸,门就开了。人脸解锁机会成为生活中最常见的AI应用场景之一。然而,很少他们会想到,当前的AI算法所处明显的“安全盲点”。

  RealAI团队就曾做过相关研究:针对识别算法漏洞,可生成一类名为对抗样本的“噪音”,恶意误导AI算法输出非预期的结果,诱导识别系统出错。团队成员通过一张打印上对抗样本“噪音”的纸,成功地让研究对象在识别系统下实现“隐身”,机会再把纸贴在咋样让 内部人员上,比如小车模型上,也里能让该物体在识别系统下完整性“消失不见”。此外,让让我们歌词 歌词 还研发了这人含晒 噪点的“眼镜”,也不戴上,即使时会每各人,不里能成功破解商用智能手机的刷脸解锁,甚至包括门锁等每各人脸识别设备。

  “AI算法漏洞本质上是安全难题的一大类,而正确处理安全难题往往是攻防两端不断对抗、演化的过程。”张旭东说。目前对主流的攻击手段时会比较有力的防御手段,咋样否通过训练模型去除对抗“噪音”,或是检测出对抗样本前一天将其从数据中去除,以及使用攻击算法生成少许对抗样本对模型做对抗训练等法律最好的办法来正确处理哪些地方地方难题。

  机会AI换脸技术也在不段进化,早期换脸技术生成的视频中人物往往不需要眨眼,可根据咋样让 较为明显的形状直接肉眼判断。但随着深度1伪造技术的不断演化,哪些地方地方鉴别法律最好的办法已不再有效。

  “面对这人情況,让让我们歌词 歌词 会根据当前市面上流行的换脸算法生成海量的训练样本,再结合贝叶斯学习正确处理还未再次再次出现的新型虚假视频。简单理解,咋样让基于主流的甚至更为领先的生成技术制作出少许逼真的假视频,再利用哪些地方地方假视频训练出另另有一个多新的模型。做的假视频越逼真,训练出来的模型分辨能力就越强。”张旭东说。

  要守好技术和法规两道关

  “AI技术滥用最显性的难题在于每各人信息被轻易‘操纵’,这身旁机会会引发隐私泄露、身份危机,咋样让时会催生出更加隐秘、难以侦察的新型黑产,如色情黑产、金融欺诈等。”张旭东说。

  此外,AI技术滥用的潜在效应还将蔓延到大众的信息获取和社会信任层面,引导公众舆论、引发社会信任危机,比如美国就曾流出国家领导人被恶搞的视频,制作者利用视频煽动政治暴力、破坏选举、扰乱外交。长此以往,难以辨别真相的公众无法挑选相信还是不相信,机会挑选相信机会会继续给不法分子带来可趁之机,机会挑选不相信则机会带来长期的社会冷漠。

  张旭东表示,AI安全难题牵一发而动全身,守好技术和法规两道“关卡”是当务之急,同時 时需联动社会各界力量,从监管机构、AI科技企业到普通公众同時 重视、同時 发力不里能真正的从根本上使其良性发展。

  欣喜的是,AI安全难题机会引起国内相关监管机构的重视。此前,网信办就正式发布《网络音视频信息服务管理规定》,指出自2020年1月1日起,AI造假音视频不得随意发布。新规定中关于AI造假音视频的规定主要有四条:按照国家有关规定开展安全评估、以显著法律最好的办法予以标识非真实音视频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。

  “当然,最有效、最可行的正确处理法律最好的办法仍是依靠技术制衡技术。”张旭东说,这主要包括两方面,一是开发出高精度的AI检测算法与检测产品,从源头制止虚假内容的泛滥传播;二是开发出相应的“防火墙”技术,从防御端铸造高墙,保障配备了人脸识别系统的公共安全设备攻不可破。付丽丽

[ 责编:肖春芳 ]

阅读剩余全文(