阿里与中国科技大学、浙江大学和中国科技大学等大学合作开发了四项人工智能安全技术,并被纳入国际会议 2010ema

股票资讯  2021-02-24 08:20:13

阿里安全图灵实验室专注于行业内令人痛苦和棘手的技术难题,涉及文本变异对抗、图像和视频内容风险控制、AI小样本研究四个团队,与中国科技大学、浙江大学、华中科技大学等知名高校的研究人员合作,研发新一代安全架构的“内容安全、文本反垃圾、AI模型健壮性、业务环境治理”四大核心AI安全技术成果。它们都包含在icassp(国际声学、语音和信号处理会议)2021中。

反对血腥暴力的小样本培训视频

在实际应用场景中,AI安全技术可以有效解决大数据量的头部风险,但现有AI模型往往不能胜任小数据或新数据的风险。

在2018年的“扫黄打非”专项整治中,出现了一波风险(软色情、血腥暴力),主要是一些对青少年导向不好的视频,此类相关内容清理了37万多条有害信息。随着短视频的快速发展,“儿童邪教视频”这种变化性极强的视频很容易死灰复燃。

原始模型训练需要一定的时间来积累这类数据,小样本方法正好可以填补“变异——模型不更新”的真空期。阿里安全图灵实验室高级算法工程师秦永认为,使用小样本方法可以很好地覆盖真空期的这种新风险,维护网络的清晰空间环境。

“以前发表的小样本方法大多集中在优化小样本原始学习阶段。本研究主要关注小样本方法中的预训练问题。我们的人工智能安全团队提出了一种简单有效的方法,使用自我监控的方法来预训练更深的网络,具有良好的鲁棒性和通用性。”秦永说。

自监督学习的核心思想是学习未标记数据,学习未标记数据的数据结构或特征,因此不需要标记结果。这样创建的AI模型对新鲜样本的适应性很强。

在医疗和生物行业的安全领域,普遍存在“样品标签难”和“成本高”的问题。秦永坚信,小样本自我监督学习可以改善这些困难。

阿里&浙江大学:增强人工智能对垃圾文本变异的稳定性和区分度

阿里安全算法专家,如李劲锋,经常会遇到恶意用户发送大量垃圾短信,黑灰试图通过对抗的手段来规避阿里安全内容风险控制智能AI系统的检测。

以文本内容为例,恶意用户通过对文本中的非法内容进行变形和变异,可以达到绕过模型识别和检测的目的。由于文本对抗的门槛和低成本,文本内容风险控制场景中的对抗异常激烈,给智能风险控制系统带来了巨大的挑战。

figure:真实应用场景中的对抗文本(红色字体的变体词)

为了应对挑战,解决对抗场景中风控模型性能衰减的问题,阿里安全图灵实验室和浙江大学提出了一种基于对抗图的文本对抗防御技术。

figure:基于对抗图的文本对抗防御框架

与现有技术相比,阿里的安全内容风险控制系统建模与场景无关,只需训练一次即可应用于各种场景。基于对抗图,可以解决更复杂的多跳变异问题,如威-威-围。阿里安全团队将防御框架应用到手机淘宝、旺旺的反垃圾邮件场景中,取得了良好的应用效果。

中国科技大学&阿里:打造人工智能系统“防火墙”

去年,阿里安全图灵实验室发布了“AI安全诊断大师”,对AI模型的安全性进行了综合评估,并提出了提高AI系统防御能力的建议。

这种“人工智能安全防火墙”的一个关键技术是反样本检测。反样的一个重要特征是人眼无法分辨,这使得人工标记无法检测反样。

2020年,阿里安全图灵实验室提出了一种基于Transformer的对抗样本检测方法,改善了传统对抗样本检测方法只能检测特定攻击,难以推广到其他攻击的缺陷。

本研究解决了反样本检测的泛化问题,但对干扰很小、非常稀疏的反样本的检测仍然是当前研究的难点。为了识别大扰动和稀疏扰动的对抗样本,中国科技大学和阿里的研究人员提出了一种基于图像域和梯度域的双流对抗样本检测网络,其中图像域用于识别大扰动的对抗样本,梯度域用于识别小扰动和稀疏扰动的对抗样本。

图。双流对抗样本检测网络

随着防御技术的发展,攻击形式越来越多样化。在实际应用场景中,阿里安全图灵实验室也发现了一些没有限制的攻击形式,难以应对。阿里安全图灵实验室的高级安全专家岳峰说,阿里希望从攻防两端以及生产、教育和研究的方式来应对这一威胁。阿里安全与清华大学和UIUC(伊利诺伊大学厄巴纳-香槟分校)联合举办了CVPR2021反洗钱-计算机虚拟实验室(AML-CVworkshop),通过产学研结合的方式探讨AI安全问题。此外,三方在车间与天池共同举办了两个比赛:第六阶段——ImageNet无限反击和防御模式的白盒反击。

提高商品图像检索能力,优化用户搜索体验

随着电子商务平台各种模式下商品数据的快速增长,快速准确地找到用户需要的商品是一项艰巨的挑战。从基于内容的文本到商品图像的跨模态检索是缓解这一挑战的关键技术之一。

传统的跨模态检索方法基于单级特征表示和单粒度相似性度量,难以有效解决商品图像检索问题。

同时,从文本到商品图像的跨模态检索任务更加复杂。例如,一种服装在商品形象上表现出了很大的差异。衣服可以穿在模特身上,单独放置,折叠展示。服装图像的背景往往比较复杂。除此之外,商品图像还包含许多其他种类,一个图像中有许多种类的物体,令人眼花缭乱,难以区分。

浙江大学硕士研究生、阿里安全图灵实验室实习生马哲介绍说,在文本-商品图像的跨模态检索场景下,提出了HSL网络和两种不同粒度的相似性度量,能够显著提高商品图像检索的性能,适应复杂商品内容检索。

阿里安全图灵实验室高级算法专家华堂强调,这项新研究不仅致力于改善用户的搜索体验,还用于平台内容管理,谨防黑灰色产品利用看似合规的产品图片推销“禁售、限售”产品。

“我们希望通过新一代安全架构的核心技术AI来保护网络内容的安全,净化网络环境,通过AI来保护数字资产的知识产权,优化商业环境。同时也致力于通过AI防止黑灰色产品的对抗行为,尽最大努力为商家和用户打造更好的互联网平台。”华堂说。


以上就是阿里与中国科技大学、浙江大学和中国科技大学等大学合作开发了四项人工智能安全技术,并被纳入国际会议2010ema的全部内容了,喜欢我们网站的可以继续关注春元股票网其他的资讯!

相关推荐

龙大肉食拟募集不超过15亿元补充营运资金等
8月6日,首创获悉,龙大肉食(002726.SZ)公布了非公开发行股票计划。方案显示,本次龙大肉食的发行对象为不超过35家符合条...
康隆化工旗下子公司拟以1.2亿美元收购生物制剂公司ABL全部股权
3月1日,首创获悉,港股公司康隆化工(03759.HK)发布公告称,2月26日,康龙生物(英国)和康龙香港国际(均为全资子公司)...
恒盛地产:不打算与任何第三方谈判出售上海湾项目
10月19日,首创获悉,港股公司恒盛地产(00845.HK)发布公告称,关于拟出售恒盛上海湾项目剩余物业的报告与事实不符,毫无根...
天海防务第二大股东涉嫌合同欺诈被刑事立案
7月5日,首都国事获悉,天海防务(300008.SZ)公告称,公司近日收到上海市公安局松江分局下发的《立案通知书》。经该局审查,...
小鹏汽车再获逾3亿美元融资,电商巨头阿里巴巴领投
8月3日,国都获悉,据IT橙讯报道,小鹏汽车获得C%252B轮5亿美元融资,不到半个月时间,就获得了超过3亿美元的融资。中国电子...
五龙电动汽车:执行董事因行为不当被停职,子公司处理问题暴露
6月22日,首都国家获悉,五龙电动汽车(00729)公告,其专门委员会已就3月10日起被停职的执行董事曹忠担任集团董事及若干其他...
特斯拉全球最大充电站将亮相概念车
2017-11-20财富创业板新闻:特斯拉官方网站发布了最新消息,特斯拉全球最大的超级充电站"上海浦东紫丁香国际商务中心"充电站...
明阳智能股东汇付凯乐提前终止减持,现已完成减持2.22%的股份
12月28日,首创获悉,A股公司明阳智能(601615.SH)提前终止了减持计划。明阳智能于2020年12月25日收到广州汇富凯...
安徽区域股市周报:8家机构调查Excalibur股票6952万股融资购买海螺水泥
截至2021年5月16日,安徽有132家A股上市公司,总市值达20205.59亿元,位居全国第十,比上周增加458.54亿元。安...

友情链接