雷峰网(公众号：雷峰网)。
（凤凰科技）百度回应全资控股集度汽车：集度CEO为夏一平，仍与吉利共同持股6月30日，百度全资收购集度汽车，吉利关联公司退出的消息引发广泛关注。此外，该工作人员提供的预售信息显示，恒驰 5 还没有完全确定要卖多少钱，但业界猜测预计 20 万左右，首批预售产量约为 1 万台。
合作的第一步，是串连西门子旗下的开放式数位业务平台 Siemens Xcelerator 与 NVIDIA 用于3D设计与协作的 NVIDIA Omniverse，以运用西门子符合物理定律的数位模型与 NVIDIA 的即时 AI 技术打造出工业元宇宙，进而协助企业更快做出决策。国内新闻奈雪的茶推出喝茶送虚拟股票，还能加杠杆，律师称涉嫌非法集资6月30日，奈雪的茶推出喝茶送虚拟股票活动。极兔快递个别网点被曝拖欠快递员工资造成大量快递积压。另外一名特斯拉员工对媒体证实了该封邮件的真实性。解禁当日商汤股价暴跌超40%，市值蒸发逾800亿港元，商汤回应：管理层对本集团长期价值及前景充满信心6月30日，商汤港股开盘即暴跌超40%，市值蒸发逾800亿港元。
严格考勤的同时，特斯拉也在进行着大规模的裁员。网易发布2021年ESG报告：研发投入三年329亿，研发人员占比50%日前，网易发布了2021年ESG（环境、社会和管治）报告，报告显示，过去三年，网易研发投入达329亿，研发人员超过1.5万，占比约50%。具体来说，对于这种公开的模型，其实后门植入是比较简单的。
相关的论文我们已经发表了，大家感兴趣的话可以去看一下。因此，今天想跟大家也分享一下，从我的观点来看，互联网场景或者金融场景之下，AI技术面临的安全风险和挑战。导致现在去寻找这样的后门是非常困难的。比如我们在 5的图片上增加一个框体，我们将这样的一个框体作为它的后门的触发点。
这证明该模型推断过程存在很大的问题，不具备很好的可解释性。因此，为了实现高效率，高精度的伪造检测，我们采用了单帧、关键帧的检测方法，来对这种多类的方法进行比对。
然后再往上的话，就是纯黑盒，从大量的输入来推断相关的后门是否存在，意味着你在输入阶段需要有大量的后门样本。深度伪造技术也可以对人脸、物体、场景的合成，人脸属性编辑、表情操控等方面有一些明显的影响。在这里我们很粗略地将它分了四个阶段，包括了模型训练、模型推断、模型部署和模型应用。例如，2019年伪造语音诈骗总额高达了1700万美元。
我们知道现在的模型都是通过数据驱动来形成的，模型本身一定要与当前的业务场景相结合，需要对应用场景的机理进行理解。对模型深度学习训练状态进行实时监控，对训练状态引发的潜在风险进行检测，并对问题进行实时修复。我们对全网就我们能看到的、最populpar 的495个模型，进行了检测和修复的测试。他在特征在这个识别的时候，我们拿一张新的照片出来，把这个人脸抠出来，然后提取他这个特征，再和特征库中的特征进行匹配，如果合适的话，就完成人脸识别。
这样的方式也可以作为一个将模型的梯队信息进行可视化，然后用这样的可视化图做一定的解释。然后，这个系统当时包含了多种数据集、多检测算法，多生成质量评价，与多检测算法，还有包括相关的标准以及能力的评估等。
这里面有2类技术，一类是表征空间特征探索，相当于我们在表征空间中找到这种跨域的机制探索的方法，同时采用一些自蒸馏的软标签监督信号，对对抗攻击进行防御。触发器在哪里、什么样的、什么效果，你并不知道，而且测试集验证集也很少，很难去触发一些触发器的特征或者一些标注，使得后门的检测面临着很大的挑战。
我们知道在训练环节会发现很多细节和问题点，但这些问题都存在很强的隐蔽性，很容易导致时间和资源浪费。深度伪造技术以假乱真，引发了很多的争议，而视频合成技术也被不法分子利用，进行网络诈骗。我们在开发任何框架之前都会依赖库。在此基础上，数据驱动和机理理解融合起来，形成网络欺诈智能识别防御，才是未来的一个比较好、一个值得去做的一个方向。如果在特征提取环节进行后门的改写，或者说后门植入的话，那在原始图片上就很少有修改了，这样的过程导致后门的提取、后门的检测变得异常的困难。我们可以看到，大家关注的环节分别对应着模型部署、集成和模型推断。
我们做了很多的实验，我们发现在物理场景之中，基于特征后门攻击的方式，对当前所有的后门特征检测的方法都是有效的，而成功率是极高的。我也非常荣幸能够在这里跟大家分享我们对一些问题的看法。
但是，这种模型的应用点是非常多的。随着后门植入相关攻击领域的发展，有一些后门植入的新的概念和方法出来。
本期分享会的主题是《网络欺诈的风险与对抗》。安全隐患定位是从已有的情况出发，发现导致这个当前风险的模块和函数在哪里。
因为深度伪造安全问题，现在的这种场景很多，给身份欺诈，金融欺诈等带来各种各样的风险。我们团队曾做过一个研究，就是我们下载了这个领域当中最popular的前500个模型，这些模型下载量都很大，有的一个月的下载量能上好几十万。我们现在的一个主要思路，是可以利用模型的可解释性，获取样本的关键区域，并对这种可解释性关键区域提出基于模型可解释性感知图的对抗攻击，用这样的方法在一定程度上来遏制对抗攻击对于部分识别和智能感知场景造成的影响。所以，我们要在这样的情形之下，对关键样本进行对抗微调，以使得这种决策边界具有更好的鲁棒性，更好地提高防御效果。
再往上的话就是在模型集成环节做隐层的输出，隐层输出在中间层。这样现象背后都是AI 技术在发展的同时，带来的隐私和风险，尤其在互联网及金融场景下的应用更为明显。
我们希望能引起大家的重视。但是，训练一个大规模的深度学习模型，往往会花费很长的时间，模型训练问题的解决非常重要，而不是把这个模型直接重新跑一遍，导致时间资源的极度浪费。
植入后门很简单，我可以在上亿个神经元之中放置后门的选择点，但是我想把它找出来却是一件很难的事。然后设计相关的敏感频带定位方法，以此在一定程度上对对抗扰动进行缓解和遏制。
以深度伪造、精准化的评估方法，形成了深度伪造检测的欺诈风险识别系统。这个主题是《网络欺诈风险识别与防御的全局视角》。我们对现有的检测方法做了一个总结，我们可以看到现有的深度伪造检测方法各异，缺乏在统一数据集上进行公平的对比，检测能力评测指标单一且不完善，缺乏对性能指标的一些评价。在模型应用阶段，我们可以看到AI框架被大量广泛地使用。
其次，还有一些特征可视化的方法，那就是从输入到输出了。而我们知道，这些模型很容易被别人植入后门。
此外，我们还想提一个模型训练阶段的延伸风险，这是跟后门有点关系，但是是从另一个侧面来看这个问题的。但是，由于很少有人会放出来一些后门的样本数据，所以测试数据集非常少。
我国已将人工智能上升到国家战略层面，在工业医疗领域都有着广泛的应用和市场前景。模型训练阶段在模型训练阶段的风险问题是，模型很容易遭受到后门攻击。
留言0