摘要：他与大家分享的主题是:“大规模视觉对抗训练”，届时他将分享如何在互联网级别的图像-文本对数据上进行对抗训练，并通过引入一种高效的二阶段训练策略，使其计算成本可控。

本期为TechBeat人工智能社区第647期线上Talk。

北京时间12 月11日(周三)20:00，加州大学圣塔克鲁兹分校博士生王泽宇的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “大规模视觉对抗训练”，届时他将分享如何在互联网级别的图像-文本对数据上进行对抗训练，并通过引入一种高效的二阶段训练策略，使其计算成本可控。

Talk·信息

▼

主题：大规模视觉对抗训练

嘉宾：加州大学圣塔克鲁兹分校 · 博士生 - 王泽宇

时间：北京时间 12月11日(周三)20:00

地点：TechBeat人工智能社区

一键预约TALK！

Talk·介绍

▼

Scaling Law和Foundation Model正推动整个机器学习社区发生巨大变化。然而，对抗训练领域却相对滞后。现有工作仍然大量集中在ResNet-50 等小模型和 CIFAR-10 等低分辨率的小数据集上。

本次分享将探讨如何弥合这一差距。我们首次探索了如何在互联网级别的图像-文本对数据上进行对抗训练，并通过引入一种高效的二阶段训练策略，使其计算成本可控。我们的模型在此前的标准视觉鲁棒性测试基准RobustBench上取得了SOTA结果。

进一步研究表明，这一方法还可以拓展到CLIP和LLaVA等大视觉-语言模型上，相比于原始的CLIP和LLaVA模型，能以较小的性能损失，极大地提升模型在零样本识别和视觉问答等场景对对抗攻击的鲁棒性。

Talk大纲

1. 背景与动机，介绍当前视觉对抗训练和鲁棒性的进展与挑战。

2. 大规模视觉对抗训练：从1M ImageNet 有标注图像数据到1B DataComp 互联网图像-文本对

3. 从纯视觉模型到视觉语言模型：Delta-CLIP和Delta-LLaVA模型

4. 技术总结

Talk·预习资料

▼

论文链接：

论文链接：

项目主页：

Talk·提问交流

▼

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

Talk·嘉宾介绍

▼

王泽宇

加州大学圣塔克鲁兹分校 · 博士生

王泽宇是加州大学圣塔克鲁兹分校计算机系在读博士生，导师为Cihang Xie教授。他的研究兴趣主要在大视觉-语言模型的应用及其安全性。他曾在CVPR/ICCV/NeuRIPS/ICLR/ICML等会议上发表多篇论文。

个人主页:

https://www.techbeat.net/grzytrkj?id=42920

-The End-

如果你也想成为讲者

▼

自荐 / 推荐

单人Talk | 团队专场 | 录播or直播 | 闭门交流

多种方式任你选择！

推荐讲者成功也有奖励哦~

关于TechBeat人工智能社区

▼

TechBeat(www.techbeat.net)隶属于将门创投，是一个荟聚全球华人AI精英的成长社区。

我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。

期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>TechBeat，一个荟聚全球华人AI精英的学习成长社区

来源：友好教育