您查看的活动已结束

1.Backdoor Mitigation via Adversarial Training Techniques

Abstract: 

Backdoor attacks are a serious threat to the security and reliability of machine learning models. In this talk, I will present two novel methods for defending against backdoor attacks using a small clean dataset. The first method, Shared Adversarial Unlearning (SAU), leverages the connection between backdoor risk and adversarial risk, and aims to mitigate the backdoor effect by unlearning the shared adversarial examples between the backdoored model and the purified model. The second method, Neural Polarizer, is inspired by the mechanism of the optical polarizer, and aims to purify the poisoned samples by filtering out the trigger information while preserving the benign information. Both methods are formulated as bi-level optimization problems, which can be solved efficiently using adversarial training techniques. I will demonstrate the effectiveness and efficiency of our methods on various benchmark datasets and network architectures, and show that they outperform existing fine-tuning-based defense methods, especially in the case of very limited clean data. I will also discuss some open challenges and future directions for backdoor defense research.

Bio:

Shaokui Wei is currently a Ph.D. candidate in the School of Data Science (SDS), the Chinese University of Hong Kong, Shenzhen (CUHKSZ) under the supervision of Professor Hongyuan Zha and Professor Baoyuan Wu. Previously, he received a Bachelor's degree (rank No.1, first-class honor) in Electronic Information Engineering from the School of Science and Engineering (SSE), CUHKSZ. His research interest lies in  in AI Security and Fairness, Computer Vision and Optimization, but also include Kernel Methods, Reinforcement Learning, and the application of Machine Learning in economics/marketing. 

2. Lovász Principle for Unsupervised Graph Representation Learning

论文摘要

本文侧重于图级表示学习，旨在将图表示为可直接用于图分类等下游任务的向量。我们受到了图论中Lovász数的启发并提出了一种名为Lovász原理的新型图级表示学习原理。Lovász数是一个实数，是图Shannon容量的上界，与图的各种全局特征密切相关。具体而言，我们展示了用于计算Lovász数的伞柄向量可能是图表示的合适选择，因为它捕捉了图的全局特性。为了处理直接应用伞柄向量带来的困难和问题，我们将Lovász 原理应用于图神经网络来解决这些问题。此外，我们提出了一个增强版的Lovász原理来更高效地利用子图的Lovász数。实验证明，我们的Lovász原理在无监督和半监督图级表示学习任务中与基线方法相比取得了具有竞争力的表现。

 论文摘要（英文版）

This paper focuses on graph-level representation learning that aims to represent graphs as vectors that can be directly utilized in downstream tasks such as graph classification. We propose a novel graph-level representation learning principle called Lovász principle, which is motivated by the Lovász number in graph theory. The Lovász number is a real number that is an upper bound for graph Shannon capacity and is strongly connected with various global characteristics of graph. Specifically, we show that the handle vector for computing the Lovász number is potentially a suitable choice for graph representation, as it captures a graph's global properties, though a direct application of the handle vector is difficult and problematic. We propose to use neural networks to address the problems and hence provide the Lovász principle. Moreover, we propose an enhanced Lovász principle that is able to exploit the subgraph Lovász numbers directly and efficiently. The experiments demonstrate that our Lovász principles achieve competitive performance compared to the baselines in unsupervised and semi-supervised graph-level representation learning tasks.

论文链接：

https://openreview.net/group?id=NeurIPS.cc/2023/Conference/Authors&referrer=%5BHomepage%5D(%2F)

孙子恒，本科毕业于浙江大学电气工程学院电子信息工程专业，现在为港中文深圳大数据与人工智能学院2020级博士生，其导师为丁宏强教授 Professor Chris Ding，其大数据研究院合作导师为樊继聪教授。孙子恒的研究领域为人工智能在图结构数据的应用，包括图神经网络，图表示学习，图论，以及各种图相关的嵌入方法和核方法。他对传统机器学习方法，特别是特征选择，聚类，主成成分分析（PCA）等方面也有一定的研究。在数学方面，他擅长矩阵分析，交替乘子优化，离散优化等方法，并且对组合数学，图论，信息论也有一定的了解。

3. Information Design in Multi-Agent Reinforcement Learning

个人简介（英文）：Hi, this is Yue Lin. Currently, I am a research assistant in School of Data Science at The Chinese University of Hong Kong, Shenzhen, fortunately advised by Prof. Baoxiang Wang. My current research interest is in multi-agent reinforcement learning and information design, as well as mechanism design issues in other related computational economics fields. And my personal website is https://yuelin301.github.io/.个人简介（中文）：你好，我是林越。目前，我是香港中文大学（深圳）数据科学学院的科研助理，有幸由王趵翔教授指导。我的目前的科研兴趣是多智能体强化学习和信息设计，以及其他相关的计算经济学领域中的机制设计问题。我的个人主页是https://yuelin301.github.io/。