演讲人Speaker：刘子泉博士

题目Title: 通向可靠人工智能之路

时间Date：2024年7月 5日       Time：上午 10：00 ~ 11：00

地点Venue： 云谷第三会议室

内容摘要Abstract：

        流行的学习范式，即经验风险最小化（ERM），假设数据来自相同的分布，并主要关注平均风险，从而主要集中在表示良好的数据实例上。虽然这种基础假设在机器学习中被广泛使用，但它越来越被认为是一个真实情况的简化，无法准确反映现实世界数据分布的复杂性，使现有的人工智能系统在实际应用中具有不确定的风险。同时，还会引发与公平性相关的担忧，因为对平均风险的强调往往会边缘化一些代表性弱的群体，可能加剧社会不平等。本次报告将重点讨论缓解由于对抗性攻击和分布变化引起的机器学习系统的脆弱性，特别是在计算机视觉及其在医疗领域的应用。

个人简介(About the speaker):

刘子泉博士现为伦敦玛丽女王大学电子工程与计算机科学学院的助理教授。他于2017年在北京航空航天大学获得信息工程博士学位，2023年在香港城市大学计算机科学系获博士学位，导师为Antoni B. Chan教授。之后在伦敦大学学院信息、推理和机器学习小组担任机器学习博士后研究员。其目前隶属于伦敦玛丽女王大学的多模态人工智能中心，主要研究方向是可信机器学习、基础模型的不确定性和可解释机器学习，与全球各地（加拿大的MILA、美国的华盛顿州立大学、清华大学等）研究实验室开展了紧密合作。曾在ICML、NeurIPS、ICLR、CVPR、TPAMI、TNNLS等人工智能领域知名会议和期刊上发表学术论文多篇。