在哈工大，他想实现AI安全“大梦想”

在年级260多名学生里

他平均学分成绩排名第一

斩获国家奖学金

2次获学业一等奖学金

在计算机视觉领域三大顶会之一

2024年欧洲计算机视觉国际会议（ECCV 2024）

作为共同第一作者发表论文

获评哈工大“十佳学习卓越之星”

……

对于哈尔滨工业大学深圳校区计算机科学与技术学院

2021级本科生余泓垚来说

目前取得的成绩

都是他矢志攀登科学高峰征途中

实现的一个个“小目标”

在他的心里

还深藏着一个“大梦想”

那就是为AI技术

加上更加牢固的“安全锁”

余泓垚

“一场演示”赋予他兴趣

在余泓垚的学习生涯中

曾两次与计算机结缘

初二那年

余泓垚研究了网页代码的相关知识

正是这“一行代码”

让他对计算机产生了浓厚的兴趣

他主动上网搜索了解到

哈工大计算机学科发展的诸多成就

研制出我国第一台结构式模拟计算机

和第一台能说话、会下棋的计算机

……

余泓垚被哈工大深深“种草”

高考那年

他以671分的成绩

如愿被哈工大深圳校区

计算机科学与技术专业录取

余泓垚获得国家奖学金。

余泓垚获得学业一等奖学金。

大一时

当不少同学还在学习

C语言和数据结构等知识

余泓垚已经开始接触AI

探索函数式编程等“进阶级”知识

“在课堂上保持100%的专注

尽量把大部分知识消化掉

这样课后就能有更多时间

去探索自身兴趣所在”

余泓垚的“超车秘诀”

就在于明确目标，提升学习效率

余泓垚（左三）前往鹏城实验室参观。

在哈工大

余泓垚有很多走进企业

和科研机构参观实践的机会

就在走进鹏城实验室的

一次实践活动中

余泓垚看到了令他印象深刻的

“一场演示”——

发电厂、无人驾驶汽车

遭受网络攻击带来了

严重的“模拟后果”

让他大受震撼

“我们如何应对AI时代的安全挑战？”

这个问题带给他浓厚的兴趣

也让“AI安全”在他的心中生根发芽

“一个团队”赋予他希望

在电影《头号玩家》中

人们一遍遍尝试克服“绿洲”里的难关

逃出AI构建的“虚拟世界”

这让余泓垚“灵光一现”

有了好的想法

他也开始积极寻找自己的“伯乐”

余泓垚了解到哈工大深圳校区

陈斌副教授的研究方向正是AI安全

他鼓起勇气向陈老师“毛遂自荐”

没想到陈老师欣然接受了自己

“哈工大的老师们

总是非常鼓励而且大力支持

本科生参与项目实践

这让我很受鼓舞”

于是余泓垚正式加入陈斌老师团队

开始了AI技术安全方面的研究

与团队的小伙伴们

展开了基于中间层搜索的

模型反演攻击研究

通过访问推理阶段的人脸分类模型

重建训练该模型的隐私人脸图片

相关研究成果以论文形式发表在

计算机视觉领域三大顶会之一的ECCV 2024

余泓垚（右四）作为优秀学生代表参加CNCC中国计算机大会。

这篇论文的最后一句话写道

“我们希望本文能引起人们

对发布预训练模型隐私泄露风险的关注

促进对模型反演攻击威胁的防范”

“炙手可热的人脸识别技术

其实存在着隐私泄露的风险

我们希望通过自己的努力

为这项技术‘加密’”

余泓垚希望能够在日常生活中

保障人们个人隐私安全

此后

他又和小伙伴们

搭建了一个开源平台

将原本各有“路数”的15种攻击算法

与5种防御算法集成到一起

为模型反演攻击与防御的研究

提供系统化标准化平台

“这对推动AI安全领域的

系统化发展很有助推作用”

余泓垚自豪地说

“一个梦想”赋予他动力

让AI技术更安全

有了这个“大梦想”

余泓垚的大学生活充满动力

在“龙芯杯”全国大学生系统能力竞赛中

他和小伙伴们“debug”到深夜

却还是无法通过测试

“在追寻梦想的道路上

还会有很多困难

这点算什么”

余泓垚总是这样激励着自己

最终获得了该项比赛的全国三等奖

余泓垚获得团体赛三等奖

在“高教社杯”全国大学生数学建模竞赛

美国大学生数学建模竞赛等比赛中

余泓垚也有所斩获

“一纸证书不是目的

学以致用、探索前行才是方向”

余泓垚坚定地说

“在哈工大

我深深地感受到了

探索未知和挑战自我的魅力

这里是一个赋予我

成长勇气的地方”

勇毅前行，追求卓越

相信余泓垚将会继续努力

在AI安全领域

让自己的“大梦想”变为现实

加油！

（受访者供图）

编辑 孔盼成 审读 伊诺 二审 张玉洁 三审 张颖