2024年5月27日下午，信息学院荣幸地邀请到了浙江师范大学计算机科学与技术学院的彭浩教授，共同参与全国科技活动周活动。彭教授为信息学院的师生们带来了一场主题为“大模型安全与挑战”的精彩讲座，深入剖析了大模型在实际应用中的可靠性与安全性问题，并在算法设计、数据处理和系统部署等方面进行了深入的探讨，极大地激发了在场师生的学术兴趣。

彭浩，教授，“双龙学者”特聘教授，博士生导师，博士后合作导师。浙江师范大学计算机学院副院长、人工智能研究院副院长、网络安全与优化研究所所长、金华市计算智能与信创应用重点实验室负责人等。

讲座伊始，彭教授介绍了大模型的发展历程、实际应用和前沿应用，指出通用大语言模型的能力已经覆盖到生活工作中的方方面面。随着大规模预训练模型在自然语言处理、图像识别等领域的广泛应用，其潜在的安全风险也逐渐显现。大模型的复杂性和数据依赖性使其容易受到对抗攻击和数据中毒等威胁。此外，大模型的资源消耗和部署复杂性也给安全保障带来了新的挑战。

接着，彭教授介绍了大模型的强大功能，并探讨其为安全防护提供的创新和智能化的解决方案。彭教授强调，尽管大模型本身或在实际应用中存在一些安全风险和挑战，但同时也开启了增强安全防御能力的新纪元。

通过此次讲座，师生们了解到大模型安全问题与生活息息相关，对于人工智能领域的大模型安全与挑战这一亟待解决的问题有了更加清晰的认识。