文章目录
- 前言
- 一、大模型发展现状
- 1.1 大模型技术的发展历程
- 1.2 大模型技术的产业发展
- 二、大模型安全政策与标准现状
- 2.1 国外大模型安全政策与标准
- 2.2 我国大模型安全政策与标准
前言
随着大模型技术的迅速发展和广泛应用，其安全性问题日益凸显。密码学作为网络空间安全的核心技术之一，在保障大模型系统安全方面发挥着重要作用。
围绕大模型技术发展态势、安全政策与标准现状，针对所面临的安全威胁与风险，研究密码技术在大模型系统安全治理中的应用，并提出基于密码的安全治理架构，阐述架构的构建原理和关键组成，为大模型的安全防护提供了新的视角，为后续密码学与人工智能技术的融合研究提供参考。
一、大模型发展现状
1.1 大模型技术的发展历程
2006 年，Geoffrey Hinton 及其团队提出“深度学习”的概念，用于训练深层次的神经网络。回顾过去十多年的技术发展，随着计算硬件（尤 其是 GPU）的发展和海量标注数据的获得，深度学习主要经历了 3 大转变：从“标注数据监督学习”的任务特定模型，转变到“无标注数据预训 练 + 标注数据微调”的预训练模型，再转变到“大规模无标注数据预训练 + 指令微调 + 人类对齐” 的大模型，逐步成为实现人工智能的关键技术， 推动人工智能技术进入大模型时代。
2022 年底，由 OpenAI 发布的语言大模型 ChatGPT 引发了社会的广泛关注，发布后仅两个月，用户数突破一亿人。在“大模型 + 大数据 +大算力”的加持下，ChatGPT 能够通过自然语言交互完成多种任务