大模型安全、监管与合规

封面

版权信息

内容简介

前言

第1章 大语言模型安全及其挑战

1.1 大语言模型的发展历史与技术现状

1.1.1 序章：起源与早期形态

1.1.2 转折：神经网络的兴起

1.1.3 现代巨人：GPT与BERT的时代

1.1.4 技术现状与应用领域

1.2 大语言模型安全的范畴

1.2.1 大语言模型的技术安全：关键挑战是什么

1.2.2 大语言模型的监管与合规：面临哪些关键问题

1.3 生成式人工智能安全的重要性

1.3.1 提升大语言模型的社会信任和声誉

1.3.2 降低大语言模型的法律风险

1.3.3 保护大语言模型的用户数据隐私

1.3.4 保障大语言模型服务的连续性

1.3.5 提高大语言模型的系统稳定性

1.4 大语言模型安全的现状与挑战

1.4.1 大语言模型的安全隐患与主要风险点

1.4.2 大语言模型与国家安全风险

1.4.3 大语言模型安全治理之道：发展与安全并重

第2章 大语言模型技术层面的安全风险

2.1 大语言模型的信息安全原则

2.1.1 机密性

2.1.2 完整性

2.1.3 可用性

2.2 传统安全风险

2.2.1 传统网络攻击依然具有威力

2.2.2 常见的传统网络攻击方式

2.3 识别和分析人类意图上的挑战

2.3.1 恶意意图的识别难题

2.3.2 AI生成虚假信息传播

2.3.3 利用AI进行黑客攻击

2.4 大语言模型的固有脆弱性

2.4.1 对抗攻击

2.4.2 后门攻击

2.4.3 Prompt攻击

2.4.4 数据投毒攻击

2.4.5 模型窃取攻击

2.4.6 数据窃取攻击

2.4.7 其他常见安全风险

第3章 大语言模型监管与合规的法律框架

3.1 全球视野下的AIGC监管现状

3.1.1 AIGC企业面临的诉讼压力

3.1.2 针对AIGC企业的执法调查屡见不鲜

3.1.3 各国抓紧AIGC相关立法

3.2 国内的监管体系

3.2.1 国内监管体系概述

3.2.2 国内现行监管政策梳理与总结

3.2.3 国内重点监管政策解读

3.3 国外的典型法域

3.3.1 欧盟

3.3.2 美国

3.3.3 英国

3.3.4 新加坡

3.3.5 加拿大

3.3.6 韩国

第4章 大语言模型知识产权合规

4.1 著作权

4.1.1 著作权概述

4.1.2 AIGC生成物的著作权定性分析

4.1.3 AIGC技术相关的著作权侵权风险

4.1.4 典型案例分析

4.1.5 小结

4.2 开源协议

4.2.1 开源协议概述

4.2.2 开源协议引发的侵权风险

4.2.3 涉及开源协议的相关案例

4.2.4 涉及开源协议的侵权风险防范措施

4.3 专利权

4.3.1 专利权概述

4.3.2 AIGC场景下的专利权相关问题

4.4 商标权

4.4.1 商标权概述

4.4.2 AIGC场景下的商标侵权

4.4.3 人工智能生成物与商标侵权

4.5 商业秘密

4.5.1 商业秘密概述

4.5.2 AIGC场景下常见的商业秘密相关风险

4.5.3 典型案例分析

4.5.4 小结

第5章 大语言模型数据合规

5.1 模型训练阶段

5.1.1 数据采集

5.1.2 数据质量提升

5.2 模型应用阶段

5.2.1 告知同意

5.2.2 个人信息权利行使

5.2.3 收集儿童个人信息

5.2.4 数据跨境

5.3 模型优化阶段

5.3.1 数据使用

5.3.2 数据安全

第6章 大语言模型内容安全

6.1 内容安全监管

6.1.1 国内视角下的监管

6.1.2 国外视角下的监管

6.2 内容安全风险