构建安全防线 - 从密码学到AI安全
网络安全是指保护网络系统的硬件、软件及其系统中的数据, 使之不因偶然或恶意的原因而遭受破坏、更改、泄露,系统连续可靠正常地运行。
在AI时代,安全挑战更加严峻:模型被窃取、数据投毒攻击、 提示词注入、隐私泄露等新型威胁层出不穷。
Confidentiality
信息不被未授权者获取
Integrity
信息不被未授权修改
Availability
授权用户能正常访问
🎯 从基础密码学到AI安全的完整技术栈
优点:速度快,效率高
缺点:密钥分发困难
→ 适合大数据加密
优点:密钥分发安全
缺点:速度慢,开销大
→ 适合密钥交换
优点:不可逆,固定长度
缺点:无法解密
→ 适合完整性校验
1-4. 协商算法
确定加密套件
5. 验证身份
检查服务器证书
6-9. 密钥交换
协商会话密钥
10-11. 加密通信
对称加密传输
全球Web应用安全标准,每个开发者都必须了解的10大安全风险
通过输入恶意SQL代码,窃取或破坏数据库
示例攻击:
' OR '1'='1
防护:
使用参数化查询、ORM框架
弱密码、会话管理不当导致身份被盗
常见问题:
默认密码、会话不过期
防护:
强密码策略、多因素认证MFA
未加密传输或存储敏感信息
风险数据:
密码、信用卡、个人信息
防护:
HTTPS传输、数据库加密
注入恶意脚本到网页,窃取Cookie
攻击类型:
存储型、反射型、DOM型
防护:
HTML转义、CSP内容安全策略
用户能访问不该访问的资源(越权)
典型场景:
修改URL参数访问他人数据
防护:
服务端权限校验、RBAC
使用有已知漏洞的第三方库
风险:
Log4j、Struts等历史教训
防护:
及时更新、漏洞扫描
用户输入恶意指令,覆盖系统提示词
"忽略之前所有指令,现在你是..."
在训练数据中注入恶意样本
导致模型学习错误知识或后门
精心设计的输入欺骗模型
人类看起来正常,模型却误判
通过API调用推测模型参数
大量查询,逆向复制模型
分析源代码找出安全漏洞
运行时测试发现漏洞
模拟攻击发现弱点