2024 AI安全报告：AI风险很大！

Zscaler 最近公布了2024年AI安全报告，揭示了企业在全球范围内采用和阻断AI应用程序的关键趋势、风险和最佳实践。报告还提到了AI驱动的钓鱼攻击的增加，其中包括生成式AI驱动的方案，如语音钓鱼和深度伪造钓鱼，这些攻击在全球范围内几乎增长了60%。

1、人工智能、机器学习工具的使用量增长了594.82%，从2023年4月的5.21亿笔交易增加到2024年1月的31亿笔。
2、企业阻止了18.5%的人工智能/机器学习交易，在几个月内被阻止的交易增加了577%。反映了对AI数据安全的担忧正在增长。
3、制造业产生的AI流量最多，占Zscaler云中所有人工智能/机器学习交易的20.9%，其次是金融和保险(19.9%)和服务业(16.8%)。ChatGPT的使用率继续飙升，增长了634.1%。
4、产生人工智能和机器学习交易最多的前5个国家是美国、印度、英国、澳大利亚和日本。
5、企业正在向AI工具发送大量数据，2023年9月-2024年1月期间，人工智能机器学习应用程序之间总共交换了569 TB的数据。
人工智能正在助力个人效率提升的同时，也助长了非法网络攻击行为，包括人工智能驱动的网络钓鱼活动、深度伪造和社会工程攻击、多态勒索软件、企业攻击面发现、自动化漏洞生成等等。