ChatGPT 会告诉你以下内容：
或者，给 Dalle-2（一个经过视觉数据训练的生成式人工智能） ，提示“一朵花”会产生这样的结果：
令人印象深刻，对吧？
现在想想，人工智能能用从 2022 年发生的 1,063 起安全事件中获取的密码库做什么，这些事件导致超过 4.08 亿条记录被泄露。暂时搁置这个想法。
生成式人工智能如何工作？
最近，我们讨论了使用 ChatGPT （可以说是目前最流行的生成式 AI） 可以做什么，并深入探讨了其工作原理。
生成式人工智能依靠机器学习和神经网络来识别其“输入”的数据集中的模式。然后，这些学习到的模式用于处理用户提示并输出新内容。
具体实现方式 各有不同。这取决于学习方法、基础模型和算法——基本上就是如何处理输入、与什么进行匹配以及输出什么。
生成式人工智能的例子
大多数人都会遇到 OpenAI 的 ChatGPT大型语言模型 (LLM)，要么使用过它，要么至少听说过它。这几乎是不可避免的。
但 LLM 并不是唯一一种生成式 AI 工具。其他类型包括：
文本生成工具（Jasper、AI Writer）
图像生成人工智能（DALL.E、Midjourney、Stable Diffusion）
音乐生成
代码生成（OpenAI Codex）
多式联运
这些生成式 AI 工具都利用现有数据来创建新的文本、视觉、音频、内容、代码、半导体蓝图……可能性几乎无穷无尽。
它们还可以通过分析和学习过去的攻击和网络漏洞来生成新的安全威胁。但反之亦然——生成式人工智能可以用来防范网络威胁。
人工智能如何用于安全领域？
什么是人工智能安全？
首先，让我们定义一下什么是人工智能安全。简而言之，人工智能安全是应用人工智能和机器学习来识别、分析、补救、预测和保护个人和企业免受网络安全威胁的实践。
当安全专家致力于保护以下事项时，这些威胁在企业中成倍增加：
面临网络攻击的漫长前线
每个组织中有多个设备
众多潜在的攻击媒介
大量内部网络流量无法由人类监控
人工智能如何改变网络安全
生成式人工智能所采用的机器学习工具不仅能将提示转化为家庭作业。
人工智能和机器学习能够以比人类快得多的速度分析大量数据。这使得它们能够检测到甚至隐藏得很好的威胁。
例如，机器学习可以通过对以前检测到的威胁进行数据分析来 妈妈电话号码数据 学习检测新的恶意软件威胁。更重要的是，即使这些威胁隐藏在看似无害的代码中，它也能检测到它们。
通过分析过去的威胁，人工智能和机器学习还可以帮助：
预测违规风险
检测网络钓鱼和短信钓鱼企图
过滤垃圾邮件
保护密码
识别机器人
进行漏洞管理
这些只是 AI/ML 辅助实时威胁预防的几个例子。
但人工智能和机器学习能做的不止这些。网络安全专家也在使用生成式人工智能来增强安全性。
人工智能如何改善网络安全
人工智能和机器学习预测可以帮助您识别潜在的攻击媒介并相应地设置防御措施。网络安全专家可以使用生成式人工智能来完善这些防御措施。
我们熟悉的一个例子是短信防火墙中人工智能和机器学习的使用。这里的应用是跟踪某些关键字和组合，以过滤掉短信钓鱼尝试。
其他更广泛的例子包括：
模拟攻击
网络安全团队可以使用生成式人工智能来创建高度逼真的攻击，以测试和揭示人类和系统的准备情况。
这有助于通过暴露和修复任何漏洞来防止未来的攻击。
模拟环境
生成式人工智能还可以模拟真实环境来测试安全系统并暴露漏洞以帮助加强防御。
通过提高安全性，恶意行为者将被阻止试图突破强化的防御并转向更易受攻击的系统。
人工智能会对网络安全构成威胁吗？
生成式人工智能可用于防御多种攻击；但它也可用于生成各种新的和改进的威胁。
生成式人工智能带来的风险
您是否曾经收到过拼写错误的电子邮件或短信，告知您中了奖品并要求您单击链接领取？
我们都有。
