ChatGPT 安全吗？OpenAI 聊天机器人的 6 个网络安全风险
虽然许多数字原住民赞扬了ChatGPT，但一些人担心它带来的伤害更大。关于罪犯利用人工智能的新闻报道一直在互联网上流传，这增加了怀疑者之间的不安。他们甚至认为ChatGPT是一种危险的工具。
AI聊天机器人并不完美，但你不必完全避免它们。下面是关于罪犯如何滥用ChatGPT以及你可以采取哪些措施来阻止他们的一切你应该知道的信息。
ChatGPT会泄露你的个人信息吗？
对于ChatGPT前端安全的担忧大多来自猜测和未经证实的报道。毕竟，该平台仅于2022年11月推出。对于新用户而言，对于陌生工具的隐私和安全存在误解是很自然的。
根据OpenAI的使用条款，以下是ChatGPT如何处理以下数据：
个人身份信息
有传言称ChatGPT出售个人身份信息（PII）。
该平台由OpenAI推出，OpenAI是由微软和埃隆·马斯克等技术投资者资助的声誉良好的人工智能研究实验室。ChatGPT应仅使用客户数据提供隐私政策中所述的服务。
此外，ChatGPT仅要求提供最少的信息。你只需提供姓名和电子邮件地址即可创建一个帐户。
对话
OpenAI保护ChatGPT的对话安全，但保留监控对话的权利。AI训练员不断寻找改进的方法。由于该平台包含庞大但有限的数据集，解决错误、漏洞和漏洞需要进行系统范围的更新。
然而，OpenAI只能出于研究目的监控对话。将其分发或出售给第三方违反了其自身的使用条款。
公开信息
根据英国广播公司（BBC）的报道，OpenAI在3000亿个单词上对ChaGPT进行了训练。它从公共网页，如社交媒体平台、商业网站和评论区域收集数据。除非你已经从数字世界中消失并删除了你的数字足迹，否则ChatGPT很可能拥有你的信息。
ChatGPT存在哪些安全风险？
虽然ChatGPT本身并不危险，但该平台仍存在安全风险。罪犯可以绕过限制执行各种网络攻击。
- 诱导式网络钓鱼邮件
与其花费数小时编写电子邮件，罪犯选择使用ChatGPT。它快速且准确。先进的语言模型（如GPT-3.5和GPT-4）可以在几分钟内生成数百封连贯且令人信服的网络钓鱼电子邮件。它们甚至可以采用独特的语调和写作风格。
由于ChatGPT使黑客攻击变得更难以察觉，回应电子邮件之前要格外小心。一般来说，避免泄露信息是一个好的原则。请注意，合法的公司和组织很少通过随机电子邮件索取机密的个人身份信息。
- 数据盗窃
ChatGPT使用开源LLM，任何人都可以修改。精通大型语言模型（LLM）和机器学习的编程人员经常将预训练的AI模型集成到他们的旧系统中。对新数据集进行AI训练会改变功能。例如，如果你给ChatGPT提供食谱和锻炼计划，它将成为一个伪健身专家。
虽然协作和便利，但开源使技术容易受到滥用。熟练的罪犯已经利用ChatGPT。他们将其训练在大量盗窃数据上，将该平台变成了个人用于欺诈的数据库。
记住：你无法控制罪犯的操作方式。一旦注意到身份盗窃的迹象，最好的方法是与联邦贸易委员会（FTC）联系。
- 恶意软件制作
ChatGPT可以写出不同编程语言的可用代码片段。大多数示例只需进行最小修改即可正常运行，特别是如果你构造了简洁的提示。你可以利用这个功能来开发应用程序和网站。
由于ChatGPT在数十亿个数据集上进行了训练，它还了解开发恶意软件和病毒等非法做法。OpenAI禁止聊天机器人编写恶意代码。但罪犯通过重组提示和提出精确问题绕过这些限制。
- 知识产权盗窃
不道德的博客作者利用ChatGPT对内容进行改写。由于该平台运行在先进的LLMs上，它可以快速重新表述成千上万个单词，避免了抄袭标记。
ChatGPT只用10秒钟就改写了下面的文本。
当然，改写仍然被视为抄袭。改写的AI文章有时可能会因为偶然而排名，但Google通常更喜欢来自声誉良好的原创内容。廉价的技巧和SEO黑客无法与高质量、持久的写作相提并论。
此外，Google每年发布多个核心更新。它将很快专注于从搜索引擎结果页面（SERP）中删除懒散、非原创的AI生成内容。
- 产生不道德回应
AI语言模型没有偏见。它通过分析用户请求并从其现有数据库中提取数据来提供回答。
以ChatGPT为例。当你发送提示时，它会根据OpenAI用于训练的数据集进行回应。
好消息是OpenAI并没有失去对ChatGPT的控制。它正在努力加强限制，让ChatGPT无论用户输入什么都不能产生不道德的回应。今后越来越难以越狱。
- Quid Pro Quo攻击
像ChatGPT这样新的、陌生的技术的快速发展为不正当条件攻击创造了机会。这些都是社交工程策略，罪犯用假优惠吸引受害者。
大多数人还没有探索过ChatGPT。黑客利用这种混淆向别人传播误导性的促销、电子邮件和公告。
最臭名昭着的案例涉及假应用程序。新用户不知道他们只能通过OpenAI访问ChatGPT。他们在不知情的情况下下载了垃圾程序和扩展。
大多数人只想要应用程序下载，但其他人则窃取个人身份信息。罪犯通过恶意软件和钓鱼链接感染他们。例如，2023年3月，一个假ChatGPT Chrome扩展每天从2000多名用户那里窃取Facebook凭据。
为了防止不正当条件尝试，请避免使用第三方应用程序。OpenAI从未为ChatGPT发布过授权的移动应用程序、计算机程序或浏览器扩展。任何声称是这样的都是骗局。
使用ChatGPT安全和负责任
ChatGPT本身并不构成威胁。该系统存在漏洞，但不会危害你的数据。与其害怕人工智能技术，不如研究罪犯如何将其纳入社交工程策略中。这样，你可以主动保护自己。
但如果你仍对ChatGPT有疑虑，请尝试使用必应搜索引擎。新版必应具有基于人工智能的聊天机器人，运行在GPT-4上，从互联网上获取数据，并遵循严格的安全措施。你可能会发现它更适合你的需求。