Xiaharry的个人博客分享 http://blog.sciencenet.cn/u/Xiaharry

博文

[转载]ChatGPT对网络犯罪的影响

已有 807 次阅读 2023-3-16 09:23 |系统分类:科研笔记|文章来源:转载

ChatGPT是一款人工智能的聊天机器人,它能模仿人类的语言,还能编写各种各样的故事。ChatGPT为各行各业打开了一个充满无限可能的新天地。然而,随着ChatGPT技术的问世,它所带来的网络安全问题也逐渐暴露出来。

1.对网络钓鱼的影响

网络钓鱼的明显迹象之一是措辞不当的语句和错误的语法。这可能是由于这些犯罪团伙都在国外进行活动,并且他们所使用的语言不一定是母语。但有了ChatGPT,一切都变了。威胁者现在可以制作出语法正确且令人信服的电子邮件和消息。黑莓公司分享了利用ChatGPT制作“钓鱼钩”和商业电子邮件危害消息的案例。

2.对恶意软件的影响

众所周知,威胁者会使用混淆技术来发展恶意软件签名,从而绕过传统的基于签名的安全控制。CyberArk的研究人员演示了ChatGPT是如何被轻易地滥用于创建高度规避且难以检测的多态恶意软件。每次研究人员查询ChatGPT,他们都会收到一段独特的代码,可用于创建同一恶意软件程序的多种变异。

3.对勒索软件的影响

Checkpoint研究中心最近发现,地下市场上充斥着关于如何利用ChatGPT编写恶意软件代码的讨论。例如,威胁者使用ChatGPT制作恶意软件,这些恶意软件搜索常见的文件类型,将它们复制到随机文件夹中,压缩后再将文件上传到硬编码的FTP服务器。另一个案例是,技术能力有限的威胁者创建了一种加密算法,可以加密指定目录中的所有文件。这两个例子说明,即使是那些技术经验有限的人,也可以使用先进的人工智能来构建勒索软件类程序的核心要素。

4.对易受攻击的代码和软件的影响

发现隐藏的漏洞并不容易。黑客们经常花费大量的时间和精力去查看每一行代码,试图了解每个标志、关键字或部分的作用。现在有了ChatGPT,黑客可以拿着一段代码,要求聊天机器人对其进行分析,并对每个模块的作用提供一个高层次的总结。这种技术有可能大大增强经验丰富的黑客的能力,并降低其他潜在黑客的入门门槛。一家智能合约审计公司最近演示了如何使用ChatGPT发现智能合约代码中的弱点。

5.对虚假信息的影响

流氓行为者、反政府人士和政治对手经常参与系统性的“astroturf”运动——在多个账号中反复传播虚假陈述,以吸引共识。例如,推特机器人因以可疑的模式重复发布内容而受到广泛批评。而像ChatGPT这样旨在模仿人类的人工智能可以在一系列主题上产生无限的内容。由某些关键词或有争议的话题触发,聊天机器人可以向无限多的社交账户发布内容。这类机器人将无法与人类用户区分开来,从而将虚假信息的传播提升到一个全新的水平。

 因此,企业如何做好准备应对新一轮的人工智能网络犯罪?

1.部署持续的安全意识培训计划,包括实时指导,以便员工了解其网络安全责任,并遵循最佳做法(强密码、安全浏览等)。

2.进行网络钓鱼模拟,让员工养成识别和报告网络钓鱼行为和其他可疑活动的习惯。

3.要求员工验证财务相关请求的真实性,特别是在突然出现紧急情况或突然出现异常请求时。

4.使用防钓鱼MFA和零信任等工具来降低账户盗用和身份欺诈的风险。本文作者/美捷登Wendy。如需转载请联系授权并注明来源。

5.定期给所有可接入互联网的设备、应用程序和软件打补丁,避免攻击者或人工智能发现这些漏洞。

6.仅与认真对待网络安全并对其安全政策透明的供应商和合作伙伴合作。询问他们是否实行安全开发生命周期编程(SDL)。

7.使用基于人工智能的网络安全来应对人工智能带来的威胁。市场上有许多端点安全工具,它们使用人工智能、机器学习和自然语言处理来检测高级威胁,并处理、分类和关联大量安全信号。这是因为人工智能不只是产生或读取警报,而且关联不同的遥测点或感兴趣的点,然后进行判断。

利用人工智能特性的网络犯罪已经出现。由于人工智能技术已经被公之于众,并且已有许多的在线工具和暗网服务可供威胁者使用,网络安全形势更为严峻。对于企业来说,对抗人工智能网络犯罪的唯一方法就是推进安全文化,并且部署基于人工智能的技术防御措施。

参考链接:

https://www.forbes.com/sites/forbestechcouncil/2023/02/24/the-implications-of-chatgpt-on-cybercrime/?sh=46abbced4770



转载地址:https://blog.sciencenet.cn/blog-475824-1380438.html




https://blog.sciencenet.cn/blog-530435-1380568.html

上一篇:[转载]ChatGPT——一份给科学家的“时间的礼物”
下一篇:[转载]美捷登点评|三年中国科学院预警期刊对比分析
收藏 IP: 111.60.135.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-2-26 08:19

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部