chatgpt构建的信息生成器和其他黑客工具

OpenAI的自然语言聊天机器人ChatGPT能够编写代码、撰写针对小众主题的报告，甚至可以创作歌曲的歌词。它在撰写文章方面的成功促使学校禁止其使用，而据说微软正在将其整合到Bing搜索引擎中，但安全研究人员警告称，ChatGPT正被用于更加恶劣的用途，而这一问题可能会愈加严重。ChatGPT于2022年11月推出。安全研究人员表示，犯罪分子已经开始利用它。（照片由Ascannio/Shutterstock提供）Check Point Research的专家发现，网络罪犯多次庆祝他们在开发恶意工具时使用ChatGPT，并警告称，它正在使黑客们扩展现有的项目，并使新犯罪分子更快地掌握技能。Check Point的威胁情报小组经理Sergey Shykevich告诉Tech Monitor：“我假设随着时间的推移，更多技术娴熟（且保守）的威胁参与者也将开始尝试并使用ChatGPT来改进他们的工具和作案方式，甚至是为了降低所需的资金投入。”ChatGPT于2022年11月底推出，在不到两个月的时间内，它已成为软件开发人员、研究人员和其他专业人员工作流程中不可或缺的一部分。在推出的首周，它的用户量就从零飙升到数百万。公司情报查看所有报告查看所有数据洞察查看所有就像所有新技术一样，只要有足够的时间和动机，总有人会找到利用它的方法。Check Point Research表示，这正是他们所看到的情况。在地下黑客论坛中，罪犯正利用聊天机器人创建信息窃取工具、加密工具并协助诈骗。他们发现了三个最近的案例，其中包括一个复现信息窃取恶意软件菌株的案例、另一个创建多层加密工具的案例，以及第三个编写用于在暗网市场上交易非法商品的脚本的案例——所有代码均使用ChatGPT编写。水印与内容审核上个月，这家安全公司研究人员对ChatGPT进行了测试，以查看它是否会生成可用于恶意用途的代码，结果发现它会编写可在Excel中运行的可执行代码和宏。这份新报告突显了ChatGPT衍生的恶意活动在现实世界中的应用。Tech Monitor要求OpenAI就研究结果和他们如何应对恶意用途作出评论，但在出版时未获得回应。在推广ChatGPT的页面上，OpenAI写道：“尽管我们已努力让模型拒绝不当请求，但有时它仍会对有害指示作出回应，或表现出有偏见的行为。我们正在使用中和API来警告或阻止某些类型的安全相关内容，但目前我们预计仍会有误判的情况。”内容来自我们的合作伙伴：Hexaware如何将企业社会责任置于其身份和使命的核心；如何为下一次网络攻击做好持续准备；采用B2B2C模式如何使制造商更加贴近消费者。Shykevich表示，OpenAI和其他大型语言模型AI系统的开发人员需要改进其引擎，以识别潜在的恶意请求，并为任何希望使用OpenAI引擎的人实现认证和授权工具。“即使只是类似当前在线金融机构和支付系统所使用的东西。”他说。查看所有通讯在我们的通讯中注册数据、洞察和分析直接送达由Tech Monitor团队提供在这里注册OpenAI已经在开发一种水印工具，使安全专家、当局和教授能够更容易地识别文本是否由ChatGPT编写，尽管尚不清楚这种方法是否适用于代码。ChatGPT：信息窃取和“培训”Check Point表示，它分析了几个主要的地下黑客社区中提到ChatGPT或其他形式的人工智能生成编码工具的情况，发现多名网络罪犯正在使用OpenAI的工具。“正如我们所预料的那样，一些案例清楚地表明，许多使用OpenAI的网络罪犯根本没有任何开发技能。”虽然今天创建的工具“相当基础”，但用不了多久，更有技术能力的黑客就会开始转向基于AI的工具，以扩展他们自己的工具，包括创建更具体、更小众的攻击向量，这些可能是手动编写代码无法实现的。一个此类“简单工具”的例子是，一个标题为“ChatGPT – 马尔软件的好处”的热门黑客论坛帖子中出现的信息窃取工具。发帖者透露，他使用ChatGPT通过输入描述和其他出版物中的写法来复现描述的恶意软件菌株。然后，他分享了一段基于Python的窃取代码，该代码会在系统中搜索常见的文件类型，将其复制到随机文件夹，并上传到一个硬编码的FTP服务器。“这个窃取程序确实是一个基本的搜索工具，它在系统中搜索12种常见的文件类型（如Microsoft Office文档、PDF和图像）。如果找到任何感兴趣的文件，恶意软件将这些文件复制到临时目录，进行压缩，然后通过网络发送。值得注意的是，攻击者并未费心加密或安全地发送这些文件，因此这些文件也可能落入第三方手中。”研究人员写道。同一名黑客还分享了其他ChatGPT项目，包括一个使用PowerShell下载常用SSH客户端并运行它的Java代码片段。Check Point专家表示，这个个体可能是一个技术导向的人，正在向技术能力较差的网络罪犯展示如何利用ChatGPT为自己谋取即时利益。技术能力有限的黑客们纷纷转向ChatGPT另一个在圣诞节前不久发现的帖子中包含了一段Python脚本，创作者表示这是他编写的第一段脚本。这位网络罪犯承认，他利用OpenAI的帮助来扩大攻击范围。该脚本执行加密操作，由“各种签名、加密和解密功能的混杂组合”组成。研究人员表示，它看起来无害，但实现了多种不同的功能，包括生成加密密钥、加密系统中的文件，并可能被改编为“在用户完全不互动的情况下完全加密某人的电脑”，用于勒索软件攻击。“虽然看起来这位用户并非开发者，而且技术能力有限，但他却是地下社区中非常活跃且声誉良好的成员。这位用户参与了各种非法活动，包括出售被入侵公司的访问权限和被盗数据库。他最近分享的一个著名被盗数据库据说就是泄露的InfraGard数据库。”研究人员发现，这类帖子的数量似乎在增加，黑客们还在讨论其他利用基于AI的工具快速赚钱的方法，包括使用DALL-E 2生成随机艺术品并在Etsy上出售，或利用ChatGPT生成电子书并在网上出售。“网络罪犯发现ChatGPT非常有吸引力，”Shykevich表示。“最近几周，我们看到有证据表明黑客开始利用它编写恶意代码。ChatGPT有潜力加快黑客的过程，因为它为黑客提供了一个很好的起点。正如ChatGPT可以用于帮助开发人员编写代码一样，它也可以被用于恶意目的。”阅读更多：OpenAI的ChatGPT解释它如何帮助CIO们完成工作本文主题：人工智能、ChatGPT、网络安全