在人工智能技术的迅猛发展中，一个不容忽视的现象是，生成式AI正逐渐成为黑客和不法分子的得力助手。从深度伪造企业高管形象到伪造财务文件，这些技术的滥用边界正在不断被拓宽。
OpenAI，作为生成式AI领域的领头羊，深刻意识到这一潜在风险。为了应对这一挑战，OpenAI近期投资了一家专注于防御此类攻击的AI初创公司——Adaptive Security。这一举措不仅显示了OpenAI对行业安全的关注，也体现了其对未来技术发展趋势的敏锐洞察。
总部位于纽约的Adaptive Security在本周三宣布，成功完成了4300万美元的A轮融资，本轮融资由OpenAI创业基金和Andreessen Horowitz联合领投。据OpenAI向TechCrunch确认，这是他们首次投资网络安全领域的初创公司。
Adaptive Security通过模拟AI生成的黑客攻击，为员工提供实战训练，帮助他们识别并应对这些新型威胁。例如，员工可能会接到一个电话，电话那头声称是公司的CTO，要求输入验证码。然而，这很可能是一个由Adaptive Security生成的模拟攻击，旨在提高员工的警惕性。
Adaptive Security的平台不仅限于电话模拟，还包括短信和电子邮件的伪造。通过全面覆盖这些通信渠道，该平台能够评估公司内部哪些环节可能最脆弱，并针对性地培训员工识别潜在风险。
这家初创公司专注于防范那些利用人类心理弱点进行攻击的黑客行为。这些黑客往往会诱导员工点击恶意链接或执行不当操作。尽管这类“社会工程”攻击看似简单，但其造成的经济损失却不容小觑。以Axie Infinity为例，该公司因一起社会工程攻击损失了超过6亿美元。
Adaptive Security的联合创始人兼首席执行官Brian Long向TechCrunch透露，人工智能工具使得社会工程攻击变得更加容易。自2023年成立以来，Adaptive Security已经拥有超过100家客户。Long表示，客户的积极反馈为OpenAI等投资者的加入奠定了坚实基础。
Long是一位经验丰富的企业家，他曾在移动广告和广告技术领域取得过显著成就。他创立的TapCommerce于2014年被Twitter收购，而另一家公司Attentive在2021年的估值超过100亿美元。凭借这些成功经验，Long对Adaptive Security的未来充满信心。
Long表示，Adaptive Security将利用最新获得的资金聘请更多工程师，以加速产品开发，并在与不法行为者的人工智能“军备竞赛”中保持领先地位。随着人工智能威胁的不断演变，这家初创公司正致力于构建更加坚固的防御体系。
除了Adaptive Security之外，还有多家网络初创公司正在积极应对人工智能威胁的激增。Cyberhaven以10亿美元的估值筹集了1亿美元资金，旨在阻止员工将敏感信息泄露给ChatGPT等工具。Snyk则归因于不安全的人工智能生成代码的兴起，其年度营收超过3亿美元。深度伪造检测初创公司GetReal也成功筹集了1750万美元资金。
面对日益复杂的人工智能威胁，Long为那些担心自己声音被黑客克隆的公司员工提供了一个实用的建议：“删除你的语音邮件。”他强调，这是减少潜在风险的一种简单而有效的方法。
