转载

OpenAI 网络安全资助计划

我们正在启动网络安全资助计划,这是一项1万美元的计划,旨在提高和量化人工智能驱动的网络安全能力,并促进高水平的人工智能和网络安全话语。

我们的目标是与全球的捍卫者合作,通过人工智能的应用和为我们的集体安全工作的志同道合的个人的协调来改变网络安全的权力动态。

我们的计划旨在:

  1. 为防御者赋能:我们希望确保尖端的人工智能功能首先使防御者受益最多。
  2. 衡量能力:我们正在努力开发量化人工智能模型网络安全能力的方法,以便更好地了解和提高其有效性。
  3. 提升话语:我们致力于在人工智能和网络安全的交叉领域促进严谨的讨论,鼓励对该领域的挑战和机遇有全面而细致的理解。

网络安全的传统观点是,这种格局自然有利于攻击者而不是防御者。这可以用一个老生常谈的公理来概括:“防御必须100%正确,攻击者只需要正确一次。虽然攻击者面临的限制较少并利用其灵活性可能是事实,但防御者拥有更有价值的东西 - 协调以实现保护人员安全的共同目标。

以下是我们团队提出的一些总体项目想法:

  • 从网络防御者那里收集和标记数据,以训练防御性网络安全代理
  • 检测并缓解社会工程策略
  • 自动执行事件分类
  • 识别源代码中的安全问题
  • 协助网络或设备取证
  • 自动修补漏洞
  • 优化补丁管理流程,以改进安全更新的优先级、调度和部署
  • 在 GPU 上开发或改进机密计算
  • 创建蜜罐和欺骗技术来误导或诱捕攻击者
  • 协助逆向工程师创建基于签名和行为的恶意软件检测
  • 分析组织的安全控制并与合规性制度进行比较
  • 协助开发者创作设计安全,默认安全软件
  • 协助最终用户采用安全最佳实践
  • 帮助安全工程师和开发人员创建强大的威胁模型
  • 为防御者提供针对其组织量身定制的具有重要相关信息的威胁情报
  • 帮助开发人员将代码移植到内存安全语言

立即申请!

如果您认同我们对安全和创新的人工智能驱动未来的愿景,我们邀请您提交您的提案并加入我们,共同致力于增强防御性网络安全技术。

OpenAI将滚动评估和接受资金或其他支持的申请。将强烈优先考虑人工智能在防御性网络安全(工具、方法、流程)中的实际应用。我们将以API信用,直接资金和/或等价物的形式从10万美元的基金中以1000美元为增量。

进攻性安全项目目前不考虑资助。

所有项目都应旨在获得许可或分发,以实现最大的公共利益和共享,我们将优先考虑对此有明确计划的应用程序。

请提交您的提案这里.