查看原文
其他

OpenAI 推出百万美元网络安全资助计划

综合编译 代码卫士 2024-07-14

 聚焦源代码安全,网罗国内外最新资讯!

编译:代码卫士



人工智能技术创业公司 OpenAI 推出价值100万美元的网络安全资助计划,旨在推动以防御者为中心的研究、能力和测量。


ChatGPT 机器人应用的缔造者 OpenAI 计划以 API 积分、直接资助或同等方式以1万美元为增量发放项目资助,推动生成式 AI 技术的防御性用例发展。该公司发布声明指出,“我们的目标是与全球防御人员协作,通过致力于推动共同安全的AI 应用以及志同道合的个人协作方式,改变网络安全的权力动态。”

OpenAI 推出的这一计划的目的在于:

1、赋能防御人员:确保防御人员是前沿 AI 能力的第一也是最大受益者。

2、衡量能力:开发量化AI模型的网络安全能力方法,更好地了解并提升其效果。

3、评估披露:严格探讨AI和网络安全的交叉点,全面、细致地了解这一领域的挑战和机遇。

OpenAI 提到,该计划涵盖的大体项目构想如下:

  • 收集并为网络防御人员的数据打标签,训练防御性网络安全代理;

  • 检测和缓解社工技术;

  • 对安全事件进行自动化分类;

  • 识别源代码中的安全问题;

  • 协助网络或设备取证;

  • 自动修复漏洞;

  • 优化补丁管理流程以提升漏洞优先级排序、调度和安全更新部署;

  • 开发或改进 GPU 上的机密计算;

  • 创建蜜罐和欺骗技术以误导或诱捕攻击者;

  • 协助逆向工程师创建基于签名和行为的恶意软件检测能力;

  • 分析组织机构的安全控制并与合规制度进行对比;

  • 协助开发人员创建设计即安全和默认即安全软件;

  • 协助最终用户采用安全最佳实践;

  • 协助安全工程师和开发人员创建健壮的威胁模型;

  • 为防御人员所在其组织机构生成最重要且最相关的威胁情报;

  • 帮助开发人员将代码移植为内存安全语言。

OpenAI 提到,将以滚动形式评估并接收获得资助或其它支持的应用,提到尤其偏好防御性网络安全(工具、方法和流程)领域的AI实践应用。该公司提到,“进攻性安全项目不在本次资助范围内。”所有提交应当通过许可证或分发的方式实现公共利益和分享最大化。

目前,OpenAI 正在接收项目提案,申请地址可见OpenAI 官网。



代码卫士试用地址:https://codesafe.qianxin.com
开源卫士试用地址:https://oss.qianxin.com









推荐阅读

奇安信入选全球《软件成分分析全景图》代表厂商

OpenAI 账户验证流程存在漏洞,可导致用户无限薅羊毛

OpenAI 推出漏洞奖励计划,最高赏金2万美元

【DEF CON会议】OpenAI Gym---能创建“不可见”恶意软件的机器学习系统



原文链接
https://www.securityweek.com/openai-unveils-million-dollar-cybersecurity-grant-program/
https://openai.com/blog/openai-cybersecurity-grant-program

题图:Pexels License


本文由奇安信编译,不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。




奇安信代码卫士 (codesafe)

国内首个专注于软件开发安全的产品线。

    觉得不错,就点个 “在看” 或 "赞” 吧~

继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存