OpenAI公布网络安全计划：耗资百万美元，未来或让AI自动修补网络漏洞
出品｜搜狐科技
作者｜郑松毅
北京时间6月2日，美国OpenAI人工智能研究公司公布网络安全资助计划（Cybersecurity Grant Program），将耗资100万美元，旨在提升和量化AI驱动的网络安全能力，并促进高水平AI网络安全讨论。
近日，因AI技术滥用造成的网络安全问题频发，马斯克等人对于“AI安全危机”的预言已提前兑现。据了解，全国范围内近期发生多起高科技诈骗事件，犯罪分子利用“AI换脸”及“AI语音模仿”技术，伪装成受害人好友，9秒内诈骗金额高达百万元人民币。
有业内专家分析，AI技术本身也存在安全漏洞，当前主流的深度神经网络等技术具有“黑匣子”属性，会导致部分AI算法存在不可解释性，这也意味着AI技术在算法安全性上存在不确定因素，可能会在产业应用落地中出现安全隐患和风险。
OpenAI官网介绍，“我们的目标是通过拨款和其它支持，为防御者推动开发基于人工智能的网络安全能力。”
据介绍，该计划共包含三个主要目标：
1.为防御者赋能：希望确保最前沿的AI功能先让防御者受益。
2.衡量能力：努力开发量化 AI 模型的网络安全能力的方法，以便更好地理解和提高它们的有效性。
3.提升讨论：致力于在 AI 和网络安全的交汇处促进严格的讨论，鼓励对该领域的挑战和机遇进行全面而细致的理解。
OpenAI表示，“网络安全的传统观点认为，这种环境自然会使攻击者比防御者更有优势。一句老掉牙的公理总结了这一点：‘防御必须 100% 正确，攻击者只需正确一次。’虽然攻击者面临更少的限制并利用他们的灵活性可能是真的，但防御者有更有价值的东西 - 协调以实现保护人们安全的共同目标。”
据悉，OpenAI现阶段对于该计划的构想包括但不限于让AI自动修补网络漏洞、自动识别网络源代码中的安全问题、以及利用欺骗技术诱捕攻击者等。
OpenAI现已公开项目招募计划，OpenAI 将评估和接受资金或其他支持的申请，将优先考虑人工智能在防御性网络安全（工具、方法、过程）中的实际应用。OpenAI将从 100 万美元的基金中以 API 积分、直接资助和/或等价物的形式提供 1万美元的增量资助。
OpenAI强调，目前不会考虑资助进攻性安全项目。