鞭牛士报道,8月9日消息,据外电报道,OpenAI 宣布卡内基梅隆大学Zico Kolter教授任命为董事会成员。
Kolter 还将加入董事会的安全与保障委员会该委员会负责为所有 OpenAI 项目的关键安全决策提出建议。
「我很高兴宣布加入 OpenAI 董事会。」卡内基梅隆大学计算机学院机器学习部门负责人 Kolter 表示,「我期待分享我在人工智能安全性和稳健性方面的观点和专业知识,以帮助指导 OpenAI 所做的出色工作。」
Kolter 的工作主要集中在人工智能安全、对齐和机器学习分类器的稳健性上。他的研究和专业知识涵盖新的深度网络架构、理解数据对模型影响的创新方法以及评估 AI 模型稳健性的自动化方法,这使他成为 OpenAI 治理的宝贵技术总监。
OpenAI 董事会主席 Bret Taylor 表示:Zico 在人工智能安全性和稳健性方面增加了深厚的技术理解和视角,这将帮助我们确保通用人工智能造福全人类。
Kolter 是 CMU计算机科学系12 年来的关键人物 、 软件和社会系统部、 机器人研究所、CyLab 安全与隐私研究所以及 工程学院电气 与计算机工程系2010 年,他在斯坦福大学获得计算机科学博士学位,随后于 2010 年至 2012 年在麻省理工学院获得博士后奖学金。
在他的职业生涯中,他为机器学习领域做出了重大贡献,在神经信息处理系统会议 (NeurIPS)、国际机器学习会议 (ICML) 和国际人工智能与统计会议 (AISTATS) 等著名会议上撰写了许多获奖论文。
Kolter 的研究包括开发第一种创建具有保证鲁棒性的深度学习模型的方法。他还开创了使用神经网络层中的经典优化将硬约束嵌入 AI 模型的技术。
最近,在 2023 年,他的团队开发了创新方法用于自动评估大型语言模型的安全性,展示了通过自动优化技术绕过现有模型保护措施的潜力。
除了学术追求之外,Kolter 在其整个职业生涯中一直与行业密切合作,曾担任 C3.ai 的首席数据科学家,目前担任博世的首席专家和 Gray Swan 的首席技术顾问,Gray Swan 是一家专注于人工智能安全和安保的初创公司。