AI前沿速报0512：美国政府拨款研究AI伦理
大家好，本期AI前沿速报为您带来全球最新的AI技术和应用。人工智能正在以惊人的速度发展，每天都有新的突破和进展。本期速报涉及的新闻标题与新闻价值排序分数，通过“”进行分隔，包括科学优化的开放语言模型、可解释AI的伦理和治理、创新的ChatGPT插件等。让我们一起关注这些变化，了解AI对我们的生活和未来的影响。请大家点赞、转发，让更多的人了解AI日新月异的变化。
1. 【AI2开发面向科学优化的开源语言模型】
AI2与AMD、LUMI联盟、Surge AI和MosaicML合作开发了开源大型语言模型OLMo，将于2024年发布，重点是理解教科书和学术论文。除少数例外，公共演示、训练数据集和API将提供。伦理审查委员会将在模型创建过程中提供反馈。AI2邀请合作者为模型开发做出贡献和批评。
2. 【美国政府拨款1.4亿美元研究AI伦理和治理】
美国政府拨款1.4亿美元用于研究AI的风险，解释性AI对于理解和信任机器学习算法至关重要。数据掩码、差分隐私和机密训练等技术可以提高模型的安全性和可靠性。与语言模型相关的风险包括网络钓鱼、谣言、诽谤和欺诈。解释性可以提高机器学习模型在实际应用中的可靠性和安全性。
3. 【7个创新的ChatGPT插件，提升各种流程】
房地产公司Zillow、Redfin和PortfolioPilot发布了ChatGPT插件，用于房屋搜索和投资；Speechki ChatGPT插件将文本转换为音频，以便无障碍和免提使用；Giftwrap.ai根据收件人的兴趣和偏好生成基于AI的礼物想法；Oneword.domains建议单词域名以进行即时购买；Golden插件可定制以提高企业功能；基于AI的插件在房地产、投资和电子商务行业越来越受欢迎。
4. 【微软气候创新基金投资AMP Robotics】
AMP Robotics获得微软气候创新基金的投资，将其C轮融资扩大至9900万美元，总融资额达1.78亿美元。回收行业每年处理1.3亿公吨商品，为美国经济贡献1170亿美元。AMP Cortex是一种机器人分类系统，可用于回收设施的分类和回收各种材料。AMP计划在美国扩大二次分类业务。
5. 【Anthropic的Claude AI模型将上下文窗口扩展到10万个标记】
Anthropic改进了文本生成AI模型Claude，使其能够读取和分析多达10万个标记的文本；可能的用例包括摘要文件、分析风险和机会、评估立法和回答技术问题；Claude可以在不到一分钟的时间内读取10万个标记的文本；更长的上下文窗口并不能解决大型语言模型中的内存相关挑战。
6. 【AI平台旨在消除营销中的种族歧视】
X_Stereotype使用预测分析来衡量跨种族和文化的内容表现；提供40个综合指标，包括情感影响、偏见、包容性和购买意向；生成洞察力评分卡以识别潜在的种族偏见和风险因素；像FanDuel、Chipotle、J&J、Bob Evans和P&G这样的公司使用X_Stereotype的平台；该平台声称可以将广告效果提高一倍，同时降低成本。
7. 【欧盟起草法规禁止AI进行大规模生物特征监控和预测式执法】
欧盟起草法规禁止危险的AI使用，包括大规模人脸识别和预测式执法算法；法规要求公共和政府机构部署高风险AI系统的公共数据库；AI法案根据风险级别对AI系统进行分类，并对大规模AI模型的创建者施加义务；AI法案草案包括欧盟部署的通用和高风险AI系统的数据库；法规可能会有所变化，下个月将面临全体投票。
8. 【高管担心企业数据被ChatGPT意外分享】
据一份报告显示，近一半的高管怀疑同事意外将企业数据分享给了ChatGPT。ChatGPT是企业中使用最广泛的聊天机器人，其次是CopyAI和Anyword。许多公司禁止在工作场所使用生成式AI工具，其中ChatGPT是最常被禁止的。生成式AI工具在组织的各个功能中得到应用。59%的受访者计划在今年购买生成式AI工具。报告强调了使用生成式AI工具来保护公司数据、品牌和声誉的必要性。
9. 【H2O AI推出H2OGPT和LLM Studio，用于企业聊天机器人开发】
H2O AI推出开源产品H2OGPT和LLM Studio，用于构建聊天机器人。LLM Studio提供无代码微调框架，H2OGPT是商业用途的开源LLM。类似的举措还有Databricks推出的名为Dolly的开源LLM。
10. 【谷歌推出AI音乐创作工具MusicLM】
谷歌推出了一款名为MusicLM的AI音乐创作工具，它是通过对数十万小时的音频进行训练而生成的。该工具目前可以在谷歌的AI Test Kitchen应用程序中进行预览，可以生成两个版本的歌曲供离线收听。但是，该工具在提示和艺术家风格方面还有一定的限制。
11. 【AttentionViz：理解Transformer模型的可视化工具】
哈佛研究人员开发了AttentionViz，这是一种交互式可视化工具，用于语言和视觉Transformer模型。它基于联合查询-键嵌入，展示了在各种应用情况下的有效性。
12. 【Meta推出广告生成AI功能】
Meta推出AI Sandbox，用于广告文案变体、背景生成和图像裁剪；该功能目前仅对部分广告客户开放，将于7月扩大范围；广告科技初创公司Omneky和Movio也在使用生成AI制作广告。
13. 【Raycast Pro订阅增加AI和同步功能】
Raycast推出每月8美元的Pro订阅，包括由OpenAI的GPT-3和GPT-3.5-Turbo LLMs提供支持的AI功能，可在多台Mac之间同步和无限剪贴板历史记录。此外，还提供新的自定义主题和即将推出的重新设计的浮动笔记。
14. 【Simplr推出Cognitive Paths，增强ChatGPT客服功能】
Simplr推出Cognitive Paths，利用OpenAI的ChatGPT和AI训练参数，为客服提供生成式AI，减少信息量和消除不相关话题。同时，还提供精选的知识库，用于聊天机器人的培训，确保安全的客户解决方案。
15. 【SLAIT School推出AI辅助手语互动课程】
美国SLAIT School推出了一款基于计算机视觉的手语辅导软件，可提供即时反馈。该软件计划覆盖更多语言组和医学/科学手势。
16. 【AI驱动的VC公司Vela Partners管理着2500万美元和32个投资组合公司】
Vela Partners使用预测算法进行投资领域，提供公共GitHub仓库的算法模型，专注于AI、数据和开发者为中心的初创公司。该公司解决算法中的偏见问题，但没有提供明确的解决方案。
17. 【中国科技行业校友会数量下降，新联盟崛起】
中国科技行业的校友会数量因行业稳定和大型科技公司面临的压力而下降；前员工组织对于社交关系和加强联系至关重要；大型科技公司员工网络的重点正在从商业活动转向慈善活动；在面对挑战和对传统企业结构缺乏信任的情况下，小而紧密的团体正在形成以相互支持为目的。
18. 【谷歌搜索中的AI集成和潜在的互联网颠覆】
谷歌正在向其核心搜索产品添加更多的AI功能，可能会对互联网造成颠覆性影响。AI集成包括生成式AI、ChatGPT的基础技术和AI生成的搜索结果。谷歌正在与OpenAI和微软竞争，但采取更为谨慎的方法。AI生成的快照通常会占据整个搜索结果的第一页，特别是在移动设备上。
19. 【人工智能对就业和产业的影响】
人工智能可能在未来5到10年内导致白领工人失业；比尔·盖茨认为人工智能将是一项具有改变性的技术，但政府监管者并未跟上步伐；人工智能正在各个行业中得到应用，包括医疗、金融和交通；人们对人工智能对就业的影响以及在监视和审查方面的潜在滥用表示担忧。
20. 【阿里巴巴转向内容电商，与抖音和小红书竞争】
阿里巴巴的淘宝和天猫正在向内容电商转型，大力投资于内容。这一举动是对抖音和小红书等平台日益增长的竞争的回应。阿里巴巴和抖音都面临着供应链和与现有平台的兼容性等挑战。阿里巴巴的目标是成为AI时代最好的内容平台，而抖音则在应对供应链问题方面面临困境。
感谢各位读者对于AI前沿观察的关注和支持。我们将继续为您带来最新、最全面的AI前沿资讯。如果您觉得我们的报道有价值，请不要吝啬您的点赞和转发，让更多人了解AI的魅力。明天的速报，敬请期待！