文 ｜动点科技

排版｜李瑞子

本文预计阅读时长5分钟

01

微软报告称 GPT-4 易受“越狱”提示词影响，生成不良内容

微软旗下研究团队近日发表论文，详细研究了大型语言模型 (LLM) 的“可信度”和潜在毒性，特别关注 OpenAI 的 GPT-4 及其前代 GPT-3.5。研究团队称，GPT-4 虽然在标准基准测试中比 GPT-3.5 更加可靠，但容易受到“越狱”提示（绕过模型安全措施）影响。GPT-4 可能会根据这些“越狱”提示，生成有害内容。论文中强调 GPT-4 更容易受到恶意“越狱”系统或用户提示影响，会准确地遵循（误导性）指令，生成不良内容，微软强调这个潜在漏洞不会影响当前面向客户的服务。

02

微软正式发布 AI 内容审核工具 Azure AI Content Safety

微软为了营造健康和谐的社区环境，减少图片或文本中关于偏见、仇恨、暴力等相关的负面内容，于今年 5 月测试推出了 AI 内容审核工具 Azure AI Content Safety，该工具经过多月测试之后于今天正式发布。该内容审核工具最初整合到 Azure OpenAI 服务中，微软现在以独立系统方式正式推出。微软在官方博文中写道：“这意味着客户可以将其用于来自开源模型和其他公司模型的人工智能生成内容，以及调用部分用户生成的内容，进一步扩展实用性”。

03

金山办公与科大讯飞在 AI 等领域达成战略合作

金山办公发文宣布与科大讯飞宣布达成战略合作，双方将在既有合作基础上，继续发挥各自技术和产品优势，在数字办公产品、行业解决方案、AI 大模型、开放能力集成等多维度展开深度合作。双方将在智慧教育、智慧医疗、智慧园区、智慧城市等领域展开深度联动。金山办公主要产品月度活跃设备数超 5.84 亿，此前双方已就终端部署、语音能力、版权保护、教育服务等领域展开合作。据悉，目前已有超 35 万教研用户在金山办公文档中台支持的科大讯飞 AI 教研平台进行备课和协同研修工作。

04

IDC：未来五年生成式 AI 每年支出将增长 73%，预计 2027 年达 1430 亿美元

据 IDC 消息，全球企业在 2023 年的投资额为 160 亿美元，得益于 AI 风口，行业相关支出每年将平均增长 73.3%，2027 年企业将在生成式 AI 解决方案上花费 1430 亿美元。IDC 认为，生成式 AI 并非“转瞬即逝的趋势或炒作”，事实上该技术将产生深远的意义和商业影响，这项技术将改变人类的工作、娱乐和与世界互动的方式。IDC 认为，未来生成式 AI 将在各种产品中得到广泛应用，当下有许多科技公司已经将 AI 整合到自家搜索产品中，而未来随着更多大型语言模型的出现，对应的各种 AI 工具也将涌现。

05

英伟达与鸿海科技共建AI工厂，由工业富联推进

英伟达与鸿海科技共同宣布，双方将合作建设人工智能工厂，并把AI工厂应用到各个产业。据了解，该合作主要通过鸿海科技旗下子公司工业富联推进。根据合作规划，AI工厂系新型数据中心，可为创新提供动力，例如制造数字化和生成式AI服务。鸿海计划建造大量基于英伟达CPU和GPU及其网络技术的计算系统。这些系统将出售给希望建立AI数据工厂的客户，并配备英伟达的硬件和英伟达AI Enterprise软件。

06

OpenAI 声称正在开发可高精度检测 AI 生成图像工具

OpenAI正在开发一种工具，以高精度检测人工智能生成的图像。聊天机器人ChatGPT和图像生成器DALL-E的制造商OpenAI的首席技术官Mira Murati周二在Tech Live会议上表示，OpenAI的工具在确定图片是否使用人工智能生成方面“99%可靠”。她表示，在计划公开发布之前，公司正在对其进行内部测试，但没有具体说明时间表。

据了解，目前已经有少数工具声称可以检测人工智能生成的图像或其他内容，但这些工具的检测结果似乎仍不够准确。例如，OpenAI在1月份发布了一个类似的工具，旨在确定文本是否由人工智能生成的，但由于不可靠，该工具在7月份被搁置了。该公司表示，它正在努力改进该软件，并致力于开发识别音频或图像是否由人工智能生成的方法。（智通财经）