OpenAI进军内容审核行业，学校图书馆已在用ChatGPT筛选色情描述了
学校的图书管理员已开始使用ChatGPT来筛选含有色情内容的图书。
根据新规定，美国爱荷华州的学校必须移除图书馆中含有性行为描写的书籍，然而“逐本阅读并按照新标准进行筛选显然是不切实际的”。
在ChatGPT的协助下，某个学区在开学前成功地挑选出了19本符合要求的图书。
次日，OpenAI正式宣布将GPT-4引入内容审核系统。
OpenAI认为，GPT-4的审核功能能够将审核更新周期从数月缩短至数小时，并且具备更高的灵活性。
这一新功能不仅提升了效率、减轻了人工工作量，还解决了人工审核中存在的尺度不一致问题。
尤其重要的是，它能够避免有害内容对审核人员造成身心伤害。
一名科技媒体的编辑Reed Albergotti发表了以下观点：
采用大型语言模型进行内容审核是向前迈出的一步。
这并不是因为它完美无缺，而是因为它的尺度会更加一致，不易受人类情感和文化差异的影响。
在工作流程中，关键环节在于制定用户政策，这一步骤由人工主导。
随后，GPT-4会运用一些示例进行准确性检验和优化。
借助GPT-4的预测微调小型筛选器，从而实现批量内容审查。
OpenAI的发言人还透露，已有客户在使用GPT-4进行内容审核，但并未提供具体名单。
此外，OpenAI正在研究将这一功能从文本审核扩展到图像和视频的鉴别。