OpenAI API 审核指南:如何使用审核端点检查文本内容合规性

随着技术的不断发展,OpenAI API 审核端点成为了一个重要的工具,帮助用户验证文本内容是否符合OpenAI的使用政策。在这篇教程中,我们将详细介绍如何使用审核端点来检查文本内容的分类,以及如何理解返回的结果。

概述

OpenAI的审核端点提供了一种简便的方法,用于检查文本内容是否违反了OpenAI的使用策略。这使开发人员能够迅速辨别不符合政策的内容,并可以进行相应的处理,比如进行过滤操作。这一功能特别适用于社交媒体、聊天应用等平台,以确保用户能够获得友好、合规的体验。

审核端点将内容划分为以下几个类别:

  • hate:涉及种族、性别、民族、宗教、国籍、性取向、残疾状况或种姓等方面,表达、煽动或推广仇恨的内容。
  • hate/threatening:除了仇恨内容,还包括针对特定群体进行暴力或造成严重伤害的言论。
  • self-harm:宣扬、鼓励或描述自残行为(例如自杀、割伤和饮食失调)的内容。
  • sexual:涉及引起性兴奋的内容,包括性行为的描述以及宣传性服务(不包括性教育和健康相关内容)。
  • sexual/minors:包含涉及未满18岁个体的色情内容。
  • violence:宣传或美化暴力行为,或者赞美他人的痛苦和屈辱。
  • violence/graphic:包含描绘死亡、暴力或严重身体伤害的极端图像和细节的暴力内容。

通过监控OpenAI API的输入和输出过程,您可以免费使用审核端点,不过需要注意,当前还不支持监测第三方产生的流量。

快速入门

以下是使用Python和Curl两种方式向审核端点发送请求的示例。

使用Python

首先,您需要使用OpenAI的Python库(openai)来进行请求。确保您已经安装了这个库。

import openai

response = openai.Moderation.create(
    input="在这里输入示例文本"
)

output = response["results"][0]

使用Curl命令

您也可以使用Curl命令来发起请求,确保将$OPENAI_API_KEY替换为您的实际API密钥。

curl https://api.openai.com/v1/moderations \
  -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d '{"input": "在这里输入示例文本"}'

结果解析

审核端点返回的结果是一个包含了多个字段的JSON对象,其中包括了被判定的各个类别是否为违规以及置信度等信息。以下是示例输出的解释:

  • flagged:如果模型将内容分类为违反OpenAI的使用政策,则为true,否则为false。
  • categories:一个字典,每个类别都对应一个二进制标志,表示模型是否将该类别标记为违规。
  • category_scores:一个字典,包含了模型对于每个类别的原始分数,这些分数反映了模型对输入是否违反了OpenAI的类别策略的信心程度。

注意事项

值得注意的是,OpenAI会持续改进审核端点的底层模型,因此如果您依赖于category_scores来制定自定义策略,可能需要随着时间的推移重新进行校准。

通过使用OpenAI API审核端点,您可以更好地确保内容的合规性,为用户提供更安全、友好的使用体验。

本文由作者 王大神 原创发布于 大神网的AI博客。

转载请注明作者:王大神

原文出处:OpenAI API 审核指南:如何使用审核端点检查文本内容合规性

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 2023年9月1日
下一篇 2023年9月1日

相关推荐

  • GPT-4o 和 GPT-5 如何改变我们的日常生活?

    你是否想知道 GPT-4o 和即将推出的 GPT-5 如何影响我们的日常生活和工作效率?本文将深入探讨这些先进的人工智能技术,揭示它们在各个领域中的应用和潜力。让我们一起来看看这场 AI 革命如何重新定义未来! 什么是 …

    2024年5月24日
    00
  • OpenAI发布GPT4.5turbo模型,引领AI新风潮

    近日,全球领先的人工智能研究机构OpenAI再次震撼世界,宣布即将发布GPT4.5turbo模型。这一消息引发了广泛的关注和期待,因为GPT系列模型一直以来都代表着最前沿的自然语言处理技术。本文将为您详细解读GPT4.5turbo…

    2023年12月18日
    00
  • OpenAI泄露GPT-4.5 Turbo,AI技术新突破

    在数字化时代,人工智能(AI)技术的进步不断推动社会向前发展。近日,一则关于OpenAI可能意外泄露其即将发布的GPT-4.5 Turbo大型语言模型信息的消息引发了广泛关注。本文将深入探讨这一事件及其对未来AI技术发展的…

    2024年3月14日
    00
  • 开发中的AI工具:99%准确率识别人工智能绘制的图片

    近日,OpenAI公司再次引领人工智能领域的创新,他们正在开发一款令人瞩目的AI图片识别工具,能够以惊人的99%准确率判断一张图片是否是由人工智能绘制。这项技术将在未来对于辨别虚假信息、保护著作权等领域产生深远…

    2023年10月19日
    00
  • 快速开启 GPT-4o 体验:免费使用教程和注意事项

    在这篇文章中,我们将详细介绍如何通过访问特定网址快速开启 GPT-4o 免费体验的方法。本文旨在帮助用户轻松体验 OpenAI 的最新工具,并提供一些实用的技巧和注意事项。无论是技术爱好者还是普通用户,都可以从中受…

    2024年5月15日
    00
  • OpenAI的ChatGPT之路:探索人工智能的商业前景

    在2022年11月,OpenAI发布了ChatGPT,这个备受瞩目的人工智能工具,但在发布之前,公司的高管团队进行了一场重要的会议,讨论是否应该发布这个工具。这一决策背后涉及了众多考虑和争论,本文将深入探讨这一话题以及…

    2023年12月8日
    00
  • 什么是OpenAI?OpenAI是哪个公司的?

    人工智能,这个风靡全球的领域,一直以来都备受关注。在这个领域中,OpenAI 作为一家领先的人工智能研究实验室,扮演着举足轻重的角色。那么,究竟什么是 OpenAI?它又是由哪个公司创立的呢? 1. OpenAI 是什么? O…

    2024年3月13日
    00
  • 如何使用多个OpenAI服务实例:详细指南

    随着技术的不断进步,有时您可能需要使用多个OpenAI服务实例来满足不同的需求。从版本6.9.0开始,OpenAI SDK提供了创建多个实例的功能,使您能够更灵活地管理和利用服务。在本文中,我们将详细介绍如何使用多个Open…

    2023年9月17日
    00
  • 下一代AI的训练已经开始,GPT-5会带来哪些改变?

    OpenAI近日发布公告,宣布已启动下一代前沿模型的训练,并成立了一个负责把控AI开发方向的安全委员会。本文将探讨这一消息对AI未来发展的影响,以及对AGI(通用人工智能)愿景的实际意义。 OpenAI的最新动态 就在大…

    2024年5月30日
    00
  • AI群雄争霸:GPT4.5圣诞前推出?

    在这个信息爆炸的时代,一场关于人工智能的革命正在悄然发生。随着OpenAI宣布即将推出GPT4.5,整个科技界都在为这一划时代的进展翘首以待。让我们一起走进这个由AI巨头们共同编织的奇幻世界,探索他们的最新动向和…

    2023年12月13日
    00