• :目录--1-: 目 录

1. Azure AI 内容安全

1.1. 概述

Azure AI 内容安全是一项 AI 服务，可检测用户输入和 AI 生成的有害内容。Azure AI 内容安全包括文本和图像 API，该服务提供了以下几种不同类型的分析：

1.2. 危害类别

Azure AI Content Safety 可识别四种不同类别的有害内容，分类可以是多标签的。例如，当文本通过文本审核模型时，它可以被归类为 Sexual 和 Violence。

1.3. 严重性等级

每个危害类别还附带一个严重性级别，用于显示被标记内容的严重性。

• **文本：**文本模型支持完整 0-7 严重性等级。如果用户指定，可以返回 0、2、4 和 6 的剪裁比例的严重性，每个相邻的级别都映射到一个级别。
• **图像：**图像模型支持完整 0-7 严重性等级的修剪版本。仅返回严重性 0、2、4 和 6。
• **带文本的图像：**多模态模型支持完整 0-7 严重性等级。如果用户指定，可以返回 0、2、4 和 6 的剪裁比例的严重性，每个相邻的级别都映射到一个级别。

1.4. Azure 内容安全容器

通过容器可以在自己的环境中使用 Azure AI Content Safety 功能的子集，以满足特定的安全性和数据管理要求。下表列出了可用的 AI Content Safety Container 以及每个容器支持的功能。

Content safety Container 处于公共预览版，不满足 Microsoft 的稳定性和支持要求。

1.5. 价格

Azure AI Content Safety 提供两种 SKU，一种按是 Standard SKU 按照实际请求的文本数量和图片数量进行计费，另一种是通过容器方式，完全部署在本地且不与互联网交互的 Commitment SKU。同时，对于 Standard SKU，也提供容器部署在本地，但需要与云端 Billing Endpoint 交互，按照一定间隔同步计费数据。详情如下：