什么是Opal by Google?
Opal是Google设计的一套工具，帮助开发者使用LLM构建更安全、更负责任的应用。集成到Google AI Studio和Vertex AI中，Opal提供可配置的安全过滤器和评估功能，在部署前和部署期间评估模型输出是否符合安全策略和质量基准。
主要功能
●
可配置安全过滤器
跨骚扰、仇恨言论和危险内容等类别自定义和调整安全过滤器，以符合应用需求。
●
LLM安全评估
使用自动化评估工具评估模型在既定安全策略下的表现，识别潜在风险和漏洞。
●
交互式原型设计
在Google AI Studio游乐场中实时测试提示和安全配置，即时观察模型行为。
●
Vertex AI集成
从Google AI Studio的原型设计无缝转移到生产规模部署，使用Vertex AI中集成的Opal工具。
●
质量和事实性检查
除了安全性，还可运行评估来测量模型响应的事实准确性和整体质量。
1. 什么是Google的Opal？⌄
Opal是Google为开发者提供的一套集成工具，用于评估和实施使用大语言模型构建的应用的安全配置。
2. Opal适用于谁？⌄
它专为构建或管理基于LLM应用的开发者、AI工程师以及信任和安全团队而设计。
3. Opal支持哪些模型？⌄
Opal与Google AI Studio和Vertex AI中的Google Gemini模型系列集成。
4. 如何访问Opal？⌄
Opal的功能可直接在Google AI Studio中用于原型设计，在Vertex AI平台中用于生产。
5. 我可以用Opal评估什么？⌄
您可以评估模型输出是否符合安全策略（如仇恨言论），以及事实一致性和响应质量等属性。
6. 安全过滤器是否可自定义？⌄
是的，您可以调整各种安全类别的阈值，以匹配您应用的特定需求和风险承受能力。