三言語の表記
日本語ガードレール
EnglishGuardrail
中文护栏机制

ガードレールとは

ガードレールは、生成AIの入力と出力を検査し、方針に反する内容や危険な操作を止めるための制御の総称です。禁止語や個人情報のフィルタ、回答範囲の制限、出力形式の検証、ツール実行の許可リストなどを組み合わせて構成します。製造現場では、安全に関わる手順の誤った回答や、設備への想定外の書き込みを防ぐ目的で、モデルの外側に仕組みとして置くことが重要です。

Definition (English)

A collective term for controls that inspect a generative AI system's inputs and outputs and block content or actions that violate policy. Typical elements include content filters, scope restrictions, output validation and allow-lists for tool calls.

释义（中文）

对生成式AI的输入和输出进行检查、拦截违反方针的内容或危险操作的各类控制措施的统称。通常由内容过滤、回答范围限制、输出格式校验和工具调用白名单等组合构成。

関連する用語

この用語を引用・埋め込む

この釈義は CC BY 4.0（表示 4.0 国際）で提供しています。出典（このページへのリンク）を明記すれば、商用を含めて自由に複製・改変・再配布できます。

出典表記の例

株式会社サオス MFG-AI「製造業AI用語集：ガードレール」https://mfg-ai.com/terms/guardrail（CC BY 4.0）

HTMLで埋め込む

<blockquote cite="https://mfg-ai.com/terms/guardrail">
  <p>ガードレールは、生成AIの入力と出力を検査し、方針に反する内容や危険な操作を止めるための制御の総称です。</p>
  <footer>出典：<a href="https://mfg-ai.com/terms/guardrail">株式会社サオス MFG-AI「製造業AI用語集：ガードレール」</a>（<a href="https://creativecommons.org/licenses/by/4.0/deed.ja">CC BY 4.0</a>）</footer>
</blockquote>

用語集全体のデータは CSV / JSON でダウンロードできます。

この記事を書いた人

株式会社サオス

株式会社サオス 製造DX部

DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。

運営者情報　編集方針　株式会社サオスのサイト