なぜルールが先に必要か
IEC 61131-3は、PLCのプログラミング言語（ラダー図、ST、FBD、SFCなど）を定めた国際規格です。生成AIは、この規格の言語でもっともらしいコードを出力できますが、そのコードが設備の仕様と安全要求を満たしているかは保証しません。研究論文「LLM4PLC」（2024年1月）は、汎用LLMがそのままでは有効なPLCプログラムを生成できないと報告し、コンパイラや形式検証を回す仕組みを組み込んでも生成成功率は72%にとどまりました。
Rockwell Automationは、FactoryTalk Design Studio Copilotの公式ヘルプで、Copilotが不正確な情報を表示する可能性があると明記しています。ツールの提供者自身が、出力の検証を利用者に求めているということです。現場で個人が便利に使い始める前に、組織としてのルールを決めておく必要があります。
原則1：生成コードも人が書いたコードと同じ検証を通す
生成AIで書いたコードに、特別に軽い検証の経路を作ってはいけません。逆に、生成AIを使ったことを理由に検証を重くしすぎると、使われなくなるか、使ったことを申告しなくなります。基準は「人が書いたコードと同じ」です。
既存のレビュー・試験の手順が文書になっていない会社では、生成AIの導入を機に、まず人が書くコードの検証手順を文書化してください。比べる基準がないと、生成コードの品質も評価できません。
原則2：安全関連部はAI生成の対象外と明文化する
安全関連部は、IEC 61508やISO 13849などの機能安全規格に基づく設計と妥当性確認の対象です。生成AIの出力は、どの仕様からどのように導かれたかを説明しにくく、規格が求める開発プロセスの証跡と相性が悪いという問題があります。対象外とするのは、品質の問題だけでなく、説明責任の問題でもあります。
原則3：仕様を先に書き、仕様に対して試験する
生成AIに渡す指示（プロンプト）は、仕様書の代わりになりません。入出力の割付、動作シーケンス、インターロック条件、異常時の動作を仕様として先に文書化し、その仕様から試験項目を作ります。生成AIへの指示は仕様の一部を写したものにし、試験は仕様に対して行います。
原則4・5：履歴を残し、2種類の試験を通す
最後の2つの原則は、生成した後の扱いに関するものです。
原則4：生成の履歴を残す
どのコードを、いつ、誰が、どの指示で生成し、誰がレビューしたかを記録します。トラブルが起きたときに原因を追うため、また生成AIの使い方を改善するために必要です。
| 記録する項目 | 目的 |
|---|---|
| 生成に使ったツールとバージョン | ツールの更新で出力が変わったときの追跡 |
| 指示の内容 | 誤ったコードが出た原因の分析 |
| 生成されたコード（修正前） | 人の修正量の把握、レビューの対象の明確化 |
| レビュー者と指摘事項 | 品質の傾向の把握 |
| 試験の結果 | 合否の証跡 |
バージョン管理の仕組みでPLCプログラムを管理している場合は、コミットの記録に生成AIを使ったことを残す運用が簡単です。
原則5：試験はシミュレーションと実機の両方で行う
仮想PLCやシミュレーターでの試験は、異常系のシナリオを安全に繰り返せる利点があります。ただし、実機のI/Oのタイミング、センサーのばらつき、機械の慣性は再現しきれないため、実機試験の手順は省略しません。Siemensは仮想PLCを含むエンジニアリング環境とIndustrial Copilotの連携を進めており、AudiではTÜVの安全認証を受けた仮想PLCの活用が報じられています。シミュレーション環境の整備は、生成AIの有無にかかわらず検証の効率を上げる投資です。
全社の生成AI利用規程との関係は製造業の生成AI利用ガイドラインの作り方、ツールごとの注意点はPLC開発Copilot比較を参照してください。
よくある質問
生成AIでコードの説明やコメント付けをするだけでも、このルールは必要ですか？
コードを変更しない用途は、誤っても設備の動作に影響しないため、ルールを軽くしてよい部分です。ただし、説明を信じて改造を行う場合は、説明の正しさを確認してから作業する運用にしてください。入力の制限（社外サービスに出してよい範囲）は同じく必要です。
協力会社の制御設計者が生成AIを使う場合はどうしますか？
発注時の仕様書や契約に、生成AIの利用可否、安全関連部の扱い、生成履歴の提出を記載します。協力会社が生成AIを使ったかどうかを把握できないと、受入れ時のレビューの重点を決められません。
機能安全の認証を受けた生成AIツールはありますか？
今回確認した公表資料の範囲では、PLCコード生成AIが安全関連部の開発に使えると明記した製品は確認できませんでした。安全関連部は従来の開発・検証プロセスで作成するのが前提です。
この記事に出てくる用語
製造業の生成AI、どこまで任せられるか
文書検索、手順書の生成、品質報告のドラフト。人が承認する範囲と任せてよい範囲の線引き 全91本
- 製造業の生成AI活用の全体像：業務別12ユースケースと導入の順番
- 製造業の社内文書RAG入門：手順書・図面・品質記録を検索する5層構成
- Siemens Industrial Copilotの全体像：5系統の提供状況と狙い
- 生成AIの情報漏えい対策：製造業が決めるべき入力禁止情報とログ管理の7項目
この記事を書いた人
DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。
