LLMによるシステム記述からの
異常モードの抽出支援とその対策の生成
背景と課題
システムの安全性を高めるには，開発段階で「どんな故障が起きるか」を洗い出す異常系分析（FMEA・HAZOP）が不可欠です。しかしこの作業は手作業で行うと時間がかかる上に，分析者のスキルや経験に大きく依存します。
→ 見落としが起きやすく，かつ分析者ごとに結果が変わってしまうという問題があります。
そこで本研究では，LLM（大規模言語モデル）を使って異常モードの抽出と対策の生成を自動化・支援する仕組みを提案します。
中心となるアイデア
システムの説明文（システム記述）を分析すると，名詞 ＝ 構造・部品，動詞 ＝ 動作，修飾語 ＝ 想定からの逸脱という対応関係があります。
たとえば「水が沸騰する」という文の「沸騰する」に「激しく」「断続的に」などの修飾語を付けると，「激しく沸騰する」「断続的にしか沸騰しない」といった異常モードが自然に導き出せます。この発想をLLMで体系的に実施するのが本提案の核心です。
提案プロセス
システム記述の作成
対象システムの機能，構造，振る舞いを自然言語で記述する。
形態素解析で名詞・動詞を抽出
MeCabを使いシステム記述を形態素に分解し，名詞と動詞のリストを得る。
LLMで修飾語を生成
各名詞・動詞にかかる修飾語をLLMに生成させる。分野バイアスを防ぐため，専門家の役割は与えない。
ステークホルダの振舞いの抽出
システム記述からステークホルダの振舞いをLLMに抽出させる。実際の使用状況をLLMに与えることで，より現実に即した異常モードの生成を支援する。
異常モード・影響・対策の生成
上記の情報をまとめてLLMに入力し，異常モードの一覧とその影響・対策をまとめて出力させる。
評価結果
電気ケトルのシステム記述を用い，提案プロセスによる手法（A手法）と，LLMにシステム記述を与えてナイーブに異常モード・影響・対策を生成させる手法（B手法）の結果を比較しました。各手法の生成結果から10件を無作為抽出し，工学的知識を持つ被験者6名が評価しました。
影響の妥当性
異常モードに対して生成された影響が妥当と評価された割合
異常モード・影響・対策の整合性
異常モード・影響・対策の間に齟齬がないと評価された割合
両手法とも実用に耐える水準でしたが，提案手法（A手法）は体系的なプロセスを踏むことで，影響と対策をより齟齬のないかたちで生成できることが確認されました。一方，異常モードの具体性（A: 86.7% vs B: 81.4%）や対策の理解容易性・実現可能性（A: 87.3% vs B: 87.5%）については大きな差は見られませんでした。
Keywords