LLMによるシステム記述からの
異常モードの抽出支援とその対策の生成
背景と課題
システムの安全性向上には，開発段階において想定される故障を洗い出す異常系分析（FMEA・HAZOP）が不可欠である．しかし，この作業は手作業で行う場合に時間を要し，分析者のスキルや経験に大きく依存する．
→ 見落としが生じやすく，分析者間で結果が変動するという問題がある．
そこで本研究では，LLM（大規模言語モデル）を用いて異常モードの抽出と対策の生成を自動化・支援する仕組みを提案する．
中心となるアイデア
システムの説明文（システム記述）を分析すると，名詞 ＝ 構造・部品，動詞 ＝ 動作，修飾語 ＝ 想定からの逸脱という対応関係が見られる．
たとえば「水が沸騰する」という文の「沸騰する」に「激しく」「断続的に」などの修飾語を付与すると，「激しく沸騰する」「断続的にしか沸騰しない」といった異常モードを導出できる．本提案は，この発想をLLMにより体系的に実施する点に特徴がある．
提案プロセス
システム記述の作成
対象システムの機能，構造，振る舞いを自然言語で記述する．
形態素解析で名詞・動詞を抽出
MeCabを使いシステム記述を形態素に分解し，名詞と動詞のリストを得る．
LLMで修飾語を生成
各名詞・動詞にかかる修飾語をLLMに生成させる．分野バイアスを防ぐため，専門家の役割は与えない．
ステークホルダの振舞いの抽出
システム記述からステークホルダの振舞いをLLMに抽出させる．実際の使用状況をLLMに与えることで，より現実に即した異常モードの生成を支援する．
異常モード・影響・対策の生成
上記の情報をまとめてLLMに入力し，異常モードの一覧とその影響・対策をまとめて出力させる．
評価結果
電気ケトルのシステム記述を用い，提案プロセスによる手法（A手法）と，LLMにシステム記述を直接与えて異常モード・影響・対策を生成させる手法（B手法）の結果を比較した．各手法の生成結果から10件を無作為抽出し，工学的知識を持つ被験者6名が評価した．
影響の妥当性
異常モードに対して生成された影響が妥当と評価された割合
異常モード・影響・対策の整合性
異常モード・影響・対策の間に齟齬がないと評価された割合
両手法とも実用に耐える水準を示したが，提案手法（A手法）は体系的なプロセスを踏むことで，影響と対策をより齟齬のないかたちで生成できることが確認された．一方，異常モードの具体性（A: 86.7% vs B: 81.4%）や対策の理解容易性・実現可能性（A: 87.3% vs B: 87.5%）については，大きな差は見られなかった．
Keywords