2023.08.29
デジタル化が急速に進む現代社会において、システムや端末装置の安全と信頼を高めることがますます重要になってきています。その実現のために注目されているのが、「フェイルセーフ」と「フェイルソフト」「フールプルーフ」という考え方。どうやってシステムの機能を維持し、ヒューマンエラーを抑えるのか。デジタル社会の安全と信頼を確保するためのポイントを説明します。
- もくじ
1.「フェイルセーフ」「フェイルソフト」「フールプルーフ」が大きな障害を防ぐ
1-1 前提となる「フォールトトレランス」と「フォールトアボイダンス」とは？
システムの信頼性の考え方には「フォールトトレランス（fault tolerance）」と「フォールトアボイダンス（fault avoidance）」の2つがあります。
フォールトトレランスは「耐障害性」です。仮に障害が発生してもできるだけ安全に動作させようとすることで、言い換えると「壊れても大丈夫（なんとかがんばる）」なように安全設計することです。
一方で、フォールトアボイダンスは障害を回避（avoidance）することです。できるだけ障害を発生させないようにして安全な設計を目指すことを指します。
今回紹介する「フェイルセーフ」と「フェイルソフト」「フールプルーフ」は、このフォールトトレランスを実現するための考え方です。
1-2 実際には組み合わされていることが多い
フェイルセーフとフェイルソフト、フールプルーフはシステムの信頼性向上には欠かせない考え方です。実際にはこれらを組み合わせることで大きな被害を防いでいます。デジタルにおいても同様の考え方で、フェイルセーフとフェイルソフト、フールプルーフの組み合わせによって安全性や信頼性を向上させているケースが多いようです。
次章から「フェイルセーフ」と「フェイルソフト」、「フールプルーフ」について事例を交えて詳しく解説していきます。
2．フェイルセーフとは？
2-1 「フェイルセーフ」とは
「フェイルセーフ（fail safe)」とは、システムの一部が障害や故障、エラーが発生しても、安全な状態に移行するよう動作や機能を制御する対策や設計のことです。最低限の機能へと移行するといった表現されていることもありますが、万が一の場合でも、安全性を確保して障害が致命的な状態まで至るのを防ぐ狙いを持っています。
2-2 フェイルセーフの事例
フェイルセーフの実例で最も分かりやすいのは石油ストーブの安全装置でしょう。倒れたり異常を検知したりすると自動的に火を消す装置が取り付けられています。地震で止まるエレベーターも分かりやすい例です。信号機は故障や停電が発生すると、可能な場合、赤信号や黄信号の点滅に切り替わるようになっています。
プラント等の内部にある設定されたルートを移動するAGV（Automated Guided Vehicle：無人搬送車）の多くが故障や異常が発生すると自動的に停止するように設計されているそうです。
さらに、フェイルセーフは医療分野でも活用されています。例えば手術用ロボットなどの医療機器で異常が検知されると、システムは自動的に安全モードに移行して、スタッフが問題解決をする時間を作り出します。患者の命が守られ、医療従事者は落ち着いてシステムを利用でき、安心です。
3．フェイルソフトとは？
3-1 「フェイルソフト」とは
「フェイルソフト（fail soft）」とは、システムが予期せぬ障害やエラーに見舞われても、必要な機能が損なわれないようにする対策や設計のことです。システムを完全停止させずに被害を最小限にし、問題個所を停止したり切り離したりして機能や性能を低下させて稼働を維持する「縮退運転」をするのが目的です。
3-2 フェイルソフトの事例
フェイルソフトは、クリティカルなシステムやアプリケーションで、予期せぬ障害に対応する重要な手法とされています。最も知られているのは航空機でしょう。飛行中にトラブルがあっても機体を止めるわけにはいきません。飛行中にエンジンやシステムの一部に問題が発生しても、操縦士が安全に対処できるよう、安全装置や適切な手順が用意されていて訓練もされています。もし、エンジンが壊れても片方のエンジンで動作し、トラブルを回避することができるよう準備されているそうです。
医療機器でもフェイルソフトの考え方が利用されています。医療機器が重大な問題を検知したら予備の装置に自動的に切り替わり、手術や治療を止めないためのフェイルソフトの対策がされています。IT関連では、停電したらバッテリー運用に切り替わるパソコンやサーバーが分かりやすい事例でしょう。
4．フールプルーフとは？
4-1 「フールプルーフ」とは
「フールプルーフ（fool proof）」とは、システムやプロダクト（製品）が、ユーザー（操作者）や他の要因（連携する別のシステム・プログラムなど）の間違った操作、ミスができないようにする対策や設計のことです。ヒューマンエラー（人為的ミス）を最小に抑えるか、発生させないようにします。ユーザーの誤った操作・手順を予測し、問題を回避するもので、UI（User Interface）の設計やデザインをする上で重要な考え方の一つとされています。
4-2 フールプルーフの事例
フールプルーフは家電等でも様々な形で取り入れられているので理解しやすいと思います。よく事例に出てくるのが電子レンジと洗濯機です。いずれも、ほとんどのモデルで扉が閉まった状態でないと作動しないようになっています。電子レンジが扉が開いたまま動作してしまうと、非常に危険な凶器になりかねません。洗濯機もケガなどのリスクがあり、扉が自動でロックされないと動作しない機構を持ったものが多いようです。
電池はプラス・マイナスの形状が異なるため、家電製品によっては電池の向きを間違えると挿入できないように工夫されていることがあります。最近では、スマートフォン用によく使われるモバイルバッテリー等で本体充電用の入力端子と他の機器を充電するための出力端子の形状を変えて差し間違いを防ぐ工夫がされています。
医療現場の例では、点滴などのラインを誤って繋がないように用途によって接続部を接合できないものにする対策が採られています。
デジタルの世界では、デザインやインターフェースにおけるフールプルーフの活用例が増えています。例えば、アプリケーションのUI設計では、誤ったボタンを押してしまったり、誤った手順で操作したりすることがないように、分かりやすい表示をしたり、場合によっては必要な操作系しか示さないようにするなどして、ユーザーが簡単に正しい操作を行えるように設計し、UX（ユーザーエクスペリエンス）を向上させています。今後はAI等を活用して、よりシンプルな操作で複雑な動作を、間違えずに行えるようになることが期待されています。
実例で見たように、意図しない使い方をされてもシステムが停止しないようにしたり、故障したりしないようにするフールプルーフの考え方は今後さらに広まっていくと考えられます。
5．障害に対する備えを「組み合わせる」のがポイント
フェイルセーフ、フェイルソフト、フールプルーフといった考え方、アプローチは私たちの生活とテクノロジーが密接に関係し、進化していくデジタル社会でますます重要性を増していくことになるでしょう。すなわち、フォールトトレランス（耐障害性）を事前検討して、システムの信頼性を確保し、人々の安全を守り、快適な状態を維持することが要件・設計段階から重視されるようになっていくでしょう。
例えば、クルマの自動運転分野などでは、数多くのセンサーやシステムの異常を検出した際に、適切な安全運転モードに切り替えるなどして障害に備える仕組みが組み込まれています。様々な安全設計を施すことで技術の進化にともなう新たなリスクにも柔軟に対処できるようになり、安全性や信頼性が保たれるようになります。
ポイントとなるのは「組み合わせ」です。「ガスコンロのバーナー」が分かりやすい例です。2008年10月から法制化され、全口にセンサー搭載が義務化されました。それまで、ガスコンロを原因とする火災のほとんどの主因が「コンロの消し忘れ」でした。メーカーによる自主規制・対策もされていましたが、重大事故に繋がりやすいとの社会的認識の変化から義務化されました。
ガス用品の技術上の基準等に関する省令」及び「液化石油ガス器具等の技術上の基準等に関する省令」の一部改正案について（経済産業省）
このとき、義務づけられたのは以下の2つでした。
- 調理油過熱防止装置
温度センサーで過熱されると火力を自動調整し、長時間に亘るか高温になった場合は自動消火する。
- 立ち消え安全装置
何らかの原因で火が消えたら自動でガスを遮断する。
一つの目的を達成するために複数の方法が採用されていることが分かります。
このように、フェイルセーフ、フェイルソフト、フールプルーフのアプローチは進化し続けると予測できます。AI技術が発展して、インターフェースが進化し、より安全で便利なシステムが登場するでしょう。なかでもデジタルセキュリティの向上や新たな産業領域への応用が期待されています。
まとめ
フェイルセーフ、フェイルソフト、フールプルーフとは以下のような考え方です。
- フェイルセーフ：［安全第一］問題が起きたときになるべく安全な状態に移行するよう制御する
- フェイルソフト：［継続優先］問題の個所を停止するなどして、機能を低下させても継続稼働する
- フールプルーフ：［ミス防止］使用者が間違った操作ができない仕組みや構造とするよう設計する
この3つの考え方は、今後、とくにデジタル技術において安全性と信頼性を確保するための重要な概念としてこれまで以上に重視されるようになるでしょう。テクノロジーの進化にともなって複雑で分かりにくい社会になるのではなく、より安全で信頼性が高く、利便性が高い「人にやさしい」デジタル世界を築くために欠かせない考え方といえるからです。
