故障が発生しても、システム全体が致命的な失敗(事故など)に繋がらないよう、安全な状態に移行させる設計を何というか。

踏切の遮断機が故障時に自重で閉まるように、「故障=安全側への動作」を保証するのがフェールセーフです。