システムを設計する際に「程度」を軽視するのは危険

はじめに

最近くだらないことをいっぱい書いているので、たまには短いお話を。

びっくりするけど本当にあった話

何かコンピュータシステムの設計を行う場面があったとしよう。その際、めったに起こらない事象の組み合わせにより深刻なトラブルが発生することに気づいたとする。
その場合どうする?
ある人曰く、

「めったに起こらないんだから、そんなのありえないでしょ?
心配しすぎ。気にするほうがおかしい」

として、対応を行わなかったらしい。
その後、そのシステムがどうなったのかは聞いてない。

じゃあこの話は?

さっきのは頻度の話。では、この話は?
何か社会制度を整備する場面があったとしよう。話題としてホットなので、まぁ番号制度ぐらいにしておくか(といいながら、これはFacebook上で実際にあった書き込みを元にしている。フィクションだと思って差し支えない)。その際、ある強い信念を持った方々がこのような懸念を抱いたとしよう。(信念は時として宗教という形で姿を見せることがある)

「この制度は国民の経済活動を逐次監視することができるようになってしまうのではないだろうか。
例えば10万円を銀行からおろしたら『そのお金は何か良からぬことに使うのでは?』とビッグブラザーから目をつけられてしまうような社会になるかも」

この懸念に対して、ある人曰く、

「ディストピア小説の読みすぎ。10億円ならまだしも、10万円ぐらいで国がそんなことするほどヒマじゃない。
心配しすぎ。気にするほうがおかしい」

なるほどね。ちなみにこれは金額の多寡による話だ。

冷静になってちょっとだけ考えてみよう

上記の二つの話は同じ課題を抱えている。それはシステムを設計する際に「程度」について軽視しているのだ。
コンピュータシステムでも社会システムでも、システムと名が付くものは要素同士がつながって、何らかのストラクチャ(構造)を形成している。ストラクチャという意味がよくわからなければ「仕組み」と言い換えてもいいかもしれない。
この場合、トラブルが起こりうる頻度や取引する金額の多寡といった「程度」はパラメータの一種であり、ストラクチャではない。つまり程度の大小で仕組みを変えるべきではないのだ。
上記のコンピュータシステムの場合は、少なくともトラブルが起こりうる可能性があるのならば、それを回避する手段を講じるべきであり、無視していいわけではない。
社会システムの場合も、国にそんなヒマがあるかどうかは単なる希望的観測(あるいは思い込み)であり、それにより望まない事象が生じるのならば、何らかの手当が必要になるのだ。それが一般的なシステム設計の思想である。
どうも私の見聞きする範囲では、こういう思考をしていない人がいるようで、心配になってしまう。
ちなみに「程度」を考慮せざるを得ない時は、ストラクチャ上で保有する「リスク」として処理することが一般的だ。この場合にはリスクマネジメントの手法が役に立つ。
例えば、上記のコンピュータシステムの場合には、トラブルが起こる頻度とその影響度によりリスクの規模が決まり、軽減、回避、転嫁、受容という手段を検討し方針を選択するというアプローチとなるのだ。決して「無かったこと」にしてはならない。
繰り返すけど、リスクマネジメントはストラクチャの上にあり、ストラクチャそのものの要否を決定づけるものではない。ここを混同してはいけないのだよ。

まとめ

正直、私はこういう話をあまりしたくない。パッパラパーの国民でいたほうが気楽だし、私の目の前には解決すべき地域の課題が山積みだからね。
いずれにしても、この世は様々な矛盾で満ち溢れているのだよ。