10月の連休明けに障害を起こし2日間銀行間振替が止まった問題に進展があった。NTTデータが謝罪会見を開き「生成プログラムに異常があったようだ」と謝罪した。記事の中には詳しい記述はないがプログラマー不足の解消と省力化を目指したAI化を推進していた中で起きた不具合だった可能性がある。しかし、仮に今回の障害が自動化の弊害であったとしてもそれについてはあまり語られることはないだろう。実際にこれで不安の種が取り除かれたかどうかはわからないが「原因が特定されたことで次の更改は無事に進むだろう」と希望的観測を書くにとどめたい。
NTTデータが会見を開き全銀ネット障害の問題について謝罪した。共同通信は障害の理由については伝えず、謝罪はしたが補償についての言及は避けたとだけ伝えている。
クロステックとロイターは「生成プログラムの不具合が原因だった」と伝えている。だが生成プログラムが何を意味するのかという記述はない。
ロイターの表現は次の通り。
ＮＴＴデータグループ (9613.T)傘下のＮＴＴデータの鈴木正範副社長は６日の会見で、全国銀行データ通信システム（全銀システム）の障害について「生成プログラムに不具合があったことが主たる原因。全銀ネットには報告済み」と述べ、再発防止の観点で全体のプロセスを俯瞰する形で全銀ネットと確認中だとした。
クロステックの別の記事はNTTデータは省力化のためにAIによる生成プログラムの導入を急いでいたと書いている。NTTデータの先端事例として報告されており全銀ネットに関連する記事ではない。この文章は「複数回人手によるフィードバックを加えると精密度が上がる」と言っている。つまり教師による学習が必要なのである。事例がないところに使ってしまうと不完全なプログラムやデータが出力される可能性があるということになる。
最終的に作業工数は人手に比べて7割削減できたが、その秘訣はプロンプト（指示文）をうまく使うことにあった。変換前のソースコードに基づいて、生成AIは新たな開発言語によるソースコードを提案する。担当者は変換後にテストを行い、思い通りに変換されていないものについては人手で修正していった。同時に、修正に基づいた「良い変換例」をプロンプトとして生成AIに還元した。こうした変換作業のスプリントを複数回繰り返すことで有用なプロンプトが蓄積され、変換の精度が向上。最終スプリントで7割の工数削減につながった。
あくまでも「今回の事例と先頃出ていた記事を合わせると」ということになってしまうのだが、省力化のために開発したAIプログラムそのものかその使い方（不完全な学習など）によって大規模な障害が発生した可能性があるということだ。
当初障害が起きた時に原因ついて情報が錯綜したことから生成過程がブラックボックス化していたことは間違いがないだろう。さらに伝え方にも問題があった。50年間障害を起こしていなかった全銀ネットはかなり狼狽し情報の正確性に欠けていた。このため一部の媒体がエンジニアに直接取材をする。だが、おそらく現場のエンジニアたちも何が原因なのかはよくわかっていなかったのだろう。結果的に「メモリ不足？」という間違った認識が広まった。
仮に今回の件が拙速なAI化が原因ということになると「不確実な技術を使うべきではない」という風評が広がりかねない。一旦悪い印象がついてしまうと「自動化＝悪」という極論が世間に広がる可能性がある。
NTTデータの報告が遅れた理由はよくわからないが「ニュースとしての熱が下がるまで」待っていたのではないだろうかと疑いたくなる。さらに先進技術を売り込み国内メーカーの先端性を宣伝したい専門媒体もあまりネガティブなことは書かないだろう。一般紙はそもそもテクノロジーには興味はないのだからおそらくこの問題が大きく報道されることはなさそうだ。国民の関心はあくまでも何かあった時に誰が補償してくれるかであり、エンジニアリングの詳細に興味を持つ人は少ない。
自動化によって支えられているのは何も金融だけではない。お盆に災害級の天候の悪化があり新幹線のダイヤが数日乱れた事故があった。この時も普段のダイヤを新大阪折り返しにしたことで車両繰りが間に合わなくなったというところまでは盛んに報道されているが、その背後にある問題について掘り下げたところはなかった。
新幹線ダイヤは既に自動化が進んでおり、臨時ダイヤをフィードすると自動的にダイヤが出力される仕組みになっている。このコムトラックというシステムは人間とコンピュータの合わせ技として業界内ではポジティブな伝えられ方ををしている。世界に誇る新幹線技術だ。業界の人たちがこれを批判的に書くはずがない。
この時は悪天候に加えてお盆の臨時運転列車が数多く運行されていた。悪天候でダイヤが乱れ出すと乱れを手動でシステムにフィードし新しいダイヤを算出する必要がある。結果的にこれが間に合わなくなり「全システム停止」にまで至ったものと思われる。
AI化が全ていけないことだとは思わないが、普段便利に使っている分だけシステムは複雑化し技術のブラックボックス化も進む。だから、システムが止まった時の影響が大きくなってしまうのである。システムが止まると「なぜバックアップがないのだ」として問題になるのだが、不思議なことにしばらくすると皆それを忘れてしまう。だが自動化は既に至るところに取り入れられており我々の生活はシステムに依存している。あとはうまく付き合ってゆくしかないだろう。
実際に不安が取り除かれたのかどうかはわからないが、ひとまず原因がわかったことで「今後同じような問題は起きなくなるだろう」と書いておく。次の更改は来年にあると記憶している。