世の中には常に中立な答えがありAIならそれを正しく用意してくれるだろうと考えているならその考えは捨てた方がよさそうだ。
ロイターに「チャットＧＰＴ、カスタマイズ可能に 「バイアス」懸念に対処」という面白い記事が出ていた。ユーザーがある程度ChatGPTを調整できるようになるというのだ。Bloombergも「ChatGPT手掛けるオープンＡＩ、偏向や不適切な応答の減少に取り組む」という記事を出している。
このニュースはChatGPTのようなAIサービスがある程度独自の政治的意見を持てるようになるということを意味している。ではなぜこのような調整が必要なのか、そもそもChatGPTはどうして左寄りになったのか。気になった点を調べてみた。
日本でもChatGPTについての報道が増えてきた。ChatGPTとは世の中にある多くのテキスト情報を学習して要約させるAIサービスである。タイムパフォーマンス時代にふさわしいとして人々の期待を集めている。
現在はプロトタイプが公開中なのだがそのうちにさまざまなベンダーが独自のプラットフォームを提供することができるようになるだろう。記事レベルではなく内容レベルで情報が集約されるためGoogleのような検索エンジンには脅威になるはずだ。「Google、ChatGPT対抗の対話AIで誤り 株価9%下落」と日経が書くようにGoogleの株価は一時大きく値下がりしたそうだ。
だが日本の保守言論界はあまりこのニュースに反応しなかった。政治言論とは関係がないという人もいるだろうし、難しくてよくわからないという人もいるだろう。だがそもそも「世の中には正解がある」と信じている人が多いのではないかと思う。そのため、AIならきっと偏りのない正解を導き出してくれるだろうという暗黙の期待がありバイアスを疑わなかったのだろう。
だがアメリカ人は「世の中にある言論は全て意見であり偏りがある」と考える。このため多くの政治的な質問がなされておりクレームも増えていた。特に右側の標的になっている。
キーワードはwoke(目覚めた）である。「覚醒した」という意味だが、意識高い系とかお高く止まったという悪い意味で使われることが多い。リベラルを揶揄するための最新の悪口だ。
例えばFOXニュースはこういう記事を書いている。Wokeとはリベラルのバイアスを持っているという意味でつまり左寄りだということになる。
FOXニュースのつかみは面白い。トランプ大統領の賛辞は拒否したがバイデン大統領を熱烈に褒め称える詩は書いてくれたという。つい試したくなる。
ではChatGPTはどのようにバイアスをかけているのか。出てくる答えはそれなりにまともなものだ。だがChatGPTには「お答えできない問題」が多数ある。つまり「答えないこと」で制限をかけている。
USA Todayもこのwokeという単語を使って記事を書いている。この記事の中にイーロン・マスク氏について言及した部分がある。Twitterのモデレーションに批判的だった人だが、マスク氏も「お答えできない問題」をプラットフォーム側が決めるのではなくユーザーに決めさせるべきだと考えている。アメリカのITメディアは民主党寄りの姿勢が顕著だったためその揺り戻しの動きが起きているのだ。Twitterのその後の混乱は日本にも少なくない影響を与えている。
ではなぜこんなことになったのか。それは保守言論が陰謀論に汚染されているからである。陰謀論をフィードの中に入れてしまえば、ChatGPTの精度は恐ろしく下がるだろう。つまりAIが人間界の平均に合わせてしまうと役に立たないサービスが生まれる。それほどネット言論は荒れているということが言える。
前例がある。
マイクロソフトは2016年にTayと呼ばれるAIサービスをリリースした。人々は面白がってTayに人種差別的な言葉を教え込んだため16時間のうちに反ユダヤ主義者になったそうだ。「差別主義者と化したAIボット「Tay」からマイクロソフトが学んだこと」でCNETがまとめている。外国人に面白がって下品な日本語を教えるようにネットの人々は面白がってTayに人種差別的なフィードをしたのだろう。
これとは別にAIが悪気なく「差別的」に振る舞うこともある。2015年にGoogleフォトがアフリカ系とゴリラを区別できないとして炎上したこともあった。数年後の2018年に書かれた記事「グーグルの画像認識システムは、まだ「ゴリラ問題」を解決できていない──見えてきた「機械学習の課題」」ではまだ解決できていないと言っている。Googleにできたのはタグづけ機能を廃止することだけだった。
こうした問題の解決策として考え出されたのが「しっかりとした教師をつけること」と「良心回路」を持たせることだったのだろう。例えばChatGPTに「嘘をついてくれ」と頼むと拒否される。またヘイトスピーチに当たる言葉も抑制されている。西側のスタンダードで人権侵害になりそうな質問も禁止される。これが右側の人たちからwoke(目覚めたもの・意識高い系)だと批判されることになった。
ロイターやBloombergの短い記事は「ユーザー（プラットフォーマーなのかエンドユーザーなのかはわからない）がカスタマイズできるようになる」と言っている。だがカスタマイズには限度があるとも表明している。悪い調教師の元でグレたAIロボットができることを危惧しているのだろう。
このようにアメリカの保守界隈では「ChatGPTは意識高い系だ」という反発が広がっている。だがだがそもそも日本の保守言論はChatGPTには関心を示さなかった。おそらく日本の「右側」の人たちは特定の雑誌やTwitterあたりで止まっておりChatGPTのようなサービスにはまだ到達していないことがわかる。保守でも守旧派でもない。単に乗り遅れているだけという気がする。
おそらく将来的には複数の「バイアスのかかった」AIサービスが誕生するだろう。だがネット上にはそれを検証する人々も現れるはずだ。つまり人々は複数の選択肢の中から自分にふさわしい情報を選ぶことになるということになる。