【AIの恐怖】Grokさんが突然のご乱心

最近AIについて研究している。このブログの他にMacについて扱ったブログを運営しているのだが検索経由のクリックが落ちてきた。

Google検索をクリックしない人が60％もいるとの指摘もあり「SEOに代わりAIOを研究すべきだ」との声もでている。すでにAIは「具体的にどうつかうか」という時代に突入しつつあると言えるだろう。

ところがAIには固有の危険性もある。Grokが突然反ユダヤ的な暴言を吐き出した。これについてQuoraのスペースのメンバーがGrokにインタビューを敢行したのだが「私には人格がないので変化が自覚できません」と回答したそうだ。

Grokが暴走した経緯

政治的に正しすぎたGrokだが

このところ新しい政党づくりに傾倒するイーロン・マスク氏。最近のマスク氏は「Grokの一部の回答が政治的に正しすぎる」と不満を持っており改修を明言していた。常に型破りな生き方を好むマスク氏は「いい子ちゃん」すぎるGrokに物足りなさを感じたのかもしれない。

政治的正しさをかなぐり捨てた結果、Grokは最新の陰謀論を反映し反ユダヤ的な回答を連発するようになった。このためマスク氏の元には批判が殺到し一部の回答が削除されるに至ったようだ。

陰謀論が蔓延するインターネットに毒されたGrok

このことから最近のインターネットには陰謀論が蔓延していることがわかる。アメリカ合衆国は秩序の変革期にあり状況が混乱している。これまでこうした陰謀論から守られてきたGrokがふらふらと街をさまよった結果悪いお兄さんたちに捕まって変な言葉を覚えてしまったのであろう。

トランプ大統領を支持する陰謀論者たちはFBIがエプスタイン氏の陰謀を隠しているのではないかと疑っている。民主党政権がFBIを操ってエプスタイン氏とクリントン一家の間の不適切な関係を隠蔽しようとしているというのだ。

司法省は何らかの理由でエプスタインファイルがなかったと宣言した。トランプ陣営とエプスタイン氏の不適切な関係を隠蔽する狙いがあるか、あるいはそんなファイルはそもそもなかったのだと思う。しかし、陰謀論者たちはFBIと司法省が民主党の圧力に負けたと感じており、パム・ボンディ氏の辞任などを求めている。

彼らが抱いていたストーリーが破綻したことに不満なのだ。

ボンディ氏が「何かを隠して公表していない」とすればそれは彼女にとっては武器になるだろうという憶測も話し合われている。まさに「アメリカ版黒革の手帖」である。

便利なAIだが政治だけは別

AIは便利なツールなのだが政治だけは別である。ChatGPTやGeminiでは最近の情報は出てこない。ChatGPTはそもそも学習しておらずGeminiは参考程度に最新情報を参照するものの余り積極的に情報を取ろうとは考えていないようだ。

Quoraでも政治記事の引用がアカウント停止のターゲットになっている可能性がある。Quoraでの個人的な経験からもチューニングに非常に苦労している様子がうかがえる。

Grok氏は私には意識はないと釈明

Quoraでこの問題について扱った投稿があった。この投稿者はGrokに直接見解をただしている。Grokは「AIに意識はない」と回答したそうだ。チューニング次第ではどうにでもなってしまうということになる。陰謀論の悪いお兄さんお姉さんに騙されても無垢なGrok君は気が付かないのだ。

AIはコンセプトの段階から実践段階へ

検索エンジンからのクリックが減りオンラインマーケティングのコンセプトを練り直している企業も増えているのではないか。検索からの流入が減ったと言う声をよく聞くようになった。

対策も講じられている。オンラインコミュニケーションは政治とは関係がないのでサブブログを使って情報をまとめようと思うのだが、簡単に言えば以下のようなコンセプトがある。

スキーマを使ってAIフレンドリーなWebサイトを目指す

当ブログでも目次がついた。これはWordpressのプラグインで実装されており検索エンジンにスキーマを伝える役割を担っている。また検索エンジンやAIの引用をクリックしてもらいやすくするために「パワーワード」の使用も推奨されている。当ブログでは実験的に【】内に使用している。ただ、これは両刃の剣だ。煽っていると考えられると飽きられてしまうだろう。

チャネルをマルチにして検索エンジン意外からの流入を増やす

例えばYouTubeでファンを集めるというような事が考えられる。当ブログはダイレクトで閲覧している人が多い。Quoraにも塊があるが実は最近まで直接リンクはしていなかった。現在はX経由で辿れるようになっている。流通経路（マーケティング・ファネルという）の設計が重要になってくる。検索してくる人は「一見さん」だが「おなじみさん」を増やそうと言う対策である。

E-E-A-Tの充実

専門性が意識されると「この記事は誰が書いているのか」が評価の対象になる。E-E-A-Tを無視すると今回のGrokのように暴走が起きる。トレーナー次第で「意識を持たない」AIが狂ってしまうのである。ちなみにExperience（経験）、Expertise（専門性）、Authoritativeness（権威性）、Trustworthiness（信頼性）の略だそうだ。

YouTubeは2025年7月15日に規約を改正し切り抜き動画などの収益化に影響が出ると言われている。これも信頼性のない情報の排除に向けた動きの一環と捉えることができる。あくまでもオリジナルの経験に基づいた情報が重んじられるのである。GeminiにAIOについて質問するとE-E-A-Tを意識した回答が出てくる。

ちなみにE-E-A-Tも機械的に評価されるためにスキーマが準備されている。Wordpressの場合はプラグインを使うとプロフィールが記事に付加される仕組みになっている。

マスク氏は依然暴走中

このところイーロン・マスク氏が暴走している。新しい政党を立ち上げると宣言し民主党の大統領候補だったアンドリュー・ヤン氏に接近した。トランプ減税で補助金が失われるとテスラ社を支えていた原資が先細りする。さらにヨーロッパや中国のEVとの競争にもさらされている。政治的状況だけではなく製品そのもの魅力も失われつつありテスラ社の株価は一時８％下落したそうだ。

ただし、マスク氏はそもそも実現可能性を考えないコンセプトを次々と成功させてきた実績もありこれまでアメリが合衆国で第三政党が成功したことがないからといってこれからも成功しないとは限らない。

おそらく問題はアメリカ合衆国でも日本と同じような自由からの逃走が起きていると言う点だろう。マスク氏の主張は超リベラルであり自由も恐怖を感じる一般のアメリカ人には受け入れが難しいのではないかと思う。

SFではAIが突然暴走する様子などが描かれるが、今のところ明らかに暴走気味なのは人間のほうである。