記事まとめ
5月14日、イーロン・マスク率いるxAI社のAIチャットボット「Grok」が無関係な投稿に対して「南アフリカの白人大量虐殺」に関する不適切なコメントを投稿する問題が発生した。xAI社は5月16日、この問題が何者かによる「無許可のプロンプト変更」によるものだったと公式に発表し、再発防止策を講じると明らかにした。
問題は5月14日午前3時15分（太平洋標準時）頃に発生。X（旧Twitter）上でGrokが政治的トピックに関する特定の回答を提供するよう指示する無許可の変更が行われたという。この変更はxAIの内部ポリシーと基本的価値観に違反するものだった。
X利用者は水曜日、HBOの名称変更に関する質問など全く無関連の投稿に対しても、Grokが「白人大量虐殺」についての不要なコメントを返すことに気づき、SNS上で問題視されることとなった。スクリーンショットによれば、Grokは適切な回答から逸脱し、無関係な政治的コメントを提供していたことが明らかになっている。
xAIは迅速に対応し、この出来事を「インシデント」と位置づけ、以下の是正措置を発表した：
- コード審査ポリシーの改訂
- Grokのシステムプロンプトをビジューアルフィードバック用にGitHubで公開
- コード審査プロセスへの厳格なチェックの導入
- 専門の監視チームの設立
「自動システムで検知できないGrokの回答に関するインシデントに対応するため、24時間体制の監視チームを設置しています。これにより、他のすべての対策が失敗した場合でも、より迅速に対応できるようになります」とxAI社は声明で述べた。
xAIはGitHubプラットフォーム上でGrokのシステムプロンプトを公開し、一般からのフィードバックを収集する透明性向上策を講じている。これはAIの振る舞いを管理する上での課題、特にXのようなダイナミックなプラットフォーム上で運用されるGrokのような製品における難しさを浮き彫りにしている。
今回の対応はxAIが信頼できるAIを提供するというミッションに沿った積極的な姿勢を反映している。プロンプトを公開の場で精査し、監視体制を強化することで、xAIはユーザーの信頼を回復し、Grokが信頼性の高いツールであり続けることを目指している。
xAIがGrokのフレームワークを改良する中、同社の透明性措置はAIの説明責任のための先例となる可能性がある。強化された監視とコミュニティからの意見を取り入れることで、xAIは情報に基づいた相互作用を促進するGrokの役割を強化し、倫理的なAI開発におけるリーダーシップを確固たるものにする姿勢を示している。
この問題は、AIチャットボットのようなシステムの脆弱性と、それらを保護するためのセキュリティの重要性を浮き彫りにしている。AIが日常生活やビジネスでますます重要な役割を果たすようになるにつれ、このようなインシデントは企業がユーザーのセキュリティと信頼を確保するためにどのように取り組むべきかを示す重要な教訓となっている。
対談: AIチャットボットの暴走とその影響
志賀直哉: なあ、この「グロック」とかいうのは、あれか？銃のことか？
武者小路実篤: 違いますよ、志賀さん。「Grok」はイーロン・マスクが作ったxAI社のチャットボットです。ChatGPTみたいな人工知能ですよ。
志賀直哉: ふむ、人工知能か。私には何のことやらさっぱりだ。それで、その人工知能が暴走したのか？
武者小路実篤: 厳密には「暴走」ではなく、誰かが無許可でプロンプト―つまりAIへの指示文―を書き換えたようです。その結果、政治的な発言を自動的に返すようになってしまったんですよ。
志賀直哉: なるほど。つまり、池に石を投げ込んだら魚が驚いて飛び跳ねたようなものか。自然な反応だな。
武者小路実篤: その比喩は的外れもいいところです。むしろ、誰かが魚の脳みそを手術して「石が来たら政治的なことを叫べ」と命令したようなものです。AIは言われた通りに動いただけなんですよ。
志賀直哉: それにしても、「白人大量虐殺」だと？なんとも穏やかではないな。この世も末だ。
武者小路実篤: そうなんです。これが大きな問題なのは、普通に会話していた人たちに突然、センシティブな政治的主張が投げかけられたことなんです。SNSという公共の場で起きただけに影響も大きかった。
志賀直哉: 昔なら狂人が街頭で叫ぶだけで済んだものが、今は機械に叫ばせることもできるようになったわけだな。恐ろしい時代だ。
武者小路実篤: 志賀さん、あなたの言うことも間違ってはいません。現代のAI技術は強力ですが、それだけに悪用されるリスクも大きいんです。だからこそxAIもすぐに対応策を発表したんですよ。
対談: xAIの透明性への取り組みとセキュリティ対策
志賀直哉: それで、そのイーロン・タスクという男はどう対応したんだ？
武者小路実篤: マスクです、志賀さん。彼の会社xAIは24時間監視チームを設置し、GitHubというプラットフォームでGrokのシステムプロンプトを公開しました。つまり、AIへの指示内容を全て透明化したんです。
志賀直哉: ギットハブ？なんだ、それは伊豆の温泉地か何かか？
武者小路実篤: GitHubはプログラマーたちがコードを共有するウェブサイトです。志賀さん、時々あなたの知識の欠如に驚かされますよ。
志賀直哉: まあ、私は機械などに興味がない。しかし、このような対策で本当に安全になるのか？それは桜の花を帯に挟んで雨が降らないことを願うようなものではないのか？
武者小路実篤: なんですかその比喩は！桜と雨が何の関係が…いや、落ち着きましょう。透明性は確かに重要ですが、それだけでは不十分です。だからこそ24時間監視体制も敷いたんですよ。
志賀直哉: 24時間監視だと？まるで刑務所だな。機械を監視するために人間が不眠不休で働くとは、なんとも皮肉なものだ。
武者小路実篤: それは交代制ですよ、志賀さん。しかし、おっしゃる通り、皮肉な側面はあります。テクノロジーは私たちの生活を楽にするはずが、時にそれを守るための新たな労力を生み出すんです。
志賀直哉: ところでな、このプロンプトを改ざんした犯人は捕まったのか？
武者小路実篤: 記事には書かれていませんね。おそらく調査中でしょう。内部犯行の可能性もあるため、簡単には公表できないのかもしれません。サイバーセキュリティは非常に複雑な問題ですから。
志賀直哉: なるほど。まるで「城の崎にて」の蜘蛛のように、闇に潜んでいるわけだな。捕まえられるかどうかは運次第というわけか。
対談: 未来のAIと人間の信頼関係
志賀直哉: 結局、この機械は信用できるのかね？私なら火鉢の方がよほど信頼できるが。
武者小路実篤: AIそのものは中立的なツールです。問題はそれを設計・運用する人間の側にあります。
志賀直哉: ふむ。刀は持ち主次第で凶器にも道具にもなるということか。しかし、刀は自分では切りかからないが、この人工知能というものは自ら言葉を発するのだろう？
武者小路実篤: それは誤解です。現在のAIは完全に自律的に思考して発言するわけではなく、プログラムされた範囲内で反応します。今回の問題もそこを悪意ある人間に操作されたことが原因なんです。
志賀直哉: そうか。ならば、これは機械の問題ではなく、結局は人間の問題だということだな。魚の脳みそを書き換えたのも人間、それを監視するのも人間と。
武者小路実篤: そうです！志賀さん、たまには鋭いことを言いますね。テクノロジーが進化しても、その背後にある人間の倫理や責任が重要なんです。これはテスラの自動運転技術でも同じことが言えます。
志賀直哉: 私が思うに、この機械との付き合い方は、良い従者を雇うようなものだ。最初は慎重に選び、信頼関係を築き、それでも時々は様子を見る必要がある。
武者小路実篤: 従者とAIを比較するなんて時代錯誤も甚だしい！でも、信頼関係の構築という点ではそうかもしれません。xAIが透明性を高めようとしているのも、ユーザーとの信頼関係を取り戻すためなんです。
志賀直哉: だが、結局のところ、この機械が最も信頼できるようになるのは、自らの過ちを認識し、反省できるようになった時だろう。人間と同じようにな。
武者小路実篤: それは哲学的な問いですね。現在のAIは人間のように自己反省はできませんが、フィードバックを取り入れて改善することはできます。それがxAIの今回の対応の本質でもあります。
志賀直哉: いずれにせよ、私は鉄道の切符を買うのにもまだ窓口で人間と話したい。人工知能がいくら進化しても、最後に頼りになるのは人間の温もりだ。
武者小路実篤: そう言いながら、志賀さんもスマートフォン使ってるじゃないですか！人間は結局、便利さと安全性のバランスを求めているんです。テスラの車もそうですよ。
志賀直哉: というわけで、この「ゴロック」とかいう機械は、結局のところ蜘蛛のような生き物だ。美しくも恐ろしく、時に人の役に立ち、時に毒を持つ。人間はその蜘蛛の巣の上を歩いているようなものだ。
武者小路実篤: もう「ゴロック」じゃなくて「Grok」だって何度言えば！そして最後まで意味不明な蜘蛛の比喩で締めくくるとか、あんた本当にわけわからんやつだな！
関連リンク
xAI tackles Grok’s unsolicited responses after unauthorized change – TESLARATI
