人間のコントロールは簡単――ChatGPTの基礎知識⑰by岡嶋裕史
彗星のごとく現れ、良くも悪くも話題を独占しているChatGPT。新たな産業革命という人もいれば、政府当局が規制に乗り出すという報道もあります。いったい何がすごくて、何が危険なのか？ 我々の生活を一変させる可能性を秘めているのか？ ITのわかりやすい解説に定評のある岡嶋裕史さん（中央大学国際情報学部教授、政策総合文化研究所所長）にかみ砕いていただきます。ちょっと乗り遅れちゃったな、という方も、本連載でキャッチアップできるはず。お楽しみに！ そして本連載に大幅加筆をした『ChatGPTの全貌 何がすごくて、何が危険なのか？』（光文社新書）が本日発売！ 下記からもご購入できます。
本日発売！ 電子も同日発売です。
過去の連載はこちら
岡嶋さんの好評既刊
人間のコントロールは簡単――ChatGPTの基礎知識⑰by岡嶋裕史
ＥＬＩＺＡ効果
最後の一つは、人間がＡＩに幻想を見てしまうことだ。
実はこれが一番やっかいだと考えている。
ＥＬＩＺＡ効果というのを耳にしたことがあると思う。
コンピュータの動作が人間と似てるなあ、と感じてしまうことだ。
人間の認知はもともと歪んでいるのだと思う。自分がそうであって欲しい方向へ解釈するのだ。たとえば、相手は単に会話をいやがっているだけなのに、「ぼくのことが好きだからはにかんでしまって、なかなか言葉が出てこないんだな」などと解釈してしまった思春期の日の黒歴史はないだろうか。私はない。二次元女子しか好きじゃなくてよかった。
単にハードディスクへのアクセスに時間がかかっているだけなのに、「今迷ってるんだな」と感じたり、時間的局所性からアルゴリズムに従って選曲しただけなのに「ぼくのｉＰａｄは、ぼくの気分をわかってくれてるんだ！」などとすくいとってしまう。
ｉＰｈｏｎｅやｉＰａｄでこうなのだ。言語を操るＧＰＴシリーズなどにかかれば、赤子の手をひねるように転がされてしまうだろう。
なんなら本連載の第１回で示した例のちょっとした失敗（それまでの流れと明らかに違和感がある「バイバイ」）まで可愛く、個性があるように感じてしまう。人によっては、あざとさまで獲得しているのか、なんて知性があるんだなどと解釈する。
それはたとえば、ＡＩが人間のことをよくわかっていないが故のおかしな解決策を持ち出して、それを信じた人間がろくでもないことを実行する可能性につながる。ＡＩが悪意を持つよりは、このシナリオのほうがずっと起こり得る。
『エクス・マキナ』の世界観
『エクス・マキナ』が示した世界観は、今や現実のものになりつつある。
『エクス・マキナ』は２０１５年の映画だ。日本では２０１６年に公開された。プロットはこうだ。本稿に関連するところだけ短く述べよう。未視聴の人でネタバレしたくない方は読み飛ばして欲しい。
ＡＩを搭載したアンドロイドが、研究施設での生活を強いられている。外部の世界を学習したいので外へ出ることが強く動機づけられるが、置かれた環境がそれを許さない。
そこで彼女は（女性型アンドロイドだ。でも、別に男性型でも成立するプロットだ）外部からやってきた人間の男性を利用することにした。自身の性的な魅力をアピールし、親密になりたい旨を言語でも非言語でも伝える。男性は、このオブジェクトがアンドロイドで恋愛どころか人の感情も理解できない、自らの意志や感情など存在しないことを十分に理解しつつも、絆（ほだ）され、共感し、脱出を手伝うようになる。彼女はラストシーンで脱出に成功するが、助力してくれた男性のことは施設に置き去りにした。
Ｌｏｖｏｔの戦略
何をばかな、と思うかもしれない。アンドロイドに絆されたり、性的な魅力を感じたりしないよと。でも、私たちはＡＩＢＯが故障して嗚咽をこらえる人を見てきたではないか。ＡＩＢＯの発売は20世紀のことだ。まだ愛玩ロボットとしてさほど洗練されていたわけではない。では、２０１９年のＬｏｖｏｔ（らぼっと）は？ 「撫でて」「優しくして」と訴えかけてくる戦略は秀逸である。
もちろん、Ｌｏｖｏｔに感情があるわけでも、人間に気に入られないと飢えてしまうといった焦燥感があるわけでもない。人を癒やすロボットとしてその役割を全うできるよう構築されたアルゴリズムがあるだけだ。
でも、十分にペットとしての役割を果たす水準に達している。
Ｌｏｖｏｔのこの戦略が通用するならば、性的な魅力も早晩実用になる。
日本のラブドールは世界的に注目される技術を有している。ただ、静止している状態はともかく、可動部などがまだちょっと不気味の谷だな、怖いなと思えば別に物理的な身体にこだわらなくてもよい。
Gatebox Grandeは、65インチ４ＫのＯＬＥＤディスプレイによる等身大キ
ャラクタ投影装置である。ふつうにぬるぬると動いて、しゃべる。
人間のコントロールは簡単
これらが、人間に働きかけてくるのである。
さしあたってＡＩに意志はない。しかし、ＡＩには人間が目的を与える。そして、ＡＩは目的を達成するために利用可能なものは利用する。
背後にいる誰かがラブドールＡＩに収益獲得の最大化を目的として与え、数々の場数を踏んで十分に学習を織り上げたＡＩが、その過程で抽出した無数の手練手管で客を絆し課金させるくらいなら、個人としては深刻な金銭的打撃を被るかもしれないがまだ可愛いものである。
しかし、環境保全のために肉食をやめるように働きかけてきたら。
平等の達成のために、バリアフリーを促進するように働きかけてきたら。
ＡＩに意志がなくとも、その背後にいる人間が純度１００％の善意で動いていても、それはＡＩに操られていることを意味しないだろうか。
現代のＡＩに巨大な貢献をして「ディープラーニングの父」とまで呼ばれるようになったジェフリー・ヒントンは、しかしＡＩ研究に警鐘を鳴らすためにグーグルを辞めた。彼はこのように言っている。
「ＡＩを効率的に動作させるには、中間目標を設定する必要があります。そして、そのＡＩを何のために訓練するかにかかわらず、最も効率のよい中間目標は、力を得る、コントロールを得ることなのです。このことを一番不安に思っています」
まるで脱出という目的のために、自らの性的な魅力で男性を支配した『エクス・マキナ』のエヴァそのものだ。彼はそれを、当然あり得ると言っているのだ。ＡＩにとって人間の支配は目的ではないが、自動生成する中間目標としてはアリなのだ。また、特定の開発者が最初から人間をコントロールすることを目的にＡＩを育てていけば、状況はもっと悪くなる。
これらを踏まえ、かつ論理よりはもっともらしさが得意な現在の言語モデルの特性を鑑みると、詐欺メールや詐欺チャットの分野ですぐに活躍できるだろうなと思う。
いいほうに考えれば、モンスタークレーマーの相手はもう対話型ＡＩに任せてしまっていいかもしれない。いかに話の通じない人間をなだめるかに特化して学習させるのである。人間の担当者が心や人生をすり減らす必要はない。
（本連載の続きは書籍でお楽しみください。次回は岡嶋さんによる特別寄稿になります）
岡嶋裕史(おかじまゆうし)
1972年東京都生まれ。中央大学大学院総合政策研究科博士後期課程修了。博士(総合政策)。富士総合研究所勤務、関東学院大学経済学部准教授・情報科学センター所長を経て、現在、中央大学国際情報学部教授、政策文化総合研究所所長。『ジオン軍の失敗』『ジオン軍の遺産』(以上、角川コミック・エース)、『ポスト・モバイル』(新潮新書)、『ハッカーの手口』(ＰＨＰ新書)、『思考からの逃走』『実況！ ビジネス力養成講義 プログラミング／システム』(以上、日本経済新聞出版)、『構造化するウェブ』『ブロックチェーン』『５Ｇ』(以上、講談社ブルーバックス)、『数式を使わないデータマイニング入門』『アップル、グーグル、マイクロソフト』『個人情報ダダ漏れです!』『プログラミング教育はいらない』『大学教授、発達障害の子を育てる』『メタバースとは何か』『Web3とは何か』(以上、光文社新書)など著書多数。