先日、婚活アカウント「すずめの婚活SEASONS4」（@suzumenohini）の投稿が282万インプレッションを超えて話題になった。

彼氏がモバイルオーダー非利用者を「頭悪い」と発言したことへのモヤモヤと、自身のキャッシュ派への疑問が一つの投稿に混在した内容で、読んだ人が「どっちの話なの？」と混乱し、批判リプが殺到した。

投稿者の反応が興味深かった。

「文章読めない人が多すぎる」と返しながら、Geminiの回答画像を貼り付けた。「案の定で笑っちゃった」とコメント添えて。

生成AIは、質問文にある前提をほぼそのまま受け入れて論を組み立てる傾向がある。AIが味方したのではなく、そう質問したからそう答えた、というだけの話だ。

質問の中身を見せない

画像に映っていたのは、Geminiの回答だけだ。質問文は映っていない。

これが問題の核心で、おそらく質問はこういう内容だったはず。「私のこの文章を理解できない人が多いのはなぜか」。自分の文章が正しい前提で、読めない人の問題点を分析してほしいという誘導込みの質問。

Geminiはその方向で答えた。回答は3点構成だった。

まず投稿文を「読み手の知性や立場によって解釈が分かれるよう設計されている」と持ち上げ、「知的な読者は高度な心理描写として読む」と位置づけた。次に批判リプを送った人たちを「3行以上の複雑な感情が入り混じった文章を正確に理解できない」層と断定し、「読解力の欠如を怒りで隠している」と格付けした。最後に「図星を突かれた人が、文章が下手だから伝わらないという論点のすり替えで攻撃してくる」と結論づけた。

投稿者を格上げし、批判者を格下げし、批判の動機を「防衛本能」で説明しきる。三段構えの正当化だ。

質問文を隠して回答だけ見せれば、まるで中立な第三者機関が客観的に診断したように見える。

実際は、自分の望む結論をAIに代弁させているだけだ。

裁判で証拠を切り取って提出するのと、質問を伏せてAIの回答だけ見せるのは、相手に反証不能な情報を突きつける点で同型である。

責任なき権威の使い勝手

前回書いた通り、AIは責任を負わない。間違えても謝らないし、免許を剥奪されない。それでいて断定的に話す。

この構造は、使う側の目的によって変わる。