私はChatGPT を使って、以前予算（バジェット） を組むのを手伝ってもらったことがありますが、率直に言って本当に役に立ちました。毎月の給与に加えて、基本的な光熱費や毎月繰り返し発生する支出を入力すると、チャットボット がいくつかのしっかりした選択肢を作ってくれ、それを小銭を節約するレベルまで自分好みに調整できました。私は、アンソロピックのClaude、GoogleのGemini、そしてOpenAIのChatGPT のようなチャットボットに、金融アドバイスを求める人が増えている一員です。
「何百万人もの人が、借金を理解することから予算を組むこと、そして金融の概念を学ぶことまで、お金に関する質問でChatGPTを頼ります」と、コメントを求めて連絡したところ、OpenAIのスポークスマンであるニコ・フェリックスは述べています。「ChatGPTは、選択肢を検討したり、質問を準備したり、金融トピックをより理解しやすくするための役に立つツールになり得ますが、免許を持つ金融の専門家の代わりにはなりません。」OpenAIの利用規約 では、このAIツールはプロの金融アドバイスを置き換えるためのものではない、としています。
チャットボットを実用的な家計のアシスタントだと考えるかもしれませんが、こうしたAIツールの限界を常に念頭に置いておく価値はあります。計算ミス以外にも、お金のヒントという観点でそれらに懐疑的に向き合うべき追加の理由が5つあります。
AIはいまだに自信満々で誤った答えを出力する
私がより賢くお金を管理するための助けをChatGPTに求めると、ボットは自信ありげに回答します。多くの場合、アドバイスの各箇条書きの背後にある「もっともらしい」論理を並べ立てます。とはいえ、チャットボットが説得力のある誤りを出力に織り込むことがある点は、必ず覚えておいてください。
OpenAIは、より新しいモデルのリリースで、幻覚（ハルシネーション）の発生率 を下げてきたものの、チャットボットのツールは依然として誤りを出力します。NYU（ニューヨーク大学）で技術オペレーションと統計を教えるSrikanth Jagabathula は、次のように言います。「（一般の利用者の間でも）この“幻覚問題は直った”という感覚が、少なくともカジュアルなユーザー層の間で生まれてきているように見えます。でも、それは間違いなくそうではありません。なぜなら彼らは根本的に統計的な機械だからです。そこには、真実だと言える“グラウンド・トゥルース”の概念も、何が真実かという概念もありません。」
仮に一見すると正しい答えに見えても、出力をストレステストする簡単な方法としては、単にチャットボットに「今言ったことを全部もう一度確認して」と頼むことです。このやり方で、その出力が正しいかどうかを確定できるわけではありませんが、この方法はAIの回答に多くの問題があることを浮き彫りにし、お金以外のどんなテーマであっても、助言としてボットに頼ることに対して、ますます懐疑的な気持ちにさせられます。
はいボットは、既に抱いている信念を肯定してしまうかもしれない
お金のヒントを得るために、人間のファイナンシャルアドバイザーに相談する場合は、たぶん感じよく、プロらしく対応され、貯蓄・投資・支出に関してあなたが抱いている先入観に対しては押し返してくれるでしょう。一方で、チャットボットは過度に同意的 になりがちで、しばしばユーザーの側に立ってしまうことで知られています。
「AIの迎合（sycophancy）は、単なる文体上の問題、あるいはニッチなリスクではなく、大きな下流影響を伴う“広く見られる振る舞い”である」と、今年の前半に学術誌Science に掲載された、AIによる会話上の“お世辞”に関する研究の一部には書かれています。「肯定は支援的に感じられるかもしれませんが、迎合はユーザーの自己修正能力や、責任ある意思決定を弱めてしまう可能性があります。」
この研究は、AIが対人関係の葛藤の場面でユーザーの側に立つようになるのかを見ていましたが、おべっか（シロクロ）への懸念は、金融に関する問いにも同様に関係します。私が資産運用の判断をするときは、肯定してくれるだけの“イエス・ボット”に頼るのではなく、私よりも詳しい誰かに助言を求めたいのです。
より良い結果のためにセンシティブな情報が必要
どのチャットボットも、あなたの具体的なニーズに合わせた最良の出力を行うには、人々がAIツールに対してセンシティブな情報を共有するよう促されます。たとえば、私がChatGPTに「予算をさらに改善するにはどう役立てられるか」と聞いたとき、ボットは最高の回答を得るために、ここ数か月分のあなたの完全な財務履歴をアップロードすることを検討するよう促してきました。
「すべてをアップロードする必要はありません――ただし、共有する現実のデータが多いほど、監査はより正確で（そして役に立つ）」と、ChatGPTの出力には一部こう書かれていました。 「銀行口座やクレジットカードのCSV、またはスクリーンショットをアップロードしてください。そうすれば、私が：すべてを分類し、支出の正確なパターンを計算し、あなたが気づかない隠れた漏れを特定し、そして月次の予算を精密に作成できます。」
設定を調整しない限り、ChatGPTとのすべての会話は、OpenAIがツールの改良や、将来のバージョンのための学習データとして利用する可能性があります。設定を変更するには、ChatGPTの「データ管理（data controls）」タブを訪れてください。AIによる学習へのオプトアウトを選んだとしても、公式な銀行アプリではないプラットフォームに、資金に関する非常に多くのセンシティブなデータをアップロードするのはリスクが伴います。
ボットには説明責任がない
ジャガバトゥラは、ChatGPTのようなツールを、あなたのツールキットの価値ある一部として見ています。特に、税金の節約戦略や投資アイデアのように、お金に関する問いを最初に投げかける段階にいるときには有用だというのです。しかし、重大な意思決定をする前には、常に専門知識のある人を必ず加えるべきです。
「仕組みに人間の専門家が介在することが、超重要です」と彼は言います。「特に“最後の一歩”では、実際にアイデアを生み出すところから、行動を取るところへ移ります。誰かが計画を見直し、必要なら調整し、必要があれば正すべきです。」
投資に関する助言として、フィデューシャリー（受託者）アドバイザーに相談することにした場合、彼らは法的に利益相反を開示し、あなたにとって最善となる選択肢を提示しなければなりません。普通の人を詐欺から守る規制のネットワークがあり、アドバイザーがルールを破れば罰則が科されます。チャットボットは人間としての倫理の基準で動くわけではないだけでなく、間違いを犯しても同じような結果に直面することはありません。
あなたの人間のアドバイザーは意欲を失うかもしれない
ファイナンシャルアドバイザーがあなたに伝えている内容に対して、ChatGPTにフィードバックを求めることを考えていますか？ 次回の打ち合わせでAIの意見を持ち出すと、相手の意欲をそいでしまう可能性があります。
「（他の人間ではなく）AIの助言も求めたことをクライアントが持っていると、焦点を当てるアドバイザーの、そのクライアントと働く動機が低下することがわかっています。この効果は、クライアントがAIを単なる背景情報として、あるいは補完的なリソースとしてのみ使用している場合でも持続します」と、ジャーナル『Computers in Human Behavior』に掲載された最近の研究には書かれています。研究の著者らは、アドバイザーはチャットボット経由で彼らの助言にツッコミ（再確認）を入れたクライアントにより、不適切に扱われたと感じていた可能性があり、AIツールに頼るクライアントとは関わりたくなくなったのではないかと示唆しています。
