 | ソーシャルメディアには、増え続ける「AIのゴミ（slop）」があります。レコメンドシステムは機能するものを押し出し、あなたにだいたい似た誰かにとっては機能するようなゴミもあります。これらのシステムは、意図どおりにまさに動いています。つまり問題は、それが最適化しているものが何か、という点です。AIそのものではありません。 [リンク] [コメント] |
損失関数を書く：AI、フィード、そしてエンゲージメント最適化
Reddit r/artificial / 2026/5/4
💬 オピニオンSignals & Early TrendsIdeas & Deep Analysis
要点
- ソーシャルメディア上の低品質な「AIスロップ」は、総合的な良さではなく、視聴者での成績が良いものを推すリコメンドシステムによって生じていると記事は主張しています。
- 問題はAIが壊れていることではなく、「あなたに近い層」に対して成立するエンゲージメントに関係する目標を最適化している点にある、と示唆しています。
- 「損失関数」が結果を左右する本質だとしており、低品質または望ましくないコンテンツのループを抑えるには、指標や目的そのものを変える必要があると述べています。
- システムは意図どおりに動いているのだから、責任はプロダクト／プラットフォーム運営者が選んだ最適化目標側にある、という視点を強調します。
- トレーニングや最適化のシグナルがフィードバックループを生み、時間とともに好ましくないコンテンツを増幅してしまう点を、暗に批判しています。
