私は加速に賛成です。AGIに到達するのが速ければ速いほど良いと思っています。ただ、ここで十分に語られていないボトルネックがあります。学習データです。
いま私たちは静かに「井戸」を汚しています。オンライン上のコンテンツの半分以上はすでに合成です。ボットがボットと会話し、AIが書いた記事が流れ、LLMによって生成されたredditのスレッドが出回っています。次の世代のモデルがこれを学習すると、自分の尻尾を食べることになります。モデル崩壊（model collapse）は現実の問題です。画像生成でそれを見ました。出力はもっと味気なくなり、奇妙になり、役に立たなくなります。人間が生成したデータをラベル付けする、あるいはフィルタする方法が必要です。人間のほうが優れているからというより、多様性が崩壊を防ぐからです。
標準的な解決策として聞こえるものは、ディストピア的なミームみたいだと感じるのは分かっています。生体認証、虹彩コード、ハードウェアによる検証。そしてええ、たぶんディストピア的です。でも、何も信用できない「死んだインターネット」も同じようにディストピア的です。最近、redditのCEOであるスティーブ・ハフマンが、シンプルにこう言いました――プラットフォームは、あなたの名前を知ることなく「あなたが人間だ」ことを理解する必要がある。Face ID / Touch IDレベルの仕組みです。
私は、その特定のデバイスが答えだと言っているわけではありません。ですが、その解決策のカテゴリ――監視国家を生み出さない「人間の証明（proof of human）」が必要なのは、断崖を越えた先へもスケールし続けたいなら必須だと思います。
あなたはどう思いますか？ 人格証明（proof-of-personhood）は規制上のちょっとしたつまずきに過ぎないのでしょうか、それとも次世代のAIのためのインフラなのでしょうか？このスレがこの界隈でどこに着地するのか気になります。
[link] [comments]
