個人的には、AIは面白いと思います。しかし、特に開発のスピードを考えると、それが危険になり得ることも認識しています。
以下は、国際条約によってAI開発を一時停止できるかもしれない、という私の提案です。
\-チップ製造のサプライチェーンの所有権を国連（UN）に移管します。これにはASML、Nvidia、Intel、AMD、TSMCなどの企業が含まれます。
\-最大規模のAI企業の所有権を国連（UN）に移管します（OpenAI、Anthropic、Qwenなど）。
\-現行の株主には、持ち分と引き換えに現金または特別な引出権が与えられます。
\-国連は、その独占を利用して、GPUの製造を「5年ごとに1人あたりおよそ1GPU」程度に制限します。
\-ASMLにおける、より高解像度／高精度のフォトリソグラフィ装置の開発を停止します。
\-データセンターにおけるGPUの集中度を、一定のPflop/sの数に制限します。
\-再び開発を再開するには、現在のAIシステムがもたらす社会的・経済的影響について、何年にもわたる徹底的な調査が必要になります。
\-将来的な大規模なAI開発は、国連の監督のもとで行われ、一般公開される前に、長期間にわたって高セキュリティのサンドボックスで研究・運用されることになります。
[link] [comments]
