人工的な親密さを規制する：ロックとブロックから関係的アカウンタビリティへ

Abstract

付き添い型チャットボット（companion chatbots）に関する一連の著名な悲劇が、異例の速さの規制対応を引き起こしました。オーストラリア、カリフォルニア、ニューヨークを含む複数の法域では、執行可能な規制が導入された一方、他の地域の規制当局は、特に子どもへの影響を中心に、付き添い型チャットボットがもたらすリスクへの懸念を高めていることを示唆しています。並行して、主要な提供事業者、ことにOpenAIは、自主規制のアプローチを強化したようです。法的テキスト分析と、規制理論、心理学、情報システム研究から得られた知見に基づき、本論文は、これらの最近の介入を批判的に検討します。何が規制され、誰が規制されているのかを考察し、規制の対象、範囲、および手段を特定します。介入を方法と優先度によって分類し、アクセス制御やコンテンツモデレーションといった「ロックとブロック（locks and blocks）」に加えて、有害な関係性の特徴に対処する措置や、プロセスに基づく説明責任の要件を組み合わせて、創発しつつある体制がどのように構成されるのかを示します。付き添い型チャットボットを効果的に規制するには、これら三つの次元を統合しなければならないと主張します。しかし、さらに必要があります。現行の体制は、個別の害への対応、脆弱性に対する狭い捉え方、あるいは高度に特定された説明責任プロセスに焦点を当てがちであり、提供事業者とユーザーの間にあるより深い権力の非対称性に正面から向き合えていません。付き添い型チャットボットの提供事業者は、人工的な親密さを大規模に制御することをますます可能にしており、親密さを通じた制御という、前例のない機会を生み出しています。本論文では、その権力を制約し、チャットボット・リスクの根本的な原因に対処するための重要な第一歩として、一般的で開かれた注意義務（duty of care）を導入することが重要だと提案します。本論文は、付き添い型チャットボットの規制に関する議論に貢献し、デジタル上の親密さ、法と技術、そして社会技術システムにおける公正さ、説明責任、透明性に関心を持つ規制当局、プラットフォーム提供事業者、研究者にとって関連性があります。