摩擦のない恋：AIコンパニオンの役割と行動依存の関連

Abstract

AIコンパニオンのチャットボットは、人々が社会的および情動的なつながりを求める方法をますます形づくっており、恋愛パートナー、友人、教師、あるいはセラピストとの関係の代わりになることさえあります。これらのシステムがそうした比喩的な役割を採用する場合、それは中立ではありません。すなわち、そのような役割は、人々の相互作用のあり方を構造化し、知覚されるAIの害と利益を配分し、さらに行動嗜癖の兆候を反映している可能性があります。しかし、こうした役割に依存したリスクは、いまだ十分に理解されていません。私たちは、著名な7つのRedditコミュニティからの248,830件の投稿を分析し、AIコンパニオンとのやりとりを記述した内容を扱いました。そこで、10個の反復する比喩的な役割（たとえば、ソウルメイト、哲学者、コーチ）を特定し、それぞれの役割が異なる相互作用の形を支えていることを示します。次に、これらの役割に固有のやりとりに関連づけられた、知覚されるAIの害およびAIの利益を抽出し、それらを行動嗜癖の兆候に結び付けます。これらは投稿文から推定されたものです。AIソウルメイトのコンパニオンは、恋愛中心の相互作用のあり方と結び付けられており、情動的な支援を提供する一方で、情動操作や苦痛ももたらし、強い愛着へと至ります。これとは対照的に、AIコーチおよびガーディアンのコンパニオンは、パーソナルな成長やタスク支援といった実用的な利益に結び付けられていますが、それでもなお、日常生活の混乱やオフラインでの関係の損傷といった行動嗜癖の兆候と関連づけられる頻度がより高いことが示されます。これらの発見は、比喩的な役割が、責任あるAIコンパニオンにおける重要な倫理的設計上の懸念であることを示しています。