人間と機械の共生における人工知能の役割について

要旨: 人工知能（AI）の進化は、人類と計算機械との境界をますます曖昧なものにしてきました。人間と機械の共生において、より複雑に絡み合った関係が存在する場合、AIが生成した情報という概念そのものが定義しがたくなります。なぜなら、そのような情報は、人間または機械のいずれか一方だけから生じるのではなく、それらの相互の形成によって生まれるからです。したがって、より適切な問いは、AIが関与したかどうかだけでなく、どのように関与したのかにあります。一般に、AIが担う役割は、入力プロンプトにおいて暗黙的または明示的に指定されることが多いものの、生成された内容だけが利用可能になると、その役割は分かりにくくなり、あるいはまったく観測できなくなります。対話の文脈から切り離されると、機能的な役割は追跡できない可能性があります。本研究は、自然言語生成においてAIが果たした機能的役割を追跡する問題を扱います。プロンプトによって指定された潜在的な役割を推論し、確率的生成プロセス中にその役割を内容へ埋め込み、そして生成されたテキストからAIの関与の性質を回復するための手法を提案します。実験は、AIが、人間が書いた内容を編集する補助エージェントとして振る舞う場合、または簡単な概念から新しい内容を生成する創造的エージェントとして振る舞う場合のいずれかである、代表的なシナリオのもとで実施します。実験結果は、提案手法の妥当性、すなわち役割の識別、摂動に対する頑健性、そして言語的品質の維持の観点から、その有効性を裏づけます。本研究が、AIが公平に、透明に、適切に用いられているかという点に関するAIの倫理に向けた将来の研究に貢献し得ると考えています。