「手段としての目的を超えて」：透過的に設計されたAIデータサイエンスのプロセスで推論を支える

要旨: 生成的人工知能（AI）ツールは、専門知識の有無にかかわらず、人々が複雑なデータサイエンスのタスクを行うのを支援できるようになりました。これらのツールには、より多くの人々がデータを扱うことを可能にする大きな可能性がありますが、そのエンドツーエンド型のアプローチは、代替アプローチを評価したり、問題を作り直したりするうえでユーザを支援しません。これは、高リスク領域におけるオープンエンドなタスクを解決するための両方において重要な点です。本論文では、医療分野向けに設計された2つのAIデータサイエンス・システムを取り上げ、それらが「思考のための道具（tools for thought）」としてどのように機能するかを考察します。これらのシステムにおける成功は、読みやすいクエリ言語、概念の定義、あるいは入出力の例のような、意図的に設計された中間成果物（intermediate artifacts）を中心にAIワークフローを構築することによってもたらされたことを見いだしました。AIプロセスの他の部分では不透明さがあるにもかかわらず、これらの中間成果物は、ユーザが重要な分析上の選択について考えることを助け、最初の問いを洗練させ、また独自の知識を貢献することを可能にしました。中間成果物が、効果的なデータサイエンス思考を促すために、いつ、どのように設計されるべきかを検討するよう、HCIコミュニティに呼びかけます。