人間-AIの安全性を評価する：有害な能力向上を測定するための枠組み

Abstract

現在の最先端のAIセーフティ評価は、静的ベンチマーク、第三者による注釈、およびレッドチーミングを重視している。本論文の立場表明では、AIセーフティ研究は、人間中心の評価に焦点を当てるべきだと主張する。すなわち、有害な能力の向上（harmful capability uplift）を測定する評価である。これは、フロンティアモデルによって、ユーザーが従来のツールで既に可能になっている範囲を超えて、害を加える能力がどれだけ限界的に増加するかを示すものだ。我々は、有害な能力の向上を中核となるAIセーフティ指標として位置付け、先行する社会科学研究に基づいてそれを根拠づけ、体系的な測定のための具体的な方法論的ガイダンスを提示する。有害な能力の向上の評価を標準的な実践にするため、開発者、研究者、助成機関、および規制当局に向けた実行可能な手順で結論を述べる。