Superhuman, the tech company behind the writing software Grammarly, is facing a 集団訴訟に直面しています。これは、確立された作家や学者の名前を使って編集提案を表示するAIツールに関するもので、いずれの人物も製品内に自分の名前が表示されることに同意していませんでした。
受賞歴のある調査ジャーナリストで、技術が社会に与える影響を扱う非営利ニュース組織The Markupを創設したJulia Angwinは、訴訟の唯一の原告名義人であり、特定の賠償額を求めてはいませんが、原告団全体の損害賠償額は500万ドルを超えると主張しています。彼女はStephen KingやNeil deGrasse Tysonとともに、Grammarlyの“Expert Review”ツールを介してユーザーの仮想編集者として提供されました。
連邦訴訟は水曜日の午後、ニューヨーク南部地区で提起され、Angwinが自己および同様の立場にある他者を代表して、“Grammarlyとその所有者であるSuperhumanの利益のために、何百人ものジャーナリスト、著者、作家、編集者の名前とアイデンティティを不正に利用して利益を得ている”と主張しています。
この訴状が提出された際、Superhumanはすでにこの機能を公衆の強い反発を受けて中止する決定を下していました。Superhumanの製品管理部門ディレクター、Ailian GanはWIREDへ語る直前に、訴状が提出されるタイミングで次のように述べました。「慎重に検討した結果、専門家が自分たちの表現方法をどう望むかに関して実際のコントロールを提供できるよう、Expert Reviewを無効化し機能を再設計する決定をしました。私たちはこのエージェントが、思考リーダーや専門家の洞察をユーザーが活用できるようにし、専門家が自分の知識を新しい聴衆と共有する新たな方法を提供するために作ったものです。いただいたフィードバックを踏まえ、私たちは確かに狙いを外していました。お詫びし、今後は方針を変更していきます。」
WIREDが今月初旬に報じたように、昨年SuperhumanはプラットフォームにAI搭載のウィジェット群を追加し、そのうちの一つは現役または故人の“ベテラン作家”がユーザーのテキストを批評するかのように評価する機能を含んでいたと伝えられています。免責事項は、挙げられた人物の誰もこのツールの開発を承認したり直接参加していないことを明記していますが、このツールは基盤となる大規模言語モデルを活用しており、WIREDの記者を含む複数の作家は、Grammarlyが彼らの肖像を呼び出し、彼らの人生の作品をこのAIエージェントで再現していることに不満を示しました。
Angwinの弁護士Peter Romer-Friedmanは、Superhumanの拠点があるニューヨーク州とカリフォルニア州の長年の法が、本人の許可なく名前と肖像を商業目的で利用することを明確に禁じていると述べています。「法的には、これは非常に単純なケースだと思います」とWIREDに語ります。「より広い意味では、私たちがこの訴訟を起こす理由の一つは、社会で何が起きているかを見れば分かるように、長年にわたり技能を磨いてきた専門家が、自分の名前や技能が他者に無断で流用されるのを目撃しているということです。」
ニューヨークタイムズのオピニオン作家として、Angwinはシリコンバレーの巨人が21世紀のプライバシーをどのように侵食してきたかについて広く執筆しています。
「一部のテック企業の表向きの信念とは異なり、人の名前とアイデンティティを商業目的で流用することは、彼らが有名かどうかに関係なく違法です」と訴状は述べています。「この訴訟を通じて、Angwin氏はGrammarlyとその所有者であるSuperhumanが彼女の名前や他の何百人ものジャーナリスト、著者、編集者、さらには弁護士の名前を利用するのを止め、彼らが決して口にしたり与えたことのない言葉や助言を彼らに帰属させるのを止めることを求めています。」
AngwinはWIREDに対し、Platformerという技術系ニュースレターからGrammarlyが自分の名前と評判を使っていることを知ったとき、自分が“クローンのようにコピーされた”と感じたことに驚いたと述べています。「ディープフェイクはセレブが巻き込まれるものだといつも思っていますが、普通のジャーナリストが対象になるとは思いませんでした」と彼女は言います。「信じられない、冗談でしょという感じでした。」
Angwinは自分のデジタル二重の助言に対してさらなる憤りを感じました。「それはただの平易な表現ではなく、実際にはむしろそれを悪化させていました。」と彼女は語ります。「ある例では、Grammarly版の彼女の表現が、単純な文を長く複雑にするよう提案しており、結果として理解を難しくするものでした。」別のケースでは、テキストに本当に関連しないテーマを拡張するようユーザーに助言していました。
「私にはそれがとても飛び散っているように感じられました」とAngwinは言います。「どれほどひどいかに驚きました。」
SuperhumanのCEO Shishir Mehrotraは、LinkedInで「expert review」の停止決定について別途投稿しました。「過去1週間、専門家から、エージェントが彼らの声を誤って表現していることを懸念する有効な批判的フィードバックを受け取りました」とMehrotraは書きました。「この種の精査は私たちの製品を改善しますし、私たちはそれを真剣に受け止めます。」
WIREDは今月初旬に報じたように、Superhumanは昨年AI搭載のウィジェット群を追加し、ベテラン作家が自分のテキストを批評するかのように見せるものを含んでいました。免責事項は、挙げられた人々のいずれもこのツールの開発を承認していないことを明確にしていますが、WIREDの記者を含む複数の作家はGrammarlyが彼らの肖像を呼び出し、生涯の作品をこれらのAIエージェントと共に再現していることに不満を表明しました。
Angwinの弁護士Peter Romer-Friedmanは、ニューヨークとカリフォルニアの長年の法が、他者の同意なしに名前と肖像を商業的に利用することを明確に禁じていると述べています。类法として「法的には非常にわかりやすいケースだ」と彼はWIREDに語ります。「より広く言えば、私たちがこの訴訟を起こす理由の一つは、社会で何が起きているかを見れば分かるように、多くの専門家が長年積み重ねた技能が他者に無断で流用されている現状を目の当たりにしていることです。」
ニューヨークタイムズの論説作家として、Angwinはシリコンバレーの巨頭が21世紀のプライバシーを侵食してきた方法について広く論じてきました。
「一部のテック企業の見かけ上の信念とは異なり、人々の名前とアイデンティティを商業目的で流用することは、著名かどうかに関係なく違法です」と訴状は述べています。「この訴訟を通じて、AngwinさんはGrammarlyとその所有者であるSuperhumanが彼女の名前や何百人ものジャーナリスト、著者、編集者、さらには弁護士の名前を利用するのを止め、彼らが決して口にしたり与えたことのない言葉や助言を彼らに帰属させるのを止めることを求めています。」
AngwinはWIREDに対し、Platformerというテック系ニュースレターからGrammarlyが彼女の名前と評判を利用していることを知ったとき、いわば「クローン化」されたようだと驚いたと述べています。「ディープフェイクはセレブが巻き込まれる問題だと思っていましたが、普通のジャーナリストが標的になるとは思いませんでした」と彼女は言います。「信じられない、冗談でしょ？」
