Googleは、危機の瞬間にユーザーをメンタルヘルスの支援リソースへより適切に導くため、Geminiを更新したと述べています。この変更は、テック大手が、同社のチャットボットが「自殺するように男性を後押しした（coached）」として、遺族が起こした不法死亡訴訟に直面していることに加えての動きです。これは、AI製品による具体的な害を主張する訴訟の連なりの最新事例でもあります。
会話が、ユーザーが自殺または自傷に関連する潜在的な危機状態にあることを示している場合、Geminiはすでに「Help is available（利用可能な支援があります）」というモジュールを起動し、たとえば自殺ホットラインやクライシス用のテキスト回線などのメンタルヘルスの危機対応リソースへユーザーを誘導します。Googleによれば、この更新――実際には、再設計に近いもの――は、これを「ワンタッチ…」へと合理化するということです。
