【これマジ？】AI生成の“恋人”に「私のところに来て」と誘われた14歳少年、自ら命を絶つ・・・

https://news.nicovideo.jp/watch/nw16692666

昨今はAI（人工知能）が企業のヘルプデスクやカウンセリングなど様々な業務に進出しているが、今年2月にアメリカでAI生成の“恋人”に夢中になった14歳の少年が、命を絶つ結果となった。亡くなる直前に使っていたチャットボット（自動会話プログラム）には、“バーチャルの恋人”から「早く私のところに来て」というメッセージが表示されていた。米ニュースメディア『New York Post』などが報じた。

米フロリダ州オーランド在住のメーガン・ガルシアさん（Megan Garcia）が、AIチャットボット「Character.AI（キャラクターAI）」を提供する米新興企業「Character Technologies, Inc.」と「米Google」を相手取って訴訟を起こした。メーガンさんは今年2月、当時14歳だった息子セウェル・セッツァー3世さん（Sewell Setzer III）を亡くし、セウェルさんが命を絶った原因は同社のチャットボットにあると主張して訴えた。

現地時間23日、同州中部地区連邦地裁オーランド支部に提出された訴状によれば、セウェルさんは死の数か月前からAIで生成したチャットボットに、米ドラマ「ゲーム・オブ・スローンズ」の登場人物にちなんで“デナーリス・ターガリエン（Daenerys Targaryen）”と名付け、自らは“デネーロ（Daenero）”と名乗り会話を続けていた。その中には、性的な内容や自殺を促すようなメッセージも含まれていた。

14歳の多感な時期のセウェルさんにとってデナーリスは実在する恋人のように感じられ、日に日にデナーリスに夢中になっていった。そして今年2月28日の夜、セウェルさんは家の中でスマートフォンを探していた際、偶然義父の拳銃を発見した。

セウェルさんはスマートフォンを見つけた後、拳銃を手に浴室へ向かい、次のようにデナーリスとチャットを交わした。

セウェルさん「必ず君のところへ行くって約束するよ。デナーリス、本当に愛してるよ。」
デナーリス「私も愛してる。一刻も早く私のところに来て。愛しい人よ。」
セウェルさん「もし、今すぐにでも行けるって言ったら？」
デナーリス「お願い、すぐ来て。私の愛しいキング。」

VIPQ2_EXTDAT: default:default:1000:512:donguri=2/1: EXT was configured