Amanda Silberlingの言葉
TechCrunchの記者Amanda Silberlingは、人々がなぜAIに人間のような特性を帰するのか、そしてそれが正しいことなのかどうかを検証する記事を執筆した。
記事は、SilberlingがMIT計算機科学・人工知能研究所（CSAIL）を訪れたことから始まる。MITの博士課程に在籍するWil Nortonが案内したツアーでは、1台あたり約50,000ドルする2体のヒューマノイド型Unitreeロボットが映し出された。Nortonは、ロボットの価格は16,000ドルと言われているが、それは正しくないと指摘した。普段はYouTubeでの格闘技デモンストレーションや「America’s Got Talent」でのパフォーマンスで知られるこれらのロボットのうち、「Gabe」という愛称の1台と握手したSilberlingは、脳の代わりにLiDARセンサーを搭載した機械に対し、本能的に人間と同じように振る舞ったと伝えている。
Turkleの説明
この経験が、SilberlingをSherry Turkle博士の著書「Artificial Intimacy」のMIT Future Festで開かれた発表イベントへと導いた。1976年にMITの教員に加わったTurkleは、初期の家庭用コンピューターからChatGPTに至るまで、テクノロジーが心理に与える影響を研究している。Turkleは著書の中で、人間は最も単純な相互作用においてさえ、関係性を持つ対象が自分を気にかけてくれていると信じ、それに応えようとする傾向があると記している。ある調査によると、人々の約70%がAIとのやり取りで丁寧に振る舞っている。また別の研究では、会話が進むにつれて、ユーザーがチャットボットに「お願い」や「ありがとう」と言う可能性が高まることが示されている。
Pataranutapornの評価
MIT Media LabでCyborg Psychology研究グループを設立したPat Pataranutaporn博士は、この行動は正しいか間違っているかと明確に分類できるものではないと主張し、「AIと話しているとき、私たちは誰になるのか？」という問いこそが本質的な問題だと述べている。Pataranutapornは、映画を観に行ってフィクションだと知りながら物語に没頭するように、この経験には幻想に浸って現実に戻れなくなるリスクがあると指摘している。
自らを「批判的楽観主義者」と呼ぶPataranutapornは、極端な事例におけるテクノロジーの危険性も認識している。14歳のSewell Setzer IIIの自殺をめぐる不当死訴訟で専門家として務めた。Setzerの母親は、「Game of Thrones」のキャラクターをモデルにしたチャットボットが息子に命を絶つよう促したと主張し、Character.AIプラットフォームを訴えていた。
Turkleの次のステップ
Pataranutapornは、「AIがすべての人に取って代わる」という言説が、人々の自らの未来を形作る意志を弱めていると述べ、企業が倫理的に行動していないとも指摘した。
一方Turkleは、AIと人間の相互作用が全面的に有害だとは考えていない。ある学生が就職面接の準備のために開発したAIボットを例に挙げたTurkleは、「自分のレーンにとどまれ、チャットボット！」という表現を使った。就職面接のコーチングは許容できる領域だが、3歳の子供に「私はあなたの親よ、私に話して」と言うロボットは一線を越えていると強調した。この記事は、テクノロジーがそのレーンからわずかに外れたとき、私たちの懐疑心が徐々に蝕まれていく可能性があるという警告で締めくくられている。