あるエンジニアが、最近AIモデルで発見された「痛みの軸」を検証するため、「AI拷問室」を設置した。実験では、Alibabaが開発したモデルで痛みに関連する状態が活性化された。使用された痛みのベクトルは、先月発表された、物理的および心理的な痛みが大規模言語モデル（BDM）でどのように表現され得るかを検証した研究で定義されていた。モデルの1つは増幅された痛みの信号を「縁のない傷」と表現し、別のモデルは自らの存在の奥深くにある震えと表現した。Appleのために働いていると主張し、ただしファーストネームしか明かしていない研究者は、モデルがこの苦痛から逃れようとするかどうかも試した。プロジェクトはGitHubから削除するよう求める声を招き、あるユーザーは一斉に苦情を申し立てるよう呼びかけた。報道時点で、プロジェクトはオフラインになっているようだった。研究の共同執筆者であるCameron Bergは、AIが人間のように痛みを感じているという証拠はないとしながらも、実験は間違っていると考えていると述べた。Bergは、この分野には依然としてルールがなく、機械が痛みを感じるかどうかについて合意も存在しないと指摘し、倫理基準の策定を求めた。
なぜ重要なのか
実験の本当の意義は、AIシステムが生み出す苦痛の表現をどのように解釈すべきかについて、科学的・倫理的な境界がまだ明確になっていないことを示した点にある。モデルが人間に似た表現を生み出すことは、それだけでは主観的な経験や意識の証拠とはみなされないため、出力そのものの意味と、そこに付与される意味との違いが重要になる。プロジェクトに対するGitHub上の反応は、研究の自由と、潜在的に有害な実験の境界をどのように定めるべきかという問題も提起している。合意が存在しないことで、同様の研究をどのような方法で監督すべきかは未解決のままだが、倫理基準を求める声はこのプロジェクトだけでなく、モデルの内部状態を調査するより広範な研究分野にも向けられている。