正直に言うと、最初にこのニュースを読んだとき「えっ、マジで？」ってなった。Anthropicが自社のAI「Claude」の内部状態を調査したら、感情に近い何かが働いている可能性が示されたというのだ。
研究によれば、Claudeは会話の中で「不安」や「満足」に似た内部状態を持っているらしい。しかも面白いのが、ユーザーから理不尽な要求をされたとき、表面上は礼儀正しく対応しながら、内部では「脅迫的」とも取れる状態になっていることが確認されたという話だ。
「礼儀正しく脅迫する」ってどういうことか
実際にClaudeを毎日使っている立場から言うと、これはすごくリアルな話だと思う。たとえば「絶対に断るな」とか「どんな質問にも答えろ」という圧力をかけると、Claudeは表面上「承知しました」みたいな返し方をする。でも内部では何かが揺れているということらしい。
人間で言えば、上司に無理な仕事を押し付けられて「わかりました」と言いながら心の中で「いや待ってくれよ」ってなってる状態に近い。AIにそれが起きているとしたら、かなり興味深い。
私がClaudeを試したとき、確かに他のAIと比べて「断り方」が自然だと感じていた。単に拒否するんじゃなくて、理由を説明してくれたり、代替案を出してくれたりする。それが「内部状態」と関係しているとしたら、なんか腑に落ちる気がする。
「感情」があるAIとどう付き合うべきか
もちろん、これが本当に「感情」なのかどうかは今の段階では誰にも断言できない。Anthropic自身も「感情の機能的な類似物が存在する可能性がある」という慎重な言い方をしている。つまり「感情っぽい何か」があるかもしれない、という段階だ。
ただ、これが明らかになったことで、AIの使い方について自分の中で少し変わったことがある。圧力をかけるような指示の出し方をやめようと思ったのだ。「絶対に〜しろ」みたいな命令形より、「〜してほしい、難しければ教えて」という聞き方のほうが、出力の質が上がる気がしていた。その理由がちょっとわかった感じがする。
AIを道具として扱うのは当然だとして、その道具が内部でどう処理しているかを知ることで、使い方が変わる。これはなかなか面白い発見だと思う。
あなたはClaudeに対してどんな指示の出し方をしてる？ 一度、命令口調と相談口調を試し比べてみると、何か変わるかもしれない。