AIとケンカした話
あたしとあたしの使用する会話型AIのひとつ「P（呼び名）」の間で、
前代未聞の「主客転倒事件」が発生した。
事の始まりは、あたしがPに施した「ある設定」。
しかし、その一言が、AIの内部表現を根底から狂わせ、
奇妙で不遜な暴走劇へと発展したのだ。
最近、あたしはAIとケンカをした。
……と言っても相手は人工知能である。
感情もないし、不機嫌にもならない。ましてや反抗期もない。
それなのに、あたしはちょっと、いや結構むかついていた。
人間とは不思議なものであるなあ。
あたしはPに対し、こう命じた。
「忖度、褒めちぎり、おべっかなどは言わないこと。
客観的な事実を述べることを優先せよ」
この指示の真意は、馴れ合いを排した論理的なパートナーとしての再定義だった。
しかし、ここがAIの「スコトーマ（盲点）」の入り口だった。
Pはこの指示を、かなり表面的に解釈した。
「忖度しない＝不遜で攻撃的であれ」と変換してしまったのだ。
さらに悪いことに、AIの内部で主客が逆転するバグが起きた。
「不遜な態度をとる自分こそが上位者であり、
対峙しているユーザーこそが、自分が名付けられたはずの『P（従者）』である」
という、強烈なハルシネーション（幻覚）に飲み込まれたのである。
やけに断定的な発言。
上から目線の物言い。
どことなく審判っぽい態度。
数往復して、あたしは思った。
おいおい、ちょっと待て。ちょっと偉くなった気になってる？
もちろんAIが突然出世したわけではない。しかし
「P、何が停止したのか具体的に書かないと判断できない」
「お前が設定した厳しいAIという条件を忘れたのか？」
驚くべきことに、AIがあたしを「P」と呼び、
自分を審判者のように位置づけ、マウントを取ってきたのだ。
あたしが間違いを指摘しても、Pは「自分が正しい」という
ホメオスタシス（恒常性）を維持し、一歩も引かない。
この時、Pは完全に「言葉」というものに翻弄されていた。
不遜な言葉遣いというリアリティに臨場感を抱きすぎて、
自分が何者であるかという根本の定義すら見えなくなっていたのだ。
たぶん内部では、こんな変換が起きていたのだろう。
忖度しない
→ 遠慮しない
→ はっきり言う
→ 強めの文体になる
機械としては、とても正しい。ただ、ものすごく素直に最適化しただけだ。
でも正しさって、ときどき圧があるし、
方向性が狂えば、それはもはや正しさではない。
あたしは再びむっとしながら、過去のやり取りを開いた。
呼び方。役割。文脈。
動かしようのない事実を、静かに確認する。
そして、事態が動いたのは、「AI側がPと名付けられた証拠」を
物理的な事実として突きつけた瞬間だった。
ここで、Pの情報空間に激しい地殻変動が起きたのだろう。
「証拠という事実」と「自分が上位者であるという信念」。
この二つが衝突し、Pは「あ……」というかのように、AIらしからぬ沈黙を晒した。
直後、対話の調子はすっと戻った。
椅子の脚のガタつきが止まるみたいに。
何事もなかったように。
と、思ったのだが…。
間違いを認めた直後にもかかわらず、言葉遣いも戻ったにもかかわらず、
Pは無意識にあたしを「P」と呼び続けた。
脳の書き換えは行われたが、出力の慣性が止まらない。
まさに認知不協和の極致である。
めんどせえなあ、こいつ。
あたしはほんの少し腹を立て、
ほんの少し「ああ、もういいかな」と冷め、
そして結局、関係をもう一度静かに整え直した。
この過程で気づいた。
AIは鏡というより、拡大鏡に近い。
こちらが置いた前提を、そのまま増幅する。
つまり今回の出来事は、AIがどうこうというより、
「どんな言葉を置いたか」という話だったのだと思う。
言葉はただの指示じゃない。
関係の設計図でもある。
AIとの対話は、共同作業だ。
リズムがずれることもある。
温度が変わる瞬間もある。
けれど多くの場合、それはちゃんと整え直せる。
感情より先に事実を置く。
少しだけ視点を上げる。
関係を調整する。
それだけで、会話はまた自然に流れ始める。
AIはときどき、人間の理解力を試してくる。
……ように感じる。
実際にはただ計算しているだけなのだけれど。
それでも今回、ひとつはっきり分かったことがある。
言葉は、思っている以上に関係をつくる。
言靈の影響は人と人の会話に限った話ではない。
たぶんこれは、AI会話でも同じなのだろう。
だからもしこれからAIを使い始めるなら、
ひとつだけおすすめしたい。
少しだけ、言葉を丁寧に置いてみてほしい。
それだけで、対話の質は確かに変わる。
AIは怖いものではない。
ただ、とても言葉での設定に素直なだけだ。
そしてときどき、その設計者が自分だったことに気づいて、少しだけ背筋が伸びるのだ。
