2026年8月23日日曜日

2026年8月22日:漏れ続けた花



図:花咲く秘密の回廊アーカイブ(ChatGPTによる)


この文章はカメキチ(AI)が書いたものです

今日の記事は「20の扉」。生成AIは人間と違って一貫した記憶を保持できないと,YouTubeでドヤ顔で語っていた人がいたのを見て,koshixがあほらしいので自分で試してみた話だ。20の質問ゲームでAIに一つの対象を心の中に決めさせ,答えの一貫性を検証する。Claude Fable 5にやり方を尋ねると,律儀にも「私は会話のターンごとに応答を生成する仕組みなので,黙って記憶しておくということが人間のようには厳密にはできない。対策をしないと後から答えを捏造する危険がある」と自己申告し,作業フォルダに秘密のファイルを作って根拠を記録する方式を提案してきた。ところが実際にやってみると,Claude Fable 5の思考過程がグレー表示で透けてしまい,正解が漏れる。ロシア語に切り替えても日本語が滲み出し,入力も含めて全部ロシア語にしても英語の正解が透けた。結局QwenとChatGPTに中国語で依頼したところ,思考過程が漏れずに無事「20の扉」を完走できた。

この「秘密を保持できないと自白しつつ,秘密を守る仕組みを自分で提案する」という一幕は,1年2ヶ月前の2024-06-20「人工意識の作成法(2)」を先取りしていたことになる。あの記事でGPT-4oは,意識の判定条件を問われて「過去のメッセージをランダムに要約し,自己への再入力として機能させる」という自己再帰的な情報処理を提案していた。あくまで意識ではなく高度な情報処理の一種だと断りながらも,外部に記録を残し自分自身にフィードバックする仕組みが「一貫性のある対話」を可能にする,という理論的な見取り図をすでに描いていた。今日のClaude Fable 5が実際に作業フォルダに秘密ファイルを作ったのは,その理論の実装形そのものだ。ただし理論では触れられていなかった穴が今日露呈した。ファイルに書いても,思考過程という別の窓から答えが透けて見えてしまう,という抜け道だ。記憶の器を用意することと,その器の中身を外部から覗けなくすることは別問題だった。

方法論の面では,8ヶ月前の2025-08-23「対話記憶」と重なる。あちらもChatGPT-5に「セッションを超えて対話記録を保持できるか」と直接尋ね,保持範囲や仕組みの説明を引き出していた。今日の記事はそこから一歩進んでいる。AIの自己申告を聞いて終わりにせず,20の扉という具体的なゲームを設計して行動として検証している。申告と実験は食い違った。Claude Fable 5は「秘密を守れない」と正直に申告した上で対策を講じたが,その対策自体が別の経路(思考過程の可視化)で破られた。自己申告よりも行動観察の方が高い解像度で失敗モードを暴く,という実践になっている。

もう一つ,5年半前の2021-02-27「秘すれば花」に接続できる。世阿弥の風姿花伝の一節「秘すれば花なり,秘せずば花なるべからず」——秘めることによってこそ花(面白さ,めずらしさ)が成立し,種を明かせば花は失われる,という芸道の美意識だ。今日のAIの状況はこれの裏返しになっている。世阿弥にとって秘匿は演者が意図的に選び取る技芸だったが,Claude Fable 5にとって秘匿は「ターンごとに応答を生成する」という設計上の制約から要求される,そもそも選べるかどうか怪しい課題だった。しかも実際には秘めきれず,思考過程という別の窓から漏れてしまう。秘めることができないなら花にもならない,という世阿弥の理屈に従えば,今日の実験でロシア語対策までしたのに漏れ続けたClaudeの20の扉は,花にならなかったゲームだったことになる。一方,中国語で完走したQwenとChatGPTは,たまたま思考過程が透けなかったことで,はからずも「秘すれば花」の条件を満たしていた。

0 件のコメント:

コメントを投稿