1998年8月30日日曜日

忘れない社会は学習できるのか


図:未来都市と花園を結ぶ光の天秤(ChatGPTによる)



ある社会が、技術によってほぼ完全な記録能力を持ったとします

公人の発言、行政の意思決定、企業の広告、研究者の予測、新聞記事、SNSへの投稿まで、いつ、誰が、何を言い、その後どうなったかをAIが検索可能な形で保存している。十年前の発言を現在の発言と瞬時に照合し、矛盾や方針転換を示すこともできます。

これは一見、望ましい社会です。権力者は「そんなことは言っていない」と逃げにくくなり、失敗の原因を検証できる。歴史の改竄も難しくなるでしょう。「記録を残し、過去から学ぶ」という近代社会の理念を、技術がほぼ完全に実現したとも言えます。

しかし、ここで逆向きの問題が生じます。

人間は考えを変えます。若いころの誤った意見を捨て、失敗から学び、昨日とは違う判断をする。それは本来「成長」と呼ばれるはずです。ところが完全な記録社会では、新しい意見を述べるたびにAIが過去の発言を提示し、「以前は反対のことを言っていました」と指摘できます。

すると人は、考えを変えるより、一貫しているように見せるほうを選ぶかもしれません。政治家は過去の政策を修正しにくくなり、研究者は大胆な予測を避け、市民は後で検索されることを考えて発言を控える。記憶が責任を生む一方で、記憶そのものが学習を妨げる可能性があります。

さらに難しいのは、「忘却」には単なる欠陥以上の機能があることです。人間の記憶は不完全だからこそ、過去の自分と現在の自分の間に距離を作れる。社会にも、記録すべきことと、次第に背景へ退かせることの選別がありました。完全なデジタル記憶は、この自然な選別を消してしまいます。

問い過去の発言と行動をほぼ完全に記録し、いつでもAIが呼び戻せる社会では、「責任を負わせるために忘れてはいけないこと」と、「人が変わるために忘れることを許すべきこと」の境界を、誰がどんな原理で決めるべきでしょうか。

この問いを選んだのは、AIによる外部記憶を豊かにするほど「記憶は多いほどよい」という前提自体を検討する必要が出てくるからです。記憶は学習の条件ですが、忘却もまた学習の条件かもしれません。問題は保存容量ではなく、過去を現在にどう作用させるかです。


【付録】
Q(koshix):
これに対して,以下のような考えが示されました。ちょっと違和感があるのですけど,どう思いますか。

A(Claude):

この違和感、かなり的確だと思います。ただ「両方とも一理あるから難しい」で止めると勿体ないので、もう少し腑分けしてみます。

まず、二つのテキストの関係を見ると

Bの問いは実は、Aの14節「非対称性の原則」を素通りしています。Aはすでに「権力は忘れられてはならないが、市民には忘れられる権利がある」という線引きを提示していた。それなのにBは「公人の発言」から「市民のSNS投稿」までを一続きの「完全な記録社会」として並べ、あたかも新規の問いであるかのように「境界を誰が決めるか」を問うている。ここに一種の後退があります。

ただし、Aの非対称性原則をそのまま適用しても、Bが指摘する問題は解決しません。むしろ悪化する場合がある。なぜなら政治家という存在は、権力の行使者(記録されるべき側)であると同時に、考えを変えうる一個人(成長を許されるべき側)でもあるからです。「権力の行為は忘却を認めない」という原則を政治家個人の発言にそのまま適用すると、Bが恐れている「一貫性を演じるインセンティブ」を、Aの原則自身が生み出してしまう。ここが本当の矛盾点だと思います。

次に、Bが混同している二つのものを分けたい

Aの4節はすでに、情報と経験を分けるのは文脈だと述べています。「1980年の答申一枚」は情報だが、なぜ設置され、誰が何を問題視し、どう修正され、十年後どう評価されたかまで繋がれば経験になる、と。

Bが恐れている「完全な記録社会」は、実はこの文脈込みの経験知識ではなく、文脈を欠いた発言の逐語検索可能性です。「十年前にこう言った」という孤立した引用は、Aの語彙で言えば経験ではなく紙片にすぎない。そして皮肉なことに、この種の「文脈なきgotcha」はAIを待たずに、すでにスクショとSNSで日常的に起きている。Aが提案している知識グラフ+来歴(11節の「根拠公開」)は、むしろこれへの対抗手段になりうる。発言だけでなく、その発言が依拠した当時の証拠、その後蓄積した新しい証拠、そして修正の経緯までが繋がって見えれば、「意見を変えた」ことは裏切りではなく学習として読めるようになる。つまりBの問いへの答えの半分は、Aがすでに11節で用意している「推論の透明性」です。検索の対象を「発言」ではなく「発言の来歴(なぜ変わったか)」にすることが、設計上の解になる。

ただし、これで全部は解決しません

技術的に来歴を残せても、メディアと政治の力学は「文脈込みの誠実な軌跡」より「文脈抜きの一発逆転引用」の方を経済的に好みます。これはAが12節で言っていた「編集権を誰が握るか」という問題と同じ構造で、Bの問いに戻ってくる。つまり最終的な境界線は技術設計だけでは決まらず、どちらの見え方をデフォルトの表示にするかという編集権力の配分問題になる。

ここで、常若・式年遷宮のモデルが効くと思います

これはKoshixさんご自身の「日本列島記憶・再演基盤」構想の語彙とも重なりますが、式年遷宮は「古いものを消す」のでも「同じものを永遠に固定する」のでもなく、型を保存しながら実体を定期的に更新し、旧いものは背景に退かせる(解体するが、痕跡と記録は残る)という第三の道です。Bの文章自体が「次第に背景へ退かせる」という表現を使っていますが、これは削除ではなく可視性の勾配の設計として捉え直せる。

具体的には——完全なアーカイブ(来歴グラフ)は誰でも遡って検証できる形で残すが、社会的に「今この人の立場」として提示されるのは、常に最新の「改訂ログ付き」バージョンである。ソフトウェアのバージョン管理に近い発想で、過去のコミットは消えないが、blameゲームの道具としてではなく変更履歴として提示される。これなら説明責任(過去は検証可能)と成長の許容(現在の立場が正当に前景化される)を両立できる。

結局、問いへの私の答えは

「誰が境界を決めるか」を単一の主体に求めるのは筋が悪くて、境界は二軸で決まると思います。①権力の行使(予算・法・制度の決定)そのものは、Aの原則どおり最大限保存・追跡すべき。②個人の信念・発言は、来歴付きで残すが、デフォルトの見え方は「軌跡」であって「切り取られた一点」ではないよう設計されるべき——これは技術というより、検索インターフェースの編集権を誰にも独占させない制度設計の問題です。ここまで来ると、この問いはAの11〜12節(根拠公開・複数の歴史のための共通基盤)の射程内に既に入っていて、独立した新しい問いというより、Aの構想が本当に実装されたときに最初にテストされる論点、という位置づけになると思います。


0 件のコメント:

コメントを投稿