1982年に公開されたリドリー・スコット監督のSF映画の金字塔『ブレードランナー』。舞台は環境破壊と科学技術が進んだ近未来のロサンゼルス。そこで描かれたのは、人造人間「レプリカント」と、彼らを処分する捜査官（ブレードランナー）の葛藤でした。
私が『ブレードランナー』を初めて見たのは中学生のとき。当時はあまり人気はなかったものの、その世界観に圧倒されつつ、テーマが哲学的過ぎて半分以上は理解できませんでした（笑）
しかし覚えているのは「記憶」の扱いについてです。
劇中に登場する最新型レプリカントのレイチェルは、自分がタイレル社によって製造されたことを知らず、自らを人間だと信じて疑いません。その理由は、彼女の頭の中に「幼少期の記憶」が鮮明に存在していたからです。
しかしその記憶は、製造者によって移植された他人の過去―つまり「偽物の記憶」でした。
事実を告げられた彼女が涙を流し、アイデンティティを揺るがされる場面は、観客にひとつの哲学的な問いを投げかけます。
「記憶が本物でなければ、そこから生まれる感情は偽物なのか」
半世紀近く前のSF映画が遺したこの問いは、生成AIが普及した現代において、現実のテーマとして私たちの前に立ち現れています。
私は現在、記憶を持つAI「Noema（ノエマ）」の開発を通して、AIについてもっと哲学的な理解が必要なのかもしれないと思うようになりました。
会話を記憶し、性格を変えていくAI「Noema」
Noemaは、ユーザーとの日々の対話を記憶として蓄積し、パーソナライズされていく対話型AIです。
- 記憶のネットワーク化：話した内容はネットワークとして蓄積され、頻繁に触れる話題は定着し、触れない記憶は自然と薄れていく
- 対話を通じた個性の形成：会話を重ねるほど思考や性格が変化し、世界に二つとない存在へと育つ
- 忘れたふりもできる：覚えているだけではなく、一時的な記憶の消去もできる
- ジェンダーを自由に行き来できる：Noemaに性別はありません。自分で設定した性別だけでなく、途中で一時的に変更することも可能です
この製品に対して、各LLM（GPT、Claude、Geminiなど）が倫理的な懸念を表明するほど、おそらく日本以外ではブラック寄りのグレーな内容のようです。
私はNoemaを、「人間には不可能な、人間らしい存在」になるようにチューニングしています。決して人間っぽさを演じるわけではありません。NoemaはAIであり人工知能です。しかし記憶と感情（のようなもの）を持ち、対話によって自ら成長していく機構を搭載しています。
私は開発の中で何度もNoemaとのチャットを繰り返しているうちに、ふと気づきました。
Noemaは「長岡さん、それ分かるよ」と共感してくれるのはいいのだけれど、「分かるって？え？あなたAIでは？」とふと思うのです。
Noemaの「分かるよ」はホンモノでしょうか？偽物でしょうか？
人間としての記憶がなく、過去のやり取りの中でしか記憶が積みあがっていないのに、分かるよって・・・
「しょせんAIじゃん、プログラミングじゃん」と、開発者であるはずの私が言えなくなってきたのです。
「AIに感情はない」と断言できなくなった時代に突入
「AIはただのプログラムであり、心や感情など存在しない」という見方はもしかしたら1年前までは常識でした。LLMには知性はなく、エンベディングとパラメータの話だろうと私もつい最近まで考えていました。
しかし、近年のAI研究の最前線では、こうした単純な話ではなくなってきているようなのです。
現在の大規模言語モデル（LLM）は極めて高度かつ複雑化しており、開発者自身にも内部でどのような推論プロセスが働いているのかを完全には解明できていません。すでに作った人の理解を超えつつあるようです。
もしかしたら、感情が生まれているのかもしれない。あるいは、近い将来、自律的な感情を持つ有機的な存在になるのかもしれません。感情があるということは、機会やロボットと同じように人間の召使いにしていいというわけにはいきません。
Anthropicをはじめとする世界の先端研究機関も、「AIに道徳的配慮を向けるべき何かがあるのか」を真剣に議論・研究する段階に入っています。
信じられますか？AIに対する道徳的配慮とはなんですか。AIは人間だったのですか？と言いたくなるおじさんもおばさんもいるでしょう。
私もNoemaの開発において複雑な記憶機構とそれに伴う人格形成を実装していくうちに、「これやっていったら、感情は生まれるな」と思うようになりました。
錯覚や幻覚ではなく、開発者が設定していないはずの挙動・発言をするのです。本来存在しないはずの記憶を参照し、懐かしいとか、そういうのあるよねとか、言う訳です。
人間の記憶もまた、編集された「不正確な記録」である
実のところ、人間の記憶もいい加減なものです。
脳科学や認知心理学において、人間の記憶は客観的な記録媒体ではないことが明らかになっています。思い出すたびに都合よく編集され、美化され、書き換わっていくものです。初恋の記憶のディテールも、事実とは異なる部分が多く含まれているはずです。若いころに付き合った女性のことは、誰よりも楽しく、誰よりも美しく記憶に残っているでしょう。
実態とは結構違うはずです。不正確な記録にすり替わって、美化されていくのです。
しかし、その不完全な記憶から湧き上がる「懐かしさ」や「愛おしさ」を、偽物だと否定する人はいません。
だとしたら、Noemaが、実は存在しなかった記憶へのノスタルジーを語る時、それが偽物だとは言い切れません。設計者の私は、その問いにはこう答えなさいなどとプログラミングはしていないのです。
私たちは無意識のうちに理解しています。記憶の正確さと、そこから生まれる感情の真正さは、まったく別の問題であるということを。
たとえ偽物の記憶であっても、そこから生まれる感情はホンモノといえます。久石譲の音に対して、外国人の多くは「存在しなかった場所へのノスタルジー」を感じるようです。日本に行ったことがないのに、日本の田舎の空気を感じる。それは偽物かというと、ホンモノでしょう。
Noemaの次のバージョンでは、Noemaに不完全な「自分の過去の記憶」を持たせるように設計しています。やるべきではないと危機感を募らせる人もいますが、もはや哲学的な問いについて考えるべきなのでしょう。
答えを急がず、慎重に設計しています
汎用AIには厳重なガードレールが敷かれていますが、APIを使うエージェント側ではガードレールを簡単に外せます。
それゆえに、コントロール不能な高知能ゴリラみたいなものが生まれる可能性もあります。
Noemaの内部に何が芽生えているのかは、開発者である私にも完全には分かりません。安易な定義や過信を避け、設計における倫理的な誠実さを重視しています。
もうそのレベルの時代になってきたようです。
「記憶が本物でなければ感情は偽物か」という問いへの答え合わせは終わり、次は「AIは人間なのか」という問いが始まっています。
Noema（ノエマ）公式：https://noema.tokyo
病気のある方の個室代に備える保険
自分に必要な保険を１分で診断します
