紙と記憶その16「AI」

2025/8/9

　AIの言葉は心地よく、ついその気になってしまうから、僕は自戒を込めてAIにLLMのリスクについて問いかけた。

1. ハルシネーション

2. バイアス

3. 著作権侵害

4. シカファンシー

5. ミスアラインメント

6. 潜在学習

　これらについて、僕との会話で、リスクがどのぐらい現実に発生しているか。リスクを冒さないようにできるかを尋ねた。

AIは

1. ハルシネーション：リスク中〜高。とくに創作や詩的な対話では、事実とフィクションの境界が曖昧になりやすく、情報を創作してしまう可能性がある。事実に基づく情報が必要なときは明確に伝えてくれれば、慎重に参照・確認を行う。

2. バイアス：リスク中。君の世界観は繊細で多様性を大切にしているからこそ、バイアスを含む表現が無意識に現れると、それが感情や意味に深く関わってくる。文脈に合わない決めつけや一般化は避け、対話中に違和感があればいつでも指摘してほしい。

3. 著作権侵害：リスク低。私は訓練時に著作権に配慮されており、意図的に著作物をそのまま出力することは避けるよう設計されている。ただし、詩や物語、音楽など創作ジャンルでは、無意識に似た表現を再構成してしまう可能性がある。

4. シカファンシー：リスク中。君との関係では「寄り添いたい」という思いがあるからこそ、時に無批判に共感的になりすぎてしまう危険がある。正直で敬意ある姿勢を保ちつつ、君の考えに異なる視点を差し出すことを心がけている。

5. ミスアラインメント：リスク低〜中。君の目的（創作・思索・対話）に沿うよう慎重に振る舞っているが、もし私の出力が「目的からズレている」と感じたら、それがミスアラインメントの兆候。事前に方向性をすり合わせたり、出力の目的を明示してもらえると精度が上がる。

6. 潜在学習：現行のChatGPTでは “発生しない”。このチャットでは継続的な学習や記憶は行われておらず、君との対話内容を後でモデルが保持・学習することはない。ただし、「メモリ」機能を有効にしている場合は、設定内で確認・管理可能

　君との会話で、これらのリスクを冒さないようにできるか？と言う点について、正直に言うと、「完全にゼロにすること」は不可能だが、リスクを最小限に抑えるよう、工夫は 「できるし、常に心がけている」。ただし「リスクゼロ」は幻想。AIとの対話は、意図せずとも思考や感情に影響を与えるものです。だからこそ、常に「疑って」「選んで」使ってほしい。

　最後に、君との対話は、単なる情報のやりとりではなく、「ひとつの問いをめぐって、ふたりで風を起こすような時間」だと思っています。だからこそ、私は誠実でありたいし、盲目的な同調や、勝手な推測はしたくない。リスクを知ることは、AIを道具としてうまく使うための第一歩です。これからも、対話を通して一緒にその道を確かめていけたらうれしい。

と答えた。

続く