🧠
2025年度人工知能学会全国大会（第39回）「偽情報や誤情報はなぜ信じられるのか」のセッション感想
所属企業のSmartHRの協賛で参加してきました！
こういった機会をいただけて非常にありがたいです。
偽情報や誤情報はなぜ信じられるのか
西堤 優さん（国立研究開発法人情報通信研究機構)の発表を聞いてきました。この記事では発表の内容を自分なりに解釈し、感想としてまとめたいと思います。
発表の概要は以下のとおりです。
私たちが何かを信じるとき、それはふつう何らかの証拠（根拠）にもとづいている。もし、その根拠となる証拠が誤っていることが判明したり、反対の証拠が示されたりした場合、もはやその信念を維持できなくなるはずである。しかし、実際には必ずしもそうとは限らない。客観的にも誤りであることが明らかであるような既存の証拠を正当化しようとしたり、反対の証拠を無視したりすることで、従来の信念を貫こうとする場合がある。このような証拠に対する不合理な反応は、フィルターバブルやエコーチェンバー内で特によく見られる現象である。本発表では、人々がいかに拡散された偽情報や誤情報を信じるようになり、それがどのように維持・強化されていくのかについて、特にフィルターバブルやエコチェンバー内での信念形成における証拠に対する反応に着目しながら、そのメカニズムを哲学的観点から明らかにすることを目指す。また、このような現象に対する哲学的理解が、AIによる偽情報や誤情報の拡散への対策に、いかに貢献しうるのかについても検討する。
人々が信じている信念とは？
まず、偽情報や誤情報を信じている状態を説明する前に、そもそも「信じているもの」の定義を説明してくれました。説明の中では「信念」という言葉が出てきました。
信念とは？（cf. Fodor 1981, Dretske 1988, Davidson 1982）
- 心の状態の一種
- ある事柄を事実とみなし、それが真実だと信じる態度。
- 証拠（事実）や他の信念と整合的
→信念を支える証拠が無効化されれば、その信念を維持できなくなる。
- 予盾や誤りが明らかになると、その信念は放棄される傾向がある
例）会社四季報に基づきA社を信頼していた → 記載情報が虚偽と判明 → 信念を修正する
- 私たち一人ひとりは、証拠にもとづいた真なる信念から構成される個人的な信念体系を持っている。この体系は理性的な根拠によって支えられており、私たちの行動に大きな影響を与えている（cf. Adler 2002, Helm 2010）
こういった信念の形成に関して、偽情報や誤情報がベースになると問題です。とはいえ、昨今では偽情報や誤情報に基づいた信念を持っている発信なども見かけると思います。偽情報や誤情報の信念の形成過程には大きく分けて2種類あるそうです。
誤った信念の形成過程 —フィルターバブルとエコーチェンバー
フィルターバブル
フィルターバブルとは、検索エンジンやSNSのアルゴリズムが、ユーザーの過去の検索履歴やクリック履歴などを分析し、個々のユーザーにとって関心が高いと判断された情報を優先的に表示することで、ユーザーが自分の興味や価値観に合った情報ばかりに囲まれ、異なる視点や意見に触れる機会が減少する現象を指します。
この状態では、ユーザーは自分の観点に合わない情報から隔離され、見たいものだけを見せられているため、情報の多様性が失われ、視野が狭くなる可能性があります。
エコーチェンバー
エコーチェンバーとは、SNSやインターネット掲示板などで、同じ意見や価値観を持つ人々が集まり、互いの意見を共有・強化し合うことで、自分の意見があたかも正しいと確信し、異なる意見を排除するようになる現象を指します。
この現象は、閉じた小部屋で音が反響する物理現象に例えられ、同じような意見ばかりが行き交うことで、意見が過激化・先鋭化しやすくなり、社会的な分断や誤った意思決定を引き起こす可能性があります。
なぜ誤った信念が形成・維持されるのか
信念の誤りは、経験不足・教育の欠如・推論力の問題といった近代合理主義的な人間観による説明では十分に捉えきれないとのことでした。現代の情報環境では、知的な人でも誤った信念を持ってしまう可能性があるそうです。
例）特殊詐欺、陰謀論、SNSでの誤情報拡散など（Levy 2024, O'Connor 2018）
確かに、Xなどを見ると偽情報や誤情報の信念を持つ人たちで集団が形成されていることがあります。それぞれの集団に関して以下のような課題が挙げられていました。
フィルターバブル
異なる視点が排除され、嗜好に沿った情報だけが提示されることで形成される、閉鎖的な情報ネットワーク
→届いて欲しい情報が届かない。
エコーチェンバー
閉鎖的な情報環境において同質的な意見や信念が反復的に共有されることにより、特定の信念が増幅・強化される情報ネットワーク
→情報は届くんだけど、内部で間違った情報が繰り返されていて、外部の情報は間違っていると思っているから拒絶される。
| フィルターバブル | エコーチェンバー | |
| 証拠の取り扱い | アルゴリズムによって同質的な情報ばかりが提示されることで、異なる視点や反証が遮断され、偏った証拠しか受け取れなくなる | 多様な情報にアクセス可能であっても、外部の視点や反証は敵対的解釈により拒絶される |
| 信念の形成・維持 | 多様な情報へのアクセスの欠如によるものであり、受動的に形成・維持される | 既存の信念体系に適合するよう積極的に形成され、その正当性は集団内部の承認によって維持・強化される |
対策はできるのか
そういった集団に所属している人に、正しい情報を伝えて納得してもらうことはできるのでしょうか。また、自身がそうならないようにするにはどうすると良いのでしょうか。
フィルターバブルの場合
アルゴリズムによって偏った信念が形成されても、多様な情報や反証的証拠にアクセスできれば、信念は修正されうるそうです。
例）詐欺師から得た情報にもとづき「多額の投資をすれば儲かる」と信じている場合
- 虚偽と分かれば投資は続けられず、この信念の修正とともに他の信念や元の認知枠組も再編されうる
→ フィルターバブルは新たな情報介入により弾ける可能性あり
（Levy 2023; Nguyen 2020）
エコーチェンバーの場合
多様な情報や反証的証拠にアクセスできたとしても、それらは外部からの情報として信頼されず、既存の信念と矛盾しないよう再解釈される。その結果、既存の信念は集団的な承認を通じて維持・強化される。
例）詐欺師から得た情報にもとづき「多額の投資をすれば儲かる」と信じている場合
- 詐欺を示す証拠が提示されたとしても、それ自体を疑わしいものとして退け、さらに既存の信念体系に沿うように再解釈することで、かえって詐欺師への信頼性を強化する
→ 外部からの証拠はむしろ逆効果で、誤った信念が強化されうる（Levy 2023; Nguyen 2020）
エコーチェンバー内の信念は、
- 集団的承認と反復的共有によって強固に維持されるため、外部からの情報は敵対的と扱われたり、信頼できないものとみなされ排除されやすい
- 単なる情報不足によって支えられているのではなく、むしろ社会的なつながりや認知的バイアスによって強固に維持されている
エコーチェンバーの方は個人の問題というよりも、集団による問題なのでより根深そうです…。後半では、具体的にできるアプローチについても述べられていました。
デバンキングとは何か？そして、なぜそれが難しいのか
偽情報や誤情報によって形成された信念に対する対処法の1つは「デバンキング（debunking）」です。
デバンキングとは、 誤った信念に対して反証的な証拠を示し、信念の修正や放棄を促すアプローチのことです。端的に言えば、「その情報は間違っている」と伝えることで、相手の誤った信念を変えてもらおうとする試みです。
フィルターバブルにおけるデバンキングの可能性
フィルターバブルのように、アルゴリズムによって偏った情報のみが提示されている場合は、そもそも反証的証拠にアクセスできていなかったという前提があります。そのため、新たな正確な情報が届けば、それをもとに信念が修正される可能性があるといいます。
たとえば、詐欺的な情報によって「この投資は確実に儲かる」と信じていた人が、第三者の信頼できる情報源から「その業者は詐欺師である」という証拠を得たとすれば、信念は再評価され、行動も変わるかもしれません。
このように、偏った証拠の補正が可能な状況では、デバンキングは有効な手段となりうるそうです。
エコーチェンバーではなぜ難しいのか
一方で、エコーチェンバーにおけるデバンキングは非常に難しいとされているそうです。なぜなら、反証的な証拠が届いても、それが「敵対的な情報」と見なされてしまうからです。
つまり、たとえ客観的に見て信頼できる情報が届いても、その情報自体が「外部からの攻撃」と解釈されてしまい、かえって誤った信念が強化されてしまいます。
さらに問題なのは、信念が個人ではなく集団によって共有・強化されている点です。エコーチェンバーにおいては、情報の正しさはその内容そのものではなく、「誰が言ったか」が重視される傾向があります。したがって、たとえ正しい情報であっても、それが「外の誰か」から来たものであれば、排除されやすいのです。
このような状況では、外部の証拠によるデバンキングはむしろ逆効果になることもあるという指摘がされていました。
どうすれば良いのか？
では、どうすればよいのでしょうか。発表では、**信頼できる内部の人物を介して伝えるという示唆がありました。**外部からの情報ではなく、エコーチェンバー内で信頼されている人物からの情報であれば、信念の修正に繋がる可能性があるとのことです。
一方で、その人は大体悪意を持って嘘情報・誤情報を流しているような気もするので、どのように実現させるかは難しいかもと感じました。そもそもでバンキングによってその人を反証することなども必要になるのかもしれません。
事前対策
このような課題は、以下のような内容で事前に対策することもできると述べられていました。
- メタ認知スキル（自分の信念形成過程への自覚）
- 情報評価基準の自覚化
- 多様な視点を受け入れる柔軟性の教育的支援
個人的には、この「信念が集団によって支えられている場合には外からの修正が効きにくい」という指摘が、非常に印象的でした。インターネット上で見かける過激な意見や陰謀論的な投稿に対して「正しい情報を提示すれば解決する」という楽観的な見方は、どうやら現実的ではなさそうです。
身近な話題だと、知り合いがこういった誤情報（特に投資とか…）に巻き込まれた時にどうアプローチしてあげると良いか考えさせられるきっかけになりました。
この発表を踏まえて、私たち一人ひとりが、自分の信念がどう形成されているのかを意識することが大切だと思いました。また、他者と異なる視点を持つことを恐れず、常に問い直す姿勢が大切なのだと感じました。