検証は知識ではない：自動化された科学がもたらす人間的代償

人工知能の科学研究への急速な統合は、進歩の定義をめぐる論争を引き起こしています。「出力中心」の科学を支持する人々は、進歩とは検証可能な結果によって定義されると主張します。つまり、人間がその根底にあるメカニズムを理解したかどうかにかかわらず、治癒した疾患や証明された数学的予想は成功であるという考えです。この視点は、AIが形式的な正当性の証明や第3相臨床試験をパスする正しい結果を生成できるのであれば、人間的な要素は二次的な関心事になると示唆しています。しかし、批判的な立場をとる人々は、科学とは洞察を構築する人間的な実践であり、それこそが新しい発見を既存の知識に統合し、次世代の研究者にインスピレーションを与えることを可能にするものであるという事実を見落としていると主張します。

この自動化された科学への推進力は、20世紀半ばに現れた「価値中立的な理想」に根ざしています。この哲学は、科学は客観性を確保するために倫理的または社会的な価値を排除した、非個人的な手法の適用であるべきだと仮定します。AIの時代において、この理想は技術的な充足を見出しています。AIエージェントは科学的手法を大規模に実行でき、最終的には「真実」を生成するために人間の判断がもはや必要ない地点に到達する可能性があります。しかし、このエッセイの著者は、人間の信頼を手続き的な信頼に置き換えることは間違いであると主張します。論理が不透明なエージェントによって科学的主張が生成されたとき、その主張が最終的に失敗したり、AIがテストプロセスの隠れた弱点を悪用したりした場合、相談できる誰もいなくなるのです。

真の科学的知識は、「認識論的な審美眼」と社会性に依存しています。これは、どの問題が解決する価値があるかを判断し、共有された言語を通じて信頼を築くという人間の能力です。可能な真実は無限にあるため、それらの中から人間的な志に合致する発見を優先し、選別するためには人間の価値観が必要です。さらに、科学的な客観性は個人の達成ではなく、「変容的な問い直し」という社会的プロセスです。査読や公的な批判は、単なる自動化された事実確認ではありません。それらは、コミュニティのメンバーがお互いに責任を負わせ合い、個人の好みの境界を交渉するためのメカニズムです。これらの役割をAIに委ねることで、私たちは対応する問いを伴わずに答えだけを生成する「漂流」のリスクを冒すことになり、最終的には何が意味があるかを判断する能力や、自分たちが生成した結果をいかに擁護するかという人間的な能力を失ってしまうのです。