ドイツ連邦公文書館は現在、約4億から6億の紙の断片からなる膨大なアーカイブを管理しており、これは4,000万から5,500万ページに相当する歴史的データです。これらの断片は、1989年から90年にかけての平和革命の際、国家保安省(シュタージ)が不法行為の痕跡を消去しようとして手作業で破り取ったものです。資料が非常に膨大であるため、公文書館は手動による復元から、拡張可能なコンピュータ支援プロセスへの移行に苦慮してきました。

破壊の規模

1989年と1990年の権力移行の際、シュタージの職員は監視や転覆の記録を破棄する命令を実行しました。一部の文書はパルプ状にされたり焼かれたりしましたが、多くは手で破られ、袋に詰められました。公文書館は現在、シュタージのオフィスが市民によって占拠された際に残された、16,000の袋を満たすだけの断片を保管しています。

シュタージ記録アーカイブに保管されている、手で破られた多数の小さな紙の断片のコレクション。
連邦公文書館が復元を試みている、手で破られたシュタージ文書の断片。www.bundesarchiv.de

この画像は、公文書館の目録に記載されている破壊の巨大な規模と断片の物理的な状態を説明しています。

公文書館はすでにこれらの袋のうち7,700を検査し、登録番号とファイル番号で分類しました。一部のページは、反対派指導者の迫害や非公式協力者(IM)の活動に関する詳細を明らかにするために正常に復元されましたが、残された資料の膨大な量は依然として大きな物流上の障害となっています。

「パイロットプロジェクトは、既存の約15,500の『断片』の袋を、評価可能な時間と経済的に実行可能なコストで組み立てることを可能にする適切な技術的プロセスをもたらしませんでした。」

— The Reconstruction of Torn Documents

自動化への技術的障壁

2013年、フラウンホーファー生産システム・設計技術研究所(IPK)は、自社の「e-Puzzler」ソフトウェアが原理的に文書を復元できることを実証しました。しかし、このプロジェクトは、大量生産においてプロセスを経済的および時間的に実行可能にするための閾値である少なくとも80%の自動復元率を達成できませんでした。

主な技術的課題は、標準化されたテンプレートの欠如にあります。損傷した紙幣の復元などの他のプロジェクトは、同一の紙のパターンと明確な向きの恩恵を受けますが、シュタージの文書は多くの異なる紙の形態で存在します。この不均一性は、技術のための既存のモデルが存在しないことを意味し、ゼロから独自のソリューションを開発することを必要とします。

現在の戦略とトレードオフ

2021年のシュタージ記録庁の解散に伴い、連邦公文書館は文書復元の法的権限を引き継ぎました。自動パイロットプロジェクトが大量生産に適さないことが判明したため、公文書館は現在、世界初の独自の技術を構築できるベンダーを募るための新しい要件カタログを準備しています。

暫定的に、公文書館は法的義務を果たすために手動による復元に頼り続けています。これにより大きなトレードオフが生じています。公文書館は、断片をパズルのように広げて接着する人間の公文書保管員の遅く労働集約的なペースと、機能的な自動システムを構築するために必要な膨大な研究開発費との間でバランスを取らなければなりません。

破れた紙の断片を手動で復元する公文書保管員。
公文書保管員が法的復元義務を果たすために、文書の断片を手作業で組み立てている。www.bundesarchiv.de

この視覚資料は、復元のための現在の暫定戦略として説明されている労働集約的な手動プロセスを実演しています。

Hacker Newsの読者の反応

  • 技術的な指摘: あるコメント投稿者は、この困難は機械学習の技術的制限ではない可能性を示唆し、そのような復元を実行する技術は少なくとも10年前には存在していたはずだと主張しました。 コメント ↗
  • 懐疑的: 数人のコメント投稿者がプロジェクトの成功に対して懐疑的な見方を示し、ある人はプロセスの自動化に失敗したのは技術的な障害ではなく、政治的または財務的な動機によるものかもしれないと示唆しました。 コメント ↗
  • 技術的な指摘: あるコメント投稿者は、破れた文書は困難であるが、シュレッダーで裁断された紙は、過去のDARPAの課題を引用しつつ、より高い技術的課題を提示していると指摘しました。 コメント ↗
  • 技術的な指摘: 別のユーザーは、絡まった断片の入った16,000の袋をスキャンするという物流そのものが、巨大で極めて困難な事業になることを指摘しました。 コメント ↗

Hacker Newsのスレッドで出た意見の要約です。事実として検証されたものではありません。 議論の全文を読む ↗