Apple、Macハードウェアをクラスタ化してローカルAI推論を行う「Harbor」アプリを開発

Appleは、個人用コンピュータを、データがローカルハードウェアから外に出ることのないプライベートなAI推論サーバーへと変貌させるための、Harborという新しいMac用アプリケーションを開発しています。Appleシリコンを活用することで、このアプリはユーザーがクラウドベースのインフラに依存することなく、オープンウェイトモデルを実行するためのシームレスな方法を提供することを目指しています。

この記事では、Appleの新しいHarborアプリが、ローカルAIモデルを実行するために高性能なAppleシリコンをどのように活用しているかを論じています。

プライベートな推論とモデル管理

Harborは、ユーザーがアプリケーション内で直接オープンウェイトモデルを閲覧、ダウンロード、ロードできるように設計されています。推論プロセスをローカルに保つことで、このアプリはユーザーデータがハードウェア内に留まり、クラウドに到達しないことを保証します。

このソフトウェアは、モデル管理を自動的に処理することでユーザーエクスペリエンスを簡素化することを目指しています。これにより、ユーザーはインフラ構築の技術的な複雑さよりも、自身の具体的な作業に集中できるようになります。

「Harborは、あなたのMacをプライベートなAI推論サーバーに変えます。」

— Apple has new Mac app coming to make running local AI models easy - 9to5Mac

Thunderbolt 5によるクラスタリングを通じたスケーリング

Harborの際立った特徴の一つは、Thunderbolt 5を介して複数のMacコンピュータを検出し、クラスターを形成する能力です。この構成により、接続されたデバイスのユニファイドメモリを単一の推論リソースとしてプールします。

この画像は、HarborがThunderbolt 5を介してクラスタ化し、プライベートな推論サーバーを作成できるハードウェアを例示しています。

このメモリプーリングにより、システムは単一のコンピュータの容量を超えるモデルを実行したり、クラスター全体でより多くの同時リクエストを処理したりすることが可能になります。このアプリはプロセスの自動化を意図しており、手動の設定やインフラの専門知識を必要としません。

ハードウェア要件とローカルの代替手段

HarborはネイティブなAppleのソリューションを提供しますが、「Local Code」のような他のツールも、すでにAppleシリコン向けのプライベートAIエージェントを提供しています。これらのツールは多くの場合、特定のメモリ閾値を必要とします。例えば、DeepSeek 4.1 Flash 1017のような大きなモデルを実行するには、96GBのメモリ、またはメモリ制約を管理するためのSSDストリーミングの使用が必要になる場合があります。

HN Digestによる図表（getlocalcode.appの報告数値に基づく）。数値はソースの表記通り。

ローカル推論のトレードオフとして、大幅なハードウェア要求が伴います。メモリ容量の小さいユーザーは、モデルの一部をディスクに保持し、必要に応じてロードするSSDストリーミングに頼る必要がある可能性があり、フルインメモリ実行と比較してパフォーマンスが低下する可能性があります。