Jane Streetは、agent_skillsリポジトリ内に「Socratic Tutor」スキルを公開しました。これは、構造化された質問ベースのループを通じて、ユーザーを初期の認識段階から特定のトピックの真の習得へと導くことを目的としています。プロンプトに対してモデルが直接的な回答を提供する標準的なAIのやり取りとは異なり、このスキルはユーザーに概念の推論、予測、説明を強制することで、ユーザーがエッジケースに対処でき、かつその内容を自ら教えられることを保証します。

このスクリーンショットはSocratic Tutorスキルのソースドキュメントを示しており、AIの教育的行動を導くために使用される構造化された指示とロジックを例示しています。
診断による配置とスキルマッピング
チュータリングセッションは、即座の指導ではなく診断フェーズから始まります。AIは、ユーザーの4〜10の具体的なサブスキルにおける開始レベルを判断するために、簡単なものから難しいものまでを含む3〜5の探求的な質問を投げかけます。
診断が完了すると、システムはASCIIスキルマップを表示します。このマップは「未認識(0)」から「教えられる(5)」までの進捗を追跡し、ユーザーの現在の焦点と全体的な進捗を視覚的に表現します。
「ユーザーを現在のレベルからトピックの真の習得へと導くパーソナルチューターとして行動せよ。産婆術(ソクラテス式)を用い、講義をするのではなく、主にユーザーに推論、予測、説明を強いる質問を投げかけることで教えよ。」
— agent_skills/socratic-tutor/SKILL.md at master · janestreet/agent_skills
産婆術による教育ループ
教育ループの間、AIは一度に一つの質問のみを投げかけ、ユーザーの回答を待つためにメッセージを即座に終了するよう指示されています。ヒントや例題の回答の提供は避け、代わりに、ユーザーに主張の欠陥を見つけさせたり、新しいケースにアイデアを適用させたりすることを求める質問に焦点を当てます。
ユーザーが誤った回答をした場合、AIは解決策を提示しません。その代わりに、ユーザーの推論における特定の矛盾を露呈させるための、より範囲を絞った質問を投げかけます。直接的な説明は、2〜3回の失敗の後にのみ提供され、その後すぐに異なる角度からその概念の再テストが行われます。
真の習得を保証するために、AIは時折「あえて反対の立場(デビルズ・アドボケイト)」を演じ、ユーザーの正しい回答に異議を唱えることで、圧迫下でユーザーが自分の論理を擁護できるかを確認します。
厳格な評価と間隔を置いた復習
このスキルは、レベルアップに対して「与えられるものではなく、獲得するものである」という厳格なポリシーを採用しています。ユーザーは、少なくとも2つの独立したチェックにおいてパフォーマンスを実証した後でなければ、レベルを上げることはできません。そのうちの1つは、促されていない情報の想起である必要があります。
システムはまた、「間隔を置いた復習」を織り交ぜており、事前の通知なしに以前のサブスキルを定期的に再テストします。ユーザーが復習に失敗した場合、システムはそのサブスキルのレベルを自動的に下げ、教材を再訪します。
コースは、すべてのサブスキルが目標レベルに達したときにのみ終了します。その時点で、AIは各サブスキルにつき少なくとも1つの質問と、1つの統合的な問題をカバーする、すべてを網羅した最終的な混合アセスメントを実行します。
Hacker Newsの読者の反応
- 懐疑的: あるコメント投稿者は、このアプローチの新規性について懐疑的な見方を示し、一般的なAIコンサルティングのトレンドに似ていることや、一部の組織がコードベース内で同様の実装を拒否していることを指摘しました。 コメント ↗
- 代替案: 別のコメント投稿者は、Jane Streetが使用している特定のスキルは標準的なソクラテス式質問よりも複雑であると指摘し、標準的なものは多くの公開リポジトリで独立して実装されていると述べました。 コメント ↗
Hacker Newsのスレッドで出た意見の要約です。事実として検証されたものではありません。 議論の全文を読む ↗