ラウンドを経ても推論が生き残るデルファイ研究の実施方法
デルファイ法は、制御されたフィードバックを伴う反復的な匿名ラウンドを通じて専門家の判断を集めます:独立したラウンド1の回答、集約されたフィードバック、ラウンド2での修正、収束または安定した不一致が得られるまで繰り返されます。現行のデルファイツールは調査ソフトウェアであり、ラウンド間の数値を運び、理由を失います。そのため、パネリストは、なぜグループが動いたのかを見ずに動いたことだけを知ります。理由が残るデルファイを実施するには:反証可能な命題を根本的な主張として枠組みを作り、ラウンド1の立場を独立した賛成/反対の議論として収集します(誰も提出前に他の人の意見を見ることはありません);オプションで、複数のAIモデルからの追加の立場を目に見えるラベル付きで提供します;ラウンド1の評価を定量的記録として実施します;制御されたフィードバックを評価の広がりを持つ立場自体にします — ファシリテーターの言い換えではありません;パネリストがラウンド2でQ&Aチェーンを通じて立場を問いただすことを許可します(立場の著者との4ターンの対話 — AIが作成した立場は自動的に回答するため、ハイブリッドパネルは実用的です)し、並行レビューチェーンを通じてそれらに挑戦します;近似重複を妥協チェーンを通じて調整します;ラウンド間で評価分布を比較することで収束を測定します;そして、合意された立場とその理由を伴う生き残った異議を報告します — 安定した不一致は発見であり、失敗ではありません。負荷制限は前もって明示されています:Argumentreeは独立性を提供します(誰も提出前に他の人の入力を見ることはありません)、匿名性ではありません — 議論はプライベートテナント上の著者を持ちます。真の匿名性がパネルにとって不可欠な場合は、認証されていない貢献がサポートされているArgumentree.AIのパブリックテナントで実施してください。また、ラウンドマネージャーはおらず(ラウンドは時間を区切るファシリテーションの慣習です)、組み込みの収束統計もありません(評価をエクスポートし、ケンドールのWを計算するか、分布を報告します)。
デルファイ法の設計目標 — 独立性、反復、測定された収束 — は、調査ツールよりも議論のプラットフォームをよりよく表しています。推論が生き残るように実行してください:
- まず匿名性の問題を決定してください:プライベートテナントはあなたに独立性を与えます(著作権の帰属、アンカーなし);真の匿名性には公共のArgumentree.AIテナントが必要です。
- ラウンド1: 各パネリストによって評価された独立した立場を議論として — スプレッドはラウンドの定量的記録です
- 制御されたフィードバックは、引数自体 であり、その分布を伴います — その間にファシリテーターの言い換えはありません
- ラウンド2: Q&Aチェーンを通じて尋問し、並行レビューチェーンを通じて挑戦し、重複を調整する — その後、2つの分布間の収束を測定し、異議を報告する
誰も説明できない何かに収束したパネル
デルファイ研究のラウンド3が終了し、ファシリテーターがパネルにメールを送信します:合意に達しました。10年の採用に関する質問で中央値は6.1から7.8に移動し、標準偏差は半分になりました;報告書は自動的に作成されます。すると、一人のパネリスト — 慎重な人 — がそれを解きほぐす質問で返信します:"ラウンド2の要約にグループが楽観的である強い理由があると書かれていたので、私の推定を修正しました。その理由を見せてもらえますか?私が何に同意したのか知りたいです。"
良い答えはありません。ラウンドは調査でした。その間、パネルは中央値、四分位数、そしてファシリテーターの2段落の要約を見ました。理由 — 11人の専門家が上方修正するように動かされた具体的な議論は、自由記述ボックスに入力され、要約に圧縮され、失われました。パネルは収束しましたが、どのような理由でそうなったのかは誰にも言えません。
これは壊れた研究ではなく、標準的なツールを用いた標準的な実践であり、その方法の最良の特性を無駄にしています。デルファイ法は、次のような正確な洞察に基づいて設計されました:匿名性と独立性は、対面パネルを歪める支配や地位の影響を取り除き、制御されたフィードバックは社会的圧力なしに真の判断を変化させることを可能にします。調査ソフトウェアは独立性を提供しますが、フィードバックの本質を失います。このチュートリアルは、理由を保持したまま同じラウンドを実行します。
ラウンド間で調査ベースのデルファイが失うもの
デルファイラウンドは二つのものを生み出します:分布(パネルの立場)と理由の体系(なぜ)。調査ツールは前者のために作られています。後者は自由記述フィールドに平坦化され、その後ファシリテーターの要約に変換されます — これにより、専門家同士の間に説明責任のない編集者が静かに挿入されます。ラウンド2のパネリストは、同僚の議論に対して反応しているのではなく、それらの言い換えに反応しています。全体の認識論が構造化された集団判断である方法にとって、これは失うには奇妙なことです — 集団的方法の歴史は、主にこのフィードバックステップに関する争いの歴史です。
必要なもの
パネル(通常8~20人の専門家)、ファシリテーター、および各デルファイ質問に対する1つのArgumentreeディスカッション。ラウンドは、あなたが発表する時間制限付きの提出ウィンドウです。チュートリアルは2ラウンドとレポートを前提としており、延長可能です。
設定:質問、パネル — そして匿名性の決定
何よりもまず、方法論者が最初に確認するべき決定は:あなたのパネルが実際に必要とするもの — 独立性か匿名性か — それは同じものではなく、プラットフォームはデフォルトでそのうちの一つを提供します。
- 1提案を根本的な主張として枠付ける — 反証可能であり、オープンエンドではない: "Xは2032年までに標準的な臨床実践となる"、ではなく "Xの未来はどうなるか?"。曖昧な根本は評価できない立場を生み出す。チェックポイント: 根本は賛成と反対の両方で議論できる。
独立 ≠ 匿名性 — それに応じてテナントを選択してください
プライベートArgumentreeテナントでは、議論はその著者を伴います。得られるのは独立性です — 提出前に他の人の入力を見ることはなく、アンカリングが排除され、パネルは自由に書くことができます。ただし、後のラウンドでのステータス効果は除去されません。なぜなら、名前が表示されるからです。クラシックデフィーは匿名性を求めます。もしあなたのパネルがそれを必要とする場合 — 上級と下級の専門家が混在し、政治的に露出したトピック — Argumentree.AIパブリックテナントで研究を実施してください。ここでは、認証されていない貢献がサポートされ、立場は無記名で届きます。使用したプロパティを方法セクションに明記してください。トレードオフは現実的で、レビュアーは質問するでしょう。
ラウンド1:独立したポジション、その後に数字
- 1独立した提出ウィンドウ。 各パネリストは、他の人が提出するまで見ることなく、根の下に支持または反対の立場を追加します。これは、ファシリテーターのプロセスへの信頼ではなく、メディアによって強制される方法が要求する独立性です。 チェックポイント:すべてのパネリストは≥1の立場を持っている; 誰も他の誰かのものを見たり編集したりしていない。
- 2オプション: AIパネリスト、ラベル付き。 いくつかのモデルから追加のポジションを生成します。すべての議論には出所がスタンプされているため、機械のポジションは常に専門家のものと区別できます。これによりポジションの空間が広がりますが、専門知識は追加されません — この区別は重要であり、あなたの報告書に含めるべきです(下記のハイブリッドパネルセクションを参照)。 チェックポイント: AIポジションが明示的にラベル付けされています。
- 3ラウンド1の評価。 各パネリストはすべてのポジションを評価します — 1つの値とラベル、あなたが定義したアンカーを使用して(「1 = 信じがたい … 9 = ほぼ確実」)。これがラウンドの定量的記録です。 チェックポイント:評価マトリックスの完成;アンカーは一度述べられ、一貫して使用される。
理由を伴う制御されたフィードバック
現在、ステップ調査ツールではできないことがあります。ラウンド2のフィードバックアーティファクトはファシリテーターが書いた要約ではありません — それは木そのものであり、すべてのポジションがその著者(またはモデル)の言葉で表現され、評価分布が添付されています。パネリストは、グループがどの主張を強いと見なしたか、どの主張がパネルを分裂させ、どの主張が沈んだのかを正確に確認できます — その間に編集された言い回しはありません。ファシリテーターの仕事は物流に縮小されます:ウィンドウを発表し、木を指し示すことです。
調査ツール、ラウンド間
項目ごとの中央値と四分位数;自由記述のコメントはファシリテーターの要約に圧縮されています。グループの動きは目に見えますが、その理由は見えません。
ラウンド間の議論ツリー
ポジション自体は、それぞれ評価の幅を持っています。修正を行うパネリストは、自分を動かした議論を指摘できます — あなたの方法論セクションも同様です。
ラウンド2:尋問する、挑戦する、和解する
ラウンド2は、クラシックなデルファイが「フィードバックを考慮して修正する」と言うところです。理由が明示されることで、修正は能動的になります — それぞれがポジションの著者との4ターンの対話で構成された3つの構造化された動きです。
- 1尋問 — Q&Aチェーン。 立場を修正する前に、それを理解する:あなたの質問、著者の回答、フォローアップ、回答 — 完全です。AIの立場では、モデルが自動的に回答するため、パネルは一人のメンバーを待ってブロックされることはありません。チェックポイント:意見が変わった立場は、その理由を説明するチェーンを持っています。
- 2チャレンジ — レビューの連鎖。 立場を支持されていないと評価する; 著者が応答する; フォローアップ; 応答。 N人のパネリストが1つの立場に挑戦する = Nの平行な連鎖 — これはまさにデルファイが求める構造です:平行した独立した批評、決して1つのグループスレッドでステータスを再度入れることはありません。 チェックポイント:争点となる立場は完了したチャレンジを伴います。
- 3近似重複を調整する — 妥協チェーン。 ほぼ同じ立場を持つ二人の専門家が、評価の中で一つの見解を二重にカウントします。一人が記録に残して、もう一人に統合された定式を提案します。チェックポイント:未統合または未説明の重複ペアは残さない。
- 4ラウンド2の評価。 同じアンカーの下ですべてを再評価します。チェックポイント:2回目の完全なマトリックス、比較の準備が整いました。
ハイブリッドパネル:専門知識を追加せずにモデルを追加する
AIが作成したポジションは自らのチェーンに応答するため、モデルに戻されるため、ハイブリッドな人間/AIパネルは実際に実用的です。モデルを使用してラウンド1のポジションスペースを広げ、その後人間の専門家がラウンド2で機械のポジションを交差検証し、誰も機械の側に配置されることなく実質的な回答を得ることができます。これが何をもたらすのかを正確に理解してください:広い入力、追加の専門知識ではない。モデルのポジションは、よく表現されたパターンであり、判断のキャリアではなく、ラベリングは機械の行を含む場合と含まない場合で収束数を計算できるように存在します。入力を広げることが役立つ場合と単に希薄化する場合は独自の文献であり、群衆が間違うときは失敗モードをカバーしています。独立した判断が本当に独立しているときにうまく集約される理由は、ガルトンとコンコルデの物語です。
最後のパネルの質問
収束したとき — 誰かがなぜと言えるだろうか?もし答えが動いた中央値であるなら、合意を測定したことにはなるが、何に合意したのかを捉えることはできなかった。
収束の測定、異議の報告
収束とは、ラウンド間の評価分布の狭まりであり、それを測定するには比較します — 正直に言えば、手作業またはエクスポートによって:組み込みの収束統計はなく、自動的なケンドールのWもなく、安定性テストもありません。2つの行列をエクスポートし、あなたの分野が期待するものを計算するか、分布を定性的に報告します(「14のポジションのうち12が狭まり、2つはさらに分かれた」)。
そして異議を報告します。パネルがラウンドを通じて安定して意見が分かれる位置 — 同じスプレッド、両極が完了したチェーンで守られている — は、発見であり、議論の余地がある最も価値のある種類です:それは専門家の判断が真に分かれる場所を示し、両極の理由が添えられています。それを平均化することは、デルファイの許されざる罪の一つです。ツリーは異議を引用可能にします:生き残った異議、その著者(または匿名の公的テナントの代理)、そしてそれが生き残った挑戦です。
正直な限界
- ✗独立は匿名ではない — これは明言されており、再度言う価値があります:プライベートテナントの議論は帰属されます。匿名性が方法論的に不可欠である場合は、Argumentree.AIのパブリックテナントを使用し、その旨をあなたの執筆に明記してください。
- ✗ラウンドマネージャーはいません。 クローズ・ラウンド1ボタンも、ラウンドごとの可視性制限もありません。ラウンドは、タイムボックスと指示で強制するファシリテーションの慣習です — そう言って、存在しない自動化を暗示しないでください。
- ✗組み込みの収束統計はありません。 ケンドールのW、安定性テストなどは、エクスポートされた評価から計算してください。
- ✗評価は単一のラベル付き値であり、検証されたアンカーを持つリッカート尺度ではありません。ラベル内でアンカーを定義し、ラウンド間で一定に保ってください。
- ✗チェーンは4回転してから完了します。 さらに必要な専門家の争いには電話がかかります — チェーンはすでに尋ねられたことと答えられたことを記録します。
実践的なレッスン
- ✓ラウンド1の前にアンカーを書き、それをすべてのウィンドウアナウンスに貼り付けてください。すべての乱雑なデルファイデータの半分はアンカードリフトです。
- ✓タイムボックスウィンドウを時間帯を超えて寛大に設定 — 国際パネルにはラウンドごとに72時間が適しており、チェーンは構造上非同期です。
- ✓パネルごとのキャップラウンド-1ポジション(3つで十分です)。デルファイは考慮されたポジションを報酬としており、ボリュームではありません。
- ✓ラウンドの合間に木を凍結させる。 ウィンドウ外の提出物は削除されることを発表する — ラウンドの慣習はファシリテーターがそれを保持する場合にのみ有効です。
ついに送信できる返信
慎重なパネリストのメールに戻ります:"理由を見せてもらえますか?私が何に同意したのか知りたいです。" このバージョンの研究では、答えはリンクです。ここに十四のポジションがあります;ここには、二つのレビューのチェーンが影響を与えられなかった後に評価の広がりが崩れたものがあります;ここには、あなたと他の十一人を動かしたやり取りがあります。理由が添付された合意 — それがこの方法の約束でした。
参考文献とさらなる読み物
- ダルキー, N.、ヘルマー, O. (1963). 専門家の利用に関するデルファイ法の実験的応用. マネジメントサイエンス, 9(3).元のRANDの定式化:制御されたフィードバックを伴う反復的な匿名ラウンド。
- リンストーン, H. A., & チュロフ, M. (編) (1975). デルファイ法: 技術と応用. アディソン・ウェスリー.このチュートリアルの制御フィードバックセクションが扱うフィードバックデザインのバリエーションを含む標準的な方法論的リファレンス。
- Rowe, G., & Wright, G. (1999). デルファイ法を予測ツールとして: 課題と分析. 国際予測ジャーナル, 15(4).デルファイ法が機能する要因 — 独立性、反復、フィードバックの質 — と、実装が一般的に失敗する点についての重要なレビュー。
よくある質問
デルファイ研究をステップバイステップで実施するにはどうすればよいですか?
反証可能な命題を定義し、パネルを招集します(通常は8〜20人の専門家)。ラウンド1:各パネリストは他の人の意見を見ずに賛成と反対の立場を独立して提出し、その後、全員が示されたアンカーに基づいて各立場を評価します。制御されたフィードバック:パネルは自分たちの評価分布を伴った立場を確認します。ラウンド2:パネリストはQ&Aチェーンを通じて立場を問いただし、レビューチェーンを通じてそれらに挑戦し、ほぼ重複するものを調整し、再評価します。収束のために2つの評価分布を比較し、必要に応じてラウンドを繰り返します。その後、合意された立場と生き残った異議の理由を報告します。各ラウンドの提出ウィンドウに時間制限を設けます — ラウンドは自動化された状態ではなく、ファシリテーションの慣習です。
デルファイにおける独立性と匿名性の違いは何ですか?
独立性とは、誰も自分の意見を提出する前に他者の意見を見ることがないことを意味します — これにより、アンカリングや最初に発言する者の優位性が排除されます。匿名性とは、貢献が全体を通じて無名であることを意味します — これにより、パネルが互いの立場を読み、反応する際の地位効果も排除されます。クラシック・デルファイ法では匿名性が求められます。プライベートなArgumentreeテナントは、著者が明示された状態で独立性を提供します;もし匿名性が方法論的に不可欠である場合(混合の年次、政治的に露出したトピック)、認証されていない貢献がサポートされるArgumentree.AIのパブリックテナントで研究を実施し、方法セクションで使用したプロパティを明記してください。
制御されたフィードバックとは何ですか、そしてそれはなぜ重要ですか?
制御されたフィードバックは、ラウンド間にパネルが見るものです — 古典的には集計(中央値、四分位数)と理由の要約が含まれます。これは、判断が正当にシフトするメカニズムであるため重要です:専門家は、社会的圧力なしにグループの見解に照らして見直します。標準的な失敗は、調査ツールが数字とファシリテーターの言い換えをフィードバックするため、パネリストは同僚の実際の議論ではなく、編集者の圧縮に反応することです。ポジション自体をフィードバックし、その評価の広がりを示し、間に言い換えを挟まないことが、このチュートリアルが標準的なワークフローに対して行う最大のアップグレードです。
デルファイ研究において、合意や収束をどのように測定しますか?
ラウンド間の評価分布を比較することによって:収束とは、ファシリテーターによる宣言ではなく、ポジションの広がりが狭まることです。ラウンドマトリックスをエクスポートし、あなたのフィールドが期待するものを計算してください — 一致のためのケンドールのW、四分位偏差の閾値、またはラウンド間の安定性テスト — なぜなら、組み込みの収束統計は存在しないからです。同様に重要なのは、安定した意見の不一致を発見として報告することです。両方のラウンドで同じ広い広がりを持ち、完成したチェーンで両極が守られているポジションは、専門家の判断における真の分裂を示しており、それを平均化することはパネルを誤って表現することになります。
AIモデルはデルファイパネルの一部になり得ますか?
ラベル付きの入力拡張器として、はい。複数のモデルからのポジションを持つシードラウンド1 — 出所はスタンプされているため、機械のポジションは常に区別可能です — そして、AIが作成した議論が自動的に自分自身のQ&Aチェーンに答えるため、ラウンド2では人間の専門家が機械のポジションを交差検証し、誰もそれを担当していなくても実質的な回答を得ることができます。この誠実さを保つために2つの分野があります:機械の行を含む場合と含まない場合の報告の収束を示し、モデルを専門知識を追加するものとして決して説明しないことです。彼らは候補ポジションの範囲を広げますが、判断は人間のものです。
デルファイ法には何人の専門家と何回のラウンドが必要ですか?
クラシックなガイダンスでは、焦点を絞った質問に対してパネルの数を約8〜20に設定します。これは、すべてのパネリストが各ポジションに真剣に関与できるほど小さく、分布が意味を持つほど大きいです。フィードバックが数字だけでなく理由を伴う場合、2ラウンドでほとんどの質問が解決されます。2ラウンドの分布がまだ動いている場合は、3ラウンドを追加します。それ以上のラウンドは、未決定のパネルではなく、あいまいな根本的命題を示すことが多いです。研究を拡張する前に主張を明確にしてください。
あなたの方法セクションを弁護できるDelphiを実行してください。
独立したラウンド、議論を持つフィードバック、測定可能な収束、そして引用できる異議。
無料14日間トライアルを開始