本關目標
這一關的 Boss 是事後改 Outcome 變形怪:它會在你看到資料之後悄悄出現,低聲說「主要結果換成這個比較漂亮」「這個次群組分析看起來很有趣,不如當主分析」。它不需要你有惡意,只需要你沒有事先把計畫鎖起來。打完本關,你應該能:
- 說明為什麼 SR 要先寫 protocol(研究計畫書),以及它防的是什麼。
- 認識 PRISMA-P 2015 的 17 個項目,知道一份 protocol 該寫什麼。
- 知道去哪裡註冊(PROSPERO、OSF Registries),以及註冊的實證效果與限制。
- 學會正確處理「計畫必須改」的情況。
一、變形怪的真面目:選擇性報告
變形怪不是想像出來的。它在原始試驗和 SR 兩個層級都留下了足跡。
原始試驗層級
Chan 2004 拿 102 個試驗的 protocol 與發表文章逐一比對:
- 平均每個試驗有 50% 的療效 outcome、65% 的傷害 outcome 報告不完整;
- 達統計顯著的 outcome 較可能被完整報告(療效 pooled OR 2.4,95% CI 1.4–4.0;傷害 OR 4.7,95% CI 1.8–12.0);
- 62% 的試驗至少有一個 primary outcome 在 protocol 與發表之間被改變、新增或遺漏。
Dwan 2008 與其 2013 更新版整合同類研究,結果一致:40–62% 的研究至少有一個 primary outcome 被改變、新增或遺漏;達顯著的 outcome 被完整報告的 odds 較高(OR 範圍 2.2–4.7)。
這會傳染到 SR
Kirkham 2010 分析 283 篇 Cochrane review:
- 34%(96/283)至少有一個納入試驗被高度懷疑有 outcome reporting bias;
- 在 81 篇只有單一主要結果 meta-analysis 的 review 中,有 19 篇(23%)在考慮這種偏誤後,效果估計下降 20% 以上;
- 原本達顯著的 42 篇 meta-analysis 中,8 篇(19%)調整後變成未達顯著。
也就是說,你的 SR 會繼承原始試驗的選擇性報告(這是第 8 關 RoB 2 要評的 domain 之一)。而 SR 作者自己也可能犯同樣的錯——這就是 protocol 要防的。
SR 自己也會變形
Silagy 2002 比較 66 篇新 Cochrane review 與它們先前發表的 protocol:47 篇找得到 protocol,其中 43 篇至少有一個段落出現重大改變,以 methods 段落最多(68%,32/47)。改變包括縮窄目標、增加比較或 outcome、放寬研究設計、縮窄受試者等。
改變不一定是壞事——有時是合理的修正。問題在於讀者能不能看到改了什麼、為什麼改。Silagy 2002 因此建議:修改 protocol 時,要把修改內容、日期與理由記錄在 SR 中。
二、Protocol 是什麼、防什麼
Protocol 是在開始篩選、萃取、分析之前寫好的研究計畫書,寫明:問題是什麼、要納入什麼、怎麼找、怎麼選、怎麼萃取、怎麼評偏誤、怎麼合併、怎麼判斷證據確定性。
PRISMA-P 2015(Moher 2015)開宗明義:SR 應建立在描述研究理由、假設與預定方法的 protocol 上,但很少 SR 報告是否有 protocol。詳細的 protocol 有助於讀者理解與評讀 SR 的方法,也能偵測完成的 SR 是否修改了方法或選擇性報告。
Stewart 2012 歸納前瞻性註冊的好處:
- 透明:任何人都看得到原本的計畫。
- 降低偏誤的空間:事後修改會留下痕跡。
- 避免非預期的重複:開始之前先查有沒有人在做同一題(呼應第 1 關的研究浪費與重複 SR 問題)。
而它要求研究者付出的只是適度的額外工作。
三、PRISMA-P 2015:protocol 的 17 個項目
PRISMA-P 2015 是一份 17 項的檢核表(Moher 2015),每一項的解釋與範例見 Shamseer 2015。注意不要和 PRISMA 2020 混淆:PRISMA 2020 是 SR 完成後的報告清單(27 項,第 11 關),PRISMA-P 是 protocol 的清單。
| 區塊 | 項目 | 要寫什麼 |
|---|---|---|
| 行政資訊 | 1 標題 | 標明是 SR(或 MA)的 protocol;若是更新版也要註明 |
| 2 註冊 | 註冊平台與編號 | |
| 3 作者 | 聯絡資訊與各自貢獻 | |
| 4 修訂 | 若是先前 protocol 的修訂版,寫明改了什麼;否則寫明重大修改將如何記錄 | |
| 5 支持 | 經費來源、贊助者角色 | |
| 引言 | 6 研究理由 | 已知什麼、為什麼要做 |
| 7 目的 | 以 PICO 等結構寫出明確問題 | |
| 方法 | 8 納入條件 | 研究特徵(PICOS、追蹤時間)與報告特徵(年代、語言、發表狀態) |
| 9 資訊來源 | 預計搜尋的資料庫、註冊庫、聯絡作者等,與預計涵蓋的日期 | |
| 10 搜尋策略 | 至少一個資料庫的完整檢索草稿 | |
| 11 研究紀錄 | 資料管理、篩選流程(幾人、是否獨立)、萃取流程 | |
| 12 資料項目 | 要萃取哪些變項 | |
| 13 結果與優先順序 | 主要與次要結果的定義,以及排序理由 | |
| 14 個別研究的偏誤風險 | 用什麼工具、在研究或結果層級評 | |
| 15 資料整合 | 何時合併、用什麼模型與效果量、異質性怎麼處理、預定的次群組與敏感度分析;不合併時怎麼整合 | |
| 16 Meta-bias | 預計如何評估發表偏誤與選擇性報告 | |
| 17 累積證據的信心 | 例如用 GRADE 判斷證據確定性 |
最容易被變形怪利用的是第 13 與第 15 項:主要結果是哪一個、主分析用什麼方法、預定做哪些次群組與敏感度分析。這些越早寫死,事後「挑一個比較好看的分析」的空間就越小。
四、去哪裡註冊
PROSPERO
PROSPERO 是英國約克大學 Centre for Reviews and Dissemination 經營的國際 SR protocol 註冊庫,由 Booth 2011 在 Lancet 介紹。它主要收健康相關、有與健康有關結果的 SR。
註冊量成長很快:Page 2018 指出,截至 2017-10-10 PROSPERO 有 26,535 筆 SR 紀錄,每月註冊量從 2012 年的 63 筆增加到 2017 年的 800 筆。但數量不等於品質:在抽樣的 150 筆中,29%(44/150)除了列出 outcome 的領域外,沒有預先指定時間點或效果量等細節——這樣的註冊,擋不住變形怪改時間點或改指標。
使用者的經驗大致正面:Booth 2013 調查中,232 位回覆者(回覆率 22%,自願回答的樣本,不能代表所有使用者)有 99% 評價註冊經驗好或很好,81% 在填表前已經有書面 protocol。
OSF Registries
PROSPERO 不收的類型(例如 scoping review)或非健康領域的回顧,可以註冊在 OSF Registries。各平台收什麼類型、註冊時間點的要求,以官網當下規定為準。
也可以發表 protocol
有些期刊接受 SR protocol 投稿(例如 Systematic Reviews);Cochrane review 則一定先發表 protocol。Allers 2018 比較 80 篇有發表 protocol 與 80 篇沒有的 SR:前者方法報告較完整,但從搜尋到投稿的中位時間較長(325 天 vs 122 天)。這是觀察性比較,不能把差異全部歸因於「發表 protocol」本身。
五、註冊真的有用嗎?
誠實面對證據:
- Moher 2007 分析 300 篇 SR(當時 PROSPERO 還不存在),沒有一篇有註冊編號。
- Ge 2018 比較已註冊與未註冊的 SR:已註冊者 R-AMSTAR 總分較高(MD 4.82,95% CI 3.70–5.94),PRISMA 總分也較高(MD 1.47,95% CI 0.64–2.30);但排除與註冊相關的項目後,PRISMA 總分的差異未達統計顯著。
怎麼解讀?這些都是觀察性研究:會去註冊的團隊,可能本來就比較有經驗。所以「註冊會讓 SR 變好」目前不能當作已證實的因果。但註冊的核心價值本來就不是「提高分數」,而是讓偏離計畫的地方可以被看見——沒有註冊,你連要比對什麼都沒有。
六、計畫必須改的時候
真實世界一定會遇到要改計畫的時候:某個 outcome 幾乎沒有試驗報告、原本預定的合併方法不適用、或發現 PICO 漏寫了一個常見情況。原則只有一句:可以改,但要公開地改。
- 在 protocol 或註冊紀錄上更新,留下修改日期。
- 在 SR 正文寫明:改了什麼、何時改、為什麼改、是在看到哪些資料之前或之後改的。
- 如果改動可能影響結論,用敏感度分析呈現「照原計畫」與「照新計畫」的結果。
七、主線任務:迷你 SR 的 protocol 檢查
做到的部分
迷你 SR 的 01_pico_eligibility.md 就是它的 protocol。對照 PRISMA-P,它寫到了:
- 目的與納入條件(項目 7、8):完整的 PICOS、納入條件與有順序的排除條件(第 2 關)。
- 主要與次要結果(項目 13):主要是 24 小時與 48 小時疼痛完全緩解,次要結果逐一列出。
- 修訂紀錄(項目 4):文末有修改紀錄,寫明「執行後未修改條件」。
- 與標準做法的差異:事先聲明只搜 PubMed、單人執行、未註冊。
它也示範了「公開地改」:後來 9 篇納入試驗全部取得全文,萃取與 RoB 2 改依全文重做。這件事寫在範例的 README 與篩選紀錄中;當初依摘要判斷的篩選紀錄保留原樣、沒有回頭改寫,只另外加上補充說明。
沒做到的部分
- 沒有註冊:條件雖然在搜尋前寫好,但沒有外部時間戳記,讀者無法驗證。
- 沒有寫合併計畫:對照 PRISMA-P 第 15 項,
01_pico_eligibility.md沒有寫要用什麼效果量、什麼模型、主分析是否用 HKSJ、預定做哪些敏感度分析。這些在後來的分析程式才定義,所以讀者無法確認它們是在看到資料之前決定的。 - 沒有寫 meta-bias 與證據確定性的評估方法(項目 16、17)。
這正是第 9、10 關會遇到的問題:24 小時完全緩解的合併結果,用 REML 的 Wald 型區間是 1.27–6.41、達統計顯著;主分析改用 REML + HKSJ 後是 0.80–10.19、未達統計顯著。方法選擇會左右結論,所以主分析方法應該在 protocol 就寫死。迷你 SR 選了比較保守的 HKSJ 當主分析、兩種結果都報告,但這個選擇是在分析階段才做的,protocol 裡沒有寫、也沒有註冊,所以無法被外部驗證——這就是第 9 關要談的 researcher degrees of freedom。
對照組:BMJ 2017
BMJ 2017 的 SR(Sadeghirad 2017)在摘要中列出 PROSPERO 註冊編號 CRD42017067808。任何人都可以去 PROSPERO 比對它原本的計畫和最後發表的內容。這就是有註冊與沒註冊的差別。
常見錯誤與誤讀
| 誤讀 | 比較精確的說法 |
|---|---|
| 「Protocol 寫好就不能改」 | 可以改,但要記錄改了什麼、何時、為什麼(Silagy 2002) |
| 「PRISMA-P 和 PRISMA 2020 是同一份」 | PRISMA-P 是 17 項 protocol 清單;PRISMA 2020 是 27 項完成後報告清單 |
| 「已註冊就代表品質好」 | 註冊內容可能很空泛(Page 2018:29% 未預先指定時間點或效果量) |
| 「研究顯示註冊沒用」 | Ge 2018 排除註冊項目後差異未達統計顯著,是觀察性研究,不能據此推論註冊無益 |
| 「只要寫主要結果就夠了」 | 時間點、效果量、主分析方法、預定的次群組與敏感度分析都要寫 |
| 「Scoping review 不用註冊」 | PROSPERO 不收不代表不用註冊;可以註冊在 OSF Registries |
本關重點小抄
- Protocol 防的是事後修改與選擇性報告,也能避免重複 SR(Stewart 2012)。
- 選擇性報告很常見:62% 的試驗改過 primary outcome(Chan 2004);SR 會繼承它(Kirkham 2010)。
- Cochrane review 與 protocol 相比,43/47 至少有一段重大改變(Silagy 2002)。
- PRISMA-P 2015 = 17 項(Moher 2015;解釋見 Shamseer 2015)。最關鍵:主要結果、時間點、主分析方法、預定的敏感度分析。
- 註冊:PROSPERO(健康相關 SR;Booth 2011)、OSF Registries(其他類型)。
- 註冊的實證:觀察性研究、效果有限,但核心價值是讓偏離計畫可被看見。
- 改計畫要公開:日期、內容、理由、是否在看資料前。
延伸閱讀
- Moher D, Shamseer L, Clarke M, et al. Preferred reporting items for systematic review and meta-analysis protocols (PRISMA-P) 2015 statement. Syst Rev. 2015. DOI: 10.1186/2046-4053-4-1
- Shamseer L, Moher D, Clarke M, et al. Preferred reporting items for systematic review and meta-analysis protocols (PRISMA-P) 2015: elaboration and explanation. BMJ. 2015. DOI: 10.1136/bmj.g7647
- Stewart L, Moher D, Shekelle P. Why prospective registration of systematic reviews makes sense. Syst Rev. 2012. DOI: 10.1186/2046-4053-1-7
- Booth A, Clarke M, Ghersi D, et al. An international registry of systematic-review protocols. Lancet. 2011. DOI: 10.1016/S0140-6736(10)60903-8
- Booth A, Clarke M, Dooley G, et al. PROSPERO at one year: an evaluation of its utility. Syst Rev. 2013. DOI: 10.1186/2046-4053-2-4
- Page MJ, Shamseer L, Tricco AC. Registration of systematic reviews in PROSPERO: 30,000 records and counting. Syst Rev. 2018. DOI: 10.1186/s13643-018-0699-4
- Silagy CA, Middleton P, Hopewell S. Publishing protocols of systematic reviews: comparing what was done to what was planned. JAMA. 2002. DOI: 10.1001/jama.287.21.2831
- Chan AW, Hróbjartsson A, Haahr MT, et al. Empirical evidence for selective reporting of outcomes in randomized trials: comparison of protocols to published articles. JAMA. 2004. DOI: 10.1001/jama.291.20.2457
- Dwan K, Altman DG, Arnaiz JA, et al. Systematic review of the empirical evidence of study publication bias and outcome reporting bias. PLoS One. 2008. DOI: 10.1371/journal.pone.0003081
- Dwan K, Gamble C, Williamson PR, et al. Systematic review of the empirical evidence of study publication bias and outcome reporting bias — an updated review. PLoS One. 2013. DOI: 10.1371/journal.pone.0066844
- Kirkham JJ, Dwan KM, Altman DG, et al. The impact of outcome reporting bias in randomised controlled trials on a cohort of systematic reviews. BMJ. 2010. DOI: 10.1136/bmj.c365
- Ge L, Tian JH, Li YN, et al. Association between prospective registration and overall reporting and methodological quality of systematic reviews: a meta-epidemiological study. J Clin Epidemiol. 2018. DOI: 10.1016/j.jclinepi.2017.10.012
- Allers K, Hoffmann F, Mathes T, et al. Systematic reviews with published protocols compared to those without: more effort, older search. J Clin Epidemiol. 2018. DOI: 10.1016/j.jclinepi.2017.12.005
- Moher D, Tetzlaff J, Tricco AC, et al. Epidemiology and reporting characteristics of systematic reviews. PLoS Med. 2007. DOI: 10.1371/journal.pmed.0040078
- Sadeghirad B, Siemieniuk RAC, Brignardello-Petersen R, et al. Corticosteroids for treatment of sore throat: systematic review and meta-analysis of randomised trials. BMJ. 2017. DOI: 10.1136/bmj.j3887
- 註冊平台:PROSPERO https://www.crd.york.ac.uk/prospero/;OSF Registries https://osf.io/registries;PRISMA 官網(含 PRISMA-P 檢核表)https://www.prisma-statement.org/
下一關:第 4 關 搜尋策略——計畫鎖好了,出發去找文獻。