研究過程涉及AI的倫理規範相關參考資料

文／甘偵蓉（東海大學哲學系助理教授）整理

一、AI系統定義

「『人工智慧系統（AI system）』指的是一種以機器為基礎的系統，設計上具備不同程度的自主運作能力，並且可能在部署後展現適應性。該系統透過接收輸入資料，依據明確或隱含的目標，推斷如何生成輸出，例如預測、內容、建議或決策，進而對實體或虛擬環境產生影響。」（EU AI Act）[1]

人工智慧，係指以機器為基礎之系統，該系統具自主運行能力，透過輸入或感測，經由機器學習與演算法，可為明確或隱含之目標實現預測、內容、建議或決策等影響實體或虛擬環境之產出（人工智慧基本法草案第二條）。

二、AI系統生命週期

有關AI的風險評估，目前多以AI系統的生命週期（lifecycle）來區分四大階段：導入AI系統的應用情境之規劃與設計=>訓練資料的蒐集與輸入=>AI模型的建立、使用、驗證與確證=>AI系統部署與使用的任務及結果輸出=>最後則是對於AI系統的現實運作之管控。

 

 

 

 

 

 

 

AI, N. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0), p. 10.

三、我國現階段學術研究相關法令規範

目前常使用的AI工具，大致上可區分為二種功能：一種是作為辨識、預測或決策用的區分式人工智慧（discriminative AI, 簡稱DAI），另一種是用來生成內容的生成式人工智慧（generative AI, 簡稱GAI）。這兩種功能的AI在生命週期中所需留心的風險或傷害不盡相同，可能涉及的法令規範或倫理考量也未必相同。

• (一)AI生命週期 x DAI / GAI

以下初步註記我國研究人員在進行研究的過程中，因為使用AI的方式不同，如以AI生命週期的不同階段來區分使用AI的方式差異，以下簡要註記每個階段可能涉及我國哪些法令規範或倫理指引：

Step	AI Lifecycle		Discriminative AI	Generative AI
1	應用 情境	規劃與設計	人工智慧基本法草案 國科會人工智慧科研發展指引	人工智慧基本法草案 國科會人工智慧科研發展指引
2	資料 與輸入	收集與資料處理	人工智慧基本法草案 個人資料保護法 著作權法 人體研究法及相關法規 國科會人工智慧科研發展指引	個人資料保護法 著作權法 國科會人工智慧科研發展指引
3	AI 模型	建制並訓練模型、驗證與確證	國科會人工智慧科研發展指引	國科會人工智慧科研發展指引
4	任務 與輸出	部署與使用	人工智慧基本法草案 人體研究法 國科會人工智慧科研發展指引	人工智慧基本法草案 人體研究法 國科會人工智慧科研發展指引
1	應用 脈絡	操作與監控	人工智慧基本法草案 人體研究法及相關法規 著作權法 國科會人工智慧科研發展指引 國科會學術倫理規範	人工智慧基本法草案 人體研究法及相關法規 著作權法 國科會人工智慧科研發展指引 國科會學術倫理規範 行政院及所屬機關（構）使用生成式AI參考指引

• (二)參考法規：

人工智慧基本法草案(2024.8)、個人資料保護法、著作權法、人體研究法及相關法規、國科會學術倫理相關規範、國科會「人工智慧科研發展指引」(AI Technology R&D Guidelines, 2019)、行政院及所屬機關（構）使用生成式AI參考指引(2023.8)

• 四、研究發表、編輯與審查相關規範

• (一)出版倫理委員會（Committee on Publication Ethics, 簡稱COPE)

目前學界有關文章作者、編輯與審稿人等出版規範，主要以由學術期刊編輯和出版商所共同組成的出版倫理委員會（Committee on Publication Ethics, 簡稱COPE)所發布之指引文件、最佳實務建議及參考案例為準。

1. 作者（authors）

(1)AI不具備作者資格

只有能夠對於論文內容包括研究設計、數據分析、結論等負責的人類研究者，才可擔任文章作者。

(2)研究或寫作過程如有使用 AI應明白揭露

作者如在文獻搜尋、資料整理、圖表製作、數據分析、文字輔助撰寫或潤飾等研究過程中有使用（不限生成式）AI工具，應在論文（如Acknowledgements、Method或Footnotes）等處，註明使用哪種工具、使用範圍及方式，如同過往期待研究者應清楚揭露所使用的軟體、工具和方法一樣(from “AI Contributions to Research Content” in Publishing Ethics of Cambridge University Press)。

＃Elsevier提供以下聲明的文字供參：「在準備本文的過程中，作者為了[某種原因]而使用了[工具／服務名稱]。使用此[工具／服務] 之後，作者已根據需要再進行審視與編輯該內容，並對此發表之內容擔負起全部責任。」(from Elsevier’s Declaration of AI and AI-assisted Technologies in the Writing Process)

(3)作者有責任驗證 AI 生成內容

生成式 AI 可能生成錯誤或虛假內容、捏造引文及出處、甚至有潛在抄襲有版權內容之嫌，作者應檢核所有由 AI 輔助產生的段落、引用與數據。

＃牛津大學出版社(OUP)在「作者使用AI」（Author use of Artificial Intelligence）的指引中，制定了作者規範(Authorship)、問責制（Accountability）、揭露(Disclosure)等三原則。[2]

2. 編輯（Editors）

可運用文字相似度檢測工具或 AI 工具作輔助，但最終應由人類編輯根據專業判斷來審稿與決策。若遇可疑情況，例如稿件內容疑似大篇幅 AI 生成且未揭露知情況，可要求作者澄清並提交研究原始資料或程式碼。

3. 審稿人（Reviewers）[3]

不應將未發表的稿件內容上傳至任何開放式 AI 工具；若使用私有的 AI 工具輔助，需確保投稿內容不外洩。另審稿意見的撰寫本質上是「專業判斷」，不宜完全倚賴 AI 提供審查意見或分數。Springer Nature特別指出，審查意見如有部分借助AI工具，應清楚揭露。

4. 尊重隱私與資料保護

若研究資料包含可辨識個人的資訊，需符合所屬機構、所在地區或投稿期刊的研究倫理規範及個資保護法規，尤其勿將敏感資料上傳至開放式 AI 工具。

＃Cambridge University Press、Oxford University Press、SAGE、Taylor & Francis、Elsevier等這五家知名學術出版所訂定的規範與COPE大致相同。

• (二)參考規範

Committee on Publication Ethics (COPE)、Journal of Science、Springer Nature、Sage’s Artificial Intelligence Policy、Taylor & Francis Clarifies the Responsible Use of AI Tools in Academic Content Creation、Elsevier’s Declaration of AI and AI-assisted Technologies in the Writing Process” (可參考教育資料與圖書館學(JoEMLS)-61卷2期 邱炯友主編的〈AI生成內容引文自律實踐之提醒〉)、ICMJE (International Committee of Medical Journal Editors)、Cambridge University Press、Oxford University Press (OUP)、台灣學術倫理教育資源中心「生成式AI應用於教學與研究」網頁及「留意生成式AI用於學術與研究活動時的6個關鍵！」海報

• 五、研究倫理（以人為研究參與者）的REC/IRB審查規範

研究倫理審查委員會(REC/IRB)過往多聚焦在當下參與研究者的權益保護，次級資料研究審查亦偏向含有個資或可識別個人而未去連結的資料庫上。這使得諸如使用大數據或機器學習技術相關研究，或者被排除在研究倫理審查範圍之外，或者在審查時多僅著重在研究使用的資料庫相關問題[4]，REC/IRB基本上現階段都很缺乏針對AI相關研究的倫理審查規範（Bouhouita-Guermech, Gogognon & Bélisle-Pipon, 2023）。[5]

目前除了我國衛福部有訂定人工智慧/機器學習技術相關醫療器材軟體與電腦輔助偵測或診斷的查驗登記技術指引外，教育部或國科會皆未發現有訂定涉及使用AI的人類/人體研究（AI-HSR）相關規範。

考量美國倫審法令規範向來是許多國家相關研究經費補助單位與REC/IRB在研擬規範時的參考對象，以下提供三份美國官方文件與一篇學術文章提供參。

• (一)CITI的AI-HSR倫理課程(module of “Artificial Intelligence and Ethics in Human Subjects Research)[6]

1. 兩種常見的AI-HSR研究資料來源

在Regulatory Approaches to Artificial Intelligence in Human Subjects Research這個課程當中指出，AI-HSR在資料使用上可區分為二種：一種是使用既存資料開發智能工具或測試演算法，另一種則是使用特定的紀錄裝置如相機或感測器等來蒐集資料。

Image credit to the module of “Regulatory Approaches to Artificial Intelligence in Human Subjects Research,” CITI program

2. AI-HSR常見的研究倫理議題

在“Artificial Intelligence and Ethics in Human Subjects Research”這個課程中，AI-HSR常見的研究倫理議題可分為資料、研究參與者、還是誤用等三方面。[7]

Image credit to the module of “Artificial Intelligence and Ethics in Human Subjects Research,” CITI program

• (二)美國AI-HSR倫理審查注意事項

美國衛生及公共服務部(HHS)下設主責提供人類受試者研究倫理與保護指導建議的人類研究保護秘書諮詢委員會（Secretary's Advisory Committee on Human Research Protections, 簡稱SACHRP），在2022年7月25日與10月19日批准了十個「IRB 關於在人類受試者研究中使用人工智慧的注意事項」(IRB Considerations on the Use of Artificial Intelligence in Human Subjects Research)，以下列出比較相關的八項。

1. AI的定義與範疇

Q：SACHRP 如何定義「AI」在以人作為研究參與者的研究範疇？

A：

1. • 廣義 AI：AI 泛指電腦系統或演算法在模擬人類學習、推理與判斷的功能，例如機器學習（Machine Learning）、深度學習（Deep Learning）、自然語言處理（NLP）等。
   • 研究中常見之應用：在臨床影像判讀、個案篩選、遠距監測、預後分析、行為追蹤或預測等領域，AI 扮演越來越重要的角色。
   • 與人類受試者相關性：若研究使用 AI 來蒐集、分析或預測與特定個體或群體相關的資料，並可能影響研究對象的風險或隱私，即屬於 IRB 所須審查之範疇。
2. IRB對AI研究的審查責任

Q：IRB 在面對 AI 研究時，應如何調整審查的焦點與流程？
A：

2. • 風險評估：由於 AI 演算法可能產生資料偏誤（bias），或存在不易解釋性（black box），IRB 需更著重於辨識潛在風險的來源。
   • 人類受試者保護：AI 研究可能牽涉大規模資料收集（含可識別個資）、自動化決策，IRB 應確保受試者的權益與隱私不被侵害。
   • 多學科整合：審查流程可考量邀請具 AI 專業或資料科學背景的成員參與，以便充分掌握技術面與風險評估。
3. 研究風險與風險最小化原則

Q：AI 研究存在哪些主要風險？IRB 又該如何協助降低風險？
A：

(1) 風險類型

• • 個資洩漏：若在研究中蒐集大量個人資料，或資料去識別化機制不完善，可能導致隱私洩漏。
  • 演算法偏誤（bias）：模型訓練資料若不具代表性或含有歷史歧視因素，演算法可能對特定族群產生不公平結果。
  • 自動化決策風險：AI 分析結果若直接應用於臨床判斷或其他重大決策，可能導致誤判或擴大不平等。

(2) 風險最小化建議

3. • 審慎規劃與測試：在正式研究前進行小規模測試，以確定演算法可靠度、效度。
   • 去識別化與最小化收集：盡可能採用去識別化機制並只收集研究必要之資料量。
   • 持續監控：研究過程中應建立偏誤偵測機制，如定期審查模型輸出；若發現系統性偏誤，需即時調整或修正。
4. 偏誤與公平性

Q：AI 在人體研究中可能產生哪些偏誤？該如何因應？
A：

• • 訓練資料偏誤：若訓練資料不平衡（如種族、性別、年齡分布失衡），AI 演算法的預測或分類結果可能不公平。
  • 模型應用範圍不當：在未經驗證或外部效度不足的情況下，直接將 AI 模型套用於不同族群，可能導致誤差擴大。
  • 因應策略

4. • 多元代表性：確保收集之訓練資料能充分反映人口多樣性。
   • 偏誤檢測機制：在研究流程中定期檢驗演算法對不同受試者族群的效能與誤差。
   • 透明化說明：向受試者與 IRB 清楚解釋演算法用於研究的邏輯與限制，避免誤用或誤解。
5. 資料管理與隱私保護

Q：在 AI 研究中，應如何處理人類受試者的個人資料與隱私？
A：

5. • 資料最小化原則：只收集研究目的所需的最少量個資，並採取必要的去識別化或假名化處理。
   • 安全防護措施：AI 研究中常使用高容量的運算平台或雲端系統，應確保有完善的資料加密機制、存取權限控制與安全監控。
   • 第三方合作：若研究涉及外部廠商或雲端服務供應商，必須確定雙方對資料安全的義務與責任有明確契約約束，並接受 IRB 審核。
6. 告知同意注意事項

Q：AI 相關研究在設計告知同意時，有哪些應特別注意的事項？
A：

6. • 技術複雜度：AI 技術不易解釋，研究者必須用易懂的方式告知受試者研究運作原理、可能的風險與效益。
   • 個資使用範圍：需明確說明將收集哪些資料、如何保存、是否有後續用途（如二次分析或商業應用），並取得受試者同意。
   • 動態同意機制：若 AI 系統在研究過程中不斷學習與更新，研究者應在同意書中揭示演算法可能的變動情況，並在必要時提醒受試者其權利與後續選擇。
7. 研究後的AI工具處置與持續監測

Q：研究結束後，AI 工具與資料應如何處理？是否仍需持續監控？
A：

7. • 研究結束的處置：若 AI 工具將在研究後繼續使用於臨床或其他領域，IRB 與研究者需確保後續使用情境符合最初設計之目的與倫理規範。
   • 演算法「生命週期」管理：AI 演算法可能繼續學習或更新，若後續應用仍涉及人類受試者，或將來用於新研究，可能需要新的 IRB 審查。
   • 再識別風險：去識別化資料的再識別風險在技術演進下可能提高，SACHRP 建議持續評估並採取更嚴謹的保護措施。
8. 其他審查要點：外包、第三方與責任分配

Q：若研究者委託第三方公司開發或部署 AI 系統，IRB 審查應注意哪些額外責任分配？

A：

• • 共同責任：研究機構與第三方廠商應共同承擔資料安全、倫理合規責任，確保外包方遵守人類受試者保護法規。
  • 合約規範：在合約或協議中明確界定資料使用範圍、安全措施，以及在產生偏誤或不良後果時的責任歸屬。
  • 審查範疇：IRB 需要審查第三方廠商的合規性，包括其資安防護能力與 AI 工具開發流程是否符合倫理原則。
• (三)評估AI相關研究的倫理透明度

以下參考Seong Ho Park等人(2019)在〈從科學編輯與同儕審查角度看AI醫學研究中之倫理挑戰〉一文中的表二，有關可提升[8]AI相關研究的倫理透明度之問題集，借助ChatGPT修改成可能適合人社研究的問題集：

1. 關於資料的蒐集與處理

(1)資料的來源與描述

• 研究者是否詳細說明AI所使用的資料來源，包括參與者的背景（如年齡、性別、種族、文化）和技術特徵（如資料格式或結構）？
• 研究者是否解釋資料的選擇標準，並說明這些標準是否可能導致某些群體被排除或邊緣化？

(2)資料的偏誤與影響

• 研究者是否揭示資料中可能存在的偏誤（如樣本偏差或歷史偏見），並討論這些偏誤可能對AI系統的結果產生哪些倫理或社會影響？
• 是否考慮並採取措施緩解資料中的潛在偏見，特別是針對多元文化或弱勢群體的代表性？

(3)資料處理的透明性

• 研究者是否清楚描述資料處理過程（如清理、篩選、標註）以及這些過程可能引入的偏誤或限制？

2. 關於AI系統的表現與應用

• 是否提供AI算法的詳細描述（如模型類型、訓練過程），並闡明其表現的限制與適用場景（如與性別、種族或社會不平等相關的研究）？
• 是否說明模型的可解釋性和透明性，以及這如何影響對結果的解釋與應用（特別是在敏感情境中）？

3. 關於研究參與者的知情同意及隱私

(1)知情同意與AI透明性：

• 研究者是否向參與者充分說明AI在研究中的具體應用方式（如資料分析、預測）以及可能的影響？
• 是否獲得參與者的知情同意，並特別針對資料的蒐集、處理及可能的後續使用進行說明？

(2)隱私保護：

• 研究者是否採取保護參與者隱私（如資料匿名化或假名化）的措施，並防止潛在的再識別風險？
• 研究者是否明確說明參與者可以選擇撤回其資料，以及如果不可能撤回的原因？

4. 關於研究的再現性與資料共享

• 研究者是否在報告中說明資料的蒐集程序與分析方法，以提高研究的透明性和可複現性？
• 若研究者願意共享資料或工具，是否明確說明其隱私保護機制及數位安全措施，並提供具體的存取方式（如下載網址或平台指引）？

• 六、AI風險資料庫（AI Risk Repository）[9]

• (一)資料庫建置目的

有鑒於目前AI風險的討論繁多，相關分類框架缺乏一致性，MIT等校學者從43個較具代表性的風險分類框架中提取了777個風險，並依據因果分類法 (Causal Taxonomy)及領域分類法 (Domain Taxonomy)來建立「AI風險資料庫」(AI Risk Repository) ，以利各方AI利害關係人如政策擬定者、研究者、技術人員以及企業等可共享及管理AI風險的參考框架。

• (二)建置方法

本文運用了系統性文獻搜尋和專家諮詢，篩選出相關分類框架，並使用「最佳適合框架綜合法」來建立並形成「因果分類法」和「領域分類法」等二大種分類方式。

• (三)因果分類法(Causal Taxonomy)

因果分類法從「實體、意圖、時機」等三大因素來分類風險：

1、實體：風險是否由人類、AI系統，或其他因素所造成。

2、意圖：風險是預期結果還是非預期結果。

3、時機：風險發生在部署前、部署後、或跨越多個階段。

• (四)領域分類法(Domain Taxonomy)

AI風險分為七大類別及23個子領域(Subdomains)

1. 歧視與毒性

(1)不公平歧視與錯誤再現 (2)暴露於有害內容 (3)群體間的不平等表現

2. 隱私與安全

(4)隱私洩露 (5)系統安全漏洞與攻擊

3. 錯誤信息

(6)虛假或誤導性資訊 (7)資訊生態污染與共識真實的流失

4. 惡意行為與濫用

(8)大規模虛假宣傳、監控與影響 (9)網絡攻擊、武器開發或使用，以及大規模傷害 (10)詐騙、騙局與目標操縱

5. 人機互動

(11)過度依賴與不安全使用 (12)人類自主性與控制力的喪失

6. 社會經濟與環境

(13)權力集中與利益分配不公 (14)不平等增加與就業質量下降 (15)人類努力的經濟和文化貶值 (16)競爭動態 (17)治理失敗 (18)環境損害

7. 系統安全、失敗與限制

(19)AI追求自我目標並與人類目標或價值觀相悖 (20)AI擁有危險能力 (21)缺乏能力或穩定性 (22)缺乏透明度或可解釋性 (23)AI福利與權利