人工智能科研项目中的隐私问题研究
时间：2023-03-01 20:55:07 来源：千叶帆 本文已影响人
陆 婷 张 燕
·综述与进展·
人工智能科研项目中的隐私问题研究
陆 婷1张 燕2
1.北京大学肿瘤医院暨北京市肿瘤防治研究所伦理委员会，北京 100142；
2.北京大学肿瘤医院暨北京市肿瘤防治研究所胃肠肿瘤中心一病区，北京 100142
随着人工智能（artificial intelligence，AI）、大数据技术在临床研究中的广泛应用，其面临的隐私问题越来越突出。本文从伦理审查的角度分析了北京大学肿瘤医院的人工智能项目受试者隐私保护存在的问题，并针对存在的问题提出受试者隐私保护的建议，以期在充分保护受试者个人信息和隐私安全的基础上推动规范开展人工智能科研项目。
人工智能；
临床科研；
隐私保护；
数据管理；
伦理审查
人工智能（artificial intelligence，AI）是一门基于计算机科学，以智能行为为目标的横断学科，可分为强人工智能和弱人工智能[1]。近年来，我国开始推行“互联网+健康医疗”的政策方针，人工智能技术在医疗领域的应用不断扩展和延伸。人工智能技术不仅可应用于健康管理、辅助临床决策、疾病的筛查和诊断、临床资料或文献的分析、医院管理等[2]，其数据整合和数据处理能力在医学研究方面也发挥重要作用。人工智能提供更便携的技术支持的同时，也为临床研究带来了更多的机会和可能[3]。
随着个人信息和临床数据广泛应用于人工智能的相关研究，受试者数据安全和个人隐私问题逐渐突显[4]。笔者以北京大学肿瘤医院2018至2022年经过伦理审查的共30项人工智能科研项目为对象进行分析，对发现的受试者隐私保护的常见问题进行梳理归纳，并针对存在的问题提出可行性对策。
1.1 隐私保护的认识不足
人工智能科研项目属于较新的研究，研究者及申办者对此类项目的受试者隐私泄露风险认识不足。北京大学肿瘤医院90%的人工智能项目中研究者及申办者均未重视个人数据的不正当处理、个人隐私泄露、侵害隐私权所可能带来的社会风险。根据《民法典》[5]第111条和第1034条规定，研究者及申办者应重视个人信息泄露对数据主体（受试者）可能产生的严重风险。同时，在医学研究伦理审查中，除关注受试者生命健康安全外，还应注意审查信息数据安全管理措施是否得当且充分，高度重视大数据时代受试者个人数据泄露的风险，防患于未然[6]。
1.2 隐私数据缺乏保护措施
为确保研究项目资料的保密性，通常采用特有的受试者识别（identify code，ID）编号而非医院病历号来标记受试者的研究数据和生物样本，该编号无法识别受试者的姓名、照片等身份识别信息。北京大学肿瘤医院多数人工智能项目中，仅对受试者姓名、性别等身份信息用代号或数字代替，而忽略了对受试者相关视频图像等健康信息采取相应的保密措施。
此外，在查阅标有受试者ID编号的研究数据或样本时，需要向访问者明确以下情况：①审查受试者信息（包括含有可识别受试者身份个人信息的病历）是为了确保研究过程符合要求。②保证受试者研究数据在拥有良好数据保护法律环境且符合我国数据安全和保护法要求的国家和地区被查阅和分析。③当涉及受试者基因信息时，仅可提供所需的基因组信息，如遗传特征信息，不应标有受试者姓名、照片或任何其他个人身份识别信息。
总之，根据适用的数据隐私保护法和数据安全相关法律、法规、行业规范、国家标准和临床研究相关的法律法规和部门规章，使用多种方法保护受试者隐私[7]。
1.3 隐私数据共享安全管理不足
人工智能研究通常涉及与第三方单位的合作，北京大学肿瘤医院研究者及申办者在递交伦理审查材料时，多数未提供第三方合作单位的资质文件及合作协议，但此类文件是伦理审查过程中必不可少的。事实上，选择有资质的第三方合作单位就是保障受试者个人信息安全的主要措施之一，因为在合作协议中对双方责任、义务及权利，知识产权，受试者隐私及数据保护、保密等方面进行了明确规定[8]。
研究中通常需要严格相关人员访问数据的权限，以保证数据共享的可控性，如相关政府部门（如监督本次研究的伦理委员会）、申办者自身及为申办者工作或与其合作的人员；
仪器供应商和实验室等服务提供方的试验医生、工作人员。
1.4 对隐私保护的知情同意不充分
知情同意和伦理审查是保护受试者隐私的重要的两个环节。知情同意可以使受试者充分获知所参加临床试验内容和风险，同时也是试验过程中受试者相关数据采集和使用授权。北京大学肿瘤医院人工智能项目中申办者及研究者存在知情告知范围不全面的问题，侵犯了受试者的知情同意权。
关于人工智能项目中的数据安全及隐私保护问题，伦理委员会应根据研究预期目的、数据的收集方式及涉密性、敏感性、研究所带来的社会价值、重新获取知情同意的难度及管理措施等，来判断项目应采取具体的知情同意、广泛的知情同意、免除知情同意，还是选择退出程序及知情同意的撤回形式[9]。
2.1 提高对隐私保护的认识，完善监管体系
为充分保护个人隐私权，各国政府陆续出台相关法律或规范性文件，如美国的《健康保险流通与责任法案》，欧盟的《通用数据保护条例》，并在实践过程中不断完善[10,11]。我国应借鉴国际已有条款，尽快针对人工智能项目中的隐私问题立法，保护个人数据隐私[12]，并建设合作、配套的监管制度，建立隐私风险评估机制和行业自律体制。同时，应定期、广泛开展受试者隐私保护的培训，以提升利益相关者的隐私素养。
人工智能的发展离不开有效地监管，建立健全的监管体系，更有利于其健康发展。2022年3月20日，中共中央办公厅、国务院办公厅发布了《关于加强科技伦理治理的意见》[13]，该意见是我国国家层面科技伦理治理的执行性文件，提出了五条科技伦理原则：增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明，并要求“从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会”[14]。
临床研究开展前，伦理委员会应严格审查人工智能临床试验中的有关受试者隐私及保密的具体措施，并决定是否同意开展本研究。此外，在临床试验项目进展过程中，伦理委员应对其进行全过程监管，一旦发受试者的个人信息或隐私存在泄漏风险，应责成相关方排除风险；
如受试者隐私权受到侵犯的或造成严重后果的，应当要求责任方给予赔偿或依法承担相应法律责任[13]。
2.2 建立或完善数据管理体系
为保证受试者的隐私数据安全，以北京大学肿瘤医院胃肠中心为例，在开展人工智能科研项目时，任命一名数据工程师作为隐私保护专员，该专员将确保所有临床科研数据在交付过程中的隐私保护措施得以执行。具体措施如下：
2.2.1 数据操作标准化 ①相关数据管理软件中需进行数据流程申请，由主任、副主任双重审核备案并留痕，以供随时查阅归档数据信息，形成数据使用后的反馈机制。②数据使用后的销毁和反馈机制：牵涉第三方使用受试者数据使用时，需签署经本院律师审核过的、相对严谨的第三方数据保密协议。③设定相应的数据访问权限，如仅对部门负责人设有高级管理权限，而其他普通工作人员仅有限时浏览权限。另外，临床试验辅助人员进入科室系统均需提交申请，防止第三方人员利用个人用户信息进行医疗诈骗等恶意行为。④设置高级别密码并定期修改，通过系统升级、禁用弱口令、启用强口令（必须包含数字和字母，8～10位）等措施，有效保护系统信息安全，降低医疗数据安全风险隐患。⑤采用单通路（北京大学肿瘤医院内网环境下的办公系统）传输数据，以避免网络的非法获取，不可使用微信、QQ在线传输等[14]。
2.2.2 数据的脱敏处理 采用医疗行业数据脱敏系统对医疗系统内的敏感数据进行脱敏保护，防止医疗数据被非法篡改，及在医院信息系统的开发、测试环境中被第三方泄露。
2.2.3 访问者的实名认证 北京大学肿瘤医院搭建了医生实名认证的电子签名系统，每次登录会出现UKey提示，防止匿名用户的登录；
使用界面设有定时退出功能，避免因长时间不使用而增加信息泄露的风险。
2.2.4 加强数据管理，建立数据共享与管控机制 对于每一项临床研究，统计分析结果首先在本地数据集进行计算，得到本地统计数据后发送至业务终端，然后汇总每个数据提供者的单个结果，以获得分析的最终汇总结果。与个体方面的数据比较，局部统计数据具有较低的维度，因此在去中心化的数据共享模型中，被重新识别的风险较低，这样就能有效地避免了因内部敏感数据被拷贝和窃取，从而出现导致个人信息泄露等问题[15]。
2.2.5 数据二次利用的管控 对于已存储数据进行二次研究的管控对于生物标本库及相关数据库非常重要。生物标本库保存着生物标本及相关的表型和人口统计数据，在将其分发给第三方研究人员进行二次研究前，生物样本及其相关需通过关键编码等方式处理，确保二次研究的团队无法识别其个人信息主体[16]。
2.3 加强隐私数据，共享安全管理
数据共享中存在敏感数据难以保护、隐私数据泄露等受试者数据安全及隐私问题。针对数据共享中侵犯受试者隐私权的问题，可通过树立正确的伦理价值观、加强伦理监管等方式来避免；
可以采用数据收集限制原则、数据的质量提升原则、目的明确化原则、利用限制原则、安全保护原则、开放原则、个人参与原则、问责原则等隐私治理原则[17]。监管机构应赋予患者积极保护自己的权利，通过监控患者的电子病历来保护其隐私。
对受试者隐私保护并非信息孤岛，而是数据共享的适当条件。为了更好地实现“科学数据共享价值的最大化”与“隐私风险的最小化”治理目的，受试者数据共享中的隐私治理需政府、伦理委员会、申办者、研究人员及受试者等多方主体积极参与、协同治理，才能有效降低隐私泄露的风险[19]。
2.4 受试者知情同意权保护
知情同意书应包括隐私保护的内容。知情同意过程中，对受试者进行充分告知，取得受试者知情同意，使受试者知道其个人信息和隐私受到法律保护，研究团队也会将按法律法规和知情同意书等文件的要求合理使用其数据[20,21]。
如有个人信息或隐私被侵犯的情况发生，受试者可向研究方提出撤销对个人信息的继续使用和共享许可，研究者及申办方应尊重受试者意愿，将其相关数据删除。若因各种原因无法删除其相关数据，应向受试者做出书面说明，并提交伦理委员会备案。随后，若该受试者将退出实验，研究者不再收集其新研究数据。但是，根据临床试验规则的要求，可能仍然会在采取知情同意书描述的措施保护受试者隐私的前提下使用已收集到的健康数据。
综上所述，人工智能的发展日趋成熟，已经渗透到临床试验的各个领域。人工智能应用于临床试验为其带来了新的发展机遇的同时，也对受试者的隐私保护带来了新的挑战。除借鉴发达国家和地区系统的隐私保护政策以外，提高对隐私保护的认识、加强人工智能项目的伦理审查监督、完善数据管理体系建设、加强对受试者隐私数据共享的安全管理、注重受试者知情同意权保护等方面的措施，是保护受试者个人信息和隐私安全的重要工作。
[1] 任相阁, 任相颖, 李绪辉, 等. 医疗领域人工智能应用的研究进展[J]. 世界科学技术-中医药现代化, 2022, 24(2): 762-770.
[2] 王姗姗, 翟晓梅. 人工智能医学应用的伦理问题[J]. 中国医学伦理学, 2019, 32(8): 972-976.
[3] 胡献红. 人工智能的国际伦理原则探讨: 聚焦隐私和数据保护问题[J]. 新媒体与社会, 2021(1): 3-20.
[4] 王瑞, 陈晓英. 人工智能的伦理困境和解困之道[J]. 辽宁工业大学学报(社会科学版), 2022, 24(1): 17-19.
[5] 民法典. 北京: 人民法院出版社, 2020.
[6] 刘瑞爽. GDPR对我国医学研究伦理审查的启示[J]. 医学与哲学, 2019, 40(3): 29-33.
[7] 吴何奇. 大数据时代个人隐私保护的刑法路径——从医疗人工智能的隐私风险谈起[J]. 科学与社会, 2020, 10(2): 89-110.
[8] 刘丹, 周吉银. 临床科研项目受试者隐私保护的伦理审查[J]. 中国医学伦理学, 2021, 34(10): 1306-1310.
[9] 谢小萍, 何晓波, 张玲希, 等. 涉及医学人工智能研究的伦理审查要点分析[J]. 中国医学伦理学, 2021, 34(7): 844-850.
[10] 李明, 李昱熙, 戴廉, 等. 医疗人工智能伦理若干问题探讨[J]. 医学与哲学, 2019, 40(21): 1-4.
[11] 药物临床试验受试者隐私保护·广东共识[J]. 今日药学, 2020, 30(12): 807-814.
[12] 乌守恒, 刘芯如, 杨建英, 等. 医互通微信随访平台在PAC随访中的应用[J]. 中国计划生育学杂志, 2018, 26(2): 156-159.
[13] 中共中央办公厅. 国务院办公厅. 关于加强伦理治理的意见[OL]. (2022-03-20) [2022-12-28], www.gov. cn/ zhengce/2022-03/20/content-5680105.htm.
[14] 刘星, 卢晓然, 吴影, 等. 人工智能应用于临床试验的伦理问题分析及对策[J]. 中国临床药理学与治疗学, 2022, 27(3): 322-327.
[15] 张海洪. 健康数据二次使用研究的伦理审查探讨[J].医学与哲学, 2019, 40(3): 26-28.
[16] 王国豫, 黄斌. 论大数据技术对知情同意的挑战[J]. 自然辩证法研究, 2020, 36(4): 61-66.
[17] 孟祥菡. 我国人体临床试验受试者知情同意权的法律保护[J]. 人权, 2022(1): 150-167.
[18] 柳薇, 吴丁娟. 医疗信息隐私保护的研究进展[J]. 软件, 2020, 41(5): 66-71.
[19] 朱贝, 王传清. 我国科学数据共享中的隐私治理探析[J]. 图书情报工作, 2020, 64(22): 37-47.
[20] 李宪辰, 康玫, 邱燕, 等. 研究者发起的临床研究中受试者个人隐私保护探讨[J]. 中国医学伦理学, 2020, 33(12): 1459-1462.
[21] 周琬琳. 人工智能医学应用的分类与伦理问题反思[J].中国医学伦理学, 2020, 33(7): 826-830.
张燕，电子信箱：zhangyangoog@163.com
（2022-07-25）
（2022-09-11）
R920.4
A
1673–9701(2022)36–0109–03
猜你喜欢 肿瘤医院知情个人信息 如何保护劳动者的个人信息？工会博览(2022年16期)2022-07-16人体生物样本知情同意退出制度重塑科学与社会(2022年2期)2022-07-02个人信息保护进入“法时代”今日农业(2022年1期)2022-06-01警惕个人信息泄露绿色中国(2019年14期)2019-11-26临床试验电子知情同意：问题与展望*中国医学伦理学(2019年11期)2019-01-17创新体制 承担重任 建国际一流的肿瘤医院中国卫生(2016年12期)2016-11-23海南省肿瘤医院中国卫生(2016年12期)2016-11-23十年巨变 打造地市级肿瘤医院标杆中国卫生(2016年10期)2016-11-13知情图报小演奏家(2016年5期)2016-05-14静海县人大常委会组织知情观察天津人大(2015年9期)2015-11-24 相关热词搜索：科研项目，人工智能，隐私，
