您的位置:永利国际402娱乐官网 > 生命科学 > 坚守科技发展的伦理底线,人工智能如何保障安

坚守科技发展的伦理底线,人工智能如何保障安

2019-11-14 19:45
坚守科技发展的伦理底线

图片 1

基因编辑技术、人工智能技术、辅助生殖技术等前沿科技迅猛发展在给人类带来巨大福祉的同时,也不断突破着人类的伦理底线和价值尺度,近年来,基因编辑婴儿、器官移植等重大科技伦理事件频繁发生。加强科技伦理制度化建设、推动科技伦理规范全球治理,已成为全社会共同的呼声。

中国科学院上海植物生理生态研究所研究员、中国科学院院士许智宏在演讲。

近日,中国科学院学部科学道德建设委员会举办“2019年科技伦理研讨会”,来自国内外自然科学、社会科学、科技管理等不同领域的专家学者聚焦“国际背景下中国科技伦理问题的挑战和应对”,分析我国科技领域的伦理共性问题,探讨符合我国国情的重大科技伦理事件与议题的应对和管理机制,以期提出可操作的政策建议。

基因编辑技术在治疗遗传疾病等方面发挥巨大作用时,是否会污染人类基因池?人工智能在解放人类生产力的同时,其安全性和伦理规范如何保障? 大数据在方便人类生活的同时,数据共享带来的隐私问题和信息安全问题又该如何解决……科技在发展,越来越多的科技伦理问题也在成为大众关注的焦点。

伦理先行

4月18日,由中国科学院学部科学道德建设委员会主办的2019科技伦理研讨会在德清召开。面对“国际背景下中国科技伦理问题的挑战和应对”的话题,8位中国科学院院士和多位来自国内外科技、人文领域的专家学者展开了一次次观点碰撞……

“在科技和伦理的问题上,科技必须发展,伦理必须加强。伦理加强、道德规范能更好地推动科技发展。反之,伦理问题频发则会使整个科技界荣誉受损,甚至‘翻不了身’。”中国科学院院士翟明国告诉《中国科学报》。

基因编辑带来的伦理安全之问

过去很长一段时间,我国由于缺乏相应的监管机制、法律规范,科技伦理常常落后于科技发展,使得重大科技伦理事件发生之时,常无应对之策。

从2015年中山大学生命科学学院的黄军就教授团队利用crispr-cas9技术成功修改人类胚胎dna治疗β地中海贫血症,成为crispr技术首次应用于人类胚胎编辑的案例,到去年年底南方科技大学贺建奎团队宣布一对名为露露和娜娜的基因编辑婴儿在中国健康诞生,在全球掀起轩然大波,基因组的编辑因其难以逆转和可实现代际遗传的特质,其涉及的诸多伦理和安全问题,一直是大众关注的热点。

中国科学院院士许智宏以“基因编辑技术及其引发的伦理问题”为例指出,在严守伦理规范的前提下,在实验室范围内应用基因编辑技术开展涉及人类的基础科学研究已被接受。但以生殖为目的的人类基因编辑,以及将基因编辑技术用于人体功能增强目前是不允许的。

图片 2

与会专家也表示,科学技术研究是一项创新工作,很难做到“事前诸葛亮”,但可以根据技术的优缺点以及发展趋势,对其发展及其应用时可能出现的伦理问题进行规范立法。

基因组编辑技术是指在生物基因组中特定位置精确插入、删除、替换及修饰dna的遗传工程技术。其中,crispr-cas9技术自2013年被首次成功应用于哺乳动物基因组编辑以来,已被全球各地实验室广泛采用。

欧盟委员会欧洲伦理小组永久成员、荷兰代尔夫特大学教授杰若恩·霍温提出,可通过“设计”解决冲突性的伦理道德问题。

目前,基因编辑技术已被熟练应用于疾病模型构建、靶向药物开发、遗传性疾病治疗、农作物育种等各个领域,并取得了诸多突破性成果。

“要做负责任的创新,就应有更多伦理设计的考虑。”他结合欧盟负责任创新体系的实践指出,科学技术创新首先确认要解决的严重的问题,需要提前思考所提出的解决方案的后果和备选方案,评估解决方案的道德价值、从广大范围的利益相关者中寻求帮助、将可能产生的道德伦理问题作为设计要求。

“科技突破值得鼓励,但还是要有踏实的科学态度。”中国科学院上海植物生理生态研究所研究员、中国科学院院士许智宏说,基因编辑技术不是十全十美的。从技术本身而言,crispr-cas9技术有着先天的技术缺陷,其存在“脱靶”的可能性,从而带来不完全可控的基因突变等问题。

华中科技大学哲学系教授雷瑞鹏对此表示认同,“伦理先行既具科学性,也是必要的,新兴技术的应用导向性强、复杂性高,诸多风险不仅是科学判断,更是价值判断,伦理设计能促进科学技术更规范发展,强化不同层面监管机制的建设。”

在许智宏院士看来,胚胎编辑可用于基础研究,但要严格注意其伦理问题。

改进技术 加强教育

对此,北京协和医学院人文和社会科学学院教授翟晓梅也有着类似的看法。“‘创新’是一个科学层面的问题,技术好坏则是一个伦理层面的问题。分歧、冲突不一定是件坏事,重要是看它是否会影响一个科学家的价值判断。”翟晓梅说,科技的临床应用是需要用时间去验证其安全性的。同时,大家对于新技术道德层面的讨论,更多应着重于其应用的社会价值。

“很多科技伦理问题是与技术的不完善有关,科学家需要花更多精力思考如何改进技术,从而降低风险,而非简单地‘拿来主义’。”许智宏指出,应鼓励对于技术本身的探索,但要注意规范不同应用场景中基因编辑技术的伦理问题。

图片 3

研讨会上,不少专家还呼吁加强科技伦理教育。

生物技术领域之外,当下热极一时的大数据、人工智能发展所带来的科技伦理和安全问题同样不容忽视。

“科技伦理应该‘打预防针’,而非事后亡羊补牢。”华南师范大学生命科学学院教授李东风常发现一些学生在做动物实验时,不把小白鼠当回事,实验室变成了屠宰厂。他感到十分痛心,“这样的年轻人今后做科研时很容易犯科研伦理的问题,要从中小学时期培养学生敬畏生命、敬畏自然,这是很重要的防范措施。”

在复旦大学哲学学院教授王国豫看来,大数据是建立在数据共享基础上的,而这些数据又是来自于一个个数据所有者,因此就牵扯到隐私保护的问题。

“科技伦理教育通常作为公选课,它能否真正走入人心?受教育的群体也不仅仅是学生,而应该是广泛的。”中国科学院大学公管学院法律与知识产权系副教授刘朝指出了当前教育中的困境。

“数据孤岛打通之后,生活、工作方便了很多,但大数据同样可用于定位、追踪,人就成了‘透明人’,没有隐私就没有了安全感,两者有着一定的内在矛盾。”王国豫说,保护隐私,理论上可通过知情同意等方式来实现,但实践起来却并不容易。“就像我们平时在同意一些网络条款时会发现,我们无法知晓这些数据到底谁在用,他们又有着使用目的,因此,既没办法‘知情’,也没办法‘同意’。”

在刘朝看来,应该将教育和国家出台的一系列科技伦理规范共同融入“保护”的理念中,为“保护科学家,而非规制科学家”。

负责任的创新当为破解之道

共建平台 “全民”治理

那么,这么多的科技伦理风险袭来,我们到底该如何去应对和化解呢?

如何应对科技伦理问题,学界有争议也有共识。与会专家一致认为,科技伦理不只是科技发展问题和科学家个人的责任,需要突破学科界限,需要不同学科领域专家学者,以及政府、媒体和公众共同参与到科技伦理的防范与治理。

图片 4

“科技伦理是一个跨越学科、跨越国界的,全人类共同面临的问题。搭建科技伦理平台,需要大家一起发出声音,进行顶层设计、共同谋划。”中科院院士、中科院学部科学道德建设委员会主任裴钢表示。

荷兰代尔夫特科技大学教授杰若恩·凡·登·霍温。

在许智宏看来,政府层面应从宏观层面加强约束,建立明确的惩罚制度,从国家层面成立具有法律职能的权威部门,组织跨部门的伦理委员会;科学家强化教育培训,了解并确认其个人和专业的道德责任,并运用到实际的科学研究中;同时加强科学家与公众的沟通对话,以及媒体的科普能力建设。

在荷兰代尔夫特科技大学教授杰若恩·凡·登·霍温看来,通过“设计”解决道德冲突、伦理冲突不失为一条理想之策。对于科学家而言,这样的“设计”即是一种负责任的创新。“安全、可持续、私密性是科学家在科技创新过程中需要遵循的原则。”霍温说。

中科院科技战略咨询研究院研究员樊春良从科技伦理治理体系角度指出,现代科学技术的伦理挑战不仅涉及从事科技活动的科学家,还涉及科技成果的使用者、相关利益者和社会公众以及科技活动的管理者;不仅包括伦理问题,还包括法律和社会问题,因此需要管理部门、科学界和社会公众共同参治理。

在人工智能领域从事了20多年研究的中国科学技术大学计算机科学与技术学院教授陈小平说,目前,人工智能领域伦理规范的建构需要研究者首先参与其中。“短期内人工智能并不是那么危险,但也需要开始伦理规范建设。”陈小平说,目前在这方面,他们已经开始通过分行业做课题的形式在开展起来。

科学技术的发展需要有一个伦理环境的建设,这个环境包括适宜的价值观、伦理指导原则、政策体系、法律法规、公众教育和科学传播等。“借鉴国外的经验,面对科技伦理问题,从国家层面建立科学家、社会公众和政策制定者之间的紧密联系。”樊春良说。

“科学伦理不是一个孤立的问题,应该把科技伦理与商业伦理结合起来。”中国科学技术大学教授史玉民在研究过贺建奎从中国科学技术大学到美国斯坦福大学的学术生涯变化后认为,贺建奎在科学研究上的一系列变化与商业有着密切关联。

翟明国表示,除了科学家个人提高责任感,还需要规范约束,制定不同部门、机构共同协商的规范,并最终上升到法律层次。

当然,除了研究者个体参与之外,社会宏观层面上的科技伦理体系建设同样不可或缺。

科技伦理是全球共同的话题,中国必须要参与到国际伦理法规的制定和遵守中,“这不是一个人的事,需要过程,但是非常必要的。”翟明国说。

王国豫看来,科技伦理规范需要实现制度化。“负责任的创新是科学可持续发展的动力;滥用科技,只会造成越来越多人不愿让渡部分权利,从而不利于科技发展。”王国豫说。

就基因编辑领域来说,许智宏院士认为,有必要在国家层面成立具有法律职能的权威部门,组织跨部门的伦理委员会,并研究制定基因编辑技术发展与应用的“红线”。

图片 5

美国迈阿密大学米勒医学院助理教授罗萨莉欧·伊萨斯。

“技术是突破性的,而法律是循规蹈矩的;当法律跟不上时,要用伦理来补上。”美国迈阿密大学米勒医学院助理教授罗萨莉欧·伊萨斯说,面对科技伦理道德挑战,各国应建立起全球社区来共同应对。

中国社会科学院哲学研究所研究员邱仁宗说,建立科技伦理审查机构和质量控制系统,让有着独立道德判断能力的外部监督机构发挥作用,才是构建科技伦理规范的根基所在。

本文由永利国际402娱乐官网发布于生命科学,转载请注明出处:坚守科技发展的伦理底线,人工智能如何保障安

关键词: