今年全国两会期间，澎湃新闻（www.thepaper.cn）从十三届全国人大二次会议新闻中心获悉，全国人大代表、腾讯董事会主席兼首席执行官马化腾向大会提交了《关于加强科技伦理建设 践行科技向善理念的建议》（以下简称《建议》）。

　　“近年来，以新一代信息技术和生物技术为代表的新技术的广泛应用，一方面释放了巨大的创新潜力，推动着经济社会加速发展，另一方面也带来了一些风险隐患和负面影响，引发了各界广泛关注。”《建议》指出，深入研究新技术应用及其影响，已经成为摆在全人类面前的重大课题。

　　《建议》指出，随着科技应用的加速发展和广泛普及，基因编辑婴儿、数据和算法滥用等违背科技伦理的情况时有出现，凸显了科技伦理的重要性。应对和解决这些问题，需要我们对科技伦理的关键问题在认识上有共识，行为上有共振，才能发挥好科技伦理对科技创新的调节作用，促使科技活动朝着更加有利于人类和人类社会的方向发展。

　　随后，《建议》指出了当前科技伦理方面存在的问题。

　　一、行为上缺乏自律，利用科技手段过度追求私利，忽视社会福利的情形日益突出

　　科技创新应服务于更好地解决人民日益增长的美好生活需求和不平衡不充分的发展之间的矛盾。例如，通过人工智能与农业、医疗、环保等的结合，更好地解决当前困扰人们的食物、能源和健康等问题，这是科技发展应用的正确方向和题中之义。然而实践中，一些企业和科研人员过度追求私利，而在社会效益上照顾不足。此前的基因编辑婴儿事件，涉事者实施国家明令禁止的以生殖为目的的人类胚胎基因编辑活动，在国内外引发了强烈的谴责。在互联网领域，一些企业在隐私保护和数据利用方面也缺乏自律，侵害用户权益的事件时有发生。

　　二、制度上存在空白，亟需制定保障科技创新安全运用的制度规则

　　当前我国科技行业的伦理实现机制还很不完善，缺少健全的伦理审查、自律规范、行业标准等机制的约束，新技术存在被滥用的风险。例如，利用人工智能非法窃取个人信息，进行网络攻击；非法侵入、操控自动驾驶汽车、机器人等智能设备设施；摧毁人工智能系统数据或注入大量欺骗性数据以达成非法目的。面对这些风险挑战，我国当前缺少法律、伦理方面的制度规则。例如，我国有关基因编辑的法律规范和伦理准则还很不完善，尚未进行专门的规范；针对大数据、人工智能的制度规则也基本是一片空白。

　　三、认识上缺乏共识，科技伦理教育宣传不足，新技术科普工作有待加强

　　当前，我国在科学、技术、工程和数学等专业中尚未全面推行科技伦理教育，各级各类教育中也缺少数字素养教育，导致我国科技从业者和社会公众对于科技伦理和数字素养的认识与知识储备严重不足。例如对于未成年人的健康上网问题，目前企业侧采取了各类技术防控措施，并提供了家长可深度介入的管理工具如“成长守护平台”等，但如果全社会的数字素养能进一步提升，则有助于问题更好的解决。

　　马化腾在上述《建议》中提出，为保障新技术的安全应用和健康发展，发掘新技术巨大的“向善”潜力，建议在全社会、全行业积极倡导“科技向善”“负责任创新”“创新与伦理并重”等理念，加强科技伦理建设，探索建立健全与新技术应用发展相适应的制度规则。

　　马化腾在《建议》中给出了三条具体建议。

　　一、加强科技伦理的制度化建设

　　在国家层面，建议针对相关新技术制定伦理准则，对新技术应用进行引导和规范。通过数据伦理准则，明确数据利用的目标，约束其利用方式，促进数据正向利用，抵制数据滥用；通过人工智能伦理准则，明确人工智能应用的伦理框架，包括伦理底线、伦理目标以及评估机制等；通过基因编辑等生物技术伦理准则，明确其伦理界限、目标以及伦理审查等。行业主管部门应采取与行业主体、学术团体、社会公众等多利益相关方合作的方式，制定相关伦理准则，并支持行业自律，包括建立伦理审查、成立自律组织、制定行业标准等。

　　同时，在国际层面，积极推动新技术领域的全球治理，参与国际标准、规则的制定，包括推动建立人工智能研发与应用的全球共同伦理框架，确保人工智能真正造福于全人类和全世界的发展。

　　二、加快研究新兴技术领域的法律规则问题

　　数据规则方面，应进一步完善数据治理的顶层设计，坚持促进数据利用与保障数据安全并重的原则，建立数据收集、利用与保护的基本规则秩序，防范并打击数据滥用行为。

　　人工智能规则方面，一是为相关人工智能应用建立安全标准，明确人工智能应用相关的法律责任规则，保障公共安全和个人合法权益。二是深入研究如何规制数据、人工智能相关的新型犯罪。三是为自动驾驶、无人机、医疗诊断、自主智能机器人等领域的人工智能应用探索制定恰当合理的规则，建立新的监管框架。

　　基因编辑等生物技术的规则方面，加快制定针对基因编辑等生物技术研发与应用的管理办法，明确基因编辑的伦理界限和法律要求，对以生殖为目的的人类基因编辑进行严格管制。

　　三、加强科技伦理的教育宣传并鼓励全社会践行“科技向善”理念

　　一是建立完善的科技伦理教育机制，在教育培训体系中加快普及科技伦理教育，使科技从业者接受科技伦理的熏陶，从“他律”走向“自律”，秉持向上向善之心，追求科技服务于人类福祉改进。二是搭建科技创新与伦理之间高效对话机制和沟通平台，加强新技术科普，为新技术发展营造理性务实、积极健康的社会氛围。三是制定并在教育培训体系中全面落实全民数字素养培养计划，并鼓励全社会、全行业践行科技向善理念，充分发掘新技术巨大的“向善”潜力，促进经济社会健康、可持续发展。四是鼓励、支持新技术的的跨学科研究。新技术应用带来的风险挑战不可能单靠技术手段来解决，需要从国家安全、社会治理、就业结构、法律制度、伦理道德等多个维度，系统深入研究新技术应用及其影响，制定合理可行的应对措施，确保新技术的正面效应。

　　（责任编辑 吴静）