新闻中心

人工智能等科研有了“红线”五大原则亮出伦理底线

  人工智能觉醒、个人网络信息安全、基因编辑......科学技术飞速发展的同时,可能引发一些前所未有的伦理挑战。近日,中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》,这将进一步完善科技伦理体系,提升科技伦理治理能力,有效防控科技伦理风险,不断推动科技向善、造福人类,实现高水平科技自立自强。

  人工智能觉醒、基因编辑、个人网络信息安全……人工智能等先进科学技术不断迅猛发展的同时,也给社会带来新的风险和不确定性,更甚者可能引发一些前所未有的伦理挑战,比如很多科幻电影中出现人工智能,但被真正的人类随意操控,机器人们开始有自主意识,会引发伦理等一系列问题。

  科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范,是促进科技事业健康发展的重要保障。伴随着我国科技创新的步伐不断加快,面临的科技伦理挑战日益增多,进入更多“无人区”,将对科技伦理治理带来更多挑战、提出更高要求。

  诚然,目前来看,科技伦理治理仍存在体制机制不健全、制度不完善、领域发展不均衡等问题,已难以适应人工智能、基因编辑、个人网络信息安全等领域科技创新发展的现实需要。近日,中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》(以下简称《意见》),并发出通知,要求各地区各部门结合实际认真贯彻落实。

  《意见》主要围绕五个方面进行相应的规范要求,包括明确科技伦理原则、健全科技伦理治理体制、加强科技伦理治理制度保障、强化科技伦理审查和监管、深入开展科技伦理教育和宣传。其中,在明确科技伦理原则方面,要求尊重生命权利、增进人类福祉、坚持公平公正、合理控制风险、保持公开透明,促进人类社会和平发展和可持续发展。

  在健全科技伦理治理体制中,《意见》明确了要完善政府科技伦理管理体制、压实创新主体科技伦理管理主体责任、发挥科技类社会团体的作用、引导科技人员自觉遵守科技伦理要求,对于从事生命科学、人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会。

  “十四五”期间,将重点加强生命科学、人工智能等领域的科技伦理立法研究,及时推动将重要的科技伦理规范上升为国家法律法规。其实,党中央、国务院一直高度重视科技伦理治理。党的十九届四中全会和五中全会已经提出“健全科技伦理治理体制”和“健全科技伦理体系”的要求。

  总的来说,对于从事人工智能等科技活动的高等学校、科研机构,以及人工智能产品生产制造的企业,一定要树立正确的科技伦理意识,强化底线思维和风险意识,遵守科技伦理要求,如若研究内容涉及科技伦理敏感领域的,要设立科技伦理(审查)委员会,以共同推动我国科技事业健康发展,更好地促进科技向善、造福人类。