[摘要] 人工智能系统一旦失去控制或被不正当利用,就有可能对人类构成重大威胁。因而,人们在享受新兴科技带来的便利的同时,必须保持审慎态度,有效应对新兴科技可能带来的伦理挑战。
基因技术、3D打印、人工智能、大数据、纳米技术等新兴科技在为人类社会带来巨大便利的同时,也可能带来巨大风险和挑战。例如,人工智能技术可以让人类从一般的智能活动中解脱出来,集中精力从事各种创新性发现、发明活动。然而,人工智能系统一旦失去控制或被不正当利用,就有可能对人类构成重大威胁。因而,人们在享受新兴科技带来的便利的同时,必须保持审慎态度,有效应对新兴科技可能带来的伦理挑战。
新兴科技所带来的伦理影响纷繁复杂,且彼此之间相互影响、相互作用,加之相关经验和知识积累不够充分,导致人们目前对新兴科技可能引发的伦理挑战还难以精准预测和把握,这加剧了新兴科技使用中的不确定性。例如,当今困扰许多国家甚至全世界的粮食、营养、能源、环境保护和防病治病等问题也许可以通过合成生物的技术来解决。如果将合成的基因组置于细胞内,制造出新的能源、新的可生物降解塑料、清洁环境的新工具、富有营养的蛋白质以及药物和疫苗,那么,由合成细胞产生的产品不仅是全新的,而且更干净、更好、更便宜。然而,与其他新兴技术一样,合成生物技术既可为人类造福,也可能带来风险隐患。合成生物技术具有较简便实用、容易掌握、成本低廉等特点,但也有可能被恶意利用,甚至制造出流行的病毒。这说明,为了更好地发展、利用合成生物技术,有必要对其可能带来的伦理风险作出预判和防范,并进行正确引导。
新兴科技的迅猛发展还可能导致一些新的伦理问题。当人类作出涉及未来的决策时,人工智能技术往往能够发挥一定的积极作用。人工智能技术能够在大数据中发现并总结出人们行为的规律,然后据此预测某人或某群体未来采取某种行动的可能性。比如,消费者有多大可能购买某种商品,什么人可能担任企业的高级执行官,某种疾病在某一地区或国家发生的概率有多大,等等。在此基础上,人工智能技术会引导人们作出相应的干预策略。但也要看到,人工智能技术所发现的规律一般是根据大数据识别出来的,而大数据往往是人们以往行为留下的信息,根据这种以往行为留下的信息预测未来行为,很可能发生偏差或造成偏见,出现伦理问题。
因此,在制定关于新兴科技的创新、研发、应用政策和战略时,不能简单采取“技术先行”或“干了再说”的办法,而要充分考虑新兴科技可能引发的伦理风险和挑战。对科技的管理不能仅仅着眼于效益和产出,还应着眼于能否实现基本的伦理价值,如科技成果能否增进人民的健康、能否保护环境以及维护社会安全等。这就要求在立项之前对新兴科技进行充分的伦理研究,伦理学工作者要为制定合适的监管办法积极提供伦理学根据。
新兴科技具有设备精密、技术复杂、知识结构繁复等特点,这使得科技工作者大多集中精力于科学技术问题,往往无暇关注所涉及的伦理、法律等问题。此外,还有极个别科技工作者受利益驱动做出有悖伦理规范的行为。这就要进一步加强对科研活动的伦理规范和监督,有效防范相关伦理风险。
随着新兴科技的迅猛发展,伦理学工作者不能坐而论道,也不能对科技发展中的问题就事论事,而要将理论与实际联系起来,运用伦理学的理论和方法加以分析研究。可以先研究制订一套初步的、暂行的伦理规范和管理办法,随着相关知识、经验不断丰富而适时加以调整和完善,将新兴科技可能引发的伦理风险降到最低。此外,还应将科技工作者和科学共同体的自我监督同政府主管部门以及相关立法机构的监管有机结合,严格实行问责制和公开制,以有效应对新兴科技可能引发的伦理挑战。
(作者为中国社会科学院哲学研究所研究员)
《 人民日报 》( 2019年05月27日 09 版)