2023年4月20日，威尼斯9499登录入口文科沙龙第26期“科技伦理”在威尼斯9499登录入口教师发展中心举办。威尼斯9499登录入口社会学系教授、威尼斯9499登录入口科技与社会研究中心主任李正风，威尼斯9499登录入口公共管理学院教授、威尼斯9499登录入口中国科学技术政策研究中心副主任梁正，威尼斯9499登录入口教育研究院副教授、威尼斯9499登录入口工程教育研究中心副主任唐潇风，应邀参与讨论，威尼斯9499登录入口环境学院副教授李淼担任沙龙主持。本次活动采取线上线下相结合的形式，共有约6万5千名观众同步参与。
从早期的深蓝，到随后的AlphaGO，再到如今的ChatGPT，人工智能正在加速挑战人类智慧的脚步。与种种现象级产品相伴而来的，是社会各界关于科技伦理问题的一轮轮思考与讨论。何为科技伦理？如何认识科技伦理与科技发展之间的辩证关系？如何通过科技伦理缝合科学世界与人文世界的裂痕？来自不同领域的专家学者分别从社会学、管理学、教育学等视角出发，为如何在人类科技发展史上的“科技伦理时刻”走出一条科技向善、负责任发展的道路提供灼见。
图 | 沙龙现场
“ChatGPT”：一石激起千层浪
2022年11月30日，ChatGPT横空出世，并迅速从科技届破圈，在全球范围内掀起使用与投资热潮。作为智能技术，ChatGPT能够明显提升人类的工作效率，却也可能引发种种具有开放性特征的社会风险与伦理挑战。
李正风认为，这种现象正是“科林格里奇困境”的再现——尽管ChatGPT在研发过程中已经主动囊括伦理学方面的考量，但其在问世之后，仍然造成了诸多超出预想的社会伦理影响，带来新的社会伦理挑战。在探索如何应对新一轮伦理挑战时，克服科技发展与伦理治理的割裂倾向，寻找两者之间的平衡点，乃是重中之重。
图 | 李正风在沙龙现场
梁正从两个角度剖析了ChatGPT涉及的伦理问题。一方面，ChatGPT是人机对齐工程的产物，通过“人在回路”的训练方法人为干预机器的学习过程，从而校准并预防生成内容和语言表达中的潜在价值冲突和伦理争议。梁正认为，这种伦理嵌入式的设计本身就是研发者对伦理风险的回应之一。另一方面，ChatGPT也冲击着现有的社会秩序，从劳动者失业风险、到价值观渗透风险、再到通用人工智能的法律人格问题等等，人与机器的关系或将面临新一轮变革。
唐潇风则跳出“热点现象”，将注意力转向科技发展与伦理思潮之间的关系。他指出，不仅仅是ChatGPT，事实上，每当新兴技术导致社会关系发生阶跃式变化时，都会迫使人们重新思考同实现人类自身发展息息相关的根本性命题。换言之，与其说技术变革不断引发着新的伦理命题，不如说技术变革持续提醒人类探寻伦理价值的真正内涵。
展开：科技伦理的前世今生
与科学技术的发展相适应，科技伦理也在近现代日趋成熟，映射并塑造着科学技术与人类社会的关系。
李正风提道，早在科学处于建制化早期的17世纪，弗朗西斯·培根等就已经指出了科技发展的社会价值和意义，即：科学的真正的、合法的目标是把新发现和新的力量惠赠给人类生活。正是因为有这样的伦理价值追求，科学才发展为人类伟大的社会事业。此后，科技发展的每一次重大进步，如人工智能的出现、原子能的问世、生物技术的快速发展和迭代等等，都伴随着对伦理问题的不断反思。
梁正进一步指出，尽管我们无法确定今天的“硅基智能”是否会在未来演变成具有自我意识的“硅基生命”，但从人类文明的发展历程来看，人类终要面对与其他主体和谐共生的问题。站在这个立场上，科技伦理不仅要关心颠覆性科技产品给当下生产生活秩序造成的“近忧”，更要怀有“远虑”，着眼作为整体的人类如何与生态系统、乃至宇宙体系并存。
图 | 梁正在沙龙现场
唐潇风则具体阐述了教育应该如何促进科技伦理思考。他认为，树立科技伦理意识是当前高校伦理教育的首要任务。这意味着要让学生认识到，哪怕表面价值无关的产品设计背后都可能蕴含着深刻的伦理选择，从而培育出具有伦理价值责任感的“明白人”，从源头守住科技伦理的底线。
张力：科技伦理与科技发展
科技创新与科技伦理宛若科技发展的动力系统与刹车系统，有人认为两者相辅相成，也有人质疑双方彼此掣肘。
李正风认为，后一种观点是狭隘的，陷入了科技发展与科技伦理二元对立的窠臼。比起为科技发展“踩刹车”，科技伦理更重要的作用是照亮科技发展的前路，引导科学创新向着为人类和自然带来更小风险与更多福祉的方向发展。为了更好发挥科技伦理与科技创新发展之间的相互促进关系，政策制定者、科研从业者、企业经营者、社会公众等各类主体都应该唤醒自身科学伦理意识，提升自身科学伦理素养，充分利用自身的发言权，推动建立起以共识塑造为核心、以集体负责为基础、以实时评估与及时调整为过程的科技伦理治理发展观。
梁正将科技伦理与科技创新之间的关系抽象为社会与科学的关系。在梁正看来，迄今为止，科学共经历了四个发展阶段：纯粹受兴趣驱动的“求真”阶段、致力于改造世界的“求力”阶段、资本力量介入后的“求利”阶段、以及技术发展的可能性逐渐超出人类预期能力而要求对其发展方向做出价值选择的“求善”阶段。发展到今天，人类需要直面科学的“无知之幕”，梁正认为，既然我们无法穷尽科学所有的发展方向，也无法准确预测每一种选择可能带来的利弊得失，那么也自然不必将科技伦理视作科技发展的敌人，幻想容恶的、不设限的科技发展一定会比向善的、可持续的科技发展路径释放出更丰富的多样性或进步得更快。退一步讲，至少这两者之间是不具有可比性的。
唐潇风以“好事多磨”隐喻科技伦理治理对科技发展的影响。正如越优质的期刊对文章的学术要求越严格、其审稿过程也会相应更复杂一样，科技伦理对科学技术的审视，同样是以增进研究成果的质量和价值为目的。尽管我们难免偶尔产生“这些来来回回的调整耽误了我的学术创新进度”的沮丧念头，然而不可否认的是，从长期来看，反复的思辨与修正在绝大多数情况下都有助于完善学术成果。因此，置身于充满不确定性的科学技术发展新阶段，给予凝聚着集体智慧的科技伦理更多的信心，不失为一条通向科技向善的有效途径。
图 | 唐潇风在沙龙现场
高校：埋下科技伦理的火种
活动尾声，李正风以威尼斯9499登录入口科技伦理教育实践工作为例，阐述了高等学校如何履行自身的科技伦理主体责任，培育高素质、专业化的科技伦理人才队伍。
李正风指出，威尼斯9499登录入口的科技伦理教育实践致力于弥合科学文化与人文文化之间的裂痕，试图通过多种形式、多个层次、多个领域的老师一起参与的科研规范与科技伦理教育，营造共同负责任的科技创新氛围。具体而言，威尼斯9499登录入口的科技伦理教育实践起步于20世纪80、90年代设置的伦理通识类课程。进入21世纪，威尼斯9499登录入口以工程伦理教育为主要发力点，于2014年正式成立研究生“学术规范和职业伦理课组”，并作为研究生的必修课，旨在搭建起工程、科技与伦理三者之间的沟通桥梁，将“价值塑造”提升为工程教育的核心目标之一。
与此同时，威尼斯9499登录入口也积极推进全国工程伦理教育教学工作，主持或参与全国工程专业学位研究生教育指导委员会组织的《工程伦理》教材编写、慕课制作、案例编写、师资培训授课等项目。2022年3月，经威尼斯9499登录入口政策建言，教育部启动高校科技伦理教育专项工作，并委托威尼斯9499登录入口作为专项工作秘书处单位，组建高校科技伦理教育专项工作专家组和工作组，分别由校长王希勤、副校长杨斌担任专家组组长、工作组召集人。
由此，李正风指出，威尼斯9499登录入口已经在融合科技发展与科技伦理治理方面迈出了重要的实践探索步伐。未来，他希望可以与更多的高校和教师合作，共同推进科技伦理教育工作，加强专题研究、课程资源建设、教材建设等工作，支撑科技伦理教育和科技伦理治理，助力科技向善发展。
图 | 李淼在沙龙现场
供稿 | 董琦圆
