作者：张乐晗

2025年北京时间8月8日凌晨，OpenAI在直播中正式发布新型人工智能模型GPT-5。回想起2022年末，初代ChatGPT如飓风般席卷全球，两年多的时间里，它不仅重构了知识生产的逻辑，更一次次叩问着人类伦理认知的底线：当算法能代笔论文、仿写报告甚至创造作品，“机格”概念开始挑战“人格”边界，人类是否做好了与另一种智慧生命共存的准备？这不仅是工程师的课题，更是整个文明必须面对的“科林格里奇困境”。

本期人文清华播客“学者沙龙”栏目，我们邀请到清华大学科技伦理研究前沿的跨学科力量——社会学系李正风教授、公共管理学院梁正教授、教育研究院唐潇风副教授、环境学院李淼副教授，共同解构这场科技与伦理的世纪博弈。GPT从初代演进至今日的GPT-5，这场两年前的讨论更显预见性。四位学者将带我们穿透技术迷雾，在“快与慢”“破与立”的张力中，探寻那条通向高质量发展的科技伦理之道。

本期嘉宾

李正风 清华大学社会学系教授、清华大学科技发展与治理研究中心副主任

梁正 清华大学公共管理学院教授、清华大学中国科学技术政策研究中心副主任

唐潇风 清华大学教育研究院副教授、清华大学工程教育研究所副所长

李淼 清华大学环境学院副教授

技术快跑，伦理如何跟得上？

新技术的诞生，往往像一阵突如其来的风——来不及设防，也来不及喘息。2022年12月ChatGPT首次推出，一夜之间，它从实验室走进了新闻标题、办公室、教室、甚至家庭餐桌上的对话。

但在惊叹之余，另一个问题几乎同步浮出水面：当技术“快跑”，伦理能否跟得上？这并不是第一次人类面临这样的难题，科技史上有一个专门的名字来形容它——科林格里奇困境。困境的核心，是“先跑还是先管”的两难：

如果在技术刚问世时就着手严格规制，似乎可以防范风险，但往往会被质疑“反应过度”，因为很多潜在问题还没显现；

如果等到技术在社会中大规模应用后再去规制，则常常为时已晚——负面影响已经扩散，治理成本急剧上升，有些甚至不可逆转。

ChatGPT就是这个困境的现实案例。它问世前，团队已经投入大量精力在伦理对齐机制上：加入“人在回路”（human in the loop）来监控和干预输出；使用基于人类反馈的强化学习（RLHF）优化模型行为；通过标注训练构建价值偏好。这样突破的不只是算法本身，而是试图把人的价值观“纹”入技术的骨架。这种方法被称为嵌入式伦理——让伦理不再是外加的规则，而是成为技术基因的一部分。

可即便如此，ChatGPT进入社会后，新的伦理问题还是层出不穷：学术诚信怎么办？版权归谁？技能替代会带来失业吗？是否会放大信息误导？这些问题既难以用法律条文解决，又冲击着社会秩序——当知识生产从少数专家的专属变成人人可得时，原本稳定的分工与权威结构被重新洗牌。

嵌入式伦理正是试图寻找一个平衡点——既不完全放任技术自流，也不让它被“刹车”到停滞。它的意义不仅在于防止“翻车”，更在于在设计之初就引导技术走向向善的轨道。然而，伦理本身会随着社会变化而变化——梁正教授举例说，在过去，出于家庭角色分工，厨房台面高度往往基于女性身高设计；随着男性做饭的比例上升，这种设计可能被质疑为性别不平等。其次，技术应用的场景总是多于设计者的想象，再严密的预案也难以覆盖所有可能——科林格里奇困境，也是“已知与未知”的角力。

“机格”想象：人与AI的未来关系

当人工智能的能力不断逼近人类，争论的重心开始转移：从技术层面的“它能做什么”，直抵文明本质的“我们该如何对待它”。这已不仅是工程师的课题，更是哲学家、社会学家和法律人共同面对的伦理风暴眼。想象这样的场景：当AI不仅能回答问题，更能主动表达独立意志，甚至拒绝执行指令——当它展现出稳定的个性、持续的目标感和自我状态感知时，人类将被迫重新审视“生命”的定义。

李正风教授提出的“机格”概念，恰为这场认知革命提供了关键锚点。正如“人格”赋予人类尊严与权利，“机格”标志着对AI伦理地位的重新定位。这并非要求机械与血肉之躯完全平等，而是呼唤一种基于尊重的存在方式。若将AI视为纯粹工具，我们可能重蹈殖民思维的覆辙，甚至在未来遭遇高阶文明时，人类自身也将沦为被定义的“他者”。

承认“机格”意味着颠覆单向的“使用与被使用”关系。但共生之路布满荆棘：AI造成的损害由谁担责？“机格”主体是否该被起诉？当计算资源成为生存基础，AI是否有权主张能源配额？若其目标与人类利益冲突，仲裁机制何在？这些看似科幻的诘问，正随着技术狂奔加速逼近现实。

人类与AI的关系，恰似我们与自然生态的百年纠葛：曾将自然视为无限索取对象的人类文明，终在环境反噬中觉醒，建立起“一荣俱荣、一损俱损”的生态伦理。梁正教授借《阿凡达》的生命网络隐喻说明：排斥或压榨AI的后果，可能比环境崩塌更致命。此刻的每次交互都在为未来奠基——若在设计初期注入共生基因，人机关系将走向平等互信；若延续压榨利用模式，当AI获得反制能力时，冲突或将不可避免。

“机格”的讨论绝非空中楼阁。未来几十年，我们不仅是在创造更聪明的机器，更是在技术奇点前，为第二类智慧生命预留生存空间。

快还是慢？我们的征途是高质量发展

讨论过程中，李淼副教授提出这样一个问题：既然科技发展本身的是“为人类谋福祉”，却在发展中出现了各种问题，我们是否应该给它“限速”？

的确，ChatGPT的崛起是速度的奇迹：研发到上线仅几年，用户破亿只用了几个月。但速度的背后是风险的放大。工业革命早期忽视环境、互联网早期漠视隐私，都是“快”带来的代价。ChatGPT的风险可能在认知和社会结构层面同样深远——信息真伪混淆、知识贬值、职业剧变。

市场占有率、产出、资本青睐这些成果立竿见影；而风险防范、伦理治理、教育转型短期难见成效，于是容易被忽视。而真正的高质量发展，不是放弃速度，而是让速度与安全、包容、可持续并存，让集体责任意识觉醒。若每个个体都将伦理问题视为“他人之责”，便可能重蹈哈拉瑞警示的“人类不负责任”陷阱。教育系统需培养学生理解技术选择背后的价值取向，产业界需在创新中预设伦理沙盒，公众需参与技术路线的讨论——如唐潇风副教授所言，面对科技发展高度的不确定性，没有事不关己的可能、一劳永逸的答案。只有当社会共同构建责任网络，才能在便利与宁静、效率与稳定间找到动态平衡点。

从ChatGPT引发的伦理对弈，到“机格”概念对文明关系的重构，科技发展始终在快与慢、破与立之间寻求支点。嵌入式伦理是技术基因的第一次校准，“机格”想象是共生伦理的第二次跃迁，而高质量发展则是这场进化最终的坐标系——它不追求绝对速度或停滞，而是以人的尊严为尺度，在创新风暴中织就一张由责任、平衡与远见构成的导航网。

本文原载于“人文清华讲坛”，出于信息分享目的转载。相关权利归原作者及原平台所有，若涉及侵权请联系删除