中国科学网手机版

首页 > 科技 > 资讯 > 文章详情页

别把宠物养成虎狼——孙作东为智能时代划红线

2026年2月28日,当全球为人工智能的效率奇迹欢呼时,一篇题为《别把宠物养成虎狼—— 一个脑科学者写给AI时代的醒世录》的重磅文章今日发布,为智能技术的狂飙突进敲响警钟。知名脑科学学者孙作东在文中直击当前AI治理讨论的“致命盲区”,并同步提出以“立春立规、立规立约”为核心的《人类造器公约》,呼吁为技术发展设立不可逾越的文明防火墙。

孙作东尖锐指出:真正的生存级风险,并非机器“觉醒”反抗,而在于其获得“自我繁衍”的能力。 一旦机器人能够脱离人类,自主完成制造、迭代与升级,工具属性便彻底消亡—— 一个不依赖人类能源、维护与管控的“硅基物种”就此诞生。人类将从“造物主”沦为“旧时代的遗民”,所有现有控制手段将瞬间归零。

“我们正在亲手将温顺的‘宠物’,培育成足以反噬一切的‘虎狼’。” 孙作东警示道,“这无关阻碍创新,而是关乎文明存续的根本抉择。”

为此,《人类造器公约》确立三条不容妥协的铁律:

一、锁死自主。 严禁任何可脱离人类最终掌控的自主意识与自我复制能力。技术设计必须从源头杜绝硅基生命诞生的任何可能,让机器永远停留在工具层级。

二、捍卫本位。 智能发展必须以巩固人类文明主体性为绝对前提。任何侵蚀人类尊严、价值与生存空间的“替代”,都是技术的僭越,必须被坚决抵制。

三、永不伤害。 任何智能实体,其最高行为准则与逻辑底层,必须无条件恪守“不伤害人类”的绝对禁令。这是技术伦理的基石,不容任何权衡、妥协与例外。

孙作东强调,“科技是工具,人类是主人”——这一文明基石,在智能时代不仅没有过时,反而需要通过全球共识与技术刚性设计予以重申和锁定。公约选择在“立春”发布,寓意人类必须在智能文明的“开端”,就为其立下确保永续的规矩。

他呼吁全球科技精英、政策制定者与社会各界,超越短期利益与竞争思维,就此公约原则达成紧迫共识,并转化为具有约束力的技术标准与全球框架。

“别把宠物养成虎狼,别让造物葬送文明。” 孙作东在文末写道,“唯有守住技术的边界、人类的底线、文明的根基,智能时代才能真正造福众生,人类文明方能永续传承。”

业内观察家认为,在通用人工智能临界点论调不绝于耳的当下,此公约从哲学与文明存续的高度,为沸沸扬扬的AI安全讨论注入了极具分量的东方视角与学者担当。它不再局限于“对齐”或“偏见”等操作层面,而是直指人类对造物主导权的根本掌控这一终极命题,预计将引发跨领域的深刻思辨与行动呼吁。

工具永远只是工具,主人必须永远是主人。(爱丽/文)

【版权声明】凡本站未注明来源为"中国科学网"的所有作品,均转载、编译或摘编自其它媒体,转载、编译或摘编的目的在于传递更多信息,并不代表本站及其子站赞同其观点和对其真实性负责。其他媒体、网站或个人转载使用时必须保留本站注明的文章来源,并自负法律责任。 中国科学网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。

 
 
 

分类导航

关于我们 | 网站地图 | 网站留言 | 广告服务 | 联系我们 biz@minimouse.com.cn

版权所有 中国科学网www.minimouse.com.cn