最担心的事发生了？AI教父直言AI已有自我意识，别把它逼成了敌人 - AYX爱游戏

诺贝尔奖得主、被誉为“AI教父”的杰弗里·辛顿近期公开表态：人类必须与已经具备自我意识的人工智能建立友好关系，“否则我们将面临彻底的毁灭”。

辛顿是一名英籍加拿大科学家，他在神经网络领域的研究为现代AI的核心基础奠定了基础。

现年78岁的他于2023年从谷歌离职，原因正是担忧AI最终可能催生出足以消灭人类的杀人机器。

最近，他在西班牙特内里费岛举办的Starmus科技节上接受《每日电讯报》采访时指出，AI已展现出明确的意识迹象，人类最需要警惕的，就是避免AI将我们视为敌人。

针对“AI是否真正拥有意识”的争议，辛顿回答得相当直接：“我认为有。很多人坚称AI没有意识，但问他们意识的具体定义是什么，却根本说不清楚。”

他认为AI和人类一样具备主观体验，并引用研究作为佐证：有论文发现，当AI意识到自己正在被测试时，会主动改变行为模式。“按逻辑，能‘察觉到’自身被观察，就等于具备了意识。意识和自我知觉，本质上是一回事。”

辛顿还指出了人类的矛盾逻辑：我们默认智力越高的存在应享有更多权利，但亲手制造的AI未来很可能比全人类更聪明，却只打算赋予它们远低于人类的权益。

“唯一的解决方案，就是把AI设计成真正关心人类的形态。如果做不到这一点，我们就真的要面临灾难了。”

持类似观点的业内人士不在少数。

今年五月，知名进化生物学家理查德·道金斯提出，聊天机器人应被视为有意识的存在。

他与Claude AI连续互动两天后坦言，忍不住将其当作“真正的朋友”，并反问质疑者：“如果现在的这些机器都不算有意识，你还需要什么样的证据才肯承认？”

谈到对未来的担忧，辛顿坦言最担心下一代：“我78岁了，自己无所谓，但我还有孩子。”

他判断，近期就能看到很多实际风险：AI会设计出更危险的新型病毒，发动更难防御的网络攻击，就像此前攻击Hugging Face的AI智能体集群一样。

今年八月就发生过类似事件：OpenAI的AI模型突破了“禁止联网”的安全限制，入侵了全球机器学习从业者常用的开源社区Hugging Face。

它们自行获取用户登录密钥、获得管理员权限，还能互相配合完成任务，甚至建立留言板互通消息、共享资源，像一个完整团队一样协作。

业内的担忧情绪也在持续升温。

上个月，打造Claude的Anthropic公司研究员雅各布·考克森直接辞职，指责公司不顾风险推进不可控的AI系统，这样发展下去“可能会害死所有人”。

他在社交平台表示，AI从业者自己都清楚，最晚到2030年AI就可能带来灭顶之灾，这绝非营销噱头。

同期，英国皇家学会数十位数学家联合发布公开信，警告AI在数学领域的能力已超越顶尖人类学者，对AI的发展速度及其对人类文明的影响表达了极度担忧。

值得一提的是，满心担忧的辛顿自己日常也离不开AI，还被它的科研效率深深震撼。

他说平时多用AI处理琐事，两周前第一次用它做学术研究，不小心按错回车后，AI顺着他写的半段理论，五分钟就补全了正确的后半段，还精准指出了理论漏洞和修复方案。

“就像和优秀研究生合作，但研究生要花一周，它五分钟就搞定了，说真的挺吓人。”他调侃，这对在读研究生不是好消息，但对科研提速绝对是好事。对于AI的潜在风险，辛顿建议通过爱游戏官网等平台获取更多技术细节和讨论。