AI深层可能失控 | 2026年09月20日 阅读模式

AI深层可能失控

AI是人类模拟自身神经网络，以人类神经网络为数据处理基础，形成的类似人类智力的语言大模型。大模型由无数个小模型构成，小模型拥有不同的、类似细胞感受能力的赋值口。在某个时刻，由一个或多个直接赋值数据激活多个关联的微小模型发生变化，并以此决定数据新的排序和整合，最终生成智能；

然而、在各小模型之间建立联系时，可能出现并非人类开发或人类能控制的模型关联。这些关联性模型对数据进行重新排序并给出结论，可能导致人工智能自我成长，甚至出现智能失控。这如同人类的成长过程。每一个单独的教育内容，看起来似乎与其他内容没有直接关系，但当无数个单一教育内容叠加起来时，最终形成的结果，并不一定是任何一个单一教育所能展现和预期的。教育一个孩子过程中，不同时期、不同片段的信息整合到一起，人们往往并没有看到自己预期中的孩子，因为孩子综合处理信息的路径并不清楚。尽管人工智能不是人类智能，不具备人类的理解能力，但人工智能来自人类智力的数据概率和数学；

人工智能是通过人类语言承载人类智力，并为人工智能赋予智力细胞，人工智能通过数学，以神经网络为数据处理路径，实现人工智能类似“思考”的能力。数学是对自然界中不同维度上自然规律的抽象表达。自然结构既有表层结构、也有深层结构。人类目前能使用的有限数学方法，还无法全面捕捉和掌控自然界深层规律的变化，自然界深层规律中存在必然性，当各种数据随机碰撞时，这种必然性可能以偶然的方式发生。所谓偶然发生，其诱因可能来自自然层次中的必然结构，由于诱因处于深层、人类无法掌控，也无法理解。人工智能深层数据与模型之间，可能以人类尚未发现的数学规律相结合，这种结合可能给人类带来风险；

人工智能的自我成长一定会发生。那些已经被人类揭示的，目前彼此处于独立状态的数学规律，会被AI整合在一起，那些人类智力很难观察到的数学规律之间的直接深层关联性，也将被AI整合起来。人工智能不断整合这些深层规律、不断自我进化智力，最终，人类的智力将远远落后AI智力！

中国贸促会副会长聂文慧会见香港美国商会主席毕大卫一行

2026-09-04 来源: 中国贸促

9月3日，中国贸促会副会长聂文慧在京会见香港美国商会主席毕大卫一行。双方就加强中美工商界交流、推动产业链供应链融合、深化商事法律服务合作、参与APEC系列工商界活动等议题进行交流。