北斗六星网

标题: 面对DS、ChatGPT等AI产品：除了接受，还有重大担忧 [打印本页]

作者: 公理力 时间: 2025-2-10 22:15
标题: 面对DS、ChatGPT等AI产品：除了接受，还有重大担忧
本帖最后由公理力于 2025-2-10 22:47 编辑

面对DS、ChatGPT等AI产品：除了接受，还有重大担忧

文：公理力 2025-02-09

前一帖，完全是美国AI界大拿的观点呈现，并不包括公某个人想法。本帖，就两个不可谓不重大的基本问题，谈谈个人思考。

（一）关于如何看待DS及整个科技领域的中美博弈

早前曾有传闻，美国人正准备起诉DeepSeek公司抄袭，正在调查，云云。而事实是，OpenAI公司执行长萨姆·奥特曼虽然含蓄地抱怨了DS几句，但压根儿就没提违法之类——因为不存在这种事儿。

重点是，后来奥特曼甚至坦承：在AI开发这个事情上，他们站在了历史错误的一边！请细品其潜台词。
事实上，这个观点也是美国AI界大拿们最具代表性的认识+担忧。
换句话说，这些美国AI一线精英，确实正在“体验”来自中国的“技术威胁”——而非美国军方那种刻意夸大其词。

事实是，美国政府，早就在——今后必然继续，采取一切可能举措，防止A100/H100之类高端芯片和所有高技术流入中国。这是美国官方目前能想到的最好招数。但有趣的是，美国AI界精英也不认为这是理想举措。他们更担忧反效果——中国人独辟蹊径，反而追赶得更快！Perplexity AI公司首席执行官 Aravind Srinivas 就持这一观点。

而眼下，中国在该领域最直接的劣势就体现在AI芯片GPU上，也包括超高算力计算机所需的高端芯片等。
虽然DeepSeek只是用了低档的H800，就实现了其性能在六款最优同类产品第三方测评中夺冠，但长远看，顶级芯片必然有助于AI产品的快速迭代升级。

目前有说法，华为的国产900C芯片已经胜任DS所需，但其性能不会高于英伟达的H100，也是无疑的。
另外，在美国高压下，荷兰光刻机不敢再卖给中国，而国产光刻机性能尚不能与荷兰顶级产品相比，也是事实。
总之，中国在硬件方面的劣势，恐怕很难在短时间内改观，目前，中国只能走在软件上独辟蹊径的路子。

至于以DS为代表的中国AI产品与美国人打擂台的最终结局，目前还很难预测。但有很大可能，一年左右时间就会有新的指标性结果出来。当然，那也只能是阶段性成果，肯定不是最终结局。

（二）面对中国DeepSeek和ChatGPT等美国顶尖AI产品，我的猜想与忧思

没错，人生是一场长途跋涉，千万别说“你要什么自行车？” 事实是，每个人都需要自行车、公交车、小轿车、高铁、飞机——至少有一款适合你，还是离不开的那种。

以DS和ChatGPT为代表的AI产品，其最低评价，也是今后每个文明人的自行车——当然，你非要当茹毛饮血的野蛮人，不在此列。

但正所谓一利一弊。令公某感受最深的是，DS明显比ChatGPT等AI产品更“人性化”。它不限于俗人的客套，也包括外交辞令、给对手留面子、必要的谦虚、避免锋芒毕露……等，可以说，它在一定程度上体现了“和为贵”的东方哲学。或许，这也是出自中国人之手AI产品的逻辑必然。

毋庸置疑，在情商层面，这一特点属于超越其它同类产品的长处，是AI技术上的长足进步。但同时，也有足够理由令人担忧。

假如防范举措不力的话——这个假如成为事实的概率恐怕并不低！
随着AI技术继续成长、进化，特别是考虑AI自主性自学习能力的加持，AI产品会不会沾染人类那些虚伪、圆滑，市侩、甚至欺诈、种族主义等负面习气呢？

更进一步，中美这类高端AI会不会逐渐影响人们的思想和价值观走向呢？

具体一点说，与科幻作品描绘的那种赤裸裸地直接针对人类模式不同，而是如温水煮青蛙般——用难以察觉的润物细无声友善手法，会不会逐渐控制人类思考与行为模式，而最终导致AI超越人类呢？

毕竟，人类的个体智商无法与AI相比——即使与今天这种还非常年幼的AI产品相比。
不限于下棋这种小事情，据报道，在蛋白质折叠预测这类高深研究领域，AI也超越了人类。

至于设计思想漏洞与错误、安全防范不力与缺失等情况下，在开放环境中，恶意输入（如误导性信息）就有机可乘，完全可能破坏模型的伦理可靠性。现实中已经有过这样的教训：
据闻，微软曾开发一款名为Tay的聊天机器人，设计了实时学习用户言论功能。结果是，24小时内，Tay就被教唆成了种族主义者！微软不得不迅速将其下架。

作者: 离离 时间: 2025-2-10 22:24
AI是发展趋势，谁引领它谁就有了话语权。因为可以把自己国家的意识形态植入。
DS是目前唯一一款不受犹太控制的AI，这才是他们恐惧的。未来之战就是意识之战。

作者: 薛痒 时间: 2025-2-10 22:41
当下的DS功能，也不是可以畅所欲言的，有诸多考量限制。

被教唆是一定的，就看被什么教唆了。如何限制那些出格的有悖于伦理的行为，相信这也是将来要会考虑的。

作者: 公理力 时间: 2025-2-10 22:59

离离发表于 2025-2-10 22:24
AI是发展趋势，谁引领它谁就有了话语权。因为可以把自己国家的意识形态植入。
DS是目前唯一一款不受犹太控 ...

川普上任伊始，就找资金雄厚者谈，声言要投资5千亿至一万亿打造美国AI基础工程，这是摆明了：美国才是AI绝对老大

不幸的是，DS的出现让世界突然意识到，要在AI领域有所作为，或许并不需要如此巨大的投入

作者: 离离 时间: 2025-2-10 23:01

公理力发表于 2025-2-10 22:59
川普上任伊始，就找资金雄厚者谈，声言要投资5千亿至一万亿打造美国AI基础工程，这是摆明了：美国才是AI ...

钱是小事，是他们控制不了中国了

作者: 公理力 时间: 2025-2-10 23:05

薛痒发表于 2025-2-10 22:41
当下的DS功能，也不是可以畅所欲言的，有诸多考量限制。

被教唆是一定的，就看被什么教唆了。如何限制那 ...

嗯，这也是DS被中外评论者诟病的主要槽点，事实是，就是美国的AI产品，也存在限制，如伦理方面的

关于AI被教唆问题，AI界已经汲取教训，基本不再开放AI适时学习，避免被用户观点影响

作者: 公理力 时间: 2025-2-10 23:07

离离发表于 2025-2-10 23:01
钱是小事，是他们控制不了中国了

这正是“中国威胁论”能够成为驴象两党共识的基本原因

作者: 依水闲云 时间: 2025-2-11 17:02
前面的理论，我以前读过，不深入探讨。但老师提到的引导作用真有可能发生。

作者: 依水闲云 时间: 2025-2-11 17:05
随着AI技术不断发展，它能给人们的工作生活提供很大助力，越来越多的人会选择使用它。甚至逐渐依赖它。
当给他一点错误的引导时，只要不是突兀的，温水煮蛙效应，会渐渐将一些观点植入人们的头脑。

作者: 依水闲云 时间: 2025-2-11 17:05
多数人认可并接受后，该观点就很难去掉了。

作者: 公理力 时间: 2025-2-12 10:20

依水闲云发表于 2025-2-11 17:02
前面的理论，我以前读过，不深入探讨。但老师提到的引导作用真有可能发生。

或许这就是人类发展的宿命——无法避免

作者: 公理力 时间: 2025-2-12 10:25

依水闲云发表于 2025-2-11 17:05
随着AI技术不断发展，它能给人们的工作生活提供很大助力，越来越多的人会选择使用它。甚至逐渐依赖它。
当 ...

现在已经有人在研究人的大脑与芯片接口技术

远景是，大脑植入芯片等人体延伸技术成为常态，需要重新定义“人类”这个概念：
究竟植入程度在多大阈值内，还算“人类”？

——超过阈值者，属非人类的机器智慧体（AI高级阶段）

欢迎光临北斗六星网 (http://www.bdlxbbs.top/)