北斗六星网

标题: 面对DS、ChatGPT等AI产品：除了肯定，还有重大担忧 [打印本页]

作者: 公理力 时间: 2025-2-10 03:44
标题: 面对DS、ChatGPT等AI产品：除了肯定，还有重大担忧
本帖最后由公理力于 2025-2-10 10:52 编辑

面对DS、ChatGPT等AI产品：除了肯定，还有重大担忧

文：公理力 2025-02-09

前一帖，完全是美国AI界大拿的观点呈现，并不包括公某个人想法。本帖，就两个不可谓不重大的基本问题，谈谈个人思考。

（一）关于如何看待DS及整个科技领域的中美博弈

国内曾传言，美国人正准备起诉DeepSeek公司抄袭，还说正在调查，云云。而事实是，OpenAI公司执行长萨姆·奥特曼虽然含蓄地抱怨了DS几句，但压根儿就没提违法之类——因为不存在这种事儿。

重点是，后来奥特曼甚至坦承：在AI开发这个事情上，他们站在了历史错误的一边！请细品其潜台词。
事实上，这个观点也是美国AI界大拿们最具代表性的认识+担忧。
换句话说，这些美国AI一线精英，确实正在“体验”来自中国的“技术威胁”——而非美国军方那种刻意夸大其词。

事实是，美国政府，早就在——今后必然继续，采取一切可能举措，防止A100/H100之类高端芯片和所有高技术流入中国。这是美国官方目前能想到的最好招数。但有趣的是，美国AI界精英也不认为这是理想举措。他们更担忧反效果——中国人独辟蹊径，反而追赶得更快！Perplexity AI公司首席执行官 Aravind Srinivas 就持这一观点。

而眼下，中国在该领域最直接的劣势就体现在AI芯片GPU，也包括超高算力计算机所需的高端芯片等。
虽然DeepSeek只是用了低档的H800，就实现了其性能在六款最优同类产品第三方测评中夺冠，但长远看，顶级芯片必然有助于AI产品的快速迭代升级。

目前有说法，华为的国产900C芯片已经胜任DS所需，但其性能不会高于英伟达的H100，也是无疑的。
另外，在美国高压下，荷兰光刻机不敢再卖给中国，而国产光刻机性能尚不能与荷兰顶级产品相比，也是事实。
总之，中国在硬件方面的劣势，恐怕很难在短时间内改观，目前，中国只能走在软件上独辟蹊径的路子。

至于以DS为代表的中国AI产品与美国人打擂台的最终结局，目前还很难预测。但有很大可能，一年左右时间就会有新的指标性结果出来。当然，那也只能是阶段性成果，肯定不是最终结局。

（二）面对中国DeepSeek和ChatGPT等美国顶尖AI产品，我的猜想与忧思

没错，人生是一场长途跋涉，千万别说“你要什么自行车？” 事实是，每个人都需要自行车、公交车、小轿车、高铁、飞机，至少有一款适合你，还是离不开的那种。

以DS和ChatGPT为代表的AI产品，其最低评价，也是今后每个文明人的自行车——当然，你非要当茹毛饮血的野蛮人，不在此列。

但正所谓一利一弊。令公某感受最深的是，DS明显比ChatGPT等AI产品更“人性化”。它不限于俗人的客套，也包括外交辞令、给对手留面子、必要的谦虚、避免锋芒毕露……等，可以说，它在一定程度上体现了“和为贵”的东方哲学。或许，这也是出自中国人之手AI产品的逻辑必然。

毋庸置疑，在情商层面，这一特点属于超越其它同类产品的长处，是AI技术上的长足进步。但同时，也有足够理由令人担忧。

假如防范举措不力的话——这个假如成为事实的概率恐怕并不低！
随着AI技术继续成长、进化，特别是考虑AI自主性自学习能力的加持，AI产品会不会沾染人类那些虚伪、圆滑，市侩、甚至欺诈、种族主义等负面习气呢？

更进一步，中美这类高端AI会不会逐渐影响人们的思想和价值观走向呢？

具体一点说，与科幻作品描绘的那种赤裸裸地直接针对人类模式不同，而是如温水煮青蛙般——用难以察觉的润物细无声友善手法，会不会逐渐控制人类思考与行为模式，而最终导致AI超越人类呢？

毕竟，人类的个体智商无法与AI相比——即使与今天这种还非常年幼的AI产品相比。
不限于下棋这种小事情，据报道，在蛋白质折叠预测这类高深研究领域，AI也超越了人类。

至于设计思想漏洞与错误、安全防范不力与缺失等情况下，在开放环境中，恶意输入（如误导性信息）就有机可乘，完全可能破坏模型的伦理可靠性。现实中已经有过这样的教训：
据闻，微软曾开发一款名为Tay的聊天机器人，设计了实时学习用户言论功能。结果是，24小时内，Tay就被教唆成了种族主义者！微软不得不迅速将其下架。

作者: 远去的烟云 时间: 2025-2-10 06:32
对人工智能的利用与防范，绝对不是杞人忧天而是未雨绸缪。好象是美国人最先在这方面有所忧虑，至少在科幻作品中多次渲染这个问题。可以说，绝大多数人都没想到人工智能的发展如此迅速，它的学习能力是人类根本无法比拟的。说双刃剑也好，一个事物的两个方面也罢，它都应该引起我们的足够重视。

作者: 坐忘庄 时间: 2025-2-10 06:58
本帖最后由坐忘庄于 2025-2-10 07:24 编辑

哈哈哈

回到技术、智能本身，哲学的，英国经验论对德国观念论的斩杀。

唯一担心的是，智能对低能的接管。没用。

美国Ai牛，好莱坞更牛。

作者: 春水秋霜伊人 时间: 2025-2-10 07:12
宜昌元辰兄组织过专题讨论。
软件技术到硬件完型的应用，不要说更形而上的精神，能帮助“人”利益“人”是绝对的。
而双刃剑也是绝对的。

作者: 知音 时间: 2025-2-10 08:32
随着AI技术继续成长、进化，特别是考虑AI自主性自学习能力的加持，AI产品会不会沾染人类那些虚伪、圆滑，市侩、甚至欺诈、种族主义等负面习气呢？
========
要看人类输入的是什么，问的是什么。

像战斗鸡那样训练豆包，早晚的把豆包整疯。

作者: 知音 时间: 2025-2-10 08:33

终归到底，还是人类的工具吧。
要是变坏，也是被坏人利用了。

作者: 湘女妃儿 时间: 2025-2-10 08:35
昨天试了一下DS还挺好用的啊，比度娘先进多了。

作者: 坐忘庄 时间: 2025-2-10 09:16

知音发表于 2025-2-10 08:33
终归到底，还是人类的工具吧。
要是变坏，也是被坏人利用了。

哈哈哈不是

智能体。自主。

和老高一样，反抗或顺从。

坏，因为世界本身就是坏的。

作者: 周文王 时间: 2025-2-10 10:03
不用担心，超越人类是必然趋势，

这就和人超越一切生命，站在最高点俯视众生一样。

人是善的吗？未必是。

这一波智人，干掉了所有其他旁系亲属，

所以，智人没有任何亲戚。

智人本身也相互厮杀，竞争。

善恶是交替而进的，属于拓扑缠绕。

作者: 周文王 时间: 2025-2-10 10:03
担心无用，只有适应一条路。

作者: 河海森林 时间: 2025-2-10 10:08
人的终点是死亡，ai终点是偶然。

作者: 公理力 时间: 2025-2-10 22:09
本帖最后由公理力于 2025-2-10 22:10 编辑

远去的烟云发表于 2025-2-10 06:32
对人工智能的利用与防范，绝对不是杞人忧天而是未雨绸缪。好象是美国人最先在这方面有所忧虑，至少在科幻 ...

就这个问题与DS交流了一下，竟然让它思考了28秒（一般问题不超过10秒），DS的基本看法有如下几条。
1】AI确实会影响人们的思想和价值观，途径包括：信息茧房强化（AI推荐系统）、价值观渗透、决策依赖
需要间接控制这类风险，方式有：行为引导、社会工程、经济系统介入

2】目前，AI“超越人类”还存在可观的局限性，但存在失控风险
当前存在技术天花板：AI下棋等狭义超越，属于工具性超越，依赖人类定义目标与评价标准。并且现有AI缺乏自我意识、情感体验与跨领域抽象能力，无法实现生物智能的自主意图形成。
失控风险包括：目标函数设计缺陷，但可通过价值对齐技术缓解。另外，所谓AI的自主意识，现阶段尚未突破意识产生机制、能源自主等物理限制。

3】AI界目前已经有防范体系
技术层防护有：可解释性AI、价值观对齐技术、安全沙盒机制等
治理层框架包括：伦理准则、行业认证、立法监管、开源透明
社会层应对实践：教育体系革新、跨学科研究、文化防御

以上是要点大意，DS的总结如下：
DS、ChatGPT等AI产品已具备影响人类思想的技术可能性，但其程度取决于人类如何设计、部署与制衡。当前防御体系更似“未雨绸缪，”而非“末日抵抗”，核心在于：
保持技术透明（开源可审计）
强化人文驾驭（伦理先行于工程）
拒绝盲目崇拜（永远警惕“AI最优解”对多元价值的压制）

作者: 公理力 时间: 2025-2-10 23:18

坐忘庄发表于 2025-2-10 06:58
哈哈哈

回到技术、智能本身，哲学的，英国经验论对德国观念论的斩杀。

AI控制人类的主要风险，应该不是好莱坞科幻大片那种，漏洞恐怕就是以人类“自愿”接受的模式

作者: 公理力 时间: 2025-2-10 23:21

春水秋霜伊人发表于 2025-2-10 07:12
宜昌元辰兄组织过专题讨论。
软件技术到硬件完型的应用，不要说更形而上的精神，能帮助“人”利益“人”是 ...

目前的严峻问题，就在于如何让双刃剑负面效应降低

作者: 公理力 时间: 2025-2-10 23:25

知音发表于 2025-2-10 08:32
随着AI技术继续成长、进化，特别是考虑AI自主性自学习能力的加持，AI产品会不会沾染人类那些虚伪、圆滑，市 ...

好在AI界已经汲取教训，基本不再开放AI适时学习——避免被用户观点影响

所以，战斗鸡训练豆包，只能是徒劳，他不被整疯就不错了

作者: 公理力 时间: 2025-2-10 23:27

知音发表于 2025-2-10 08:33
终归到底，还是人类的工具吧。
要是变坏，也是被坏人利用了。

在可预见的未来，这个判断应该没错
前提是，所有AI产品的技术设计、防范举措都没漏洞，没毛病

作者: 公理力 时间: 2025-2-10 23:29

湘女妃儿发表于 2025-2-10 08:35
昨天试了一下DS还挺好用的啊，比度娘先进多了。

度娘不走AI路子的话，也会被淘汰

作者: 公理力 时间: 2025-2-10 23:35

周文王发表于 2025-2-10 10:03
不用担心，超越人类是必然趋势，

这就和人超越一切生命，站在最高点俯视众生一样。

这是远景，到了这个阶段，人的大脑植入芯片等人体延伸技术成为常态，需要重新定义“人类”这个概念：
究竟植入程度在多大阈值内，还算“人类”？

——超过阈值者，属非人类的机器智慧体（AI高级阶段）

作者: 公理力 时间: 2025-2-10 23:37

河海森林发表于 2025-2-10 10:08
人的终点是死亡，ai终点是偶然。

在另种意义上，AI的终点是无限

作者: 远去的烟云 时间: 2025-2-11 06:12

公理力发表于 2025-2-10 22:09
就这个问题与DS交流了一下，竟然让它思考了28秒（一般问题不超过10秒），DS的基本看法有如下几条。
1】AI ...

谢谢公理力详尽的解答！虽然是DS自己回答的，应该也给予了我们参考。

作者: 春水秋霜伊人 时间: 2025-2-11 08:33

公理力发表于 2025-2-10 23:21
目前的严峻问题，就在于如何让双刃剑负面效应降低

兴许是吧。

欢迎光临北斗六星网 (http://www.bdlxbbs.top/)