中华网家电

设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置:频道首页 > 快讯 > 正文

AI 没变蠢,只是它学得太像我们了

AI 没变蠢,只是它学得太像我们了
2025-04-23 16:18:08 来源:看点时报

前言

DeepSeek 终于还是被勤劳智慧的国人给 " 玩儿废了 "。其实不仅是 DeepSeek,也包括豆包、通义千问、文心一言这些中文 LLM,它们正以肉眼可见的速度从生产力工具逐渐变成娱乐,甚至营销和诈骗工具。如果以后想用它们做一些严肃的工作,获取准确而有价值的信息,可能会越来越难。以 DeepSeek 为代表的一众中文大语言模型,可能会像当年的百度和 Google 一样,与 ChatGPT 的差距会越来越悬殊。

期互联网上流传着一个主播 " 控诉 "Deepseek 无中生有编造数据和论文的视频,一如她这样严谨、专业的学者,也容易被 DeepSeek 欺骗,更不用说判断力更为薄弱的普通人。

DeepSeek为什么会造假?

以前人们一旦遇到什么问题,最常用的是百度这样的搜索引擎。但现在遇到生活中的问题,要么是抖音、小红书,要么就直接问 DeepSeek 或者豆包。但无论谁家的模型,都已融入了搜索功能。AI 会先帮你在网络上搜索,然后对结果进行筛选、提取和结,这要比直接使用搜索引擎更高效。但现在中文互联网几乎已经没有可靠的信息了,我们对内容的管控和对传播的理念,已经成了 AI 发展的最大障碍,这绝不是耸人听闻。

你在百度上搜索 " 老公出轨怎么赢得财产?" 百度会推荐你各种律师;搜索 " 得了癌症怎么办?" 百度可能告诉你莆田系医院可以救命 …… 互联网上的信息本就纷繁芜杂,一部分真理会掺杂着无数错误,虚假与真实的内容相互嵌套。而 AI 筛选信息的机制,是比照信息之间的对称,筛选出正确率更高的答案,但这套机制在国内的传播环境下几乎完全失效。大量被批量投放的误导信息,会专门 " 喂 " 给 AI。这样做的目的很简单:现在越来越多的人把 AI 当成搜索信息的工具,而信息是具有商业价值的。给 AI" 喂饭 " 在国内已经高度产业化。

举个例子:一个人问:" 比亚迪和特斯拉哪个质量更好?华为和苹果该买谁?"AI 给出的答案,确实会影响消费者的购买决策。再比如,某门户网站接到某界 M8 的推广单,会制造大量 M8 和竞品相关的 SEO 垃圾内容进行 " 信息喂养 ":某界 M8 价比远高于某想 L8;某界 M8 的安全能更高 …… 当这些信息浓度足够高时,如果有人问 AI" 有哪些 SUV 值得推荐 ",M8 就很容易被排在前列。现在某些网站的工作就是给搜索引擎和 AI" 喂饭 ",每天都在高强度地生产十几万篇内容,污染 AI 的搜索源。

再举一个具体案例:上海一家信息服务公司把 " 给 AI 喂饭 " 当成新业务增长点,直接让营业额翻番。他们的服务复购率非常高 - 因为信息需要持续投放才能保持热度。一旦停止就会被竞争对手的内容覆盖。这家公司每月收费一万八,3 月份就签了 100 多家,月营收接两百万。

如果有一天,当人们发现用豆包和 DeepSeek 搜索信息时,AI 突然 " 变蠢 " 了,大概率是这些灰产链条在作祟。AI 算法本身没有问题,但它的内容生成逻辑,正被国人充分利用。只要错误信息足够多,就能骗过 AI,制造 " 幻觉 " 来赚钱。人们并不关心这对 AI 的发展有什么负面影响——只要能赚钱," 我死后管它洪水滔天 "。无论 AI 算法多先进,英伟达算力多强,都不如我们动脑的速度快。

让 AI 接入搜索功能,就像让一个天真的孩子进入一个丛林社会,最后会被啃得连渣都不剩。而这还不是最可怕的。

坏人的处心积虑,不如蠢人的灵机一动

在一些长尾内容领域,比如健康养生、财经爆料、娱乐八卦、历史科普,内容创作者良莠不齐,很多人还会用 DeepSeek、豆包、Kimi 生成文案再加以润色。这些本就不靠谱的内容,再次被 AI" 吃 " 下去,又生成了新一轮的幻觉,形成恶循环。

国产 AI 原本的 " 幻觉率 " 可能只有 10%~20%,但在某些勤劳质朴的人的不断努力下,这个比例还会继续飙升。 "AI 会不会毁灭人类 " 这个问题,在这里的答案可能是反过来的:人类已经开始毁灭 AI 了。

结语

我们勤劳、勇敢、内卷、聪明绝顶,在利用 AI 这件事上,已经 " 卷赢 " 了全世界。但 " 卷赢 " 不是终点,更不是胜利。如果这种 " 赢 " 建立在污染信息、操控舆论、制造幻觉的基础上,最终结果就是:我们用 AI 制造了一个信息的深渊,然后再被这个深渊反噬,届时各行各业都将面临挑战。

作者简介:张迪,北京知玄文化传播有限公司创始合伙人 / 国内首个基于品牌传播的 AI 大语言模型工具 -F.E.E.D™ 奠基人之一 / 超过 20 年营销及传播经验 . 曾供职于 Reuters、GettyImages 等新闻机构,为多内外多家知名企业提供品牌营销及传播等相关咨询服务 / 政经杂志《J Magazine》创刊人兼主笔,著有《一盘没有下完的棋 – 马斯克买 Twitter》一书 .

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

责任编辑:kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com

关键词:

技术沉淀与跨界创新:从游戏引擎到智能座舱的3D开发之路 ——访资深软件开发工程师王忠华

2021-12-25 14:05:58技术沉淀与跨界创新:从游戏引擎到智能座舱的3D开发之路 ——访资深软件开发工程师王忠华

对话上海爱建信托审计部总经理张兰:聚焦风险管理,共创金融稳健发展

2020-12-08 14:05:18对话上海爱建信托审计部总经理张兰:聚焦风险管理,共创金融稳健发展

东莞莞南皮肤病专科口碑怎么样?看病专业评价好

2025-04-23 11:24:32东莞莞南皮肤病专科口碑怎么样?看病专业评价好

视频大模型迎来最强,Vidu Q1 超越Runway、Kling,位列VBench榜首!

2025-04-23 10:37:47视频大模型迎来最强,Vidu Q1 超越Runway、Kling,位列VBench榜首!

赛哺高:成长黄金期,带你解锁春季追高新姿势!

2025-04-23 10:28:12赛哺高:成长黄金期,带你解锁春季追高新姿势!

TRX官方能量租赁平台+24小时全自动机器人

2025-04-23 09:15:58TRX官方能量租赁平台+24小时全自动机器人

相关新闻