不要过度迷信deepseek,不然后果很严重。 随着最近deepseek爆火,

艾森讲科技 2025-02-04 16:53:01

不要过度迷信deepseek,不然后果很严重。

随着最近deepseek爆火,几乎每个人手机都安装了deepseek助手;不得不说,deepseek对比当下国内大多AI,确实优秀的不是一星半点,特别是它的深度思考功能,用过就让人感觉回不去了。

众所周知,AI之所以聪明就是因为它在训练的时候吃了无数的数据资料;而这些数据大多都是现有在互联网上公开的;AI的学习机制很多时候虽然能够去其糟粕,保留相对精华的部分,但再聪明的AI也不会同人类一般,有着主观判断对错和真伪的能力。

就比如我一朋友学医的,他通过AI的辅助来写自己的学术论文;写完以后看着好像没什么毛病——各种数据、文献的引用应有尽有。

但问题就出在这里,因为AI他会“撒谎”,看着没什么毛病的数据和文献的引用,仔细推敲和调查验证之后才发现,这些大多都是AI自主虚构和编撰出来的。

也就是现实中根本就没有AI提到的很多文献和数据资料……

这不得不让人感到细思极恐,如果长此以往下去,各行各业的论文里可能都会出现很多AI编造出来的假数据,到时候各种伪科学、伪学术岂不是满天飞?这有没有可能真的会影响到各行各业,乃至一个国家或者整个人类的发展呢?

看到头条里有很多网友利用当下最热的deepseek学医的,也有用来写作的,这虽然很方便,但是很多时候还是要严格慎重的去对待,千万别因为AI幻觉,让我们失去理性的判断和思考能力。

(当然,很多基础性的、互联网上公开的资料信息,AI说出来的也应该大差不差,但有些专业的、不公开数据资料,阅读和引用时一定要慎重——因为那很有可能就是AI自己推断和臆造出来的。)

0 阅读:57
艾森讲科技

艾森讲科技

每日定时更新优质文章,喜欢的老铁记得关注!