领域的“新常态”:面对“幻觉”,我们该怎么办腾讯云开发者社区

谈到最近突然大火的chatGPT,不禁想以一个马尔斯克式的开头写下一句话,数年后,当有人问起我,你记忆里的2023年,是怎样的一年?

我想,那时我一定会记得,2023年的开端,是由一个叫做chatGPT的Ai聊天机器人燃开的。

混乱当中,有一点是毋庸置疑的,那就是作为普通人,将会接触和使用到更多的Ai产品。当这类产品逐渐走进普通人的生活,又会激起怎样的问题水花呢?

我曾经在编程过程使用chatGPT时,出现了这样一个问题,这个问题让我不禁思考到,当AI领域逐渐“新常态”,如何确定自己没有被Ai欺骗呢。

这问题是这样的,通过new SXSSFWorkbook(xxx).getSheetAt(0)得到一个SXSSFSheet,这个SXSSFSheet对象里的shiftColumns应该怎么用呢?

你看,chat GPT一本正经地给出了一个答案,咋一眼看下去,这代码没什么问题?

这一刻,我就知道了,chatGPT说了谎,而且是一本正经地在说谎,可见,在chat GPT吹牛逼方面,在场的各位都是弟弟。

这时,我告诉chat GPT:“但是SXSSFSheet的shiftColumns这个方法并没有做实现呢。”

它立马会告诉你,它刚刚回答错了,然后再给出一个接近答案的回答——

因此,在这类问题面前,若自己没有具备一定识别答案的能力,很容易就被它忽悠了。

这种现象,有一个比较专业的术语,叫“Ai幻觉”。

简单而言,就像汽车会出现故障一样,Ai同样会出现错误或者偏差,导致生成不准确、错误甚至荒诞的结果。就如前面我经历的案例一样,会给出一个看似正确实则错误的答案,让过度信任Ai的人产生幻觉,将事实上错误的答案当作是正确的。

在生活和工作场景下,这类影响可能算不了什么,顶多写出一手的bug、挨老板一顿臭骂,但是,若日后在自动驾驶、医疗健康方面引入Ai,针对这类场景而言,一旦出现Ai幻觉,可能就会是致命的。

例如,若在一些医疗诊断或治疗场景过度信任依赖Ai,一旦出现错误的诊断治疗,轻则延误病情重则导致病人错过了最佳治疗窗口而失去生命。

除此之外,在自动驾驶方面,同样存在类似的隐患:

当AI领域常态化,面对“AI幻觉”,我们该怎么办?

我忽然想到,目前互联网行业的风控技术,日后是否可以在Ai领域进化成能识别Ai的幻觉欺诈呢?

THE END
0.AI时代的工作与生活随着科技的飞速发展,我们迎来了AI时代。在这个在AI时代,工作与生活的平衡变得尤为重要。由于AI技术的普及,我们的工作方式发生了巨大的变化。许多工作可以通过远程办公、弹性工作时间等方式来完成,这使得我们有更多的时间和空间来关注自己的生活。但同时,我们也需要注意避免过度依赖AI技术,以免失去与他人的交流和互动。 jvzquC41zwkrk~3eqo566<:946?8487:6;835;8
1.要不要限制AI?我们把与GPT4有关的观点收集全了降临派(欢迎 AI 降临)接受程度最高,拯救派(用 AI 造福人类)次之,幸存派(在 AI 时代幸存)最保守,以便于我们理解立场。 让我们看看在这一周内,三派有哪些观点碰撞。 降临派 吴恩达:暂停 AI 开发不可行 本周,一封上千人签署的公开信火遍了全网,一家名为未来生命研究所(Future of Life Institute)的机构呼吁全球应该至少jvzquC4158qs0lto1r533B>45:779@<758:
2.凯文·凯利:AI的未来不是“黑镜”丨AI时代的人类意见但关于当下的人工智能发展进程,我的观点是,我们已经有生成式人工智能,但不太可能真正存在一个完全通用的人工智能。我认为,从生成式AI技术目前的智能程度来看,对绝大多数人来说,AI仍然不够聪明,而大多数人真正想象中的人工智能,显然还不是现在这个状态。所以我想,目前生成式AI的技术阶段有一点像是黑莓手机在移动jvzq<84yyy4fgx3eqo4dp87245524;7184718:3ujvsm
3.对话黄仁勋:AI时代的领导力创新与未来前瞻黄仁勋英伟达克里森:接下来,我们来深入探讨一下AI领域的进展。假设现今全球所有GPU的总计算能力为X,那么你认为在未来五年内,我们会达到X的多少倍? 黄仁勋:让我们从几个关键点出发来推理。首先,全球数据中心的投资已达约一万亿美元,这些数据中心主要用于通用计算,但通用计算已逐渐接近其极限。因此,为了处理日益增长的数据量,世界将jvzq<84m0uooc7hqo0io1jwvkerfa;8452675=7a:c=76<=823?13;xky0nuou
4.李彦宏:创业18年始终保持警惕时代成就了我们传媒“到今天,平等、便捷获取信息”的理想已经基本实现,但是摆在AI时代面前新的“智能鸿沟”又在重新拉大人和人之间的差距。因此在AI时代,消灭“智能鸿沟”成了我们新的任务。 AI时代主要是由数据、算法和算力在不断推动的。我们希望通过数据、算力和算法的不断替代和不断开放来填平这样的鸿沟,让每一个开发者能够接触到全球最先 jvzq<84ogfob0yjqrnk/exr0ep5o38723;514:61e6672?2528776A90jvsm
5.专访云天励飞邓浩然:拿下16亿元AI算力服务大单,我们做对了什么时代财经:进一步来看,云天励飞未来想要打造出什么样的业务形态? 邓浩然:面向政府、政企类客户销售,软硬一体的AI行业解决方案未来至多会占到公司营收的三分之一。我们对这一业务板块的要求是提升利润率,未来只接毛利率较高、回款良好的订单。只有这样,这块业务才能跟客户一起实现可持续的发展。 jvzquC41uvudm762lsqb0lto0et0497629911l;824>55=<0ujznn
6.AI时代,我们还可以做什么?查特拉斯ai时代的领导力是哪个出版社的我们该怎么理解这个 AI 大时代的哲学? AI 的能力边界究竟在哪里? 大模型的智能为什么出乎意料? 我们在 AI 时代下应该怎么办? 我最关注的是最后这个:我们在 AI 时代下应该怎么办? 而今天这个笔记,也围绕这个主题展开。 01 为什么 ChatGPT 有创造力? jvzquC41dnuh0lxfp0tfv8rq56691jwvkerf1mjvckrt1:9325=3:<
7.AI大模型爆红一年后:“人机共生”时代如何影响你的生活?六大问题三、“到底是人驯化了狗,还是狗驯化了人?AI时代也要回答类似的问题” 季燕江:“AI辅助⽣存” 的趋势已不可避免,某种程度上,我们和AI的交互已经开启了⼈类和AI的共同演化之路。 什么是共生演化?我觉得人类社会可能一直都是共生演化的。有一个笑话说,是狗驯化了人还是人驯化了狗呢?有些人说恐怕是狗驯化了人jvzquC41dnuh0lxfp0tfv8u{vjuo3;86a1gsvrhng1jfvjnnu174:<8;:2;