首页
学习
活动
专区
圈层
工具
发布

迷雾幻觉,悬在智动驾驶头上的达默斯之剑!

大模型,智能体发展如火如荼的今天,尽管AI在通用对话中表现惊艳,但“一本正经地胡说八道”依然是其最突出的技术瓶颈。可以说“迷雾幻觉”问题依旧没有解决!

与语言大模型同根同源的“自动驾驶”,同样存在“迷雾幻觉”问题。

法刹停:

2026年5月6日下午16:30左右,一位零跑C16的车主在高速公路上开启智能驾驶功能,以108km/h的速度追尾前方一辆静止的施工车。

近日,赣州市应急管理局发布了一起交通事故调查报告。2025年10月2日凌晨4时许,一辆开启智能驾驶功能的长安启源A07纯电动轿车,在济广高速上,径直撞上因故障停于左侧快车道内的重型半挂车,车内一家三口当场殒命。报告结论:官方认定,该轿车驾驶员夜间使用“智能驾驶辅助”系统驾驶车辆在高速公路上行驶时,未能及时发现前方路况并采取有效避让措施,对事故的发生负直接责任(与货车均负直接责任)。

幽灵刹车:

之前,一位理想车主爆料及行车记录仪回放,他的车辆在双向两车道的道路上正常行驶时,车速突然从80km/h降至20km/h并直接刹停。车主描述称,事发时路侧有一个巨型广告牌,上面有一个准备起跑的人物形象,疑似被车辆传感器误识别为真实障碍物。

自家4月初刚购买了一辆理想L9Pro版本新车。4月18日,其丈夫在福银高速孝感段以全场景智能驾驶(NOA)状态下行驶的过程中紧急刹停,并导致后车避让不及造成追尾。据李女士提供的行车记录仪影像显示,车辆刹停原因疑似为车辆将高速公路广告牌上的汽车广告图案误识别为真车而导致。

可以很明显的看出来,对于自驾的策略,各家不尽相同:一部分企业采用自由模式,虽然提高了车主体验,但静止真车无法识别,事故惨烈。另外一些企业的谨慎模式,貌似安全,却也会带来急刹后的追尾、碰撞等问题。

与大语言模型语义对话不同,高速运动下的“迷雾幻觉”危害更大,这快成为悬在行业头顶的一把达摩克利斯之剑了!

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OcjKivISQWA4ta3tKMYZTzww0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券