摘要：回顾SU7车祸的时间线：10点44分24秒，汽车智能系统提示：“请注意前方有障碍”；1秒后，司机接管，转方向盘，踩制动板；3秒后，车辆撞击水泥护栏，三人困于车中，火光很快吞没整辆车，鲜活的三个生命戛然而止。

头图由豆包生成，提示词：汽车 燃烧

小米SU7车祸三人致死的惨痛教训发人深省、令人痛心。

如何避免悲剧重演？从深层次看，悲剧并不是某个单一因素导致的结果。

智能驾驶的局限性、高科技企业的社会责任、人工智能技术的双刃剑，哪个方面都不是轻松的话题。

智能驾驶的局限性

回顾SU7车祸的时间线：10点44分24秒，汽车智能系统提示：“请注意前方有障碍”；1秒后，司机接管，转方向盘，踩制动板；3秒后，车辆撞击水泥护栏，三人困于车中，火光很快吞没整辆车，鲜活的三个生命戛然而止。

我有十几年驾龄，也曾用辅助驾驶开过几千公里。我不知道，在那样的电光石火间，什么人能做出正确的避险措施。

设想一下，换成你、我、他，任何一个普通司机正在开车，1秒之前，也许还在惬意地听音乐，1秒后，系统让你接管。你刚回过神，就进入1秒决定生死的极限应急状态。根本来不及想障碍是什么，没时间看一眼车速多少，也不会知道AI之前有没有刹车，打没打方向盘。

那是一种完全高压、慌乱、无助的状态，超出了人类的生理反应极限。3秒钟决定生死，绝不是冲着智驾买车的用户希望看到的局面。

事实上，当前所宣传的“智能驾驶”本身存在着严重的潜在误导性。公众对智能驾驶的期望过于乐观，尽管行业内部专家对其局限有清醒的认知。

根据国际通用的行业标准，自动驾驶技术共分为L0至L5六个级别。L1和L2级别仅为驾驶辅助技术；L3级以上才是真正意义上的自动驾驶。

目前为止，面向普通消费者的智驾系统都停留在L2级别。L2仍要求司机保持高度警觉、随时准备接管控制权。这种驾驶状态对司机是持续性的“负担”，司机既不能彻底放松，又不能充分发挥AI技术想要解放司机双手的初衷。

为什么科技高度发达的今天，智驾还停留在L2?

答案很简单，因为技术还做不到。复杂路况、恶劣天气、突发事件以及交通事故，都极大地增加了系统识别和决策的难度。以目前的技术发展来看，从L2级辅助驾驶过渡到完全自主的L5自动驾驶，鸿沟还非常大。

不管最终事故责任如何界定，小米SU7事件都用血淋淋的事实对智驾的复杂性和难度做出了痛苦的注脚。

普通消费者是无辜的，他们很难做到研究透彻智驾技术的逻辑后再去买车。消费者、逝去的司机和乘客，最不该承受技术不完善导致的悲剧。

高科技企业的社会责任

我曾经狂热研究AI技术，并为高科技疯狂。SU7事件让我的想法有了本质变化。无论多好的高科技，只有加上高科技企业的责任和担当，才能成为消费者的真正福利。

小米曾宣称，小米全系汽车采用全新CTB电芯倒置技术，可以实现在极端情况下快速向下释放能量，最大程度保证乘员舱安全。根据说明，小米电池拥有3层顶部支撑、3层侧碰防护、8层底部防护结构，总计14层的硬核物理防护，最高可抵抗1000°C的高温。

“在电池结构安全上，最难应付的是侧碰和刮底。小米CTB一体化电池技术拥有总计14层的硬核物理防护，面对2倍载荷振动、3.6倍冲击、48倍泡水的最严苛的叠加测试之后仍能完成IP6K9K的密封测试。”

尽管最终调查结果还没有公布，以上这些高科技宣言，在SU7事故中显得不堪一击。

事故调查完之后，如能认真理清责任，是电池问题还是车门问题；是司机问题还是车的问题，还是共同的问题，对整个行业和消费者都有很大意义。

这一悲剧对生者，对以擅长营销而自喜的车企，对正在使用智驾的司机意味着什么？

我随机打开一家车企的宣传页，“硬核安全”的广告语右上角有个小小的注释数字6，页面下面的注释有8条。字号太小，我怎么都看不清注释里的小字写的是什么。

技术进步给了我们很多美好的幻想，但似乎没有车企清晰地告知：

哪些场景下，智驾容易犯错？

多危险的时候，人应该接管？

多危险的时候，人不应该接管？（而不是遇到危险就让人接管）

在系统请求接管时，人需要有多少反应时间和反应距离，接管才有意义？

若接管后的操作和智驾本来的措施矛盾，会不会延误时机？

不希望看到这起悲剧之后，车企继续营销99.9%的安全科技。只计算卖出10万辆车可以让股价涨多少，忘记了10万的0.1%就是100个家庭。

和很多产品有所不同，车企的每一台产品都事关人命。宣传强调“轻松驾驶”的广告很多，却鲜少有车企强调在极端情境下的风险边界。

有一次和小孩在外旅游，打车时坐后座。我让孩子系安全带，司机接连抢话说“不用系、不用系”。小孩反驳我，“司机说不用系，你为什么让我系？”我说司机说的不用系，是说警察在这个城市不查后排安全带，而我们为了自己的安全，必须系。司机说，你的教育方式很好。

我们生活的这片可爱的土地上，有人会发明专门插在安全带插销上的假插头，目的是不让车子报警没系安全带。并且，真的会有人买这种奇葩发明。很多人的驾车安全意识几乎等于零。

连安全带都排斥的人，怎么让他们弄明白如何安全使用智驾？这是负责任的车企必须严肃考虑的问题。

年轻人爱炫，爱速度，爱科技，车企因此开发投其所好的产品。不强求车企如同教育子女般尽心，但是，科技的边界是生命的价值，技术的终点是人心的良知，这两句话应该作为高科技企业最重要的操守守则。

雷军同学不久前曾在武汉大学"雷军班"上回顾了小米造车的历程：

小米是汽车产业的新人，一辆车没造过，第一天就开始说要做全球前五，喊出这样的目标需要点勇气吧？那有了这样的目标以后我们怎么干的？

第一，踏踏实实造车。那谁车造得好？保时捷；谁的智能化干得好？特斯拉。第一天我们提的目标就是要媲美保时捷和特斯拉，找最强的对手去死磕。

第二，我们在产品制造和研发阶段的时候，小米的产品方法论有非常重要的三个词：“唯一、第一、最”。就是做所有的事情，先想想，是不是世界第一、世界唯一、世界最好。

企业家气吞山河的拼搏精神让人心生敬佩。我的问题是，“唯一、第一、最”的选项里有没有包含“安全第一”？

一个常识是，任何一个产品都不可能在保持中等价位的情况下，所有性能都是同行“第一”。如果一辆车要在速度、舒适、安全性上碾压所有同行，它的售价一定是极高的数字。

在激烈的市场竞争中，企业为追求一鸣惊人的效果，频繁推出所谓的首创技术和种种第一，以此来捕获消费者认知，这无可厚非；但如何捍卫消费者的根本利益，更为重要。这就要把技术稳定性、安全性、充分严谨的测试与论证，放在更高的位置。

苹果公司库克曾说，不求第一，但求最好（Not first， but best）。在企业追逐商业第一的竞赛中，是不是应该有些许畏惧——畏惧那些可能危害消费者安全的技术未知。

在安全意识淡薄的社会环境中造车，车企身上担负的安全教育责任太大了。让车企完全承担安全教育的责任和后果，并不公平。做企业很难，在压力极大的内卷市场，企业往往选择用“唯一、第一、最”的极限目标激励团队，但却忽视了对消费者来说最基础的一些需求。一旦出事，“唯一、第一、最”就被反衬得特别刺眼。

只有企业和社会一道用良心提高消费者的安全意识，构筑智驾安全的防火墙，高科技才能真正炫酷。

人工智能技术的双刃剑

自动驾驶是目前运用最广的人工智能技术之一。人工智能技术的可靠性和安全性是更复杂而重要的话题。

特斯拉CEO埃隆·马斯克曾表示：“真正的自动驾驶，不应需要人类随时准备接管。”确实，如果系统能像宣称的那么智能，在毫秒级别计算碰撞的概率和潜在的伤害，那么，为什么要让反应迟钝的人类在1秒内接管人工智能闯的祸？

真正成熟到可以让人信赖的智驾产品应该做到：在危急时刻告诉人“我还能避开，请不要管我”。

作为一个技术信仰者，我相信科技向善，总有一天，AI可以做到在100%的情况下比人类更优秀，实现最优避险，不需要人再去接管。

科技史专家乔治·戴森认为：

“任何一个简单到可以理解的系统，都不会复杂到可以智能化行事，而任何一个复杂到足以智能化行事的系统，都会太过于复杂而无法理解。”这道出了人工智能系统双刃剑问题的本质。

人只会在悲剧之后，才知道自己误信了一种“不完整的有缺陷的智能”。AI越智能，人越容易放松；可当AI叫司机回来时，已把司机推向了神仙都难逃命的时刻。

随着大模型的快速发展，科技界今年在热炒AI代理（Agent）的光明未来，其实就是AI自动执行程序。AI代理将来可以看病、开药、发射导弹。

什么工作可以放心交给AI做？

一个普通人是否有能力管理比他快、准、冷静的AI系统？

AI真的可以永远按照人类利益最大化原则办事吗？

AI造成的损害由谁担责？

如何避免AI技术不落入坏人手里？

这些不仅是技术问题，更是哲学问题和社会问题。

不能简单地认为，高科技都是好的。在人工智能模型眼里，人只是死了还能再重新喂进去的训练数据。

人工智能席卷各个领域的势头不可阻挡。如果对人工智能技术管理不当，这次是车祸，下回恐怕会是AI看错病、开错药、射错导弹。

人是健忘的！

企业和企业家要持续、勇于承担AI安全的第一责任。

主导造出第一颗原子弹的罗伯特·奥本海默曾说，“看到一些技术上会带来甜头的事情时，人们会想都不想只管去做，只是在技术成功之后才会争论该拿这个技术怎么办。人们就是这样对待原子弹的。”

从宏大的人类命运回到眼前的苟且，写这篇文章的目的，是提醒人们反思如何更好地运用技术工具，让人类的系统完善到能驾驭AI的系统。任何个体都无法也不应该独自承担技术滥用的社会恶果。

我还会继续用辅助驾驶开车。好好接受智能驾驶培训，评估好路况的危险等级，再决定依赖辅助驾驶的程度。

不要让没有接受培训的亲朋好友开智驾车。面对高科技的诱惑，只有充分准备好危急时刻该怎么办，才有信心决定放开手中的方向盘。

来源：秦朔朋友圈一点号