只要在地上摆几张小贴纸,像上面的红点这样排成一行。

" />
{link}
  1. <var id="RBcF43saX"></var>



    nba赌球在哪里买路上放三枚小贴纸,特斯拉就拐进了反向车道:腾讯“骗”出AutoPilot三大缺陷 -新闻频道

    文章来源:伊吾县 发布时间:2019-09-20 07:51:35  【字号:      】

    路上放三枚小贴纸,特斯拉就拐进了反向车道:腾讯“骗”出AutoPilot三大缺陷 -新闻频道 只要在地上摆几张小贴纸,像上面的红点这样排成一行。 只要在地上摆几张小贴纸,像上面的红点这样排成一行。

    帮助驾驶系统Autopilot就会认为路歪了,把车拐到反向的车道上去:
    就是这样轻易地被骗了。 就是这样轻易地被骗了。

    虽然,今天是愚人节,也请各位千万不要模拟。

    这是腾讯科恩试验室,在特斯拉Model S身上做的自动驾驶安全性研讨,软件版本是2018.6.1。这也是科恩试验室第一次在特斯拉量产车上做自动驾驶试验。

    研讨报告已经宣布。包含误认车道在内,腾讯指出了Autopilot的三大缺点。

    三连骗

    第一,不下雨也能骗它打开雨刷器。不要小看这一骗。

    这项测试的场地是车库,理论上不会下雨。

    不过,只要在特斯拉眼前播放干扰画面,展开抗衡攻击:
    特斯拉便以为在下雨了。而且,从雨刷挥舞的频率来看,还不是绵绵细雨。 特斯拉便认为在下雨了。而且,从雨刷挥动的频率来看,还不是绵绵细雨。

    有特别纹理的图像,是可以诈骗图像辨认系统的。

    并且,只要偷偷参加定制的噪音(下图中间) ,便可以在人类没有察觉的情形下,骗倒一只AI:
    路上放三枚小贴纸,特斯拉就拐进了反向车道:腾讯“骗”出AutoPilot三大缺陷 所以,骗开雨刷器有什么危险?

    特斯拉的图像处置工具,都是身兼数职的:追踪其他车,追踪物体和车道,为周围环境画地图,以及估量雨量……

    并且,腾讯团队惊讶地发明,刚才这些义务里面,大多数都是只靠单一神经网络来完成的。

    这是不是说,一挂挂一片?

    第二,就是开头提到的,车道辨认容易被干扰。

    也不须要定制抗衡图像,只要在地上有规律地摆上贴纸而已。从车里看是这样:


    Model S拐上了反向车道,打方向盘的时候,丝毫没有犹豫。 Model S拐上了反向车道,打方向盘的时候,丝毫没有迟疑。

    即便,没有人真的用这样的方式损坏交通安全,路上如果呈现了小小的异物 (比如鸟粪) ,不知道会怎么样。

    第三,游戏手柄能远程操控。

    把恶意代码动态地插到Cantx服务里面,钩住 (hook) 里面的方向盘函数。

    这样,腾讯团队黑进了Autopilot的把持系统。


    后来,在手柄的支配下,汽车就开始左冲右突了。 后来,在手柄的安排下,汽车就开端左冲右突了。

    特斯拉回应

    关于腾讯提出的三大隐患,特斯拉一一回应。

    第一,关于骗开雨刷器的方式,特斯拉说:

    这是要在车前放一个屏幕,不是司机面临的现实情形,也不是安全问题。而且,用户手册写明了,雨刷器的把持目前处于测试阶段,用户可以随时调剂到手动把持模式。

    第二,关于在路上贴贴纸,特斯拉说:

    这是手动改变汽车所处的物理环境,才让特斯拉的行动产生了变更。在现实情形下,人类驾驶员的操作可以笼罩住Autopilot的决策,驾驶员也应当随时筹备好,不管是把持方向盘还是刹车。所以这也不是问题 (测试视频里,驾驶员没有干涉) 。

    第三,关于远程黑进系统,特斯拉说:

    报告里面提到的破绽,特斯拉在2017年的安全更新中,已经修复了。2018年又更新了一次。两次都是在这个报告发表之前。许多年来,也没有一个用户表现自己受到过这个问题的影响。

    2016年,腾讯的科恩试验室也曾经远程黑进特斯拉的系统,发明了许多破绽。特斯拉还公开对腾讯团队表现了感激。

    后来,特斯拉便开端对Autopilot进行一系列的安全更新。

    不过,似乎并没有禁止接连不断的事故。


    路上放三枚小贴纸,特斯拉就拐进了反向车道:腾讯“骗”出AutoPilot三大缺陷

    完—

      本文首发于微信大众号:量子位。文章内容属作者个人观点,不代表和讯网立场。投资者据此操作,风险请自担。




    (责任编辑:定兴县)

    附件:

    专题推荐

    • {links}