360度全景 环视和自动泊车系统

本文作者:John Smrstik       点击: 2020-03-17 18:49
前言:
John Smrstik Jacinto™ 处理器产品营销团队 Aish Dubey Jacinto™处理器系统工程师

 介绍
深夜开车回家,却发现自行车、体育器材和庭院修剪机鸠占鹊巢,你多么希望车库能为爱车保留一席之地。
 
风雨交加的早上,办公楼停车场已是虚位难觅,空车位与你仿佛隔了一条鸿沟。
 
周五晚上想去市中心放松,必须要确定可以为爱车找到栖身之地且能够在停车入库后正常打开车门,否则欢乐时光无从谈起。
 
驾驶员难免遇到行程匆忙、回避麻烦或寻求便利的情况,在这些常见场景中真是有苦难言。
 
幸运的是,自动驾驶功能将缓解这类尴尬,提供更便利、舒适的驾驶体验,即使是泊车这种日常操作也不在话下。
 
基础环视系统为驾驶员提供可视化提示,从而让他们更加全面地了解周围环境。通过深度学习汽车摄像头捕获的视频图像,可提供更高级的服务,如检测空的停车位、自动泊车和启用无人驾驶的“自动代客泊车”功能。
 
这些自动功能(包括多摄像头输入、视觉感知和场景创建)需要汽车具有强大的处理能力。高级驾驶辅助系统 (ADAS) 应用的处理器需要具有整合数以兆字节的视觉数据或其他传感器数据的能力,从而为汽车创建一个经过解读的环境,在有/无驾驶员的情况下均支持低速、安全操控车辆。针对这一挑战,德州仪器 (TI) 专门设计了Jacinto™ 7 处理器系列。
 
在此白皮书中,我们将说明汽车客户如何借助 TI Jacinto TDA4VM 器件构建 ADAS 应用,从而实现辅助和全自动泊车功能,还将提供各类细分的汽车市场(紧凑型、中型、大型和豪华版)对 Jacinto TDA4VM 处理器芯片和软件平台的技术要求,并介绍如何引入实现安全、舒适的全自动泊车所需的技术。
 
自动泊车和泊车辅助系统
根据泊车辅助系统的不同功能,该系统可分为三个基本类型。表 1 对这三种类型进行了详细的介绍。基础环视系统使用多个摄像头输入为驾驶员提供汽车周围区域的 360 度全景视图。摄像头输入拼接到以汽车为中心的俯视图中。该图像以可视化的形式提供给驾驶员,以提供手动泊车辅助。显示汽车与物体、路缘或停车线相对位置的多个图层的叠加增强了环视图像的可用性。
 

 

统类

 

功能

所用器的数 量和

 

所需算法

 

所需器特性

环视

(又名环视 控)

为驾驶提供区域 的 360 2D 3D ,从提供

四到六

基于(GPU) 数字 理器 (DSP) 2D 3D 视图

特定需下,用硬 件加速可用生成

有限的

3D 视图

集成 ISP

用于建的 GPU HWA

半自

驾驶员确定, 然后汽在平或垂 直 位。驶员 制。

四到六

6 12 个超感 器

四到六短程感 器

(IMU)

定位硬件和

车线 检测

低速情下近

物体

同步定位与地

(SLAM)

定地条件 下的 L4 线

记录车视频

编码

集成 ISP

用于分析 (CNN) 理的入式硬 件加速器 HWA

实现融合决策

ASIL-D

GPU

提供足DMIPS通用、 有限性线划和感器 融合的 MCU (ASIL-B)

全自代客泊

车辆界限明的区 域或停位上和自 动驶车辆识别 位。无需

四到六

6 12 个超感 器

四到六短程

IMU

定位硬件和

车线 检测

低速情下近

物体

SLAM

记录车视频编码

ASIL-D SLAM

集成 ISP

用于可化分、路线

CNN 的嵌 HWA

实现全局感器融合的

ASIL-D

用于路线 ASIL-D DMIPS性能

片上编码

表 1.环视和自动泊车应用和要求。

下一个类型的泊车辅助系统是半自动泊车系统。这类系统综合了摄像头、超声和位置信息,能够生成更详尽的汽车周围环境图片,从而在某种程度上实现了自动泊车。借助上述信息,汽车将完成基本的泊车操作,即通过控制转向、制动、加速和换档,自动停在(或驶离)可用的水平或垂直车位。在这类场景中,驾驶员首先需找到一个空车位,且仍对负责自动泊车的系统进行完全控制(如需要)。
 
全自动代客泊车系统会接手后续步骤,控制汽车全自动驶入和驶离界限分明的停车场。泊车过程中,驾驶员会让出确定可用车位后对车辆的控制。这一应用需要更多的传感器输入和更复杂的处理和算法,从而可靠、安全地自动完成泊车。
 
从基础环视功能到全自动代客泊车,各个方案对传感器、数据及数据处理的需求越来越高。

为实现这些应用而配置的处理器片上系统 (SoC)需要:
• 图像输入,
• 通用处理,
• 加速特定的深度学习任务,
• 多层叠加的图像渲染,以及
• 有助于确保系统安全运行的符合汽车安全完整性等级 (ASIL) 的处理。
 
表 1 详细说明了各个系统类型所需的算法和片上功能。 所有这些功能所需的绝对性能,如深度学习万亿次运算每秒 (DLTOPS)、每秒百万条指令(DMIPS)、每秒十亿次浮点运算 (GFLOPS) 或图像信号处理器 (ISP) 或硬件加速器 (HWA) 引擎的百万像素处理功能,可进一步将系统类型进行细分。
 
TDA4VM 处理器的 Jacinto 系列如何应对环视和自动泊车挑战
正如你通过表 1 可能了解的情况一样,汽车制造商的系统架构师和业务团队以及一级供应商在将这些功能引入到汽车生产的过程中,面临若干挑战。首先,汽车制造商希望在各个车型上安装一系列功能- 经济车型配备简单环视功能,中型车和豪华车配备增强的感知和自动化水平。各个车型配备与其价格相符的设备:经济车型无法与高端奢华车型配备相同的电子装置。针对每一车型的不同软件,开发和验证处理器平台不仅费时,而且成本高昂。
 
有一种解决方案可通过向基础设计添加其他传感器和摄像头将低端汽车升级为高端汽车,一级供应商青睐能提供实施这种解决方案常见方法的平台。重复利用硬件和软件资产可提高必要的开发效率,从而最大限度地降低不同产品的研发成本并加快其进入市场速度。
 
Jacinto TDA4VM 处理器系列和 TI 的处理器软件开发套件 (SDK) 相结合,为 OEM 和一级供应商解决这一问题提供了新的方法。该处理器可通过异构处理提高应用性能并降低功耗,使其适用于散热和尺寸受限的嵌入式空间。TI 的 Jacinto TDA4VM SoC采用硬件加速器、专用处理器核心、数字信号处理器(DSP)、通用处理器和微控制器 (MCU),可帮助设计人员制定高效的系统解决方案。TI 精选并设计了各种具有知识产权 (IP) 的组件,以帮助解决具体问题并符合各种终端系统的要求。
 
表 2 说明了简单环视监控应用和更复杂的自动代客泊车用例中常用的处理步骤和 IP 组件。
 

理步

SoC IP

像采集

/出(串行接 [CSI]-2

ISP

 

用于特提取分 析

DSP 度学加速器

融合(利

通用MCU

感器

 

GPU

表 2.环视和自动泊车应用的处理步骤以及所用的 SoC IP。
 
异构方法要求每种处理器内核或加速器使用特定的软件。可通过更高级的软件理念抽象封装低级软件栈,并针对硬件优化,从而简化开发并提供高性能访问权限。OpenVX就是这样的一种免版税开源软件框架,专为实时嵌入式视觉处理而设计。TI 的 Processor SDK 通过基于 OpenVX的例程,展示如何利用 SDK 中的软件组件构建应用(如环视监控)。
 
综上所述:Jacinto TDA4VM SoC
泊车辅助和自动化应用基本上都需要采集摄像头和图像传感器数据,并为处理阶段进行预处理。处理阶段处理图像数据并执行分析和深度学习算法,从而抽取与泊车应用相关的主要特性。这一阶段整合(或融合)其他传感器的数据,从而形成汽车周围环境更全面的感知,并提供给决策应用,此例中是安全操控汽车驶入和驶离停车位。最后一步则是以直观的方式向驾驶员展示图像数据,从而帮助他们安全驾驶车辆。保存视频数据留作日后查看也很有必要,尤其是在全自动场景中。所有这些操作都必须在能提供冗余并将任务关键型功能与其他操作进行逻辑(或物理)分区的功能安全环境中进行。
 
TI 在 TDA4VM SoC 的设计中已考虑所有这些应用要求。基于对该系统的理解和提供高效、灵活且易用的解决方案的目标,TDA4VMSoC 包含多种组件来满足采集、处理和渲染要求。其中的一个主要设计是平衡处理和数据需求,从而确保本地存储有足够的空间且能适当访问高速外部存储,同时确保处理系统高效运行。
 
图 1 所示为 TDA4VM 器件在环视用例中的简化方框图。
图 1.基于 TDA4VM 的简化环视系统。

环视/车应

TDA4VM   SoC 特性

像数

适用于电压分信 CSI-2  接口

适用于太网以太网

第七代 TI  ISP

镜头校正件加

噪声波硬件加速器

级图放硬件加速器

感器合和

C66x  C7x   DSP  内核

适用于度学速器

稠密光硬件速器

双目深硬件速器

Arm®     Cortex®-A72  中央理器

四个 Arm  Cortex-R5F  MCU

CAN-FDUART接口

上共 (8MB)

高效、带宽上互

具有 17GBps  值带LPDDR4

和保存

Imagination  GE8430  GPU  内核 (100GFLOPS)

H.264 编码硬件

H.265 硬件

4K   2.5K  分辨视频

安全性

双核 R5F  MCUASIL-C 

IP  安全防入和攻方法

表 3.环视应用阶段与对应的 TDA4VM 器件特性。
 
显示视频和其他传感器输入、显示输出和对压缩视频文件存储器的访问。表 3 介绍环视和自动泊车应用的处理阶段,以及支持这些处理阶段的TDA4VM 器件的主要特性。 如上所述,TDA4VM 器件是非常完整的片上系统,适用于这类泊车应用。芯片解决方案必须拥有与芯片配套的软件环境。TDA4VM SoC 由适用于 Linux 的完整软件套件和TI 实时操作系统 (RTOS) 内核支持。Processor SDK 套件包括一整套驱动程序、操作系统内核、应用库、启动例程、基于 OpenVX 的应用框架以及说明如何在真正的系统应用中使用软件和硬件组件的应用示例。这些软件开发套件(SDK)都在由 TI提供的评估板卡上经过了验证。
 
Jacinto TDA4 是一个产品系列,其中 TDA4VM 是本系列的第一款产品型号。该处理器系列的后续产品将包括同一芯片级 IP 的各种组合,从而为ADAS市场的各个领域(无论是偏重计算性能的应用还是对消费类汽车的更多成本优化需求)提供更多优化产品。由于这些器件采用相同的基本硬件 IP 和软件架构,因此具有良好的兼容性。为特定型号开发的软件可重复用于本系列中的其他器件,不仅可以提高开发效率,还方便在所有汽车型号中引进具有不同功能子集的完整产品线。您可以使用 Jacinto系列产品轻松开发向泊车辅助和自动代客泊车方向发展的环视系统类应用。
 
其他资源
• 了解有关适用于 ADAS 应用的 Jacinto TDA4x 处理器的详细信息。
• 获取有关适用于 ADAS 的 TI 解决方案和设计资源的更多信息。
• 了解我们适用于 ADAS 应用的 FPD-Link摄像头串行器和解串器产品系列。
 
平台标识和 Jacinto 是德州仪器 (TI) 的商标。所有其他商标均为其各自所有者的财产。