흰색트럭을 정말 잘 인식을 못하네요... 운전자들이 아직 Tesla 자율주행이 믿을만한 수준이 아니란걸 알아야 할텐데요.

그래도 다행이 이번엔 사람은 별로 안다쳤겠네요.

왜 근데 길에 트럭이.누워있죠? 이건 자율주행이 책임 아님당. 아예 예상범위를 넘어감. (농담반 / 진담반입니다) 

테슬라가 없어서 몰겠는데, 원래 전방주시 해야 되는거 아닌가요?  오토로 가고 있어도 운전자가 보고 있어야 되는 시스템 아닌가요?  운전자가 그래도 마지막 SAFETY NET이 되어야 하는걸텐데, 안하고 딴청 피거나 쳐주무셨으면, 저래도 싸져 뭐.

저도 오토파일럿 신뢰하지는 않는데 이런 경우는 많은 스마트 크루즈 차들이 인식을 못합니다. 

얼마전 한국에서 벤츠가 비슷한 경우로 사고난걸 봤는데 앞에 차가 없는데 스마트 크루즈를 켜고 달렸을 때, 앞에 차나 물체가 정지해있으면 인식을 늦게하고 속도가 빠르면 정지거리를 이미 지나가서 급브레이크를 밟지만 사고가 납니다. 전방주시는 항상 하여야되지만 스마트 크루즈 기능 있으신분들도 앞에 차가 있지 않으면 꼭 전방주시를 잘 하셔야됩니다. 

말도 안되는 사고네요. 저건 비젼으로도 잡았어야 할 문제 아닌가요? 

자율 주행의 가장 큰 문제는 운전자가 다른짓(?)을 한다는게

지난번에 운전하는데 앞의 차가 테슬라였는데

운전대 안잡고 핸드폰 게임하고 있더라구요 ;;

저런 행동이 반복되서 습관이 되겠죠

University of Michigan 자율 주행에서 꽤나 권위있는 연구자가 말하기를 아직 몇십년 있어야 신뢰할 수 있다고 하더군요. (Decades away)

예전에 좌회전 하는 트레일러 인식하지 못하고 들이받은것도 정확히 똑같은 문제였다고 보입니다.

당시에는 테슬라 차량이 트레일러 밑으로 통과할 수 있다고 판단해서 직진하지 않았겠는가, 이렇게 보는 시각이 있었습니다만.. 현실은 그냥 길을 막고 있는 하얀색 트레일러는 인식 불가한가보네요.

주변에서도 테슬라 많이들 타시고 혼자 운전을 해주는 auto pilot 기능이 정말 좋다고 해서 생각은 조금 하고있었는데 이런거 보면 무섭네요. 

그래도 bumper to bumper traffic 에서는 괜찮지 않나요? 

왜 테슬라는 lidar를 안쓰고 비전에 집착하는걸까요? lidar센서가 비싸서?

그런데 lidar가 있다면 문제없이 감지 할 수 있는 문제였을까요?

저건 그냥 시원하게 갖다 박아버리는군요. 고속도로캠에 한자가 있는 걸로 봐선 중국인가요?

아니 제 차에도 (2014 Q50) 이머전시 브레이크 기능 있어서 커브길 진입 좀 빨리 하면 삐삐거리면서 속도 줄이는데 (벽에 박는다고;;)

프리우스가 하이브리드 전용으로 나와서 성공한 것처럼, 자율주행이 제대로 되려면 모든 도로를 자율주행에 맞는 마커등을 심어서 싹다 갈아야하지 않을까요?... 신호등이나 표지판도 말이죠.. ^^

테슬라의 오토파일럿이 레벨3임에도 대부분의 운전자가 점점 느슨해져서 마치 레벨5인것처럼 잠을 자거나 딴짓을 하는게 문제이죠. 아직 레벨3이기에 이 사고는 운전자과실이기는 하지만 이러한 사고가 계속 반복되면 결국 운전자의 전방주시유무를 감시하는 센서가 강화되거나 최악의 경우 레벨5가 나올때까지 레벨3을 금지해버릴수도 있을 것 같네요. 실제로 많은 업체들이 이러한 레벨3 문제를 걱정해서 이를 건너뛰고 바로 레벨5로 가고 있기도 한데 기약이 없다보니 하나둘씩 업체상황이 나빠지고 있지요.

제 지인이 모델3 인데 스티어링 휠에 테니스공 2개를 끼워서 운전자가 항상 잡고 있는것 처럼 인식 하게 하더군요.

이건 AEB 문제가 더 심각하네요. 테슬라 AEB 작동 범위가 5mph-85mph라고 인터넷 검색이 되는데, AEB 작동안한거 보면 문제있는 차인듯... 그래서 오토파일럿도 문제. 이게 딱히 카메라 센싱의 단점을 명확히 보여준다고 보기에는 좀 무리가 있다고 봐요.

오토파일럿에서 단일 센서로만 시스템을 구성한다면 단연 camera sensing이 가장 뛰어난 사물 인식 환경을 보장해줍니다. 가성비죠. 가성비 좋아하시죠? 엘런 머스크도 그런듯... 하지만 각각의 단일 센싱이 한계를 가지고 있는 것처럼 카메라센싱도 그 한계가 존재하고, 테슬라는 그런 점을 알면서도 마켓팅을 그렇게 하는 거죠. 마치 완벽한 것 처럼.. 그래도 현존하는 상용차들 중 단일 센싱으로 오토파일럿을 이만큼이나 훌륭하게 구현하는 것은 충분히 칭찬할만 하다고 봅니다. 과연 이것이 옳은 일이냐는 뭐 누가 어떻게 보느냐에 따라 다르겠지만요. 전 꼭 틀리지만은 안다고 보구요.

복합센싱은 엔지니어링 적으로 각각의 센싱에서 나오는 정보를 규합하고 해석하는데 꽤나 복잡하고 어려움이 있어서 많은 스타트업이 뛰어니는 사업이죠. 구현이 잘 된다고 해도 가격적인 문제가 발생할 수 도 있고, 또 매번 나올 수 밖에 없는 얘기지만 사고가 났을때 과연 사고의 주체가 누구인가 하는 문제도 남아있죠.

이러한 사고에는 항상 복합적인 요인이 작용하지만, 비젼시스템에대해서만 제가 아는 선에서 생각하자면, 

'움직이지' 않는 '흰색' 트럭이라는 특수한 조건이 테슬라 오토파일럿 시스템이 가지고 있는 몇 안되는 '틈'을 파고들어 발생한 사고입니다. 

이러한 부분은 테슬라의 개발자들이 아직 개발 중이거나, AI 기반으로 한다는데 아직 트래이닝이 안되었거나 (특수한 조건이라하면 컴퓨터가 학습할만한 자료를 구축하기 힘들다고 보시면 됩니다.), 아니면 너무 특수한 조건이라 시스템에 구현이 안되어 있거나 할겁니다 (고의든 아니든). 

제가 이전 @포트드소토 님 글에 댓글로 적었지만, 

카메라 기반의 비젼 시스템을 채택하고 있는 테슬라는 이러한 문제를 당분간은 안고 갈 겁니다. 

오토파일럿의 첫번째 단계는 기본적으로 카메라 몇대로 동시에 사진을 찍어서 주변 지형 및 오브젝트의 3차원 모델/지도 (컬러 정보 및 depth 정보 포함) 을 만드는 겁니다. 

이러한 지도를 매번 카메라가 사진을 찍을 때마다 만들고, 이를 이전 지도들과 비교해서 차이점을 분석하는 거죠.

이 과정에서 배경, 자동차, 장애물, 차선 등 운전에 필요한 객체들을 구분하고, 이를 tracking하고, 변화 패턴을 분석해서 정보화 시키는 겁니다. 

다음 단계는 이러한 정보를 사용하여 자동차를 컨트롤 하는거죠.

카메라 센서와 컴퓨팅 파워가 발전해서 이게 실시간으로 가능해 졌기에, 많은 회사들이 자율주행 개발에 뛰어들고 있습니다. 

사람의 시각체계는 양쪽 눈으로 들어오는 시각 정보 1쌍 (왼쪽과 오른쪽)을 가지고 뇌에서 3차원 정보를 생성합니다.

가까이 놓여있는 물체를 왼쪽눈과 오른쪽눈 한쪽으로만 보면 위치가 다르게 보이는걸 느끼실텐데, 이걸 시차(prallax) 라고 부릅니다. 

예를 들어 멀리있는 산이나 배경으로 생각되는 객체들은 이 시차가 0에 가깝습니다. 

하지만 가까이 있는 물체들은 시차가 크게 발생하는데 이를 기반으로 얼마나 내 눈에서 가까이 있는지 계산할 수 있습니다. 

사람의 뇌는 실시간으로 이런 분석을 하고, 시각정보도 거의 연속적으로 받아들이기 때문에 걷는다던가 운전이 가능한 겁니다. 

카메라 비젼 시스템도 동일한 원리로 왼쪽 사진과 오른쪽 사진에서 '동일한 물체'의 위치의 차이를 통해 3차원 지도를 생성합니다. 

여기에는 사진에서 객체를 탐지하고, 이 객체를 여러 사진에서 각각 찾아내서, 위치 (시차)를 계산하고, 이를 지속적으로 추척하고, 움직임을 분석하는 등의 일이 모두 포함됩니다. 

하지만 카메라와 컴퓨터는 아직 사람의 눈과 뇌를 대체하기는 부족합니다. (멀리있는걸 볼 수는 있지만 그건 그냥 물리적인 렌즈가 좋은 거라고 보시면 됩니다.)

특히 표면이 균일한 물체 (homogeneous)은 카메라를 통해 3차원 모델을 만들기 굉장히 어렵습니다. 

사람도 완전히 하얗게 칠해진 벽만있고, 그림자도 없는 방에 들어가면 벽이 어디 있는지 못찾습니다. 

특희 흰색을 카메라에서 찍은 영상을 처리할때 많은 문제를 일으킵니다. 

사진을 찍을때 조건, 카메라 세팅 등의 이유로 하얀색으로 영상에 나타나면, 아무리 여러대의 카메라로 영상을 찍어도, 시차를 계산할 수 없습니다. 

이러한 한계점에 '움직이지 않는 일정 크기 이상의 물체' 라는 조건이 더해져서 오토파일럿이 오작동한 것으로 생각됩니다. 

당연히 저 트럭은 상당히 멀리서부터 테슬라의 비젼시스템에서 취득한 영상에 찍혀있을 겁니다. 

문제는 '흰색'의로된 트럭이 '움직이지 않았'기에, 트럭이 있는 부분의 3차원 모델이 제대로 만들어지지 못했을 겁니다.

거기다에 트럭의 사이즈가 크기 때문에, 또 움직이지 않아서 이를 어느 순간 배경으로 인식했을 가능성도 높습니다. 

(영상에서 속도를 제대로 줄이지 않은걸 보면 그냥 depth 를 계산하지 못해서, 트럭 부분의 depth map이 구멍이 나있을 가능성이 큽니다)

개발팀에서 카메라 기반 비젼 시스템의 한계를 모를리 없다고 생각합니다. 

이번 사고도 아마 가능한 시나리오 안에 있는 조건일 겁니다. 

다만, 실제 사고로 이어지려면 여러 '조건'과 '우연'이 겹쳐야 발생하는 확률이 정말 낮은 것으로 판단했을 가능성이 높습니다. 

사족으로 제 개인적인 견해를 덧붙이자면, 

사실 엔지니어가 뭔가 개발할때 모든 케이스를 100% 커버하는 방법을 만드는 것은 불가능합니다. 

하지만, 단 0.1% 아니 0.01% 결함 가능성이 있고, 이 특수한 조건이 발동 되었을때 사람이 생명에 직결되는 기술이라면, 

보다 조심스럽게 접근해야한다고 생각합니다. 

물론 너무 보수적인 접근이 획기적인 기술 개발이나 인류의 편의 증대에 방해가 될 수도 있지만, 

엘론 머스크의 마켓팅은 좀 과한 느낌이 있습니다. 

일반 대중들이 보고 싶어하는 긍정적인 면을 부각시키는 방식도 좋고, 부정적인 면은 다른 걸로 덮는 것도 뭐 그럴 수 있지만, 

최소한 부정적인 측면에 대한 검토 및 보완에 대해서는 개발하고 공급하는 테슬라가 더 고민해야할 문제라 생각합니다. 

모두들 고정된 흰색 트럭에만 집중해서 말하는데,, (비디오를 보신것인지?)

그  30미터 앞에서 손을 흔들어 가며 그리고 최종적으로 좌우로 움직이는 아저씨                    도 있어요. 제대로된 자율주행이라면 이 아저씨 앞에서 멈추었어야지요.

그 아저씨는 흰색이고 태양에 가리고 이런 변명의 여지가 전혀 없네요. 

우선 테슬라는 partial automation 인 레벨2에요. 광고를 레벨3처럼 해서 그렇지.

1. 테슬라가 트럭이나 손흔드는 사람을 제대로 인식하지 못하고 충돌했다. 이건 명백한 기술적 결함입니다. 다른 종류의 센서를 더하든지, 아니면 더 똑똑한 알고리즘을 개발/채용해서 해결해야지요. 앞으로 더 나아가려면요.

2. 하지만 사고는 테슬라 운전자의 책임입니다. 테슬라가 레벨3처럼 오해할 수 있는 Full Self Driving (FSD) 라는 용어를 써서 광고를 하지만, 운전자가 항상 주변을 모니터링 해야 한다는 조건이 자동차 매뉴얼 등 여러 곳에 나와 있고, 보다 중요한 것은 FSD 기능을 활성화 시킬 때 차내경고창으로 이 조건이 뜨고 운전자가 동의를 해야 FSD 기능이 engaged됩니다. 이는 명백한 레벨2에 적용되는 상황입니다. 운전자가 이에 동의를 한 후에 주변 모니터링을 하지 않았다면, 사고의 귀책사유는 명백히 운전자에게 있습니다.

자 이쯤에서 shameless plug... 제가 쓴 자율주행 시리즈 중 3편, 그 중에서도 1. Radar 항목을 보시면 이런 사고가 왜 발생하는지에 대해서 공학적인 설명이 돼있습니다.

https://www.milemoa.com/bbs/board/6470284

(더불어 좀 더 스크롤을 내려보시면 제가 그 글을 쓸 당시 테슬라에 어떤 센서들이 장착돼있었는지 설명도 돼있습니다.)

죄송합니다. 펑하겠습니다.

한국에서 Mercedes-Benz도 똑같이 Auto pilot상태에서 정지된 차를 박았습니다. MB도 vision+radar로 전방 센싱합니다.

 조사결과 알고 보니 50 km/hr 이상으로 주행중에는 정지된 물체를 ignore하도록 세팅되어 있었다고 합니다.

대만에서 사고는 이것과는 좀 다른데 왜 보행자를 무시했는지?