Odnaleźli kuriozalny sposób na oszukanie autonomicznych samochodów. Jest zabójczo sprawny i prosty

Badacze wzięli pod lupę sposób rozszyfrowywania znaków drogowych przez autonomiczne samochody. Odkryli, że przy użyciu specjalnych naklejek można całkowicie zmylić ich percepcję. Pierwszym przykładem błędnej analizy jest znak Stop, na który przyklejono naklejki z napisami "love" oraz "hate". Algorytm komputera na jego widok stwierdził, że jest to znak ograniczenia prędkości. Zatrzymaj się a zwolnij to jednak spora różnica, taki błąd mógłby doprowadzić do śmiertelnego wypadku.

Kolejnym szokującym przykładem jest znak nakazu skrętu w prawo. Po oklejeniu go w odpowiedni sposób przez naukowców, auto rozpoznało ten znak również jako ograniczenie prędkości. Niezależnie od odległości od znaku czy kąta, pod jakim go umieszczano, był on odczytywany błędnie. To pokazuje nam, jak ogromna jest skala niebezpieczeństwa i jak wiele trzeba jeszcze w tym temacie dopracować. Takie naklejki może wydrukować każdy na domowej drukarce. Oczywiście prawo zabrania takich czynów, definiując je jako niszczenie znaków ostrzegawczych (art. 74 kw), za które można w konsekwencji otrzymać karę pozbawienia wolności lub sporą grzywnę.

Zespół, który przeprowadził te badania, stwierdził również, że ten błąd można łatwo usunąć. Według nich ataki można odeprzeć poprzez zmianę aktualnie stosowanych algorytmów tak, aby wykorzystywały informacje kontekstowe, na przykład, że znak ograniczenia prędkości do 65 mil na godzinę (nieco ponad 100 km/h) na drodze miejskiej nie miałby żadnego sensu, tak samo jak znak Stop na autostradzie. Zdecydowanie mogłoby to pomóc rozwiązać problem. Mamy nadzieję, że wytwórcy aut jak najszybciej wezmą się do pracy. Warto jeszcze dodać, że badacze nie określili, jakiego producenta samochodów wzięli pod uwagę w swoim badaniu, co może sugerować, że taki problem dotyczy każdego z nich.