Tesla reconnaît que ses robotaxis peuvent parfois être conduits à distance par des humains

Des robots très autonomes, mais pas tout seuls

Une série de lettres envoyées au sénateur démocrate du Massachusetts Ed Markey par des développeurs de véhicules autonomes éclaire un peu plus ce que l’industrie préfère généralement garder dans l’ombre : la présence d’êtres humains derrière la prétendue autonomie. Les documents, remis dans le cadre d’une enquête sur la technologie des véhicules sans conducteur et rendus publics mardi, contiennent de nouveaux détails sur les programmes dits d’« assistance à distance » de sept entreprises, dont Tesla, Zoox, propriété d’Amazon, et Nuro, soutenue par Uber et Nvidia.

Toutes les sociétés ayant répondu au bureau du sénateur disent avoir recours à des assistants à distance, c’est-à-dire des humains chargés d’intervenir quand un véhicule autonome est perdu, bloqué ou confronté à une urgence. Selon les spécialistes, ces programmes font partie intégrante de la sécurité de tout constructeur de véhicules autonomes. Le système s’améliore chaque année, certes, mais il continuera aussi de rencontrer des situations inédites sur la route. La joie du progrès, en somme.

Markey juge les réponses insuffisantes

Dans un rapport publié lui aussi mardi, Ed Markey a estimé que ces explications restaient largement incomplètes. Selon lui, « chaque entreprise de véhicules autonomes a refusé de divulguer à quelle fréquence ses véhicules ont besoin d’assistance de la part d’[assistants à distance] », ce qui revient à cacher au public des informations essentielles sur le véritable niveau d’autonomie de ces machines.

Le sénateur a affirmé que ces données étaient indispensables pour permettre aux législateurs, aux régulateurs et au public de comprendre les risques de sécurité associés à ces véhicules. Il a également demandé au principal régulateur fédéral américain de la sécurité routière d’examiner de plus près les programmes d’assistance à distance, et a annoncé qu’il présenterait bientôt une proposition de loi en réponse aux « lacunes de sécurité » révélées par son enquête.

Chez Tesla, les humains peuvent vraiment prendre le volant

Les réponses des entreprises montrent un point de divergence important, et Tesla y occupe une place à part.

Six des sociétés interrogées ont expliqué que leurs assistants à distance, répartis à travers les États-Unis et, dans le cas de Waymo, aussi aux Philippines, ne conduisent jamais directement les véhicules. Leur rôle consiste à fournir des indications que le logiciel du véhicule peut choisir d’utiliser ou d’ignorer.

Tesla, elle, dit faire autrement. « À titre de redondance, dans de rares cas, les [opérateurs d’assistance à distance] sont autorisés à assumer temporairement le contrôle direct du véhicule comme dernier recours, après épuisement de toutes les autres interventions disponibles », a écrit Karen Steakley, directrice des politiques publiques et du développement commercial de Tesla, au sénateur.

Selon elle, les opérateurs peuvent « prendre temporairement le contrôle du véhicule » à une vitesse de 2 mph ou moins, et peuvent aussi conduire à distance un Robotaxi Tesla jusqu’à 10 mph si le logiciel du véhicule le permet. Cette capacité doit permettre à Tesla de déplacer rapidement un véhicule placé dans une position délicate, a-t-elle expliqué.

Une industrie qui avance avec ses béquilles

Tesla a recentré son activité des voitures vers la technologie autonome et les robots, et a lancé en juin dernier un petit service de transport à la demande à Austin, au Texas. Aujourd’hui, la plupart des quelque 50 robotaxis en circulation ont un opérateur de sécurité humain installé sur le siège avant passager, prêt à reprendre la main si quelque chose tourne mal. Quelques véhicules fonctionneraient sans cet opérateur de sécurité. Tesla affirme que ses assistants à distance travaillent depuis Austin et Palo Alto, en Californie.

Les développeurs de véhicules autonomes évitent généralement le contrôle direct à distance pour plusieurs raisons. Même un léger décalage entre ce que voit un opérateur et la situation réelle sur la route, de l’ordre de quelques centaines de millisecondes, peut ralentir sa réaction. Ajoutez la latence du réseau et vous obtenez une formule qui n’inspire pas exactement une confiance aveugle.

Comme l’avait résumé l’an dernier un ingénieur spécialisé dans les véhicules autonomes : conduire une voiture sans être dedans dépend de la stabilité de la connexion Internet qui relie l’humain au véhicule. Une observation d’une élégance presque poétique, mais surtout utile.

La rapidité et la précision restent aussi cruciales pour les entreprises qui ne font pas conduire leurs véhicules à distance par leurs employés. En janvier, des enquêteurs fédéraux ont par exemple constaté qu’un assistant à distance de Waymo avait indiqué à tort à un véhicule autonome basé à Austin qu’il pouvait dépasser illégalement un autobus scolaire dont le bras d’arrêt était déployé.

Le vrai défi : voir, réagir et ne pas rêver sur la route

Faire conduire un véhicule à distance exige une conscience immédiate et complète de la situation, ainsi qu’un poste de conduite suffisamment naturel pour que l’opérateur puisse réagir comme s’il était à bord, même à des centaines ou des milliers de kilomètres. Certains acteurs du secteur craignent aussi qu’un véhicule autonome piloté par des humains, même occasionnellement, reste dépendant d’eux et ne soit donc pas vraiment capable de fonctionner de manière sûre sans assistance.

Chris Urmson, directeur général d’Aurora et ancien cadre du projet de voiture autonome de Google, l’a déjà formulé ainsi : quand un camion roule sur la route, il doit pouvoir fonctionner en sécurité avec ou sans ces équipes de soutien à distance.

Markey a écrit que le refus de Tesla de préciser à quelle fréquence ses assistants prennent le contrôle du véhicule était « particulièrement préoccupant », puisque ces travailleurs sont autorisés à téléopérer le véhicule.

Des chiffres que les entreprises préfèrent garder

Missy Cummings, professeure d’ingénierie à George Mason University et spécialiste des véhicules autonomes, estime que les développeurs ont tout intérêt à rester discrets. Selon elle, « les entreprises ne veulent pas donner ces chiffres, parce qu’ils montreraient à quel point ces systèmes sont réellement peu capables ». Si le public comprenait la fréquence de ces interventions, dit-elle, il verrait aussi à quelle distance se trouvent encore les véritables véhicules entièrement autonomes.

Dans sa lettre au sénateur, Karen Steakley a répondu que certaines des questions posées révéleraient inévitablement des secrets commerciaux très sensibles et des pratiques confidentielles, essentielles selon Tesla pour maintenir sa position concurrentielle dans le secteur des véhicules autonomes.

Tesla a supprimé son équipe de relations publiques en 2020 et n’a pas répondu à la demande de commentaire de WIRED.

Waymo, Zoox et Nuro répondent aussi

Waymo avait déjà transmis sa réponse à Markey plus tôt cette année. Ryan McNamara, vice-président et responsable mondial des opérations, a expliqué que les agents d’assistance à distance de Waymo « conseillent et soutiennent le Waymo Driver, mais ne contrôlent, ne dirigent ni ne conduisent directement le véhicule ».

L’entreprise affirme qu’au moins 70 assistants travaillent à tout moment pour surveiller environ 3 000 robotaxis dans 10 villes américaines. Elle précise aussi que la moitié de ces employés sont basés dans deux villes des Philippines, où ils sont titulaires d’un permis de conduire local, tout en étant formés aux règles de circulation américaines.

Le bureau de Markey a estimé que « l’assistance à distance depuis l’étranger introduit un risque inutile dans les opérations de Waymo », ajoutant qu’aucune autre entreprise de véhicules autonomes ne prend un tel risque.

Waymo et Nuro ont refusé de commenter. Zoox n’a pas répondu à la demande de commentaire de WIRED.