On parle au gars qui s’est retrouvé coincé dans un robotaxi Waymo sur un circuit vertigineux

Il y a un mois, une vidéo a circulé sur les réseaux sociaux d’un robotaxi Waymo coincé dans un rond-point, un incident isolé sans passager dans le véhicule, selon Waymo.

Apparemment, ce n’était pas une affaire ponctuelle.

À peu près au même moment, dans un autre robotaxi Waymo se dirigeant vers l’aéroport de Phoenix, Mike Johns, fondateur et PDG du cabinet de conseil en intelligence artificielle Digital Mind State, s’est également retrouvé en train de faire le tour d’un parking, incapable d’arrêter la voiture ou d’en sortir.

Les vidéos ont été publiées à quelques jours d’intervalle. Waymo n’a pas confirmé si les incidents se sont produits au même moment ou s’il y a eu d’autres incidents similaires, mais affirme avoir publié des mises à jour logicielles pour résoudre le problème.

Johns est resté coincé dans le Waymo qui tournait en rond pendant « moins de sept minutes », mais il dit que « cela lui a semblé une éternité », notamment parce qu’il craignait de rater son vol et se demandait si la voiture avait été piratée. C’était sa deuxième fois dans un robotaxi Waymo.

Un porte-parole de Waymo a confirmé l’incident. «Cet événement s’est produit début décembre et a depuis été résolu grâce à une mise à jour logicielle régulière. “Le véhicule a effectué le voyage du passager et celui-ci n’a pas été facturé pour le voyage.”

Un spécialiste du service client Waymo a appelé la voiture sans que Johns le demande, a-t-il déclaré à TechCrunch. L’agent a déclaré avoir reçu une notification indiquant que sa voiture “pourrait rencontrer des problèmes d’itinéraire”, selon un vidéo de l’incident partagé par Johns.

Pour résoudre le problème, le spécialiste a demandé à Johns d’ouvrir son application Waymo et « d’appuyer sur « Mon trajet » dans le coin inférieur gauche de (l’) application », ce à quoi Johns a répondu : « Vous ne pouvez pas le faire ? “Tu devrais pouvoir la conduire, prendre soin de la voiture, tu n’as pas besoin de mon téléphone.”

Une bonne question, étant donné qu’une telle acquisition est apparemment à quoi sert un assistant distant.

“Je n’ai aucune possibilité de contrôler la voiture”, a-t-il avoué.

Waymo dit à TechCrunch que ses agents du service client sont différents de ses équipe d’intervention de la flottec’est ce que le logiciel de conduite autonome (connu sous le nom de « Waymo Driver ») demande de l’aide s’il rencontre une situation inhabituelle sur la route.

Les agents d’assistance aux passagers, comme celui avec qui Johns a parlé, peuvent répondre aux communications des passagers : les passagers peuvent entrer en contact via l’application Waymo et un bouton d’appel dans le véhicule. Ils peuvent également « prendre contact si les diagnostics du véhicule Waymo indiquent un tel besoin ». Mais ils n’interagissent pas directement avec le logiciel de conduite du véhicule.

En fin de compte, dit Johns, le fait de suivre les instructions de l’agent d’assistance dans l’application a permis au robotaxi de se remettre sur les rails.

Johns a déclaré que Waymo l’avait indemnisé pour le voyage et l’avait dirigé vers son site Web pour déposer une plainte. La société ne l’a pas contacté immédiatement après l’incident, mais l’a fait cette semaine après que sa vidéo ait été récupérée par principaux médias.

“Le plus important, c’est qu’à l’ère numérique dans laquelle nous vivons, nous sommes tellement déconnectés du facteur humain”, a déclaré Johns à TechCrunch. « Je suis totalement en faveur de l’IA. « Je suis à la pointe entre l’IA, l’automatisation et la robotique, mais il y a quand même un facteur humain. »

Missy Cummings, professeur d’autonomie et de robotique à l’Université George Mason et ancienne conseillère principale en sécurité pour la National Highway Traffic Safety Administration, affirme que cet incident, bien que mineur, démontre un problème plus vaste que les sociétés audiovisuelles devraient résoudre.

“Sur tout système robotique, il y a un gros bouton rouge quelque part qui, si vous appuyez dessus, se désengage”, a déclaré Cummings à TechCrunch, notant que le bouton pourrait être caché quelque part dans la voiture, difficile à atteindre. « Et je vais vous le dire, c’est une mesure de sécurité très importante à l’avenir, car que se passe-t-il si la voiture… a été piratée par quelqu’un et qu’il y a un passager à l’intérieur du véhicule ? “Vous avez absolument besoin de pouvoir arrêter à distance tout ce qui se trouve dans la voiture pour qu’ils puissent sortir.”

Waymo a déclaré à TechCrunch qu’en fait, “les véhicules Waymo disposent d’un bouton d’arrêt disponible à tout moment pour les passagers”, situé dans l’application et sur l’écran du passager, mais Johns a déclaré que l’agent d’assistance ne l’en avait pas informé, et il l’a fait. Je ne le vois pas.

Cummings a également noté que demander à l’utilisateur de participer activement à la solution en utilisant votre application est « sujet aux erreurs » en raison de problèmes de connectivité potentiels et d’applications qui ne sont pas conviviales.

“J’ai été surpris qu’elle essaie de lui faire utiliser son téléphone pour résoudre ce problème alors qu’il s’agit clairement d’une situation urgente qui doit être réglée immédiatement”, a déclaré Cummings. « Elle aurait dû dire : « Regardez, soulevez le coin gauche du tapis sur le sol et vous verrez un bouton rouge. Appuyez sur ce bouton.’