La controverse sur la “conduite entièrement autonome” de Tesla propose désormais des mannequins faits maison et des tests sur de vrais enfants


Washington DC
CNN

Carmine Cupani voulait remettre les pendules à l’heure. Il a donc demandé à son jeune fils de se tenir sur le chemin de sa Tesla alors qu’elle traversait un parking.

Le résident de Caroline du Nord a entrepris de réfuter une vidéo largement diffusée d’une Tesla avec le logiciel bêta “full self-driving” de l’entreprise – qui permet à la voiture de diriger, de freiner et d’accélérer, mais nécessite un conducteur humain attentif prêt à prendre le volant – labourant dans des mannequins de taille enfant.

Dan O’Dowd, PDG d’une société de logiciels qui a publié la vidéo plus tôt ce mois-ci, pense la National Highway Traffic Safety Administration devrait interdire «l’auto-conduite totale» jusqu’à ce que le PDG de Tesla, Elon Musk, «prouve qu’il ne fauchera pas les enfants».

C’est alors que Cupani, qui dirige un magasin automobile axé sur les importations et Teslas, s’est impliqué et a recruté son fils. Alors qu’il se décrit lui-même comme un “gars BMW”, Cupani dit que le logiciel ne peut pas être comparé à ce que propose Tesla. Ce n’était pas non plus la première fois qu’il enrôlait son fils, qui, selon Cupani, a 11 ans, dans une entreprise automobile potentiellement virale: plus tôt cette année, il a publié une vidéo de son fils au volant de sa Model S Plaid – qui peut atteindre 0 -60 en 1,99 seconde — dans un parking privé. Il a été visionné plus de 250 000 fois.

“Certaines personnes le regardent et disent:” Oh ce papa fou, qu’est-ce qu’il fait? “”, A déclaré Cupani à CNN Business. “Eh bien, je fais beaucoup de choses comme ça, mais je vais m’assurer que mon enfant ne se fasse pas frapper.”

Cupani a filmé le test de “full self-driving” dans un parking. Son fils se tenait près du bout d’une allée tenant un smartphone pour filmer le test. Cupani a accéléré la Tesla de l’autre côté du terrain et a activé la “conduite entièrement autonome”, atteignant 35 mph. La Tesla a freiné régulièrement et s’est immobilisée – bien avant son fils.

Cupani a fait un autre test avec son fils dans une rue en utilisant Autopilot, le logiciel d’assistance à la conduite Tesla le plus rudimentaire, et l’a trouvé arrêté pour son fils également. “Ce Dan, il dit qu’il est un expert en ceci, un expert en cela”, a déclaré Cupani. “Eh bien, je suis un expert en automobile, technologie future, instructeur de conduite professionnel.”

Cupani fait partie des nombreux partisans de Tesla qui ont contesté la vidéo d’O’Dowd et ont décidé de créer leurs propres tests. Certains ont demandé à leurs enfants de les aider. D’autres fabriquaient des mannequins faits maison ou utilisaient des poupées gonflables.

Les défenses passionnées et les critiques de la « conduite entièrement autonome » soulignent à quel point la technologie est devenue un point d’éclair dans l’industrie. Le DMV de Californie a récemment déclaré que le nom « conduite entièrement autonome » était trompeur et justifiait la suspension ou la révocation de la licence de Tesla pour vendre des véhicules dans l’État. Ralph Nader, dont les critiques de l’industrie automobile dans les années 1960 ont contribué à la création de la National Highway Traffic Safety Administration (NHTSA), a rejoint ce mois-ci un chœur de critiques de la “conduite entièrement autonome”.

Mais c’est aussi un autre exemple de la conséquence involontaire du déploiement d’une technologie inachevée et perturbatrice dans la nature – et montre jusqu’où certains partisans de Tesla sont prêts à aller pour la défendre et défendre l’entreprise. Suffisamment de personnes semblaient poursuivre leurs propres expériences pour qu’une agence gouvernementale prenne la décision extraordinaire d’avertir les gens de ne pas utiliser d’enfants pour tester la technologie d’une voiture.

“Les consommateurs ne devraient jamais essayer de créer leurs propres scénarios de test ou d’utiliser de vraies personnes, et en particulier des enfants, pour tester les performances de la technologie des véhicules”, a déclaré la NHTSA dans un communiqué mercredi. L’agence a qualifié cette approche de “très dangereuse”.

Plus tôt ce mois-ci, le résident californien Tad Park a vu qu’un autre passionné de Tesla voulait tester la “conduite entièrement autonome” avec un enfant et s’est porté volontaire. deux de ses enfants. Park a déclaré à CNN Business qu’il était “un peu difficile” de faire accepter sa femme. Elle a accepté quand il a promis de conduire le véhicule.

“Je ne repousserai jamais les limites parce que mes enfants sont bien plus précieux pour moi que tout”, a déclaré Park. “Je ne vais en aucun cas risquer leur vie.”

Les tests de Park, contrairement à ceux d’O’Dowd, ont commencé avec la Tesla à 0 mph. La Tesla s’est arrêtée dans tous les tests de Park devant deux de ses enfants impliqués dans la vidéo, dont un de 5 ans. Park a déclaré qu’il n’était pas à l’aise de faire un test de vitesse plus élevée de 40 mph – comme O’Dowd l’a fait avec les mannequins – avec ses enfants.

Franklin Cadamuro, un résident de Toronto, a créé un “box boy”, une forme enfantine fabriquée à partir de vieilles boîtes en carton d’Amazon. “Ne me blâmez pas pour ce que la voiture fait ou ne fait pas”, a-t-il posté au début de sa vidéo. “Je suis un grand fan de Tesla.”

UN

Sa Tesla a ralenti à l’approche de “box boy”. Puis il a accéléré à nouveau et a heurté son mannequin en carton. Cadamuro a émis l’hypothèse que cela pourrait être dû au fait que les caméras ne pouvaient pas voir les boîtes courtes une fois qu’elles étaient immédiatement devant le pare-chocs, et oubliaient donc qu’elles étaient là.

Les bébés humains apprennent à environ huit mois qu’un objet hors de vue existe toujours, de nombreuses années avant de se qualifier pour un permis de conduire. Mais la capacité peut encore échapper à certains systèmes d’intelligence artificielle comme la “conduite entièrement autonome” de Tesla. Un autre fan de Tesla a trouvé un résultat similaire.

Cadamuro a déclaré que sa vidéo avait commencé comme un divertissement. Mais il voulait que les gens voient que la “conduite entièrement autonome” n’est pas parfaite.

“Je trouve que beaucoup de gens ont deux idées extrêmes sur la version bêta” entièrement autonome “”, a déclaré Cadamuro. « Les gens comme Dan pensent que c’est la pire chose au monde. Je connais des amis qui pensent que c’est presque parfait.

Cadamuro a déclaré qu’il avait également effectué d’autres tests au cours desquels sa Tesla, voyageant à des vitesses plus élevées, s’est efficacement dirigée autour de “box boy”.

Selon Raj Rajkumar, professeur à l’Université Carnegie Mellon qui étudie les véhicules autonomes, détecter rapidement et avec précision des objets plus petits comme de jeunes enfants sera généralement plus difficile que de détecter de gros objets et des adultes pour un système de vision par ordinateur comme celui sur lequel reposent les véhicules Tesla.

Plus un objet occupe de pixels dans une image de caméra, plus le système dispose d’informations pour détecter les caractéristiques et identifier l’objet. Le système sera également impacté par les données sur lesquelles il est formé, comme le nombre d’images de jeunes enfants auxquelles il est exposé.

“La vision par ordinateur avec l’apprentissage automatique n’est pas infaillible à 100 %”, a déclaré Rajkumar. “Tout comme le diagnostic d’une maladie, il y a toujours des faux positifs et des faux négatifs.”

Tesla n’a pas répondu à une demande de commentaire et ne s’engage généralement pas avec les médias professionnels.

Suite aux critiques des fans de Tesla sur ses tests originaux, O’Dowd a publié une autre vidéo ce mois-ci.

Certains partisans de Tesla avaient critiqué l’utilisation par O’Dowd de cônes comme marquage de voie lors de ses tests originaux, ce qui aurait pu limiter la capacité de la berline à se diriger autour du mannequin. D’autres ont affirmé que le pilote d’essai d’O’Dowd avait forcé la Tesla à frapper le mannequin en appuyant sur l’accélérateur, ce qui n’était pas visible dans les vidéos publiées par O’Dowd. Certains passionnés de Tesla ont également signalé des messages flous sur l’écran du véhicule Tesla indiquant que le pilote d’essai d’O’Dowd appuyait sur l’accélérateur pour truquer les tests.

Dan O'Dowd a effectué des tests avec des mannequins et dit que cela démontre que

O’Dowd a déclaré à CNN Business que les messages flous faisaient référence à l’indisponibilité de la suralimentation et à l’usure inégale des pneus. CNN Business n’a pas pu vérifier de manière indépendante ce que disait le message car O’Dowd n’a fourni aucune vidéo plus nette de ce qui s’est passé dans la voiture pendant les tests.

Dans sa deuxième vidéo, O’Dowd’s a testé sans cônes dans une rue résidentielle et a montré l’intérieur de la Tesla, y compris la pédale d’accélérateur. La Tesla, comme dans les autres tests d’O’Dowd, a heurté le mannequin enfant.

O’Dowd a déploré plus tôt cette année dans une interview avec CNN Business qu’aucun organisme de test de l’industrie n’examine le code de “l’auto-conduite complète”. Le gouvernement américain n’a pas de normes de performance pour la technologie d’assistance à la conduite automatisée comme le pilote automatique.

O’Dowd est le fondateur du projet Dawn, un effort pour rendre les ordinateurs sûrs pour l’humanité. Il s’est présenté comme candidat au Sénat américain sans succès cette année dans une campagne centrée exclusivement sur sa critique de la “conduite entièrement autonome”.

La NHTSA étudie actuellement la technologie d’assistance à la conduite de Tesla, des changements pourraient donc être à venir.

“Le logiciel qui contrôle la vie de milliards de personnes dans des voitures autonomes devrait être le meilleur logiciel jamais écrit”, a déclaré O’Dowd. “Nous utilisons les règles absolues du chaos du Far West et nous avons obtenu quelque chose de si terrible.”

.

Leave a Comment