Uber lui-même

Bonjour et bienvenue dans Eye on AI. Je m'appelle Sage Lazzaro et je remplace Jeremy.

Alors que la plupart des gens se sont déconnectés vendredi soir pour profiter d'un autre week-end d'été étouffant, une affaire juridique historique sur la responsabilité lorsque l'IA est directement impliquée dans des dommages physiques réels a finalement pris fin après cinq ans.

Rafaela Vasquez, la conductrice au volant d'une voiture d'essai Uber autonome qui a heurté et tué un piéton à Tempe, en Arizona, en 2018, a plaidé coupable à un chef d'accusation de mise en danger. Le juge de la Cour supérieure du comté de Maricopa, David Garbarino, a accepté l'accord de plaidoyer et l'a condamnée à trois ans de probation sous surveillance, clôturant définitivement l'affaire. Vasquez a été initialement accusé d'homicide par négligence, un crime passible d'une peine pouvant aller jusqu'à huit ans de prison.

L'accident de 2018, au cours duquel une femme nommée Elaine Herzberg a été tuée alors qu'elle traversait la rue à vélo, était la première collision mortelle impliquant un véhicule entièrement autonome. L'affaire a captivé les observateurs alors qu'Uber et Vasquez cherchaient chacun à détourner le blâme d'une situation qui non seulement manquait de précédent, mais soulevait plusieurs questions sur la responsabilité dans un monde où les travailleurs humains surveillent de plus en plus les machines d'IA, s'inspirent des algorithmes et sont en première ligne. de systèmes d’IA imparfaits construits par des ingénieurs d’entreprise.

Lorsque l'accident s'est produit initialement, Vasquez pensait qu'Uber la soutiendrait, selon une interview approfondie avec Wired publiée l'année dernière. Elle était véritablement enthousiasmée par l'industrie en plein essor et se considérait comme une fière intendante de l'entreprise, faisant son travail en surveillant les véhicules autonomes de l'entreprise alors qu'ils accumulaient des kilomètres d'entraînement. L'Arizona, qui assouplissait les restrictions pour attirer davantage d'affaires des entreprises de la Silicon Valley, était récemment devenu un paradis pour le programme d'essais sur route d'Uber après que la Californie ait révoqué les immatriculations des voitures Uber. Le médecin légiste a officiellement qualifié la mort de Herzberg d'accident, et Uber a d'abord fourni à Vasquez un avocat, mais les interactions avec son superviseur sont rapidement passées de « consolantes à troublantes », selon Wired.

Les choses ont vraiment changé pour Velasquez lorsque l'enquête a révélé que son téléphone personnel diffusait l'émission télévisée The Voice au moment de l'accident. Les images de la Dashcam ont également montré qu'elle baissait les yeux quelques instants avant la collision, et l'analyse de la police a déterminé plus tard que Vasquez aurait pu reprendre la voiture à temps et a jugé l'incident « entièrement évitable ».

Bien que l'affaire n'ait pas été jugée, la défense de Vasquez était remplie d'arguments pointant la culpabilité de son employeur. Dans ses dossiers juridiques, Vasquez a affirmé qu'elle ne regardait pas mais écoutait seulement The Voice, ce qui était autorisé par les directives d'Uber. Et lorsqu’elle baissait les yeux, c’était pour vérifier les messages Slack sur son appareil de travail, qui, selon elle, devaient être surveillés en temps réel. Cela était historiquement géré par un deuxième opérateur, mais Uber avait récemment révoqué l'exigence d'avoir deux opérateurs de test dans chaque véhicule et disposait désormais de chauffeurs de secours comme Vasquez travaillant seuls. Cela a modifié la dynamique du travail, y compris la façon dont les opérateurs saisissaient leurs commentaires sur le système de conduite, et a conduit à de longs quarts de travail solitaires sur les mêmes routes, généralement sans incident ni nécessité d'intervenir.

Dans un autre élément clé de sa défense avant le procès, les avocats de Vasquez ont cité une décision du National Transportation Safety Board selon laquelle la voiture n'avait pas réussi à identifier Herzberg comme un piéton, ce qui avait entraîné l'échec du freinage. Le conseil a également constaté qu'Uber avait « une culture de sécurité inadéquate » et n'avait pas réussi à empêcher « la complaisance en matière d'automatisation » parmi ses opérateurs de test, un phénomène bien documenté dans lequel les travailleurs chargés de surveiller les systèmes automatisés en viennent à croire que les machines les contrôlent et s'arrêtent. prêter attention. De plus, un ancien directeur des opérations de l'entreprise a déposé une plainte de dénonciation concernant de mauvaises pratiques de sécurité dans la division des voitures autonomes quelques jours seulement avant l'accident.