Informe especial: los trabajadores de Tesla compartieron imágenes sensibles grabadas por los automóviles de los clientes

LONDRES/SAN FRANCISCO (Reuters) - Tesla Inc asegura a sus millones de propietarios de automóviles eléctricos que su privacidad “es y siempre será enormemente importante para nosotros”. Las cámaras que incorpora en los vehículos para ayudar a la conducción, señala en su sitio web, están "diseñadas desde cero para proteger su privacidad".

Pero entre 2019 y 2022, grupos de empleados de Tesla compartieron de forma privada a través de un sistema de mensajería interna vídeos e imágenes, a veces muy invasivos, grabados por las cámaras de los coches de los clientes, según entrevistas de Reuters con nueve exempleados.

Algunas de las grabaciones captaron a los clientes de Tesla en situaciones embarazosas. Un exempleado describió un vídeo de un hombre acercándose a un vehículo completamente desnudo.

También compartido: accidentes e incidentes de violencia en la carretera. Un vídeo de un accidente de 2021 mostró un Tesla conduciendo a alta velocidad en una zona residencial golpeando a un niño que iba en bicicleta, según otro exempleado. El niño voló en una dirección y la bicicleta en otra. El vídeo se difundió por una oficina de Tesla en San Mateo, California, a través de chats privados uno a uno, “como la pólvora”, dijo el ex empleado.

Otras imágenes eran más mundanas, como imágenes de perros y señales de tráfico divertidas que los empleados convertían en memes embelleciéndolas con subtítulos o comentarios divertidos, antes de publicarlas en chats grupales privados. Si bien algunas publicaciones solo fueron compartidas entre dos empleados, otras pudieron ser vistas por decenas de ellos, según varios ex empleados.

Tesla afirma en su "Aviso de privacidad del cliente" en línea que sus "grabaciones de la cámara permanecen anónimas y no están vinculadas a usted ni a su vehículo". Pero siete ex empleados dijeron a Reuters que el programa informático que utilizaban en el trabajo podría mostrar la ubicación de las grabaciones, lo que potencialmente podría revelar dónde vivía el propietario de un Tesla.

Un exempleado también dijo que algunas grabaciones parecían haberse realizado cuando los autos estaban estacionados y apagados. Hace varios años, Tesla recibía grabaciones de vídeo de sus vehículos incluso cuando estaban apagados, si los propietarios daban su consentimiento. Desde entonces dejó de hacerlo.

"Podíamos ver el interior de los garajes de la gente y sus propiedades privadas", dijo otro ex empleado. "Digamos que un cliente de Tesla tenía algo en su garaje que era distintivo, ya sabes, la gente publicaría ese tipo de cosas".

Tesla no respondió a las preguntas detalladas enviadas a la empresa para este informe.

Hace unos tres años, algunos empleados encontraron y compartieron un video de un vehículo sumergible único estacionado dentro de un garaje, según dos personas que lo vieron. Apodado "Wet Nellie", el submarino Lotus Esprit blanco había aparecido en la película de James Bond de 1977, "La espía que me amó".

El propietario del vehículo: el director ejecutivo de Tesla, Elon Musk, que lo compró por unos 968.000 dólares en una subasta en 2013. No está claro si Musk estaba al tanto del vídeo o si lo había compartido.

El vehículo sumergible Lotus apodado "Wet Nellie" que apareció en la película de James Bond de 1977, "La espía que me amó", y que el director ejecutivo de Tesla, Elon Musk, compró en 2013. Tim Scott ©2013 Cortesía de RM Sotheby's

Musk no respondió a una solicitud de comentarios.

Para informar esta historia, Reuters se puso en contacto con más de 300 ex empleados de Tesla que habían trabajado en la empresa durante los últimos nueve años y participaron en el desarrollo de su sistema de conducción autónoma. Más de una docena aceptaron responder preguntas, y todos hablaron bajo condición de anonimato.

Reuters no pudo obtener ninguno de los videos o imágenes compartidos, que los ex empleados dijeron que no habían conservado. La agencia de noticias tampoco pudo determinar si la práctica de compartir grabaciones, que ocurrió en algunas partes de Tesla tan recientemente como el año pasado, continúa hoy o qué tan extendida estaba. Algunos ex empleados contactados dijeron que el único intercambio que observaron fue con fines laborales legítimos, como buscar ayuda de colegas o supervisores.

Compartir videos confidenciales ilustra una de las características menos notadas de los sistemas de inteligencia artificial: a menudo requieren ejércitos de seres humanos para ayudar a entrenar a las máquinas para que aprendan tareas automatizadas como conducir.

Desde aproximadamente 2016, Tesla ha contratado a cientos de personas en África y luego en Estados Unidos para etiquetar imágenes que ayuden a sus automóviles a aprender a reconocer peatones, señales de tráfico, vehículos de construcción, puertas de garaje y otros objetos que se encuentran en la carretera o en las casas de los clientes. . Para lograrlo, los etiquetadores de datos tuvieron acceso a miles de videos o imágenes grabadas por cámaras de automóviles que verían e identificarían objetos.

FOTO DE ARCHIVO: La cámara frontal de un Tesla Model S que contiene funciones de piloto automático se muestra durante un evento de Tesla de 2015 en Palo Alto. REUTERS/Beck Diefenbach

Tesla ha ido automatizando cada vez más el proceso y el año pasado cerró un centro de etiquetado de datos en San Mateo, California. Pero sigue empleando cientos de etiquetadores de datos en Buffalo, Nueva York. En febrero, Tesla dijo que el personal había aumentado un 54% en los seis meses anteriores a 675.

Dos ex empleados dijeron que no les molestaba compartir imágenes, diciendo que los clientes habían dado su consentimiento o que la gente hacía mucho tiempo había renunciado a cualquier expectativa razonable de mantener la privacidad de los datos personales. Otros tres, sin embargo, dijeron que les preocupaba.

“Para ser honesto, fue una violación de la privacidad. Y siempre bromeé diciendo que nunca compraría un Tesla después de ver cómo trataban a algunas de estas personas”, dijo un ex empleado.

Otro dijo: “Me molesta porque las personas que compran el auto, no creo que sepan que su privacidad no se respeta... Podríamos verlos lavando ropa y haciendo cosas realmente íntimas. Pudimos ver a sus hijos”.

Un ex empleado no vio nada malo en compartir imágenes, pero describió una función que permitía a los etiquetadores de datos ver la ubicación de las grabaciones en Google Maps como una "invasión masiva de la privacidad".

David Choffnes, director ejecutivo del Instituto de Privacidad y Ciberseguridad de la Universidad Northeastern en Boston, calificó el intercambio de videos e imágenes confidenciales por parte de empleados de Tesla como “moralmente reprobable”.

"Cualquier ser humano normal estaría horrorizado por esto", afirmó. Señaló que la circulación de contenido sensible y personal podría interpretarse como una violación de la propia política de privacidad de Tesla, lo que podría resultar en la intervención de la Comisión Federal de Comercio de EE. UU., que hace cumplir las leyes federales relacionadas con la privacidad de los consumidores.

Un portavoz de la FTC dijo que no hace comentarios sobre empresas individuales o su conducta.

Para desarrollar tecnología de vehículos autónomos, Tesla recopila una gran cantidad de datos de su flota global de varios millones de vehículos. La compañía requiere que los propietarios de automóviles otorguen permiso en las pantallas táctiles de los automóviles antes de que Tesla recopile los datos de sus vehículos. "Sus datos le pertenecen", afirma el sitio web de Tesla.

FOTO DE ARCHIVO: Se muestra un vehículo Tesla Model 3 utilizando el software Autopilot Full Self Driving Beta (FSD) mientras navega por una carretera urbana en Encinitas, California, febrero de 2023. REUTERS/Mike Blake

En su Aviso de privacidad del cliente, Tesla explica que si un cliente acepta compartir datos, “su vehículo puede recopilar los datos y ponerlos a disposición de Tesla para su análisis. Este análisis ayuda a Tesla a mejorar sus productos, características y diagnosticar problemas más rápido”. También establece que los datos pueden incluir "vídeos cortos o imágenes", pero no están vinculados a la cuenta del cliente ni al número de identificación del vehículo, "y no lo identifican personalmente".

Carlo Piltz, un abogado de privacidad de datos en Alemania, dijo a Reuters que sería difícil encontrar una justificación legal bajo la ley de privacidad y protección de datos de Europa para que las grabaciones de vehículos circulen internamente cuando "no tiene nada que ver con la provisión de un lugar seguro". coche o la funcionalidad” del sistema de conducción autónoma de Tesla.

En los últimos años, el sistema de cámara para automóviles de Tesla ha generado controversia. En China, algunos complejos gubernamentales y vecindarios residenciales han prohibido los Tesla debido a preocupaciones sobre sus cámaras. En respuesta, Musk dijo en una charla virtual en un foro chino en 2021: "Si Tesla usó automóviles para espiar en China o en cualquier lugar, nos cerrarán".

En otros lugares, los reguladores han examinado el sistema de Tesla en busca de posibles violaciones de la privacidad. Pero los casos de privacidad han tendido a centrarse no en los derechos de los propietarios de Tesla sino de los transeúntes que no saben que podrían estar siendo grabados por vehículos Tesla estacionados.

En febrero, la Autoridad Holandesa de Protección de Datos, o DPA, dijo que había concluido una investigación de Tesla sobre posibles violaciones de privacidad relacionadas con el "Modo Centinela", una función diseñada para registrar cualquier actividad sospechosa cuando un automóvil está estacionado y alertar al propietario.

Imagen de Reuters

“Las personas que pasaban junto a estos vehículos fueron filmadas sin saberlo. Y los propietarios de los Tesla podrían volver atrás y mirar estas imágenes”, dijo en un comunicado Katja Mur, miembro de la junta directiva de DPA. “Si una persona estacionara uno de estos vehículos frente a la ventana de alguien, podría espiar el interior y ver todo lo que la otra persona estaba haciendo. Esa es una grave violación de la privacidad”.

El organismo de control determinó que no era Tesla, sino los propietarios de los vehículos, quienes eran legalmente responsables de las grabaciones de sus vehículos. Dijo que decidió no multar a la compañía después de que Tesla dijera que había realizado varios cambios en el Modo Centinela, incluido hacer que los faros de un vehículo parpadearan para informar a los transeúntes que podrían estar siendo grabados.

Un portavoz de la DPA se negó a comentar sobre los hallazgos de Reuters, pero dijo en un correo electrónico: "Los datos personales deben usarse para un propósito específico y los datos personales sensibles deben protegerse".

REEMPLAZO DE CONDUCTORES HUMANOS

Tesla llama a su sistema de conducción automatizada Autopilot. Introducido en 2015, el sistema incluía características tan avanzadas como permitir a los conductores cambiar de carril tocando una señal de giro y estacionar en paralelo cuando se les ordenaba. Para que el sistema funcione, Tesla inicialmente instaló sensores de sonar, radar y una única cámara frontal en la parte superior del parabrisas. Una versión posterior, introducida en 2016, incluía ocho cámaras alrededor del automóvil para recopilar más datos y ofrecer más capacidades.

La visión de futuro de Musk es ofrecer eventualmente un modo de “conducción totalmente autónoma” que reemplazaría al conductor humano. Tesla comenzó a implementar una versión experimental de ese modo en octubre de 2020. Aunque requiere que los conductores mantengan las manos en el volante, actualmente ofrece funciones como la capacidad de reducir la velocidad de un automóvil automáticamente cuando se acerca a señales de alto o semáforos.

El sistema de piloto automático de Tesla

Este extracto del manual del propietario del Tesla Model X explica el sistema de piloto automático del automóvil, incluidas las cámaras que graban video de los alrededores del vehículo. Reuters descubrió que los empleados de Tesla compartían clips que capturaban momentos personales sensibles y vergonzosos.

En febrero, Tesla retiró más de 362.000 vehículos estadounidenses para actualizar su software de conducción autónoma total después de que la Administración Nacional de Seguridad del Tráfico en las Carreteras dijera que podría permitir que los vehículos excedieran los límites de velocidad y potencialmente causar accidentes en las intersecciones.

Como ocurre con muchos proyectos de inteligencia artificial, para desarrollar el piloto automático, Tesla contrató etiquetadores de datos para identificar objetos en imágenes y videos para enseñar al sistema cómo responder cuando el vehículo estaba en la carretera o estacionado.

Tesla inicialmente subcontrató el etiquetado de datos a una organización sin fines de lucro con sede en San Francisco entonces conocida como Samasource, dijeron a Reuters personas familiarizadas con el asunto. La organización tenía una oficina en Nairobi, Kenia, y se especializaba en ofrecer oportunidades de capacitación y empleo a mujeres y jóvenes desfavorecidos.

En 2016, Samasource proporcionaba allí unos 400 trabajadores para Tesla, frente a los 20 iniciales, según una persona familiarizada con el asunto.

Sin embargo, en 2019, Tesla ya no estaba satisfecha con el trabajo de los etiquetadores de datos de Samasource. En un evento llamado Tesla AI Day en 2021, Andrej Karpathy, entonces director senior de IA de Tesla, dijo: “Desafortunadamente, descubrimos muy rápidamente que trabajar con un tercero para obtener conjuntos de datos para algo tan crítico simplemente no iba a ser suficiente. eso... Honestamente, la calidad no fue sorprendente”.

Un ex empleado de Tesla dijo sobre las etiquetadoras de Samasource: “Destacaban las bocas de incendio como si fueran peatones… Pasarían por alto objetos todo el tiempo. Su nivel de habilidad para dibujar cajas era muy bajo”.

Samasource, ahora llamada Sama, se negó a comentar sobre su trabajo para Tesla.

Tesla decidió implementar el etiquetado de datos internamente. “Con el tiempo, hemos crecido hasta convertirse en una (organización) de etiquetado de datos de más de 1000 personas que está llena de etiquetadores profesionales que trabajan muy de cerca con los ingenieros”, dijo Karpathy en su presentación de agosto de 2021.

Karpathy no respondió a las solicitudes de comentarios.

Los propios etiquetadores de datos de Tesla trabajaron inicialmente en el área de la Bahía de San Francisco, incluida la oficina de San Mateo. A los grupos de etiquetadores de datos se les asignó una variedad de tareas diferentes, incluido el etiquetado de líneas de carriles de calles o vehículos de emergencia, dijeron ex empleados.

En un momento, los Teslas en piloto automático tenían dificultades para salir marcha atrás de los garajes y se confundían al encontrar sombras u objetos como mangueras de jardín. Por eso se pidió a algunos etiquetadores de datos que identificaran objetos en vídeos grabados dentro de garajes. El problema finalmente se resolvió.

En entrevistas, dos ex empleados dijeron que en sus tareas laborales normales a veces se les pedía que vieran imágenes de clientes dentro y alrededor de sus casas, incluso dentro de los garajes.

“A veces me pregunto si estas personas saben que estamos viendo eso”, dijo uno.

“A veces vi cosas escandalosas, ya sabes, como escenas de intimidad pero no de desnudez”, dijo otro. "Y definitivamente había muchas cosas que no me gustaría que nadie viera sobre mi vida".

Como ejemplo, esta persona recordó haber visto "objetos vergonzosos", como "ciertas prendas de ropa, ciertos artículos de bienestar sexual... y simplemente escenas privadas de la vida de las que realmente estábamos al tanto porque el auto se estaba cargando".

MEMES EN LA OFICINA DE SAN MATEO

Tesla dotó su oficina de San Mateo con trabajadores en su mayoría jóvenes, de entre 20 y 30 años, que trajeron consigo una cultura que valoraba los memes entretenidos y el contenido viral en línea. Antiguos empleados describieron una atmósfera de libertad en las salas de chat en la que los trabajadores intercambiaban bromas sobre las imágenes que veían mientras etiquetaban.

Según varios ex empleados, algunos etiquetadores compartieron capturas de pantalla, a veces marcadas con Adobe Photoshop, en chats grupales privados en Mattermost, el sistema de mensajería interna de Tesla. Allí atraerían respuestas de otros trabajadores y directivos. Los participantes también agregarían sus propias imágenes marcadas, chistes o emojis para mantener la conversación. Algunos de los emojis fueron creados a medida para hacer referencia a chistes internos de la oficina, dijeron varios ex empleados.

Un ex etiquetador describió compartir imágenes como una forma de “romper la monotonía”. Otro describió cómo compartir se ganó la admiración de sus compañeros.

“Si veías algo interesante que provocara una reacción, lo publicabas, claro, y luego, en el descanso, la gente se te acercaba y te decía: 'Oh, vi lo que publicaste'. Eso fue gracioso'”, dijo este ex etiquetador. "Las personas que fueron ascendidas a puestos de liderazgo compartieron muchos de estos elementos divertidos y ganaron notoriedad por ser divertidos".

Parte del contenido compartido parecía memes en Internet. Había perros, coches interesantes y vídeos de personas grabadas por las cámaras de Tesla tropezando y cayendo. También había contenido inquietante, como alguien siendo arrastrado a un automóvil aparentemente en contra de su voluntad, dijo un ex empleado.

A veces también se compartían videoclips de accidentes que involucraban a Teslas en chats privados en Mattermost, dijeron varios ex empleados. Entre ellos se incluyen ejemplos de personas que conducen mal o colisiones que involucran a personas atropelladas mientras andaban en bicicleta, como la del niño, o en una motocicleta. Algunos etiquetadores de datos rebobinarían dichos clips y los reproducirían en cámara lenta.

FOTO DE ARCHIVO: Se ve una cámara en la carrocería de un vehículo eléctrico (EV) Tesla durante un día de prensa para la feria Auto Shanghai, abril de 2021. REUTERS/Aly Song

En ocasiones, los gerentes de Tesla tomaban medidas enérgicas contra el intercambio inapropiado de imágenes en los canales públicos de Mattermost, ya que afirmaban que la práctica violaba la política de la empresa. Aún así, capturas de pantalla y memes basados ​​en ellos continuaron circulando a través de chats privados en la plataforma, dijeron varios ex empleados. Los trabajadores los compartieron individualmente o en pequeños grupos a mediados del año pasado.

Una de las ventajas de trabajar para Tesla como etiquetador de datos en San Mateo era la oportunidad de ganar un premio: el uso de un coche de la empresa durante uno o dos días, según dos ex empleados.

Pero algunos de los afortunados ganadores se volvieron paranoicos al conducir coches eléctricos.

"Saber cuántos datos son capaces de recopilar esos vehículos definitivamente puso nerviosa a la gente", dijo un ex empleado.

Nuestros estándares: los principios de confianza de Thomson Reuters.

Thomson Reuters

Reportero de investigación global ganador del Premio Pulitzer radicado en Londres cuyo trabajo ha incluido el fracaso de Facebook para combatir el discurso de odio en Myanmar, el fraude en las admisiones universitarias en Estados Unidos, cómo el Líder Supremo de Irán controla en secreto un imperio corporativo multimillonario y las sanciones impuestas por empresas chinas en Irán. Anteriormente trabajó en The Wall Street Journal y The Philadelphia Inquirer.