EMPRESAS

Pese a ello, dos mociones en la asamblea de accionistas para poner más controles al software de reconocimiento, fracasaron. Los mayores inversores en Amazon prefieren un enfoque de "esperar y ver" los riesgos de las tecnologías emergentes. 

“Las tecnologías siempre son duales. Hay formas en que se pueden usar indebidamente", dijo Jeff Bezos, director ejecutivo de Amazon, en una conferencia de tecnología por cable el otoño pasado.

El software de reconocimiento facial está siendo sometido a un escrutinio cada vez mayor por parte de grupos de libertades civiles y legisladores. Ahora Amazon, uno de los proveedores más visibles de la tecnología, también se enfrenta a la presión de otro rincón: sus propios accionistas.

Como parte de la reunión anual de Amazon en Seattle el miércoles pasado, los inversores rechazaron propuestas para frenar y auditar su servicio de reconocimiento facial.

Los accionistas habían presentado dos propuestas sobre el reconocimiento facial para una votación. Una le pedía a la compañía que prohíba la venta de su sistema de reconocimiento facial, llamado Amazon Rekognition, a agencias gubernamentales, a menos que su junta concluya que la tecnología no facilita las violaciones de los derechos humanos. La otra le pedía a la compañía que encargue un informe independiente que examine la medida en que Rekognition puede amenazar los derechos civiles, humanos y de privacidad, y las finanzas de la compañía.

A los accionistas les preocupaba un estudio que mostró que la tecnología de Amazon tenía más dificultades que las de sus rivales para identificar el género de las personas de piel más oscura, lo que hace temer que errores conduzcan al encarcelamiento de inocentes.

Las propuestas fueron muy resistidas y el consejo de Amazon hizo recomendaciones en contra.

"Esta pieza de equipo que Amazon ha fomentado y desarrollado y se está propagando realmente en este momento no nos parece que sea lo mejor para el bien común", dijo la hermana Pat Mahoney, miembro de las Hermanas de San José, una comunidad religiosa en Brentwood, Nueva York, que es un inversor de Amazon e introdujo la prohibición de ventas propuesta. "El reconocimiento facial en todo el lugar hace que todos vivan en un estado policial", afirmó.

La semana pasada, San Francisco prohibió el uso de la tecnología de vigilancia facial por parte de la policía y otras agencias de la ciudad. Oakland, California, y Somerville, Massachusetts, cerca de Boston, están considerando prohibiciones similares. A principios de este año, los legisladores estatales de Massachusetts y California presentaron proyectos de ley que restringirían su uso por parte de las agencias gubernamentales.

El año pasado, los inversores presionaron exitosamente a Apple para crear controles parentales más fuertes para los iPhones, advirtiendo que el dispositivo podría ser demasiado atractivo para los niños pequeños. En las próximas semanas, los accionistas de Facebook, Twitter y Alphabet votarán sobre temas relacionados con la interferencia electoral, el discurso de odio, la desinformación y la creación de servicios censurados para China.

"No somos luditas, no somos anti-tecnología", dijo Michael Connor, director ejecutivo de Open MIC, un grupo sin fines de lucro que trabaja con inversores activistas en el sector tecnológico y ayudó a redactar las propuestas de vigilancia facial con los accionistas de Amazon. "Pero sí creemos que todas estas tecnologías deben manejarse e introducirse de manera responsable", agregó.

Amazon, en una carta a la Comisión de Bolsa y Valores de Estados Unidos (SEC por sus siglas en inglés) en enero, la compañía dijo que no tenía conocimiento de ningún uso indebido reportado de Rekognition por parte de los clientes de la ley. También argumentó que la tecnología no presentaba un riesgo financiero porque era solo uno de los más de 165 servicios que ofrecía Amazon.

"Las propuestas solo generan conjeturas y especulaciones sobre los posibles riesgos que podrían surgir" de que los clientes usen mal la tecnología, escribieron los abogados de Amazon en la carta.

En una declaración en respuesta a las preguntas de un periodista, Amazon dijo que ofrecía pautas claras sobre el uso de Rekognition para la seguridad pública, incluida la recomendación de que los organismos encargados de hacer cumplir la ley hagan que los humanos revisen cualquier posible coincidencia facial sugerida por su sistema. La compañía agregó que sus clientes habían utilizado Rekognition con fines beneficiosos, incluida la identificación de más de 3.000 víctimas de la trata de personas.

"No hemos visto a las agencias de aplicación de la ley usar Amazon Rekognition para infringir las libertades civiles de los ciudadanos", dijo la declaración de Amazon.

Amazon se está convirtiendo en un imán nacional para la creciente oposición a la vigilancia facial, una tecnología que se puede usar para identificar y rastrear a personas a distancia sin su conocimiento o consentimiento.

El reconocimiento facial utiliza inteligencia artificial para escanear una foto de una persona desconocida. El software luego compara la plantilla facial de la persona desconocida con una base de datos de plantillas de personas conocidas y, si las plantillas son muy similares.

Los defensores de la tecnología argumentan que tales sistemas ayudan a los organismos encargados de hacer cumplir la ley a identificar más fácilmente a los sospechosos de delitos y a los niños desaparecidos. Los grupos de libertades civiles advierten que la tecnología podría ser mal utilizada para perseguir de manera desproporcionada a los inmigrantes, personas de color y manifestantes, infringiendo sus derechos a la libertad de expresión y el movimiento.

Otras compañías han vendido durante mucho tiempo la vigilancia facial a las agencias de aplicación de la ley, pero Amazon se ha diferenciado, en parte, minimizando las advertencias sobre la tecnología.

El año pasado, Google dijo que se abstendría de ofrecer reconocimiento facial para fines generales hasta que hubiera resuelto las implicaciones de la política. Este año, Bradford L. Smith, presidente de Microsoft, dijo que su compañía había decidido no vender la tecnología de vigilancia a un departamento de policía que buscaba usarla libremente entre el público en general.

En contraste, Amazon recientemente lanzó sus servicios de reconocimiento facial a Inmigración y Control de Aduanas de EE.UU., de acuerdo con los correos electrónicos de la compañía obtenidos bajo la ley de registros abiertos por el Proyecto de Supervisión del Gobierno, un grupo sin fines de lucro con sede en Washington.

Pero al menos algunos grandes inversores institucionales, incluidos los Fondos de Pensiones de la Ciudad de Nueva York, que tienen alrededor de US$ 1.000 millones en acciones de Amazon, votaron a favor de la propuesta de un informe independiente sobre la vigilancia facial.

"Queremos que la junta de Amazon supervise y divulgue cómo Amazon está abordando los riesgos significativos que plantea la venta de tecnología de reconocimiento facial", dijo Scott Stringer, el contralor de la ciudad de Nueva York y el asesor de inversiones de los fondos.

Describió el software como "un producto que podría conducir a violaciones de los derechos humanos y civiles en todo el mundo, especialmente si se vende a gobiernos autoritarios".