Google está ansiosa por hacer contratos militares; sus trabajadores, no tanto

A principios de noviembre, varias docenas de expertos de la industria militar estadounidense -incluidos oficiales superiores, ejecutivos de contratos de defensa y asesores de grupos de expertos-, se reunieron en un hotel a pocas cuadras del Capitolio para discutir sobre softwares de inteligencia artificial. Mientras todos almorzaban, el general Jack Shanahan, jefe del Centro Conjunto de Inteligencia Artificial (JAIC, por sus siglas en inglés, o ‘Jake’) se sentó en el escenario con su uniforme de gala y conversó con dos civiles en trajes: Eric Schmidt, ex-CEO de Google, y Kent Walker, su principal oficial legal.

La aparición con un oficial militar de alto rango fue ‘un golpe de Estado’ para Google. Durante los dos años anteriores, la compañía y su matriz, Alphabet, habían sido señaladas por ser insuficientemente patrióticas. ¿Sus infracciones? La decisión tomada en 2017 de abrir un laboratorio de inteligencia artificial en Beijing cuando muchos en EU habían señalado esta material como una prioridad nacional al nivel del ‘Proyecto Manhattan’. ¿La otra? La decisión anunciada en 2018 de retirarse del Proyecto Maven, un programa gubernamental secreto para usar software comercial de inteligencia artificial para analizar imágenes de drones militares, ante la presión de los empleados de Google.

En marzo, el general Joseph Dunford Jr., presidente del Estado Mayor Conjunto, se quejó ante un panel del Senado de que Google estaba «beneficiando indirectamente al ejército chino». En julio, Peter Thiel, el principal partidario del presidente Donald Trump en Silicon Valley, llamó a Google aparentemente «traicionero» y sugirió que había sido infiltrado por espías chinos.

Hubo un momento en que Google podría haber usado su impopularidad en Washington como una ‘medalla de honor’, pero la compañía está llegando a su ‘mediana edad’ y cuenta con 140 mil millones de dólares en ingresos por año y un deseo de expandirse a nuevas horizontes de negocios. Eso ha hecho que los contratos militares sean atractivos para el liderazgo de Google, que ve el trabajo en defensa como un paso importante hacia más negocios en el mercado de 200 mil millones de dólares de servicios en ‘la nube’. Los empleados más idealistas de Google están alarmados por esto y ven que la compañía se aleja de su antiguo lema «no seas malvado».

Varios meses después de retirarse del proyecto Maven, Google declinó ofertar un contrato de 10 mil millones de dólares en el proyecto JEDI (la referencia a Star Wars significa Joint Enterprise Defense Infrastructure, o Infraestructura de Defensa Empresarial Conjunta). Sin embargo, la compañía estaba trabajando furiosamente para reparar su relación con el Departamento de Defensa.

Esta primavera, ejecutivos de su división de computación en la nube celebraron una serie de cenas en Washington, invitando a empleados actuales y anteriores de agencias de seguridad nacional.

«El mensaje de ellos fue: ‘Tenemos una mala reputación, pero queremos trabajar con ustedes'», dijo James Lewis del Centro de Estudios Estratégicos e Internacionales y un invitado a la cena.

Google también publicó un anuncio en el Super Bowl de este año, destacando una función de motor de búsqueda que puede ayudar a los veteranos a encontrar trabajo.

Sentado al lado del general Shanahan en el escenario, Walker continuó relatando su experiencia al crecer en bases militares y expresando su frustración de que alguien cuestionara el compromiso de su empleador con la seguridad nacional.

«Esa fue una decisión centrada en un contrato discreto», dijo, refiriéndose a la retirada de Google del Proyecto Maven. «No fue una declaración más amplia sobre nuestra voluntad de trabajar con el Departamento de Defensa».

Google declinó la participación de Walker y otros ejecutivos para este artículo, trabajo que se basa en entrevistas con una docena de empleados actuales y anteriores de Google y 20 personas cercanas al trabajo de los militares en Inteligencia Artificial (IA), así como de otros contratistas militares y activistas en otras compañías.

Shanahan dijo estar satisfecho con Google, un mensaje que las figuras militares replicaron en privado. Un alto funcionario de Defensa dice que la compañía está buscando activamente contratos emitidos por la JAIC, pero la desconfianza permanece.

Algunas partes de la base de empleados de la compañía se encuentran en un estado que se acerca a una rebelión abierta, y altos funcionarios militares temen que Google sea susceptible (de nuevo) a la presión. Incluso, algunos oficiales bromean sobre la cancelación de sus cuentas de Gmail para evitar ayudar al enemigo.

«No sé a quién pondrían en un proyecto de defensa», dice un asistente del Senado estadounidense, expresando su preocupación de que los empleados de Google no apoyen lo suficiente al Gobierno de EU.

«Francamente, no confío en ellos», remarcó.

Es fácil rastrear cualquier controversia política nueva a Trump, pero Google alcanzó un punto de inflexión más sutil un año y medio antes de las elecciones de 2016. El 23 de abril de 2015, Amazon reveló por primera vez el desempeño financiero de su división de computación en la nube. En un informe financiero trimestral, la compañía dijo que Amazon Web Services generó mil 600 millones de dólares en ingresos y que estaba creciendo a una tasa anual de 50 por ciento. Además, señaló que era mucho más rentable que el negocio minorista de Amazon.

Cuando eso ocurrió, casi todos los ingresos de Google provenían de la publicidad. Sus incursiones futuristas en autos autónomos y ciudades inteligentes aún no habían producido muchos ingresos, y sus proyectos más salvajes, como el de ‘curar la muerte’, eran básicamente experimentos científicos inalcanzables. Algunos veteranos de Google describieron el anuncio de computación en la nube de Amazon como un recordatorio de lo atrasada que estaba la compañía en un negocio que, por todos los derechos, debería dominar.

La computación en la nube implica la construcción de centros gigantes de datosy el desarrollo de software para ayudar a las grandes organizaciones a clasificar, compartir y analizar datos automáticamente. Google había estado haciendo este tipo de software desde fines de la década de los noventa, cuando los fundadores Larry Page y Sergey Brin comenzaron a escribir algoritmos para crear un índice de páginas web para su motor de búsqueda.

A lo largo de los años, la compañía se centró en la inteligencia artificial, una tendencia que se aceleró en 2015, cuando Sundar Pichai, quien una vez llamó a la tecnología «más profunda» que el fuego o la electricidad, reemplazó a Page como CEO.

Al año siguiente, Google formó su unidad de inteligencia artificial en la nube, contratando a científicos reconocidos como es el caso de Fei-Fei Li, una especie de ‘mago’ de la visión de computadoras, para promover la tecnología a una amplia gama de industrias. Los ejecutivos de Google Cloud vieron al Departamento de Defensa de EU y su presupuesto anual de 700 mil millones de dólares como un cliente potencial y como una manera de demostrar que podían construir más que motores de búsqueda gratuitos y software de correo electrónico.

Las sospechas sobre uso militar de desarrollos comienzan

Por otro lado, muchos ‘Googlers’ (trabajadores de Google) eran cada vez más hostiles a la idea de cualquier tipo de contratación gubernamental, especialmente después de que Trump sugirió que podría instaurar un registro de musulmanes, y después de que, ya como presidente, emitió una orden ejecutiva que negaba la entrada a varias personas, la mayoría de países musulmanes.

Los empleados firmaron acuerdos de no ayudar a construir ninguna tecnología que permitiera cualquier tipo de represión contra la inmigración y se declararon listos para protestar en público. Brin se presentó en una manifestación en el aeropuerto internacional de San Francisco, y Pichai también parecía comprensivo.

Si bien en público, los ejecutivos de Google expresaban su desaprobación por las políticas de inmigración de la Casa Blanca, la división de la nube de la compañía estaba rediseñando su infraestructura con miras a ‘ganarse’ a los militares.

Un desafío importante fue que Google había integrado todos sus centros de datos en un solo sistema. Eso fue conveniente para apoyar su motor de búsqueda, pero hizo imposible trabajar con datos clasificados del Gobierno. Estados Unidos generalmente requiere una arquitectura informática conocida como ‘brecha de aire’, que involucra a servidores físicamente aislados con un software escrito, de manera que no interactúe con la red más amplia. Cuando Amazon ganó un gran contrato de la CIA en 2013, separó los datos de la agencia de los de otros clientes.

La adaptación de la nube de Google para permitir la ‘brecha de aire’ fue un proceso laborioso que involucró a docenas de distintos equipos, según una persona que trabajó en ello. No hubo nada inherentemente controvertido sobre los cambios, pero algunos empleados se opusieron a hacerlo porque permitirían las asociaciones militares. Un puñado de ingenieros reconocidos en Google (el Grupo de los Nueve, como se les conocía) se negó a trabajar en el proyecto, sentando las bases para una revuelta más amplia.

Esta ocurriría cuando los detalles del Proyecto Maven comenzaron a filtrarse en toda la compañía en enero de 2018. Al principio, el proyecto se discutió a puerta cerrada y en páginas de Google+ solo para empleados. (Google cerró la muy difamada versión de su red social en abril, pero aún sigue vigente una que se utiliza para conversaciones comerciales internas). Luego, Liz Fong-Jones, ingeniera de confiabilidad del sitio para Google Cloud, preguntó en una publicación interna si los militares podrían usar el software de Google para ayudar a orquestar un ataque con drones contra una persona o grupo en particular. La indignación entre los empleados fue rápida. Fong-Jones declinó hacer comentarios.

Google trató de calmar las preocupaciones, argumentando que solo estaba revisando las imágenes de vigilancia y no ayudando con las decisiones de combate. Los ejecutivos también señalaron el pequeño valor del contrato de Maven (alrededor de 9 millones de dólares), pero informes posteriores en el blog de tecnología Gizmodo mostraron que Google esperaba que los ingresos de Maven eventualmente aumentaran a 250 millones de dólares.

Además, los ingenieros que examinaron el código encontraron líneas de software destinadas a identificar automóviles, que interpretaron como evidencia de que Google realmente estaba ayudando a desarrollar herramientas de ataque.

Google y los militares han mantenido que Maven no es un programa de armas; Shanahan dijo recientemente que los drones involucrados ni siquiera estaban armados. No obstante, Jack Poulson, entonces científico informático de la compañía, indicó que estas negaciones no tienen sentido porque la inteligencia producida por el programa podría contribuir a las operaciones de combate.

«La frase de la compañía era que no había implicación letal. Después de eso, el objetivo del proyecto fue cambiado», recordó, al agregar que los ejecutivos argumentaron que mejores datos reducirían potenciales bajas en situaciones de conflicto.

El debate sobre Maven trajo más escrutinio al entusiasmo ‘desenfrenado’ de Pichai por la IA. Los empleados comenzaron a señalar, en los tableros de mensajes internos y, a veces, en público en Twitter, todas las formas en que la IA podría fallar cuando se usa para determinar quién debería obtener un préstamo bancario, vigilar al público o categorizar fotografías digitales de personas con diferentes tonos de piel. Los empleados observaban como la idealista y original misión de Google -organizar la información del mundo-, se estaba convirtiendoen algo más ‘mercenario’.

El conflicto se centró en gran medida en la unidad de nube de la compañía, que tenía incentivos financieros que diferían de los de las empresas de consumo. «La pregunta es: ¿quién es su usuario?», criticó Meredith Whittaker, quien trabajó en Google durante más de una década y se convirtió en uno de sus críticos más feroces.

“El usuario era un ser humano individual, y Google construyó su reputación alrededor de poner al usuario primero. Ahora, para el negocio de infraestructura, que es un negocio en la nube, el usuario son las compañías de petróleo y gas, el usuario es el Departamento de Defensa».

En abril de 2018, 4 mil personas, aproximadamente 5 por ciento del personal a tiempo completo, habían firmado una petición denunciando a Maven. Un número menor renunció.

Google intentó apaciguar a sus empleados sin alejarse del Pentágono. Los miembros del personal y los representantes del Departamento de Defensa celebraron una serie de reuniones. Dos personas que asistieron a uno de ellos recuerdan una discusión cuando Whittaker planteó objeciones éticas a Maven. Otros empleados de Google comenzaron a discutir enérgicamente en defensa del programa. Ver a un posible contratista argumentar sobre la ética de los contratos de defensa era algo nuevo para los empleados del Pentágono. «Fue muy incómodo para todos», recuerda un asistente. Whittaker declinó hacer comentarios sobre cualquier reunión interna.

Públicamente, Google se rindió a sus disidentes, anunciando en junio de 2018 que dejaría de trabajar en Maven una vez que expirara su contrato. Más tarde ese año, anunció que no perseguiría JEDI, el contrato de computación en la nube de 10 mil millones de dólares. Amazon, Microsoft y Oracle compitieron ferozmente por el negocio, que Microsoft ganó en octubre de este año.

No está claro si Google podría haber presentado una oferta seria, porque la compañía ahora apunta a que carecía de certificaciones de seguridad que la mayoría de sus competidores ya habían obtenido. Pero la razón oficial que dio para la decisión sobre JEDI (que podría violar sus principios éticos), reforzó la visión de los críticos de Google.

«Básicamente se rindieron ante un segmento de su fuerza laboral que protestó», se quejó el senador republicano Tom Cotton de Arkansas, un veterano del Ejército de Estados Unidos que forma parte del Comité de Servicios Armados del Senado.

Cotton contó que su oficina se ha comunicado con Google desde que se retiró de Maven, pero no cree que la compañía pueda comprometerse de manera convincente en asumir otros contratos militares dada su dinámica interna. Argumenta que las agencias civiles también deberían evitar tratar con Google. «Les diría que se den la vuelta y se vayan», advirtió.

Otras compañías parecen haber tomado tales amenazas en serio. Las protestas de los empleados se han convertido en algo habitual en los campus tecnológicos, pero la mayoría de las grandes empresas han optado por ignorar cualquier retroceso en lugar de cancelar el trabajo en temas políticamente delicados. Amazon todavía proporciona software de reconocimiento facial a las fuerzas del orden público, y Microsoft no se ha retirado de un plan para construir auriculares de realidad aumentada para soldados. Para los ejecutivos de los competidores de Google, su respuesta a los manifestantes de Maven sirvió como una advertenciasobre lo que no se debe hacer.

No hable de política o las represalias llegarán

Para este verano, el movimiento de protesta de Google mostraba signos de tensión. En julio, Whittaker y otra crítica prominente, Claire Stapleton, anunciaron que dejarían la compañía después de que cada una aseguró que se estaban tomando represalias contra los críticos internos. Google negó la acusación y subrayó que siempre ha fomentado debates técnicos y éticos. Sin embargo, su administración ha tomado una serie de medidas para contrarrestar las protestas de los empleados e incluso ha instituido nuevas pautas que desalientan a los trabajadores a hablar sobre política en la oficina.

Esto ha tenido el efecto de dañar aún más la confianza entre Google y las partes activistas de su fuerza laboral. En noviembre pasado, la compañía informó sobre el despido de un empleado, señalado de haber filtrado información sobre sus colegas a medios de comunicación y suspendió a otros dos por haber hecho un mal uso de datos, pero fuentes internas describieron las acciones disciplinarias como una forma de castigar a los empleados activistas.

Existe una sospecha generalizada entre los activistas dentro de Google de que la empresa continúa haciendo este trabajo en secreto. Los empleados han tratado de llamar la atención sobre las nuevas empresas respaldadas por Alphabet que pueden estar buscando contratos con el Gobierno y han intentado cortar ciertas líneas de trabajo antes de comenzar.

Este verano, un reportero de Bloomberg Businessweek le preguntó a un empleado activista si Google planeaba responder a una propuesta de la Oficina de Aduanas y Protección Fronteriza de EU que buscaba nuevos servicios en la nube. La persona afirmó que los activistas en Google ni siquiera estaban al tanto del proyect. Poco después de la conversación, un grupo de empleados creó una cuenta en Medium y publicó una carta abierta citando la propuesta de la dependencia y exigiendo que Google no persiga dichos contratos.

«Solo tenemos que considerar el papel de IBM en el trabajo con los nazis durante el Holocausto para comprender el papel que puede desempeñar la tecnología enla automatización de las atrocidades masivas«, argumentó la carta.

Alrededor de mil 500 personas en Google firmaron la carta. La compañía y la Oficina de Aduanas se encuentran actualmente en un período de tregua, y los activistas esperan presionar a Google para que rechace el producto comercial cuando expire el piloto, lo que creen que sucederá esta primavera, según un empleado involucrado. Los trabajadores también han comenzado a presionar a la empresa para que deje de trabajar con la industria de los combustibles fósiles.

El liderazgo de Google no ha respondido directamente a esas llamadas. En cambio, la compañía ha introducido principios éticos que rigen a la IA, incluida la promesa de no usarla en «armas u otras tecnologías cuyo objetivo principal o implementación sea causar o facilitar directamente lesiones a las personas«. También ha establecido paneles para revisar la tecnología. En octubre, la Junta de Innovación en Defensa, un panel patrocinado por el Pentágono que lidera Schmidt, lanzó sus propios principios de IA, que siguen de cerca los de Google.

Poulson, quien dejó la compañía en septiembre de 2018, dice que estas listas de principios de inteligencia artificial y las juntas que los debaten siempre serán insuficientes, porque tratan el trabajo de Google con los militares como algo que se debe suavizar con algunos ajustes técnicos. Como muchas de las preguntas más ‘espinosas’ que enfrenta Silicon Valley hoy en día, la relación de Google con los militares no depende de cómo se construye su tecnología avanzada, sino de los valores que determinan cómo se usa.

Parece que hay pocas posibilidades de que activistas como Poulson ‘conviertan’ a los líderes de Google, incluidos Pichai, Page y Brin, para que acepten su opinión. En el evento en Washington, Walker, el principal oficial legal, dijo que Google estaba buscando certificaciones de mayor seguridad para poder trabajar más estrechamente con el Departamento de Defensa en otros proyectos. «Quiero ser claro», dijo. «Somos una orgullosa empresa estadounidense».