Meredith Whittaker no oculta su impaciencia ante el catastrofismo que rodea a la inteligencia artificial. Para ella, las advertencias sobre el potencial de la IA de volverse contra la humanidad son temores “que no tienen fundamento científico”. En su lugar, considera que el verdadero riesgo inmediato proviene de un uso indebido de la tecnología. “El riesgo es muy real”, enfatiza la directora de la Fundación Signal, que gestiona una aplicación de mensajería encriptada homónima. “Pero no se trata de esas historias fantasmales y llamativas de las que hablan los más alarmistas”, añade, recordando un incidente reportado en el que un chatbot de la inteligencia estadounidense generó información falsa sobre un buque chino con material nuclear, lo que casi desencadena una respuesta militar de EE.UU. “Estuvimos a punto de entrar en guerra con China”, refiere a otro medio. “Un sistema que produce información errónea y que casi nos lleva a una guerra con China no debería considerarse superinteligente bajo ningún concepto”. Signal, con entre 40 y 70 millones de usuarios, es un número modesto comparado con los miles de millones de WhatsApp, pero se distingue por su fuerte defensa de la privacidad del usuario, oculta la identidad de quienes envían mensajes desde sus servidores, limitando así la información accesible a terceros y a potenciales hackers. En 2018, Whittaker ganó notoriedad al oponerse al Proyecto Maven, una asociación secreta de Google con el Departamento de Defensa de EE. UU. para utilizar IA en la localización de objetivos mediante drones. Entendió que esto encarnaba un peligro, al “comprimir la cadena de ataque”, cortando el tiempo entre la identificación de un objetivo y la decisión de disparar. En un acto de desobediencia colectiva, junto con miles de empleados, reivindicó públicamente su preocupación: “Esto va a servir para blanquear información errónea y datos falsos”. Al año siguiente, ayudó en la organización de una huelga que reunió a unos 20.000 trabajadores en protesta por la conducción de la empresa en varios temas, incluida la introducción acelerada de nuevas tecnologías. Google eventualmente canceló el contrato, que luego fue asumido por Palantir. Whittaker traza un vínculo directo entre Maven y un ataque aéreo estadounidense contra una escuela en Irán, el cual, según declara, se fundamentó en información de inteligencia errónea que identificó a la institución como objetivo militar. “Esto es precisamente de lo que advertíamos en 2017”, sostiene. Ante esto, Palantir afirmó que “no había pruebas de que el software de Palantir tuviese responsabilidad en esta terrible tragedia”, al tiempo que aclaró que no se hace responsable por los datos subyacentes o la identificación de fallos de inteligencia. En respuesta a la polémica, su director para el Reino Unido y Europa mencionó que “siempre hay una persona involucrada, por lo que siempre hay una persona que toma la decisión final”. El ejército estadounidense aún no ha hecho público el resultado de su pesquisa sobre el ataque a Minab, aunque el secretario de Defensa reiteró que “nunca atacaría objetivos civiles”. Por otro lado, gobiernos como el del Reino Unido han solicitado mayor acceso a las conversaciones en aplicaciones de mensajería, argumentando que su intención es proteger a niños y mujeres. En un evento reciente, el primer ministro expresó que las empresas tecnológicas tendrían que detectar y bloquear imágenes inapropiadas de dispositivos infantiles, o enfrentar consecuencias legales. Whittaker se opone a este enfoque, señalando que los menores podrían evadir tales medidas, y califica la propuesta gubernamental como “un régimen sin precedentes de controles de comunicación e información”. Se le consultó a Whittaker si Signal abandonaría algún país, como el Reino Unido, si se le exigiera debilitar su cifrado. “¡Sí! Dios mío, tengo carácter”, respondió. “No cambia según mi estado de ánimo. No cambia según los asesores”. Frente al riesgo de comprometer la seguridad de aquellos que dependen de la aplicación en situaciones críticas, aseveró: “abandonaríamos el mercado”. Actualmente, la aplicación enfrenta bloqueos totales o parciales en Rusia, China e Irán. Rani Govender, de una organización dedicada a la prevención del abuso infantil, señaló que reciben relatos alarmantes de niños manipulados en plataformas cifradas donde son forzados a generar contenido inapropiado. “Las empresas tecnológicas son responsables de las decisiones de diseño que toman y no pueden ignorar los riesgos que esas decisiones generan para los niños”, destacó. Sin embargo, Signal cuenta con el respaldo de ciertos grupos de mujeres, mayormente del Sur Global, que consideran la aplicación como un recurso esencial. “En tiempos de vigilancia estatal y ataques cibernéticos, Signal es una herramienta de supervivencia”, resaltó Hera Hussain, fundadora de una organización benéfica contra el abuso de género en Asia. A Whittaker se le planteó un caso en Canadá, donde policías intercambiaron mensajes inapropiados en un grupo de Signal, y esos mensajes solo salieron a la luz cuando uno de los agentes los filtró. “Si hubieran tenido esa conversación en la cocina y su hermano los hubiera delatado, ¿entonces diríamos: ‘¿Qué vamos a hacer con las cocinas?”‘, se cuestiona. “Tiene que funcionar para todos o no funciona para nadie. Este es el principio de los derechos fundamentales. Se aplican incluso a los imbéciles”. También hizo referencia a una mujer estadounidense que fue condenada tras la entrega de mensajes por parte de una red social, que demostraban su ayuda a su hija en la obtención de un aborto en un estado donde era ilegal. Para Whittaker, la comunicación privada actúa como un escudo ante diversas formas de daño: “un cónyuge abusivo, un agente de la ley misógino con acceso a una base de datos o un gobierno autoritario que no cree que las mujeres deban recibir educación”. Al preguntarle cómo aconsejaría a una mujer interesada en el sector tecnológico pero que se siente intimidada por el machismo del ámbito, respondió: “¿Te encanta? ¿Te sientas frente a una terminal y sientes una oleada de energía? ¿Disfrutas experimentar con sistemas de IA y definirlos?”. Hizo una pausa y continuó: “¿Eres capaz de desenvolverte en entornos interesantes y complicados donde no todo el mundo va a estar tranquilo? Porque no hay nada más peligroso que ser un cobarde frente a un matón”.
Copyright © 2020. Todos los derechos reservados.