Durante años, la EFF ha presionado a las empresas tecnológicas para que asuman compromisos reales en materia de derechos humanos y para que estén a la altura de ellos. En respuesta a la creciente evidencia de que las herramientas de Palantir ayudan a potenciar la abusiva aplicación de las leyes de inmigración por parte del ICE, enviamos a la empresa una carta detallada preguntando cómo se extienden las promesas de su propio marco de derechos humanos a ese trabajo.
Esta publicación explica qué preguntamos, cómo respondió Palantir y por qué creemos que esas respuestas son insuficientes. La EFF no es la única que da la voz de alarma sobre Palantir; grupos de derechos de los inmigrantes, organizaciones de derechos humanos, periodistas y antiguos empleados han planteado preocupaciones similares basadas en informes sobre el papel de la empresa en la aplicación abusiva de la ley de inmigración. Nos centramos aquí en las propias promesas de derechos humanos de Palantir.
De entrada, agradecemos que Palantir estuviera dispuesta a dialogar con respeto y reconocemos que las obligaciones de confidencialidad y seguridad pueden limitar lo que puede decir. No obstante, evaluada frente a los propios compromisos de derechos humanos de Palantir, su decisión de seguir dotando al ICE de herramientas utilizadas en redadas masivas y detenciones discriminatorias es indefendible. Una aplicación de buena fe de esos compromisos debería llevar a Palantir a poner fin a su contrato con el ICE y a rechazar nuevos contratos, o terminar los actuales, con cualquier otra agencia cuyo trabajo viole previsiblemente esos compromisos.
Las promesas públicas de Palantir
Palantir ha afirmado durante mucho tiempo que realiza un análisis integral de derechos humanos en su trabajo. También ha colaborado con el ICE durante años, aparentemente con una capacidad más limitada que la actual. Ha adoptado públicamente los Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos, la Declaración Universal de Derechos Humanos y las Líneas Directrices de la OCDE para Empresas Multinacionales. Además, en su respuesta a la EFF, Palantir afirma que sus responsabilidades legales son solo "el suelo" para evaluaciones de riesgo más amplias.
Ese era el punto de nuestra carta. Preguntamos qué debida diligencia en derechos humanos llevó a cabo Palantir cuando contrató por primera vez con el ICE y el DHS; si realizó el “alcance de riesgo proactivo” que anuncia, cómo revisa el trabajo a lo largo del tiempo, qué ha hecho en respuesta a los informes de mal uso y si ha utilizado “todos los medios a [su] disposición”—incluyendo disposiciones contractuales, supervisión de terceros y rescisión—para prevenir o mitigar daños.
En su mayor parte, Palantir no respondió a nuestras preguntas sobre rendición de cuentas. Sí corrigió un punto: Palantir afirma que actualmente no trabaja con el CBP (Aduanas y Protección Fronteriza), y la evidencia disponible lo respalda, aunque también dejó claro que podría trabajar con el CBP en el futuro.
Palantir también planteó una maniobra de distracción (red herring) que suele desplegar en respuesta a las críticas. Negó haber construido una base de datos 'maestra' para el ICE y negó haber creado una base de datos de manifestantes, que algunos agentes del ICE han afirmado que se había construido. Lo llamamos maniobra de distracción porque esas negaciones eluden los problemas centrales: qué capacidades proporcionan realmente las herramientas de Palantir al ICE.
Para que quede claro, la EFF nunca ha afirmado que Palantir esté construyendo una única base de datos centralizada. Nuestra preocupación se basa en cómo las herramientas de Palantir permiten al ICE consultar y analizar datos de múltiples bases de datos a través de una interfaz unificada, lo que desde la perspectiva de un agente puede ser una distinción sin diferencia real.
En las secciones siguientes, comparamos el relato de Palantir sobre su trabajo para el ICE con la evidencia sobre cómo parecen utilizarse sus herramientas, y explicamos por qué la legalidad, los procesos internos y el “compromiso sostenido con las instituciones cuyas tareas vitales existen en tensión con ciertos derechos humanos” no sustituyen a una verdadera debida diligencia en derechos humanos, porque el respeto a los derechos humanos debe medirse por los resultados, no solo por el proceso.
El trabajo de Palantir para el ICE socava sus propios estándares
Palantir afirma que el ICE utiliza su herramienta ELITE para una “aplicación priorizada de la ley”: para hallar direcciones probables de personas específicas, como individuos con órdenes finales de deportación o cargos penales de alta gravedad. Pero según el testimonio jurado en Oregón, los agentes del ICE utilizan ELITE para determinar dónde realizar redadas de deportación, y el sistema “extrajo de todo tipo de fuentes” para identificar lugares para redadas destinadas a detenciones masivas, incluyendo información del Departamento de Salud y Servicios Humanos, como datos de Medicaid. Una guía de usuario de ELITE filtrada para 'Operaciones Especiales' también instruye a los operadores a desactivar los filtros para "mostrar todos los objetivos dentro de un conjunto de datos de Operaciones Especiales". Esos detalles entran en conflicto directo con la descripción limitada de Palantir sobre el papel de ELITE.
Además, la respuesta de Palantir se apoya en la autoridad legal y en la Ley de Privacidad (Privacy Act). Sin embargo, no identifica ninguna base legal específica para utilizar los datos de Medicaid de esta manera ni explica cómo su software permite ese acceso. Incluso si existiera una teoría legal, convertir información médica sensible en combustible para redadas masivas es difícil de conciliar con sus compromisos de privacidad, equidad y derechos de las comunidades afectadas. Su propio marco de derechos humanos exige lidiar con los daños previsibles que sus productos pueden facilitar, no solo invocar una posible autorización legal.
Diversos informes muestran que muchas personas detenidas por el ICE no tenían antecedentes penales, y mucho menos graves, y en muchos casos no tenían una orden final de deportación. Un porcentaje abrumador de los detenidos eran, o parecían ser, de América Central y del Sur, y casi uno de cada cinco arrestos del ICE fueron arrestos callejeros de personas latinas sin antecedentes penales ni orden de deportación.
Estos hechos plantean preguntas obvias sobre el impacto discriminatorio, el perfilado racial y si las herramientas de Palantir están facilitando prácticas de detención mucho más amplias de lo que la empresa afirma. La respuesta de Palantir no aborda significativamente esas cuestiones, a pesar de los compromisos de la empresa con la no discriminación y el debido proceso.
La carta de la EFF pedía a Palantir que explicara cómo está cumpliendo sus compromisos con las libertades civiles a la luz de informes que vinculan sistemas propiedad de Palantir con el reconocimiento facial y otras herramientas utilizadas para identificar y rastrear a personas dedicadas a observar y grabar a las fuerzas del orden, incluso en relación con las muertes de Renée Good y Alex Pretti. La carta también cita un incidente en el que un oficial escaneó los rostros de manifestantes y observadores y amenazó con añadir sus datos biométricos a una “pequeña y bonita base de datos”. La respuesta de Palantir niega cualquier implicación en dicha base de datos.
Una negación limitada sobre una única base de datos no responde a la pregunta más amplia: si el ICE, su cliente, afirma tener esta capacidad, ¿qué ha hecho Palantir para garantizar que sus herramientas no se utilicen para coartar el discurso protegido, tomar represalias contra los observadores o facilitar el rastreo de personas que participan en actividades protegidas por la Primera Enmienda? Para una empresa que afirma valorar la democracia y las libertades civiles, este no es un tema marginal; toca el corazón de sus compromisos con los derechos humanos.
La legalidad, el proceso y el compromiso con el ICE no son estándares de derechos humanos
Como se mencionó anteriormente, Palantir se apoya fuertemente en el cumplimiento legal. Afirma que el intercambio de datos gubernamentales está “sujeto a, y se rige por, acuerdos de intercambio de datos y supervisión gubernamental” y que cualquier intercambio que facilita se realiza de acuerdo con los “requisitos legales y técnicos, incluidos los de la Ley de Privacidad de 1974”. Describe su papel en ELITE como “integración de datos”, permitiendo al ICE “incorporar fuentes de datos a las que tiene acceso”, incluidos los datos compartidos bajo acuerdos interinstitucionales.
La EFF está muy familiarizada con la Ley de Privacidad; actualmente estamos demandando a la Oficina de Administración de Personal por ella. Pero la respuesta de Palantir no aclara cómo el ICE tiene acceso legal a esta información, cómo garantiza Palantir que se sigan esos procesos legales o cómo el software de Palantir pudo haber permitido el acceso en primer lugar. Lo más crítico es que sigue siendo una respuesta legal a una cuestión de derechos humanos, y el mero cumplimiento legal es insuficiente como estándar de derechos humanos.
La debida diligencia en derechos humanos requiere evaluar los daños previsibles, responder a pruebas creíbles de abuso y cambiar de rumbo cuando los hechos lo exigen, algo que Palantir, sobre el papel, reconoce. Por eso subraya que sus responsabilidades legales son solo “el suelo para [sus] evaluaciones de riesgo más amplias”, señalando cómo trabajó hacia principios de protección de datos al estilo GDPR e incorporó principios de derecho internacional humanitario antes de que esos requisitos se formalizaran. Si esos compromisos significan algo, Palantir tiene que explicar cómo prácticas específicas —como permitir al ICE utilizar datos de Medicaid en redadas masivas— encajan con ese estándar más amplio.
Palantir también se apoya mucho en el proceso. Señala un “enfoque por capas” del riesgo, marcos que supuestamente examinan múltiples dimensiones de la privacidad y la equidad, y registros de auditoría “indelebles” que rastrean cómo se utilizan sus herramientas. Los registros de auditoría no son suficientes para proteger los derechos humanos. Existe una larga historia de regímenes autoritarios que llevan registros exhaustivos de sus abusos contra los derechos humanos. Esas estructuras pueden ser útiles para proteger los derechos humanos, pero solo si se utilizan para detectar daños, activar reevaluaciones y provocar cambios en el diseño, el acceso, el soporte o el cumplimiento de los contratos cuando surgen informes creíbles de abuso.
Por eso instamos a Palantir a que explicara claramente qué informes de mal uso ha recibido, qué cambios realizó y en qué plazo. Una vez más, en lugar de ofrecer ejemplos específicos, Palantir remite a su marco interno y a su voluntad de “avanzar hacia los problemas más difíciles” como prueba de sus esfuerzos eficaces. Pero los derechos humanos son un resultado, no solo un proceso.
La debida diligencia en derechos humanos no es una aprobación única al firmar el contrato; según los Principios Rectores de la ONU, debe ser continua, y los nuevos hechos deben desencadenar una reevaluación. Las quejas, los informes de los medios, las filtraciones, los litigios y los testimonios jurados son exactamente el tipo de eventos que deberían motivar una revisión. Si Palantir tiene un registro de ese trabajo —con qué frecuencia revisa los contratos del ICE, quién realiza las revisiones, qué las desencadena y cómo llegan las conclusiones a la Junta Directiva— tuvo todas las oportunidades para describirlo. En su lugar, ofreció una garantía genérica de que sigue comprometida con los derechos humanos sin entrar en detalles. La confidencialidad puede a veces limitar la divulgación, pero no sustituye a la rendición de cuentas.
Lo que debe ocurrir a continuación
Palantir quiere crédito por “avanzar hacia los problemas más difíciles” y comprometerse con instituciones cuyas misiones, según dice, están “en tensión con ciertos derechos humanos”, manteniendo al mismo tiempo un marco de derechos humanos. Pero cuando el historial incluye redadas violentas, detenciones masivas, uso de datos médicos sensibles, perfilado discriminatorio, represalias contra observadores y muertes vinculadas a operaciones de control de inmigración, remitir a una página de valores no es suficiente; tiene que rendir cuentas de los resultados.
Las políticas corporativas voluntarias de derechos humanos suelen funcionar como mecanismos débiles de rendición de cuentas: las empresas pueden pregonar principios, publicar políticas y responder a las críticas con declaraciones pulidas mientras cambian muy poco sobre el terreno. La respuesta de Palantir encaja perfectamente en ese patrón. La EFF seguirá cuestionando su papel en la aplicación abusiva de la ley de inmigración y exigiendo más responsabilidad a los proveedores de tecnología cuyas herramientas facilitan las violaciones de los derechos humanos. También estamos dispuestos a continuar el diálogo con Palantir con ese fin. Por ahora, algo está claro: Palantir debe reconsiderar su contrato con el ICE y con todas las agencias cuyo trabajo viole previsiblemente los derechos humanos.
