Por Hija Kamran
Mi trabajo me impulsa a examinar críticamente las nuevas tecnologías: cómo se diseñan, para quién están hechas, quién las gobierna, quién se beneficia y quién queda desprotegido ante sus efectos. Este escepticismo me ha convertido en una usuaria tardía de muchas tecnologías emergentes.
El año pasado empecé a cuestionar seriamente si una inteligencia artificial (IA) ética y feminista es siquiera posible. ¿Podría existir una tecnología que nos permita, como feministas y defensoras de derechos humanos, relacionarnos con ella sin comprometer nuestras convicciones ni nuestra defensa de los derechos interseccionales?
Esta duda no nace del cinismo sin fundamento sino de años observando una y otra vez cómo las grandes empresas tecnológicas priorizan sus modelos de negocio frente a las personas que usan sus plataformas. Como dijo Mark Zuckerberg, “Senador, nosotros hacemos publicidad”. Pero más allá de esas declaraciones públicas, en reuniones privadas se confirma que la transparencia y la rendición de cuentas brillan por su ausencia en estas corporaciones. Por ejemplo, ante una pregunta sobre cómo diferencian entre interacción dañina y no dañina para orientar anuncios en una red social, la respuesta fue que los usuarios deben leer los términos de servicio: una forma de eludir responsabilidades cuando el público objetivo no está dispuesto o capacitado para analizar esos textos.
Cada vez que cuestiono la ética de la IA, no es por escepticismo injustificado, sino porque las promesas de mejorar con lenguaje cuidadosamente elaborado y actuaciones simbólicas de escucha no han modificado la realidad ni han servido para proteger nuestros derechos. De hecho, queda claro que en este terreno estamos mayormente solos: ni gobiernos ni empresas protegerán nuestros derechos de manera efectiva.
Por eso, hablar de una IA basada en derechos humanos implica confrontar y desmontar sistemas que se diseñan para consolidar el poder, no para servir a las personas. No debemos aceptar que esa sea la única forma posible de existencia de estas tecnologías.
Cuestionar el status quo tecnológico
La tecnología no es neutral: refuerza estructuras patriarcales y coloniales que han regido nuestras sociedades durante generaciones. Un actor poderoso —en este caso, una corporación tecnológica— determina cómo serán las interacciones sociales y la sociedad acepta sin cuestionar. Estos sistemas son creados por personas con visiones y valores específicos, en lugares concretos, lo que influye decisivamente en qué se considera un “estándar de referencia” y quiénes deben adaptar su realidad para que funcionen sin interrupciones. En definitiva, moldean cómo se ejerce el poder sobre narrativas y vidas.
Es falso el mito de la neutralidad tecnológica, más bien es un argumento de marketing que muchos hemos aceptado. Cada sistema refleja los valores, sesgos y prioridades de sus creadores. La IA no es la excepción: se alimenta de datos que reproducen inequidades, prejuicios y violencia estructural, y luego amplifica esos patrones con autoridad, dificultando su cuestionamiento.
Por ejemplo, los datos usados para entrenar a la IA provienen de grandes cantidades de información extraída de internet, registros públicos y las interacciones cotidianas que no siempre identificamos. Estos datos están marcados por historias de exclusión, racismo, sexismo y desigualdad. La IA aprende y codifica esos prejuicios, presentándolos como resultados neutrales e inteligentes cuando solo es la repetición más eficiente de lo existente.
Además, los sesgos corporativos son evidentes. Las empresas que desarrollan estas tecnologías son entidades lucrativas con accionistas y metas de crecimiento, no instituciones públicas con minorías de sesgo. Esto condiciona qué problemas se abordan y la velocidad de despliegue, a menudo sin evaluar los impactos reales. ¿A quién se expropian tierras para construir grandes centros de datos con impacto ecológico irreversible? ¿De quién es el conocimiento que estas compañías roban y apropian para competir en el desarrollo de la IA más avanzada? ¿Quién será considerado daño colateral en conflictos bélicos potenciado por estas tecnologías? ¿Quién se invisibiliza al alzar la voz sobre las injusticias bajo el discurso del progreso tecnológico?
La consecuencia es que la desigualdad se torna más opaca, oculta tras algoritmos, códigos y complejidad, mientras el mundo digital reproduce problemas del mundo físico, con mayor dificultad para ser detectados y desafiados.
Lo más preocupante es cómo la IA contribuye a la deshumanización creciente. En contextos militarizados, las personas se reducen a simples datos para ser localizados y eliminados en cuestión de segundos. Las decisiones con consecuencias de vida o muerte son filtradas por sistemas incapaces de entender contexto, historia o humanidad. Esta reducción política del ser humano a cifras facilita justificar daños y convertir muertes en tasas de éxito frías.
La IA no puede ser humana
Esta realidad alimenta la narrativa de que la IA reemplazará a los humanos, pero esa idea se desmorona si observamos con detenimiento. La IA puede reconocer patrones, procesar datos a gran escala y generar respuestas convincentes, pero no es humana. No comprende contextos vitales, ni siente, ni mantiene relaciones, ni carga con experiencias vividas.
Simular patrones para aparentar conexión humana no equivale a sentir empatía ni vínculo real. Estas respuestas son meras predicciones estadísticas generadas a partir de datos alimentados, sin conciencia ni responsabilidad. Tratar esa simulación como interacción humana auténtica menoscaba el valor de la convivencia genuina, que es imposible de automatizar: el cuidado, la construcción comunitaria, la resistencia, la empatía, la alegría y el compromiso mutuo.
Incluso la idea de una IA “consciente” es en muchos debates un disfraz para algoritmos predictivos complejos que carecen de comprensión real. Estos modelos no saben qué dicen ni son conscientes de las consecuencias, pues no asumen responsabilidad hacia otros. Esta distinción es crucial cuando la IA toma decisiones que afectan significativamente vidas humanas.
El peligro surge cuando aceptamos que los humanos pueden ser sustituidos, facilitando la implantación de sistemas que nos reducen a datos en multitud de ámbitos como investigación, contratación, vigilancia, salud, bienestar o guerra. Esa lógica convierte a las personas en desechables. Resistir esta narrativa es aferrarse a que la vida humana, la empatía y las relaciones no pueden ser reducidas a simulaciones mecánicas.
Si realmente queremos un enfoque de derechos humanos hacia la IA, primero debemos abandonar la ilusión de que la tecnología puede reemplazarnos, priorizarnos o definir qué significa ser humano. No puede ni debe hacerlo, porque todo lo que utiliza —tierra, recursos, tiempo, energía, ecosistemas— proviene de un mundo habitado por seres vivos desde mucho antes que estas tecnologías se imaginaran. Reconocer esto implica entender que la IA jamás debe poner en riesgo la vida ni la dignidad ni los cimientos que la hacen posible.
La necesidad de rendición de cuentas
No obstante, la carga de proteger el mundo no puede recaer sobre quienes menos poder tienen para influir en la tecnología. Hoy las decisiones se toman en espacios inaccesibles para la mayoría, pero somos nosotros quienes enfrentamos las consecuencias. Priorizar un enfoque de derechos implica exigir que la responsabilidad recaiga donde está el poder.
Esto también requiere una actitud crítica desde el inicio, no solo tras el daño. Debemos plantear preguntas incómodas: ¿de dónde viene esta tecnología? ¿Quién la creó? ¿Cómo funciona? ¿Quién se beneficia realmente? Si no lo hacemos, aceptamos estas herramientas como inevitables, cuando en realidad son decisiones. Perder de vista que el futuro debería estar construido en torno a seres vivos y no a máquinas es un error fundamental.
Hija Kamran (ella) es editora en jefe de GenderIT.org y estratega en defensa de derechos dentro del Programa de Derechos de las Mujeres de APC. Su trabajo se centra en la intersección de tecnología, género y derechos humanos.
