Este artículo ofrece una revisión de los desafíos contemporáneos de la ética de la inteligencia artificial (IA), partiendo de las aproximaciones actuales de la ética aplicada a la tecnología. Se analiza la contribución de Mario Bunge a la tecnoética y su relevancia en el contexto actual, caracterizado por el auge de sistemas autónomos, el aprendizaje automático y la toma de decisiones algorítmica. A partir de este marco, se examinan cuestiones clave como la transparencia, la equidad, la responsabilidad y el impacto social de la IA. Se comparan distintas perspectivas, destacando los debates sobre el equilibrio entre innovación y control ético. Finalmente, se proponen líneas de trabajo para fortalecer una ética de la IA que responda a los desafíos emergentes.
La política social costarricense dispone actualmente del Sistema Nacional de Información y Registro Único de Beneficiarios del Estado (SINIRUBE), que incorpora el uso de Inteligencia Artificial (IA) para implementar una única forma de medición de pobreza de carácter predictivo. A pesar del amplio desarrollo normativo y operativo efectuado, la lectura ética del SINIRUBE, según lo indicado en la Recomendación sobre la ética de la inteligencia artificial de la UNESCO y el documento Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe, de la OCDE y la CAF, así como los aportes deontológicos de las personas profesionales en trabajo social que participan en su ejecución, permite comprender los dilemas éticos asociados con la opacidad de su algoritmo, la desinformación respecto a su funcionamiento y la deshumanización del proceso a los que hacen frente los agentes morales que participan del sistema, así como poner en tela de juicio el cumplimiento de los derechos humanos, sobre todo para el caso de las poblaciones excluidas de los servicios asistenciales.
Este artículo explora el debate acerca de la ética en el desarrollo de inteligencia artificial (IA), con el propósito de contribuir con la comprensión de sistemas sociotécnicos que integren la deliberación ética y la codificación de criterios de decisión en el desarrollo de sistemas inteligentes. Se inicia con un examen de los temas de ética y responsabilidad en el contexto de los sistemas inteligentes y los agentes autónomos. A continuación, se consideran los marcos interpretativos de bienes públicos (ciencia abierta) y bienes privados (ciencia mercantil), abordando los discursos de dos entes multilaterales y dos empresas, respectivamente. En este artículo se considera la coconstrucción de sistemas sociotécnicos donde se reconozca la pertinencia de la ética y la responsabilidad, se conciba el desarrollo informático como práctica social y las demandas éticas sean transferidas operativamente a los sistemas inteligentes a través de métodos de diseño orientado a valores. Finalmente, se discute la relación entre la ética y el desarrollo tecnológico con respecto a la cocreación de sistemas sociotécnicos y sistemas inteligentes que cumplan con criterios de responsabilidad.
La inteligencia artificial generativa (IAG) está irrumpiendo en la educación superior con el potencial de revolucionar la enseñanza, el aprendizaje y la investigación. Sin embargo, su integración en la investigación en ciencias sociales, especialmente en la etnografía digital, plantea interrogantes sobre sus limitaciones e implicaciones éticas. Este artículo propone un protocolo para estudios exploratorios utilizando la IAG en ciencias sociales. Primero, argumenta el potencial de la IA para analizar grandes volúmenes de datos, identificar patrones y generar hipótesis. Segundo, destaca la “exploración” como herramienta clave en la etnografía digital. El protocolo incluye identificar el modo de conocer, seleccionar herramientas de IA, recopilar y analizar datos, y generar conclusiones. Se reflexiona sobre su implementación como recurso valioso para investigaciones sistemáticas y rigurosas. Finalmente, se concluye que la IAG, junto al protocolo propuesto, puede transformar la investigación social.
En respuesta a las profundas consecuencias de la implementación de la inteligencia artificial (IA) en la vida humana, numerosos académicos han tornado su reflexión experta a lo que se ha llamado la ética de la inteligencia artificial, una disciplina que agrupa múltiples sectores del saber en torno al objetivo común de reducir los riesgos asociados a esta tecnología e, idealmente, potenciar su aporte positivo. Sin embargo, a pesar del esfuerzo colectivo que se está llevando a cabo, se puede ver aún una suerte de disociación entre expertos técnicos y humanistas. El presente artículo evalúa el rol social de la academia humanista y el fenómeno del razonamiento práctico periférico (RPP), para luego proponer la alfabetización recíproca bicondicional (ARB) en las técnicas y desafíos de la IA. Finalmente, se presenta una propuesta con los contenidos mínimos para promover la alfabetización en IA entre los académicos humanistas para permitir una verdadera ética práctica sobre la IA.
El desarrollo acelerado de la inteligencia artificial (IA) constituye uno de los fenómenos más significativos y disruptivos del siglo XXI, tanto por su capacidad de transformar las estructuras que cohesionan la sociedad actual como por las consideraciones éticas que suscita su aplicación. En un contexto global en el que convergen simultáneamente múltiples crisis sociales, políticas, económicas y ambientales, la IA se presenta como promesa y amenaza a la vida como la conocemos. Su impacto no se limita a la esfera técnica, sino que afecta las dinámicas de poder, la organización y productividad del trabajo, la educación y socialización, la producción académica y la formulación de políticas públicas. Ante las inquietudes y los interrogantes que estos avances tecnológicos plantean, la reflexión ética emerge como condición imprescindible para que esta tecnología esté al servicio del ser humano, y evitar que se convierta en instrumento de exclusión o dominación. Este artículo propone un abordaje interdisciplinario desde las ciencias sociales, incorporando una reflexión metaacadémica: el uso de la IA como herramienta para analizarse a sí misma de manera de contribuir a los desafíos contemporáneos.
A diferencia de otras innovaciones tecnológicas, el rápido desarrollo de los sistemas de inteligencia artificial ha generado un debate, que no puede ser definido como trivial, sobre la ética que debe caracterizar esta transformación. En los últimos cinco años, la Santa Sede ha contribuido de manera significativa al nacimiento de la “algorética”, tanto a través de varias intervenciones del Pontífice como gracias a iniciativas y documentos propuestos por algunos organismos del Vaticano directamente involucrados en este campo. A través de una metodología que ha privilegiado la participación de todos los actores de este proceso, la cuestión de la ética de la inteligencia artificial se ha basado en un juicio positivo, pero no ingenuo, de estas tecnologías. El resultado es una reflexión ética que no se limita a la reducción de posibles riesgos y que, más bien, plantea la pregunta de qué futuro para el hombre y la sociedad se quiere y se puede construir, gracias a la introducción de los sistemas de inteligencia artificial, y cuáles son las condiciones para que esto pueda suceder.
El uso de la inteligencia artificial (IA) en la administración pública ha crecido significativamente en la última década debido a los múltiples beneficios de esta tecnología en las funciones de gobierno. Sin embargo, esto también ha dejado en evidencia una serie de efectos adversos como la presencia de sesgos algorítmicos que derivan en decisiones que pueden ser discriminatorias e injustas para ciertos individuos y grupos sociales. El objetivo de esta investigación es identificar y analizar las causas de los sesgos algorítmicos presentes en los sistemas de IA de la administración pública, así como sus consecuencias éticas, políticas y sociales. Para ello se analizan cuatro casos representativos a nivel internacional de modelos de predicción de riesgo basados en IA que son utilizados en diferentes ámbitos de la administración pública. El resultado de este análisis muestra que los sesgos algorítmicos se producen en la etapa de diseño y de entrenamiento de los algoritmos, generando afectaciones importantes en el acceso a derechos fundamentales, servicios públicos y programas sociales. La sociedad civil juega un papel fundamental al momento de evidenciar los sesgos algorítmicos y sus consecuencias, así como para contribuir a generar estrategias para la implementación ética de esta tecnología.
Este artículo aborda los principales problemas ético-políticos vinculados con el desarrollo y la implementación de sistemas de inteligencia artificial (IA), situándolos en el marco más amplio de la digitalización de la experiencia vital y sus efectos en la producción de subjetividades contemporáneas. A partir de una perspectiva de filosofía política crítica, se examinan las tensiones entre las promesas tecnológicas de la IA y sus efectos concretos en contextos sociales desiguales. El artículo se organiza en tres partes. En primer lugar, se discuten los principales enfoques teóricos recientes sobre la IA desde perspectivas tecnocríticas, tecnooptimistas, marxistas y poshumanistas. En segundo lugar, se analizan los problemas específicos que surgen de la implementación de estos sistemas, especialmente el sesgo algorítmico, las nuevas formas de vigilancia y extracción de datos, y los efectos sobre la subjetivación. Por último, se presentan los debates actuales en torno a la gobernanza de la IA, destacando tanto las agendas globales como las discusiones emergentes en América Latina. A modo de conclusión, se propone superar las posturas tecnofóbicas y solucionistas, y se recupera la idea de “tecnodiversidad” (Hui, 2021) como un horizonte posible para pensar desarrollos tecnológicos situados, heterogéneos y atentos a las especificidades regionales.
Este artículo indaga en los “problemas de la IA”, cómo se definen y a través de qué discursos se despliegan, colocando el foco en las relaciones asimétricas de poder que moldean su diseño, desarrollo y usos. En particular, aborda tres problematizaciones que son parte de las agendas gubernamentales y de la sociedad: i) el atravesamiento de los sistemas de IA en la vida cotidiana de las personas y sus formas de adopción; ii) la convergencia tecnológica y los debates sobre la recolección y utilización de los datos personales; y iii) la creciente influencia de los discursos hegemónicos de las grandes corporaciones tecnológicas en la configuración de la esfera pública digital. Finalmente, se reflexiona sobre la urgencia de proteger y garantizar el pleno ejercicio del derecho humano a la ciencia en cuanto a posibilidades de acceso a las tecnologías digitales y, principalmente, a la construcción de instancias de participación para la toma de decisiones sobre su diseño, desarrollo, uso y regulación.
Un rasgo central de este dossier es su anclaje iberoamericano y latinoamericano. Una mirada transatlántica que recoge trabajos de nuestra región con características socioculturales diferenciadas de otras geografías. Gran parte de los debates sobre IA, sesgos algorítmicos y género se ha desarrollado en contextos anglosajones o en instituciones académicas que lideran los rankings internacionales. Sin embargo, las desigualdades de género, las brechas digitales, los ecosistemas mediáticos, las culturas periodísticas, las políticas científicas y las formas de circulación del conocimiento adoptan configuraciones específicas en América Latina, España y otros espacios iberoamericanos. Esta pluralidad territorial y metodológica permite discutir la IA como un conjunto de sistemas que se insertan en contextos sociales concretos, más allá de una tecnología universal con efectos homogéneos.
En los últimos años, el interés mediático por la inteligencia artificial (IA) ha crecido de forma exponencial, impulsando debates sobre sus aplicaciones, beneficios y riesgos. En este contexto, las fuentes expertas desempeñan un papel clave en la construcción del discurso informativo. Este artículo examina la cobertura mediática de la IA desde una perspectiva de género, con especial atención a las fuentes utilizadas. Para ello, se analizan las piezas periodísticas publicadas durante los primeros seis meses de 2025 en las ediciones digitales de El País y El Mundo que incluyen en su titular los términos “Inteligencia Artificial” o “IA”, identificando un total de 529 fuentes personales. Los resultados evidencian una notable asimetría de género en la selección de fuentes, pues las mujeres representan el 26,84% del total. Asimismo, se observa una clara segregación horizontal en función de la temática y del rol asignado. Esta infrarrepresentación femenina puede influir tanto en la manera en que se abordan cuestiones clave como en la construcción del imaginario sobre qué actores poseen legitimidad para intervenir en el debate público. En este sentido, la incorporación de voces diversas no solo responde a un principio de equidad, sino que también resulta fundamental para enriquecer la calidad y pluralidad del debate en torno a la IA.
En este artículo abordamos la noción de tecnología entrañable propuesta por Miguel Ángel Quintanilla, situándola en el contexto de las elaboraciones de este autor sobre el desarrollo tecnológico. En particular, consideramos que la noción de tecnología entrañable supone una novedad porque propone un marco normativo para construir un desarrollo tecnológico integral y, simultáneamente, alternativo al actualmente existente. Al mismo tiempo, constituye un prisma conceptual para analizar la noción misma de desarrollo tecnológico. Por otro lado, comentamos algunos rasgos de esta noción empleando ejemplos que provienen de la denominada inteligencia artificial. Finalmente, señalamos que esta propuesta comporta un punto de vista político y ético sobre las sociedades actuales y futuras, puesto que involucra compromisos con fines determinados en el diseño y la producción de mundos artificiales, comprometiéndose con una concepción de lo que es una vida humana digna de ser vivida.
El conjunto de acciones y elementos que se pone en juego en la formación de educadores puede ser visto como un sistema técnico, específicamente delineado con fines que son parte del resultado al egreso de las carreras. El perfil logrado en esa formación se vuelve relevante como acervo de capacidades y características de la nueva cohorte de docentes que pasarán a desempeñarse en el sistema educativo para la formación ciudadana. De este modo, la formación de educadores puede verse como un sistema que prepara agentes que intervendrán en otro sistema para lograr objetivos en esa segunda etapa. Siguiendo el marco teórico propuesto por Miguel Ángel Quintanilla, analizamos esta concatenación para visualizar la importancia de una representación compartida sobre ambos sistemas por parte de los distintos tipos de agentes involucrados en ella.
Este artículo analiza la cuestión de la alienación tecnológica desde el punto de vista de la filosofía sistémica de la técnica de Miguel Ángel Quintanilla y, en particular, desde su marco de las tecnologías entrañables. Para eso se parte de la propuesta clásica de Langdon Winner acerca de la politicidad de los artefactos para señalar distintos modos en que los artefactos generan extrañamientos cuya consecuencia colectiva es política, y se señalan desde allí las distintas arenas de lucha donde deben desarrollarse las acciones tácticas para lograr la entrañabilidad en los artefactos, en aras de una sobrenaturaleza más democrática (y en consecuencia menos alienante).
La Investigación e Innovación Responsables -IIR, en sus variadas acepciones- se están planteando como guía para la producción y el uso del conocimiento. El concepto, surgido de Europa, adquiere proactividad mirado desde el Sur: responsabilidad respecto de la solución de problemas que afectan a las grandes mayorías. Así, responsabilidad se une con solidaridad, dando lugar a la Investigación e Innovación Solidarias y Responsables (IISyR). Quienes investigan e innovan juegan un papel central en la IISyR, pero no pueden hacerlo en soledad. Hay responsabilidades compartidas para que ello se logre; pretender que todo el contexto en el que la investigación y la innovación ocurren permanezca inalterado y que la IISyR avance es quimérico. En este artículo se analizan brevemente algunas de las esferas de acción cuyas transformaciones son necesarias para abrir espacios a la responsabilidad y la solidaridad en la producción de conocimientos: la formación de grado, la política de investigación, la evaluación académica y la demanda organizada por innovaciones que solucionen problemas. También se indica brevemente, a través de ejemplos latinoamericanos, que la IISyR es algo a potenciar, pues ya existe.
Este artículo examina críticamente el marco de la Investigación e Innovación Responsables (RRI, por sus siglas en inglés) desde una perspectiva feminista y pluralista, señalando sus limitaciones epistémicas y proponiendo su reformulación en clave de innovación epistémicamente responsable. Se argumenta que la RRI, aunque promueve la anticipación de impactos y la participación pública, ha mantenido una concepción tecnocrática de la responsabilidad, sin revisar los supuestos epistemológicos que estructuran la innovación. Innovación responsable, sí, pero responsable con quién, para quién y bajo qué criterios. A partir de las epistemologías feministas y del enfoque del proyecto Gendered Innovations, se sostiene que integrar el análisis de género no solo mejora la equidad, sino que produce conocimientos más robustos y tecnologías más eficaces. El artículo defiende un modelo de innovación epistémicamente responsable basado en el pluralismo epistémico y la responsabilidad epistémica capaz de redistribuir la autoridad epistémica, reconocer saberes marginados e instituir marcos de responsabilidad colectiva. En lugar de limitarse a gestionar riesgos, se propone una innovación orientada a transformar las condiciones estructurales de producción del conocimiento, incorporando voces, cuerpos y valores históricamente excluidos. La RRI, así entendida, no es solo un imperativo ético, sino una estrategia epistemológica para ampliar los márgenes de lo posible en ciencia y tecnología.
El enfoque de la Investigación e Innovación Responsables (RRI, por sus siglas en inglés) plantea un cambio paradigmático en el modo de hacer ciencia e innovación, proporcionando una orientación epistémica y normativa tanto para el diseño propositivo de la innovación tecnocientífica como para el examen crítico de los obstáculos a la realización de sus principios. A partir del abordaje de un problema de contaminación ambiental generado en la producción de bioetanol como nuevo eslabón de la innovación agrobiotecnológica en Argentina, este artículo analiza dispositivos de no inclusividad y no respuesta de prácticas e instituciones científico-tecnológicas locales a las demandas ciudadanas de generación de conocimientos y validación de sus saberes. El artículo apuntala, así, los principios de la RRI con la noción de injusticia epistémica.
En las políticas públicas de la Comisión Europea, las tecnologías digitales son consideradas clave para abordar desafíos medioambientales. En este artículo analizamos críticamente cómo la política de la doble transición ecológica y digital se implementa en España, tomando como estudio de caso el Proyecto Estratégico para la Recuperación y Transformación Económica, destinado al vehículo eléctrico conectado. El análisis se basa en un mapeo de las tecnologías digitales, las funciones, el dominio de actuación, los beneficios esperados y las empresas beneficiarias de los fondos europeos dirigidos al vehículo eléctrico y a la digitalización. Los resultados revelan que: i) los beneficios que se persiguen son en primer lugar económicos, quedando la sostenibilidad ambiental supeditada al interés económico; ii) se apuesta por los vehículos eléctricos bajo el supuesto de que son sostenibles y las tecnologías digitales que se desarrollan dejan sin responder muchas incertidumbres respecto a su sostenibilidad; y iii) la gobernanza ambiental se redirige hacia el desarrollo de soluciones tecnológicas y digitales, excluyendo debates más amplios sobre la sostenibilidad del sector transporte.
El COVID-19 interpeló de manera urgente las formas en que los conocimientos científicos podían dar respuestas a los múltiples y complejos problemas presentados. Así, la investigación interdisciplinaria parecía ser el camino para transitar el recorrido de las soluciones creadas. En Uruguay, la Universidad de la República (Udelar) no fue ajena a esa situación y reaccionó con rapidez para aportar a la solución de los problemas presentados en su contexto. Este artículo tiene un doble objetivo: i) analizar cómo se llevaron a la práctica diferentes procesos interdisciplinarios, qué formas de organización se dieron y cómo se integraron los diferentes conocimientos; y ii) reconocer en dichos procesos los roles que asumieron los investigadores y las habilidades construidas para arribar a la creación de las soluciones a los problemas abordados. Para llevar adelante este análisis, se seleccionaron tres experiencias que diseñaron tres dispositivos -hisopos, desinfectante de mascarillas y oxigenador de alto flujo-, buscando atender problemas generados en el ámbito de la salud.
