La Inteligencia Artificial presenta desafíos técnicos y regulatorios que se convierten en dilemas éticos especialmente en las prácticas educativas. 

Se presentan cuestiones fundamentales como la capacidad de los sistemas automatizados para tomar decisiones moralmente válidas, el manejo de los derechos individuales frente al procesamiento de datos sensibles por los algoritmos, y la redefinición de la autoría y la integridad académica para textos generados automáticamente.

Aunque la inteligencia artificial no posee conciencia ni moralidad propia, sus decisiones tienen efectos concretos en nuestras vidas. Esto se debe a que las decisiones de la IA tienen marcos normativos definidos por humanos y al procesar datos, los algoritmos reproducen valores, sesgos e intereses, muchas veces implícitos, que no son neutrales ni universales. 

Estamos obligados a examinar quién define las reglas, qué fines persiguen los sistemas de IA y cuáles son las consecuencias para la justicia, la equidad y el bienestar humano. 

La noción de programar una máquina perfecta también nos enfrenta con la ausencia de un consenso sobre lo que sería moralmente correcto en contextos sensibles como la justicia, la salud o la educación.

La UNESCO (2021) sostiene que la Inteligencia Artificial debería desarrollarse y utilizarse de acuerdo con valores humanos, destacando que la decisión moral sigue siendo una responsabilidad humana. 

Mitcham (1989, 1994) ha proporcionado herramientas teóricas para distinguir entre acción humana y funcionamiento técnico, ayudando a analizar si la Inteligencia Artificial toma decisiones morales o simplemente reproduce patrones programados. 

Lawler (2008), desde una mirada ontológica, cuestiona si los artefactos técnicos, como la Inteligencia Artificial, pueden poseer intencionalidad o conciencia moral. 

Monterroza Ríos (2011) analiza los artefactos, lo que permite preguntarse si la Inteligencia Artificial puede ser incluida dentro de una ética de la responsabilidad.

Broncano (2000) nos dice que las decisiones relacionadas con la Inteligencia Artificial no se ubican solo en el plano de lo técnicamente posible, sino también en el de lo moralmente legítimo y lo culturalmente significativo. Este enfoque destaca que, aunque la Inteligencia Artificial pueda ampliar nuestras capacidades, las decisiones sobre cómo usar esas capacidades están siempre atravesadas por valores, identidades y contextos culturales, lo que impide delegar la moralidad a los algoritmos.

En resumen, la Inteligencia Artificial puede simular decisiones basadas en principios éticos programados, pero no puede actuar como un agente moral autónomo. El juicio ético, la intencionalidad y la responsabilidad continúan siendo cualidades exclusivamente humanas. La pregunta más urgente no es si la Inteligencia Artificial puede ser moral, sino cómo nos responsabilizamos socialmente de sus usos y consecuencias.

Bibliografía

• Anders (2023)
• Beijing Consensus (2019)
• Broncano (2000)
• Comisión Europea (2022). Directrices éticas sobre el uso de la inteligencia artificial y los datos en la educación y formación para los educadores
• Lawler (2008)
• Mitcham (1989, 1994)
• Monterroza Ríos (2011)
• UNESCO (2021)