¿Puede la IA tener ética? El dilema de delegar decisiones morales a una caja negra

En el año 2026, la Inteligencia Artificial ya no es una herramienta que simplemente sugiere la mejor ruta de entrega o redacta correos electrónicos. Hoy, la IA está integrada en los procesos de selección de personal, en el diagnóstico médico, en la aprobación de créditos hipotecarios y en la gestión de infraestructuras críticas. A medida que delegamos tareas de mayor impacto, nos topamos con una pregunta que la ingeniería por sí sola no puede responder: ¿Puede una máquina ser ética?

Desde la perspectiva de Inversiones Guillermo, la ética no es solo un concepto abstracto de la filosofía; es un factor de riesgo financiero y operativo. Delegar decisiones morales a una «caja negra» —un sistema cuyo proceso de razonamiento es opaco incluso para sus creadores— es uno de los mayores desafíos que enfrentan los directivos en la actualidad.

1. El mito de la neutralidad tecnológica

Uno de los errores más comunes en la toma de decisiones tecnológicas es creer que los algoritmos son neutros porque se basan en matemáticas. Sin embargo, la IA es un espejo de los datos con los que fue entrenada. Si los datos históricos contienen sesgos raciales, de género o socioeconómicos, la IA no solo los replicará, sino que los amplificará a una escala masiva.

La ética en la IA no se trata de que la máquina «sienta» lo que está bien o mal, sino de cómo los humanos programamos las restricciones y los valores dentro de esos sistemas. El dilema surge cuando la lógica de la eficiencia (el objetivo principal de cualquier algoritmo) choca frontalmente con la lógica de la justicia (un valor puramente humano).

2. El problema de la «Caja Negra» (Black Box)

El término «caja negra» se refiere a los modelos de aprendizaje profundo (Deep Learning) donde la complejidad de las redes neuronales hace imposible rastrear exactamente por qué el sistema tomó una decisión específica.

Imagine que su empresa utiliza una IA para decidir a qué empleados despedir durante una reestructuración. El sistema entrega una lista. Usted pregunta: «¿Por qué el empleado X?». Si la respuesta del equipo técnico es «no lo sabemos exactamente, pero el modelo tiene un 99% de precisión en rentabilidad», usted está ante un dilema moral. ¿Es ético actuar basándose en una conclusión que no tiene una explicación lógica comprensible para el afectado?

Delegar estas decisiones sin una capa de Explicabilidad (XAI) es renunciar al liderazgo responsable. En 2026, las regulaciones están empezando a exigir que cualquier decisión automatizada que afecte la vida de una persona sea explicable y apelable.

3. El dilema del tranvía en la era digital

El clásico experimento mental del «dilema del tranvía» —donde se debe elegir entre atropellar a una persona o a cinco— ha pasado de las aulas de ética a los laboratorios de vehículos autónomos y sistemas de triaje hospitalario asistidos por IA.

Si un vehículo autónomo debe elegir entre proteger la vida de sus ocupantes o la de un grupo de peatones en una situación inevitable de accidente, ¿quién programa esa decisión?

• ¿El ingeniero de software en Silicon Valley?
• ¿El gobierno local mediante leyes?
• ¿El dueño del vehículo mediante una configuración de «perfil ético»?

Delegar la moral a una caja negra significa que, por omisión, estamos permitiendo que las decisiones de vida o muerte sean tomadas por optimizaciones estadísticas en lugar de valores consensuados.

4. Sesgos algorítmicos: El «racismo» y «clasismo» del código

En Latinoamérica, el riesgo de sesgo es particularmente alto. Muchos de los modelos de IA que utilizamos han sido entrenados con datos de poblaciones del hemisferio norte. Cuando estos modelos se aplican a contextos locales, pueden fallar estrepitosamente.

• En contratación: Una IA podría descartar candidatos de ciertos barrios simplemente porque históricamente las personas de esa zona han tenido menor estabilidad laboral, perpetuando un ciclo de exclusión.
• En finanzas: Un algoritmo podría negar créditos a emprendedores de sectores informales porque su «comportamiento de datos» no encaja en el estándar tradicional, frenando el desarrollo económico de la región.

5. ¿Quién es responsable cuando la IA se equivoca?

Este es el nudo gordiano del cumplimiento normativo en 2026. Si una IA comete un error ético que resulta en una demanda millonaria o una tragedia humana, ¿quién es el responsable?

1. El desarrollador: Por no prever el sesgo.
2. La empresa: Por implementar un sistema que no comprendía.
3. La IA: (Lo cual es legalmente imposible en la mayoría de las jurisdicciones actuales).

La tendencia legal apunta hacia la Responsabilidad Proactiva. Las empresas deben realizar «Evaluaciones de Impacto Ético» antes de desplegar cualquier IA de alto riesgo. No saber cómo funciona su caja negra ya no es una defensa válida ante los tribunales.

6. La propuesta: Un marco de Ética por Diseño

Para que la IA sea una inversión segura y no una bomba de tiempo reputacional, las organizaciones deben adoptar un enfoque de Ética por Diseño (Ethics by Design). Esto implica:

• Diversidad en los equipos de desarrollo: Equipos compuestos no solo por ingenieros, sino por filósofos, sociólogos y expertos en derecho para identificar sesgos desde el inicio.
• Auditorías de Algoritmos: Revisiones periódicas por parte de terceros para asegurar que los resultados del software se mantienen dentro de los parámetros éticos deseados.
• El «Humano en el Bucle» (Human-in-the-loop): Mantener siempre una instancia de supervisión humana para las decisiones de alto impacto. La IA propone, pero el humano valida bajo criterios morales.

7. Hacia una IA «Socrática»

El futuro no pertenece a las máquinas que tienen todas las respuestas, sino a los sistemas que son capaces de «dudar» y pedir intervención humana cuando se enfrentan a un conflicto de valores. Una IA ética es aquella que reconoce sus propios límites de confianza. Si un algoritmo detecta que la decisión que va a tomar tiene un alto impacto moral y la probabilidad de error es significativa, debería bloquearse y solicitar el juicio de un directivo.

Conclusión: El ADN tecnológico debe ser humano

En Inversiones Guillermo, sostenemos que la tecnología es un multiplicador de la intención humana. Si una empresa es ética, su IA tenderá a serlo; si una empresa solo busca el beneficio a cualquier costo, su IA se convertirá en una herramienta de opresión eficiente.

La IA no puede tener ética porque no tiene conciencia, ni empatía, ni sentido del remordimiento. La ética es, y seguirá siendo, un atributo exclusivamente humano. El dilema de la caja negra se resuelve abriendo la caja, iluminando sus procesos y, sobre todo, recordando que detrás de cada algoritmo hay una persona que decidió qué datos usar y qué objetivos perseguir.

Delegar la moral a una máquina es el camino más rápido para perder la esencia de su negocio. Invierta en tecnología, sí, pero invierta doblemente en el criterio de las personas que la manejan. En la batalla entre la precisión y la moral, la última palabra siempre debe tener un corazón que lata.