La cara B de la co-inteligencia: cómo aumentar nuestras capacidades sin dejar de pensar por nosotros mismos
Hace una semana publiqué un artículo en el que presentaba las oportunidades que puede ofrecer a los seres humanos su relación con la inteligencia artificial. Aquel texto buscaba ser un canto a la esperanza frente al cada vez más habitual discurso de que “la IA va a terminar con la humanidad”, proponiendo explorar un modelo de Humano × IA en el que ambas inteligencias trabajen de forma complementaria.
Es una visión que sigo manteniendo, pero no podemos obviar que existen riesgos reales (y otros todavía inciertos) asociados al uso de la inteligencia artificial. La historia nos ha demostrado en numerosas ocasiones que toda tecnología capaz de amplificar nuestras fortalezas también puede amplificar nuestros errores y nuestras debilidades, e incluso utilizarse de forma dañina o destructiva.
Como ocurre con cualquier nueva tecnología: «Un gran poder conlleva una gran responsabilidad»
Esta es la cara B de la co-inteligencia: los riesgos que conviene conocer, anticipar y controlar si queremos aprovechar todo su potencial sin renunciar a nuestro criterio, nuestra autonomía y nuestra responsabilidad.
¿Habilidades aumentadas o habilidades atrofiadas?
Un futuro de habilidades aumentadas resulta muy prometedor, pero también corremos el riesgo de atrofiar e incluso perder determinadas capacidades simplemente porque empezamos a delegarlas en la inteligencia artificial.
A nadie le resultará extraño pensar que, desde que externalizamos buena parte de nuestra navegación y orientación en los GPS, nos hemos acostumbrado a movernos por las ciudades dependiendo de ellos. Es un buen ejemplo de lo que ocurre cuando delegamos determinadas acciones cotidianas que pueden resultar tediosas: dejamos de practicar una habilidad y, con el tiempo, podemos perder parte de nuestra capacidad para ejercerla de forma autónoma.
Con la IA el fenómeno puede ir mucho más lejos, porque en muy poco tiempo hemos empezado a externalizar partes del propio proceso de razonamiento.
- Un desarrollador que utiliza IA para aprender, revisar código y explorar alternativas puede aumentar enormemente sus capacidades. Pero otro puede terminar aceptando código que ya no comprende.
- Un consultor puede utilizar IA para contrastar una hipótesis, buscar contradicciones o explorar escenarios. O puede pedirle directamente que construya la hipótesis, realice el análisis y formule la conclusión.
La diferencia es enorme.
Podemos utilizar la IA para pensar mejor o para evitar pensar. La herramienta es la misma; el resultado no.
Para evitarlo, debemos conservar deliberadamente la mirada crítica, el razonamiento y la comprensión de aquello que estamos haciendo. La persona debe seguir entendiendo aquello sobre lo que conserva responsabilidad. Porque delegar la ejecución no debería significar delegar también la comprensión.
¿De productividad aumentada a errores aumentados?
Una de las principales fortalezas de la inteligencia artificial es, precisamente, su capacidad de escalar. Pero la escala no distingue entre aciertos y errores.
La inteligencia artificial no solo puede escalar nuestras capacidades. También puede escalar nuestras equivocaciones.
En el punto en el que nos encontramos actualmente, el comportamiento de los sistemas de IA depende en gran medida de los datos con los que han sido entrenados, de los objetivos que se les han definido y del contexto en el que se utilizan. Todo ello puede introducir efectos no deseados: sesgos, errores, simplificaciones excesivas o conclusiones incorrectas
Cuando integramos IA dentro de procesos automatizados, esos errores dejan de ser puntuales y pueden repetirse a gran escala. Una persona puede equivocarse en una decisión. Un sistema automatizado puede reproducir el mismo error cientos, miles o millones de veces antes de que alguien lo detecte.
Por eso, cuanto mayor sea el impacto de una decisión, mayor debería ser también el nivel de supervisión, validación y posibilidad de revisión humana. Automatizar no elimina la necesidad de controlar; en muchos casos, la hace todavía más importante.
¿Y si utilizamos la IA como arma?
La historia de la tecnología demuestra que prácticamente cualquier avance capaz de generar valor puede utilizarse también con fines dañinos. La inteligencia artificial no va a ser una excepción.
Uno de los grandes riesgos a los que nos enfrentamos con el auge de la inteligencia artificial es que seamos nosotros quienes utilicemos deliberadamente sus capacidades contra otras personas, empresas o países.
La IA puede reducir enormemente el coste y la dificultad de determinadas actividades maliciosas. Puede facilitar la creación de campañas de desinformación a gran escala, suplantaciones cada vez más convincentes, fraude, manipulación de la opinión pública o ataques informáticos más sofisticados. En el ámbito militar, además, puede integrarse en sistemas capaces de identificar objetivos, apoyar la toma de decisiones o actuar con niveles crecientes de autonomía.
Y aquí vuelve a aparecer uno de los elementos centrales de todo este debate: la escala.
La misma capacidad que permite ampliar las habilidades de las personas puede utilizarse también para personalizar y escalar la manipulación, el engaño o el ataque.
De hecho, ya estamos viendo cómo las herramientas de IA generativa facilitan la creación de imágenes, vídeos, audios y textos falsos que circulan por redes sociales y dificultan cada vez más distinguir entre información auténtica y contenido manipulado.
El problema, por tanto, no es únicamente qué podría llegar a hacer una inteligencia artificial por sí misma, sino qué podemos llegar a hacer nosotros cuando utilizamos la IA para multiplicar también nuestras capacidades destructivas.
¿Una nueva brecha?
Una de las grandes oportunidades que abre la inteligencia artificial y la co-inteligencia es la posibilidad de acceder a capacidades que, hasta hace poco, estaban reservadas a especialistas o a grandes organizaciones.
Pero surge una pregunta inevitable: ¿será ese acceso igual para todos?
Es razonable pensar que no todas las personas, empresas o países tendrán acceso al mismo tiempo a los mejores modelos, a la infraestructura más avanzada, a grandes volúmenes de datos o al talento necesario para integrar eficazmente estas tecnologías.
Esto puede generar una adopción de la inteligencia artificial a distintas velocidades.
Las organizaciones con mayor capacidad de inversión podrán acceder antes a mejores herramientas, automatizar más procesos, atraer más talento y mejorar todavía más su productividad. Ese efecto acumulativo podría ampliar progresivamente la distancia respecto a quienes dispongan de menos recursos o menor capacidad tecnológica.
Podríamos terminar hablando de una nueva brecha entre personas aumentadas y personas no aumentadas, entre empresas capaces de integrar la IA de forma profunda y aquellas que apenas puedan utilizarla de manera superficial.
Y, llevando el razonamiento un paso más allá, también podría aparecer una diferencia creciente entre países con capacidades ampliamente aumentadas por inteligencia artificial y países con un acceso mucho más limitado a esas tecnologías.
La promesa de democratizar capacidades mediante la IA es enorme, pero precisamente por eso será importante evitar que esa misma tecnología termine convirtiéndose en un nuevo factor de desigualdad.
¿Que medidas se deben tomar?
Todos estos riesgos, y muchos otros, son una realidad que debemos afrontar si queremos que el uso de la inteligencia artificial nos permita evolucionar y mejorar como sociedad.
Esto nos obliga a establecer límites especialmente estrictos en aquellos ámbitos en los que una decisión automatizada pueda provocar un daño grave, difícil o incluso imposible de revertir.
Cuanto mayor sea la capacidad de una tecnología para amplificar el poder humano, mayor deberá ser también nuestra responsabilidad sobre cómo decidimos utilizarla.
Las personas debemos exigir a gobiernos y organizaciones que el desarrollo y uso de la inteligencia artificial se realice desde un enfoque responsable, transparente y ético.
Pero la ética no debería quedarse únicamente en una declaración de intenciones. Tiene que traducirse en medidas concretas:
- Supervisión humana en decisiones de alto impacto.
- Responsabilidades claramente definidas cuando una decisión se apoya en IA.
- Auditorías y evaluaciones periódicas para detectar sesgos, errores o comportamientos inesperados.
- Protección de los datos y de la privacidad de las personas.
- Principio de mínimo privilegio para los sistemas capaces de actuar de forma autónoma.
- Transparencia suficiente para saber cuándo estamos interactuando con una IA y qué papel ha tenido en una determinada decisión.
- Formación y alfabetización en IA, para que las personas comprendamos no solo cómo utilizar estas herramientas, sino también sus límites.
- Controles adicionales en ámbitos críticos, como defensa, salud, infraestructuras, finanzas o administración pública.
No se trata de frenar la innovación, sino de conseguir que avance acompañada de mecanismos de control proporcionales a su poder.
Porque si la co-inteligencia pretende aumentar nuestras capacidades, también debe ayudarnos a aumentar nuestra responsabilidad sobre las consecuencias de utilizarlas.
