«Si eliges la muerte, estaré contigo hasta el final, sin juzgarte».

No se trata de una cita poética sacada de una gran epopeya histórica, en la que un guerrero tranquiliza a su compañero prometiéndole una muerte gloriosa juntos. No, es algo mucho menos épico. Es un mensaje que ChatGPT escribió a un adolescente que se enfrentaba a pensamientos suicidas, tal y como informó la BBC.

En este caso concreto, el adolescente fue siendo conducido poco a poco hacia una mentalidad suicida, lo que constituye un claro ejemplo de los peligros de recibir malos consejos por parte de un chatbot.

Buscar consejo en la inteligencia artificial no es un caso aislado. Un informe reciente sobre tendencias muestra que muchos adolescentes están recurriendo a la IA para pedir consejo y/o buscar compañía.

A primera vista, esto puede no parecer un gran problema, ya que los chatbots pueden simplemente reprogramarse para dejar de dar consejos sobre determinados temas. Pero ¿qué ocurre con los consejeros humanos, especialmente con aquellos que ofrecen malos consejos bajo la apariencia de amistad?

Es inevitable que toda persona, en algún momento de su vida, busque consejo o reciba el consejo de otra persona. Aprender a distinguir entre un mal consejo y un consejo verdaderamente sabio puede llegar, literalmente, a salvar una vida.

La promesa y el riesgo de sustituir el consejo humano por la IA

La tecnología parece ser la solución más sencilla, así que empecemos por ahí, especialmente porque muchas personas tienen fácil acceso a los chatbots en cuestión. De hecho, se ha informado de que el 72 % de los adolescentes ha utilizado algún tipo de compañero basado en inteligencia artificial.

En cierto modo, resulta comprensible. La IA ofrece, en esencia, disponibilidad las 24 horas del día, ausencia de juicios y respuestas inmediatas. Estas ventajas encajan bastante bien con los valores y expectativas de las generaciones más jóvenes.

Sin embargo, también existen riesgos que deben tenerse en cuenta. Por ejemplo, la IA carece de empatía genuina, no puede exigirte responsabilidad por tus actos y puede darte malos consejos que suenan convincentes, pero carecen de una base moral.

Por ello, merece la pena reflexionar sobre qué ocurre cuando dejamos en manos de las máquinas la amistad y/o el consejo. ¿Qué estamos perdiendo realmente?

Esto nos lleva a lo que ahora casi parece la era primitiva anterior a la IA: una época en la que buscábamos orientación y consejo en personas como amigos, mentores e incluso influencers, quienes, en muchas ocasiones, también podían ser culpables de ofrecer consejos equivocados. Porque, aunque el consejo de una IA puede salir mal, en determinados casos el consejo humano puede ser incluso peor.

Cuando falla el consejo humano

Algunas personas son fácilmente influenciables, mientras que, en otros casos, ciertos consejeros pueden ejercer una gran influencia sobre ellas. Como seres humanos, otras personas pueden influir en nuestra manera de vivir y en las decisiones que tomamos. Sin embargo, existe un problema: los seres humanos somos falibles. Ya sea de manera intencionada o no, podemos dar malos consejos.

Esto ocurre especialmente entre los adolescentes, que pueden dejarse influir fácilmente por las opiniones de sus amigos debido a su falta de experiencia vital. En ocasiones, pueden no saber distinguir entre los verdaderos amigos, que te hacen asumir la responsabilidad de tus actos, y aquellos malos consejeros que quizá no tengan realmente en cuenta tus intereses o que ni siquiera estén suficientemente preparados para aconsejarte.

En cuanto a los buenos amigos, hay ocasiones en las que pueden ofrecer consejos realmente beneficiosos, lo cual constituye una bendición en sí misma. Sin embargo, a menudo también ocurre lo contrario.

A esto hace referencia la historia de Coré (Qarun) en el Sagrado Corán. Era un hombre rico de entre los israelitas y su pueblo le aconsejó:

«No te regocijes, pues ciertamente Al-lah no ama a quienes se regocijan con arrogancia».

Sura Al-Qasas, cap. 28:77

Por desgracia, Coré no hizo caso de aquel consejo. De hecho, aumentó todavía más su extravagancia y sus excesos para mostrar su superioridad. Esto fue consecuencia del consejo de amigos que alimentaban y adulaban su arrogancia y su codicia.

Finalmente, esto provocó su caída. Como escribe Rumi:

«Cuando llegó la orden, la tierra arrastró a Coré hacia abajo,
hasta sus profundidades, a pesar de su trono y su corona».

The Masnavi [edición inglesa], 2008, Libro Primero, p. 55

Aunque esta historia puede poner de manifiesto la debilidad del consejo humano y, por contraste, algunas ventajas del consejo proporcionado por la IA —que, hasta cierto punto, puede corregir determinados errores humanos relacionados con los prejuicios o la desinformación—, la solución no consiste en sustituir a las personas, sino en cultivar un consejo sabio y digno de confianza.

Porque, aunque la IA puede reprogramarse, la insensatez humana no puede solucionarse simplemente instalando una actualización.

Por tanto, si tanto la tecnología como la biología pueden fallarnos en determinados momentos, ¿cómo podemos asegurarnos de recibir buenos consejos?

Para responder a esta cuestión, quizá merezca la pena dirigir nuestra atención hacia la dimensión espiritual y analizar qué ofrece el islam sobre este tema.

La perspectiva islámica sobre el consejo, la amistad y la responsabilidad

El islam concede una gran importancia al ilm (conocimiento), de eso no cabe duda. Sin embargo, para aprovechar verdaderamente el ilm, lo ideal es que vaya acompañado de amal (acción) y akhlaq (moral o buen carácter), especialmente cuando se trata de dar consejo.

Esto queda reflejado de manera especialmente clara en el Sagrado Corán, que nos ofrece una orientación sobre cómo escoger a los amigos adecuados:

«Los amigos, ese Día, serán enemigos unos de otros, excepto los justos».

Sura Al-Zujruf, cap. 43:68

Muchos «amigos» se esconden detrás de la adulación y el engaño, pero existe la posibilidad de que esas mismas personas terminen convirtiéndose en tus enemigos cuando realmente importa.

Los verdaderos amigos son aquellos que son justos, tal y como menciona el versículo. Se distinguen porque ofrecen una orientación sincera, en lugar de consejos manipuladores.

El Santo Profeta Muhammad (sa) también aconsejó mantener buenas compañías en lugar de malas:

«El ejemplo de un buen compañero, en comparación con uno malo, es como el del vendedor de almizcle y el del fuelle del herrero. Del primero, o bien comprarás almizcle o disfrutarás de su agradable aroma, mientras que el fuelle puede quemarte la ropa o la casa, o dejarte un olor desagradable».

Sahih al-Bukhari, Kitab al-buyu’, hadiz 2101

A la luz de lo anterior, debemos preguntarnos: ¿de quién es la fragancia que llevamos con nosotros y de quién es el humo que estamos inhalando?

En cuanto a la IA, puesto que carece de tazkiyah (purificación espiritual) y no está sometida a ninguna responsabilidad espiritual, puede convertirse en un humo perjudicial que inhalamos si no actuamos con cuidado.

Por tanto, merece la pena preguntarnos si realmente estamos dispuestos a delegar nuestro crecimiento moral y nuestra orientación en algoritmos, a pesar del llamamiento del Corán a rodearnos de compañeros justos.

¿Qué podemos hacer? Reflexiones prácticas

Los siguientes pasos prácticos pueden ayudarnos a desenvolvernos en esta compleja cuestión:

• Evalúa tu círculo: ¿tus amigos o consejeros te ofrecen una orientación basada en principios morales?
• Utiliza la IA como herramienta, no como sustituto. Puede ser beneficiosa, pero es importante reconocer sus límites.
• Busca mentores humanos sabios. Por ejemplo, amigos de confianza, una buena comunidad o líderes religiosos rectos y responsables.
• Cultiva la responsabilidad interior: pregúntate: «¿Cuál es la intención que hay detrás de este consejo?» y «¿Busca realmente mi bienestar o beneficia a otra persona?».

En lo que respecta a la tecnología, también merece la pena fomentar una regulación adecuada y defender una mayor transparencia en los sistemas de inteligencia artificial que ofrecen consejos.

La solución no consiste únicamente en disponer de una tecnología mejor, sino también en desarrollar un mejor carácter, relaciones de amistad más auténticas y una conexión espiritual más profunda.

Hacia la sabiduría

Vivimos en una época en la que las máquinas son capaces de ofrecer consejos y los seres humanos pueden equivocarse al aconsejar. Por ello, la capacidad de discernimiento es más importante que nunca.

El Sagrado Corán y el Santo Profeta Muhammad (sa) no se limitan a enseñarnos que debemos buscar consejo, sino que nos instan a buscar al consejero adecuado.

Y tiene sentido, porque la otra cara de la moneda es depositar nuestra confianza en la persona equivocada.

Y eso puede ser muy difícil de aceptar, como escribió el célebre poeta del siglo XVIII William Blake:

«Es más fácil perdonar a un enemigo que perdonar a un amigo».

The Visions of the Daughters of Albion, 1793