Riesgos y beneficios de la inteligencia artificial

Un buen amigo me obsequió de navidad ‘Nexus’, de Harari. Después de un mes largo de emplearme a fondo en la lectura sobre un tema tan relevante para el mundo actual, me limito a subrayar los que, para mí, son los mensajes más llamativos del libro:

*Es de enorme importancia establecer la distinción entre información y verdad.

*Es prioritario implantar mecanismos sólidos de autocorrección para garantizar que la verdad prevalezca sobre la mera acumulación de datos.

*Si bien vivimos en una era de sobreabundancia informativa, gran parte de esa información es de baja calidad o falsa.

*La ficción es barata y sencilla de producir, la verdad es costosa y compleja.

*La verdad a menudo resulta incómoda, ya que nos confronta con realidades que preferiríamos ignorar.

*La proliferación de información de dudosa veracidad tiene profundas implicaciones. Las sociedades humanas han construido grandes redes de cooperación basadas en la difusión de ficciones y mitologías compartidas.

*En el siglo XXI, la inteligencia artificial podría convertirse en una red delirante de noticias falsas que podría impedir a futuras generaciones definir qué es verdad y qué es mentira.

*La inteligencia artificial tiene la capacidad de tomar decisiones autónomas, y generar ideas que representan riesgos sin precedentes, como se ha evidenciado en casos donde algoritmos de redes sociales pueden incitar a la violencia.

*Para contrarrestar estos peligros es necesario construir mecanismos de autocorrección como la revisión por parte de personas o entidades independientes.

*El error es inherente a la realidad humana, y reconocerlo es fundamental para el progreso. En la ciencia, por ejemplo, las teorías se examinan, cuestionan y, si es necesario, se descartan o corrigen.

*En una democracia funcional, los ciudadanos pueden cambiar su apoyo político si se sienten decepcionados, lo que refleja un sistema de control y equilibrio. En contraste, los regímenes autoritarios carecen de estos mecanismos, ya que los líderes rara vez reconocen sus errores y suelen culpar a otros por sus fracasos.

*El libro nos alerta sobre el “potencial totalitario” de la inteligencia artificial.

*La inteligencia artificial es un agente capaz de tomar decisiones por sí mismo, lo cual significa que cada acción y pensamiento humano podría ser monitoreado y controlado, eliminando cualquier vestigio de privacidad.

*Otro riesgo de la inteligencia artificial es que sus beneficios solo sean para unos pocos países y que genere más desigualdad a nivel global.

*La inteligencia artificial tiene la posibilidad de generar enormes beneficios para la humanidad. Puede aumentar la eficiencia, la habilidad para tomar decisiones, la productividad, y puede incluso reducir riesgos relacionados con la salud.

*En cuanto a la medicina se refiere, la inteligencia artificial la volverá más precisa y generará estrategias avanzadas para el diagnóstico de muchas enfermedades, pero los aspectos ambientales, sociales, humanos y emocionales, difícilmente podrán ser modelados con exactitud.