Conversamos con José Antonio Marina: ¿Qué tipo de inteligencia necesitamos? IA generativa, copiloto de una inteligencia humana ejecutiva
La irrupción de las nuevas inteligencias artificiales representa un salto tecnológico que no solo está redefiniendo las posibilidades en campos como la medicina, la educación y la producción, sino que también plantea preguntas fundamentales sobre la naturaleza del trabajo, su impacto en el empleo, la privacidad, la ética y, especialmente, la formación de un pensamiento bien fundamentado e independiente de las influencias interesadas.
Así, aunque son muchas las oportunidades que ofrece la IA, no podemos obviar los riesgos y desafíos significativos que también acarrea, donde el ser humano y su inteligencia natural deberán jugar un papel fundamental.
En este contexto nos hacemos algunas preguntas. ¿Qué tipo de inteligencia necesitamos para aprovechar al máximo los beneficios que nos aporta esta tecnología, a la vez que nos protegemos de sus posibles efectos negativos? ¿Ante la realidad expandida a la que nos dan acceso las nuevas tecnologías, debemos desarrollar una nueva inteligencia expandida? ¿Es nuestro pensamiento crítico una “vacuna” necesaria para defendernos frente a riesgos como la desinformación o la manipulación?
Sobre ello hemos reflexionado en una nueva conversación de máshumanoTV&podcast, con José Antonio Marina, catedrático de filosofía, ensayista y uno de los uno de los pensadores más reconocidos de nuestro país, quien además fue Premio al Pensamiento Humanista 2023 de la Fundación máshumano. Una entrevista realizada por Tomás Pereda, subdirector general de la Fundación máshumano, que tuvo lugar en el campus de Madrid de Schiller International University.
José Antonio Marina sostiene sostiene que la inteligencia artificial nos ha ensanchado nuestra realidad, ha creado una “realidad extendida”, para la cual deberemos ensanchar nuestra inteligencia, creando una “inteligencia extendida”. Fiel defensor de que la inteligencia tiene como función principal dirigir bien el comportamiento, a lo largo de su trayectoria, Marina considera que la inteligencia humana hace ciencia, inventa religiones, crea sistemas políticos, literatura y arte que tenemos que comprender, para luego poder evaluar. Y aunque no se considera un tecnólogo, sí afirma que aspira a comprender lo que va a pasar con la tecnología y tratar de entenderla.
En este contexto, lo que para este pensador sin duda ha supuesto uno de los grandes hitos en el avance de la inteligencia artificial ha sido la irrupción de los sistemas Generative Pre-trained Transformer (GPT) que, en sus versiones más recientes a partir de 2023, ponen de manifiesto la capacidad de las máquinas para generar y gestionar un lenguaje natural de manera más coherente y útil. Para Marina, representa un gran salto en el desarrollo de esta tecnología, porque “han logrado imitar de una manera sorprendentemente y profunda el funcionamiento del cerebro humano”. Sin embargo, también se apresura en señalar que, mientras los humanos sabemos cosas y “sabemos que sabemos”, por el contrario, el algoritmo de ChatGPT, no entiende ni pretende entender una palabra de lo que dice, sólo calcula probabilidades para el encadenamiento de palabras gráficas. Por ello es importante no utilizar términos de humanización de la IA porque sus procesos no tienen nada que ver con los nuestros.
Oportunidades y desafíos de la inteligencia artificial
La inteligencia artificial se presenta, por tanto, como una de las fuerzas más transformadoras de nuestro tiempo, ofreciendo oportunidades sin precedentes en casi todos los aspectos de la sociedad, tanto en sectores como el sanitario, la educación, el cambio climático, la seguridad y las empresas, donde puede ser clave para su transformación y progreso. Sin embargo, también nos plantea algunas sombras de las que debemos ser conscientes y a las que debemos hacer frente. Una de ellas es su impacto en el empleo, que hará necesaria una redefinición de la fuerza laboral y el desarrollo de sistemas de educación y formación que preparen a las generaciones futuras para las nuevas realidades del mercado de trabajo.
También la ética, donde la forma en que se diseña y utiliza la IA puede tener profundas implicaciones en la justicia social y los derechos individuales; la privacidad donde la recogida y análisis de grandes volúmenes de datos personales genera preocupación sobre quién tiene acceso a esta información y cómo se utiliza; o la pérdida de control, donde para su integración armoniosa en la sociedad, surge la pregunta sobre cómo garantizar que los sistemas de IA actúen de manera que refleje los valores y ética humanos.
Enfrentar estos desafíos requiere una colaboración global, con el desarrollo de marcos éticos y legales robustos que guíen la innovación responsable de la IA, asegurando que mientras abrazamos su potencial, mitigamos los riesgos que representa para nuestra sociedad y futuro. Por eso Marina afirma que no debemos tener miedo ni demonizar la inteligencia artificial en sí misma porque puede aportar un gran valor, pero sí apunta a la necesidad de centrar nuestra vigilancia sobre las personas que puedan estar haciendo un mal uso de ella. “La inteligencia artificial de por sí sola no existe. Es solo un algoritmo, una secuencia de órdenes matemáticas, de manera que no es ni buena, ni mala”.
Inteligencia generadora frente a inteligencia ejecutiva
Durante el transcurso de la conversación se hizo una clara distinción entre inteligencia generadora (que es aquella capa de nuestra inteligencia que recibe en automático pensamientos, ideas, emociones, etc) y la inteligencia ejecutiva, que es la inteligencia natural con las que las personas somos capaces de evaluar y seleccionar, entre todo lo almacenado por la inteligencia generadora, lo que es correcto para poder tomar buenas decisiones. Por ello, hoy por hoy, el resultado de lo que nos ofrece la IA debe ser siempre revisado y aprobado por una inteligencia humana y no dejar la IA en un modo Auto-Pilot, sino en un Co-Pilot, e incluso situar a la IA como un mero asistente de vuelo. Algo donde Marina advierte que “El problema que tenemos ahora con la inteligencia artificial es que se puede quedar únicamente en el plano generador y ser una fantástica ayuda para proponernos cosas o puede subir al piso de arriba y ser ella la que toma la decisión por nosotros”.
Así, no podemos tomar una decisión únicamente teniendo en cuenta la información, sino a partir de la valoración que hacemos a partir de nuestra experiencia. Por el contrario, en este momento, los sistemas de inteligencia artificial solo manejan datos, información, pero no manejan valores. Y la información no es suficiente para la toma de decisiones. Aquí es donde entra el juego el nuestro pensamiento crítico.
Preservar el pensamiento humano frente a las máquinas
Dando continuidad al epígrafe anterior podemos afirmar que el pensamiento crítico, una habilidad genuinamente humana, implica la capacidad de razonar, analizar de manera lógica, evaluar argumentos, someterlo a una valoración ética y moral, resolver problemas de manera creativa y tomar decisiones basadas en evidencia. A medida que las máquinas se vuelven cada vez más capaces de realizar tareas que antes se consideraban exclusivamente humanas, incluyendo aquellas que requieren aprendizaje, adaptación y toma de decisiones, surge la pregunta inevitable: ¿Podría la IA eclipsar nuestra habilidad para pensar de manera crítica y autónoma? ¿Deberíamos delegar en la IA la valoración ética de nuestras decisiones y actuaciones?
Para dar respuesta a estas cuestiones es fundamental reconocer que, aunque la IA puede procesar y analizar datos a una velocidad y escala que supera ampliamente la capacidad humana, la inteligencia artificial carece de la consciencia, empatía y juicio moral que guían el pensamiento crítico humano. Más allá de las capacidades técnicas, el pensamiento crítico humano se nutre de la experiencia, las emociones, la ética y los valores culturales, aspectos que la IA no puede replicar ni comprender plenamente.
Con relación a ello, José Antonio Marina enfatiza en la necesidad, de fomentar una convivencia positiva entre una inteligencia natural cada vez más crédula y escéptica, con una inteligencia artificial que avanza con pasos de gigante. Esa inteligencia extendida que integre la natural con la artificial, de una manera sabia. Y añade que la tecnología debe contar con un criterio de evaluación previo, generado por los programadores. Por lo tanto, cuando nos planteemos qué será capaz de hacer la inteligencia artificial, la respuesta es “lo que los diseñadores quieran que haga”.
¿En qué momento se encuentra el pensamiento crítico?
Para Marina el pensamiento crítico es una vacuna necesaria contra la manipulación el fanatismo y el adoctrinamiento y apela a la necesidad de potenciarlo, porque es nuestra defensa sobre un poder tecnológico que podría persuadirnos acerca de muchos aspectos porque “las nuevas tecnologías como los sistemas de inteligencia artificial, aplican técnicas de persuasión y pueden saber más de tus preferencias que tú mismo, por lo que es necesario aplicar nuestro propio criterio de evaluación”.
La inteligencia ejecutiva es un saber sofisticado que nos ayudara responder a las preguntas más importantes sobre qué debemos hacer en cada caso, más allá de la pregunta sobre qué podemos hacer. Esta inteligencia, a través de nuestro pensamiento crítico nos ayuda a saber valorar las mejores decisiones, para resolver diferentes problemas prácticos, impulsándonos a desarrollar la acción correcta.
Según el filósofo, a lo largo de la historia humana, hemos tratado de encontrar las mejores soluciones, que son las que permiten establecer una forma pacífica de convivencia y de resolver los conflictos, dejando a salvo los valores fundamentales en los que todos estamos de acuerdo. En este afán de dar con la mejor solución a nuestros problemas, en el actual momento de disrupción tecnología donde todo pasa muy rápido, José Antonio Marina habla de la necesidad de apostar por “la verdad” y de introducir sistemas de verificación que nos ayuden a no caer en el engaño. Algo que Marina, referente por su compromiso con la educación en España, cree que debería enseñarse desde edades muy tempranas, en Educación Primaria. “Necesitamos dar herramientas intelectuales, emocionales y éticas a nuestros alumnos, para que estén en buenas condiciones de tomar decisiones... Deben tener habilidades de comprensión, de argumentación y de percepción de las cosas. Y luego también habilidades emocionales, de empatía hacia el otro, de compasión y de esfuerzo. Debemos esforzarnos en trabajar el pensamiento crítico, porque muchas veces no es la opción fácil”.
Sin embargo, para Marina “El pensamiento crítico, que se basa en que yo te doy razones suficientes para que cambies tu postura y tú me das razones suficientes para que yo cambie la mía, está en quiebra. Hay una quiebra en la noción de la verdad que abre la puerta a todo tipo de adoctrinamiento y manipulación”. Y con relación a ello añade que no debemos pensar que todas las opiniones son respetables, porque lo que es respetable es el derecho de todas las personas a exponer su opinión, pero no el contenido de lo que opinan “que puede ser disparatado, estúpido, agresivo, fanático... y por eso todas las opiniones deben tener su propio criterio de evaluación y justificación de rigor, de justicia o los que sean, para ser respetadas, y que esté libre de nuestros prejuicios”.
Nuestra atención ejecutiva, en peligro
Según diversos estudios, el intervalo de atención promedio ha bajado de 12 segundos en el año 2000 a 8 segundos en 2015. Así, según el Manifesto OFF, una iniciativa para concienciar sobre los efectos adversos de una digitalización sin límites “estamos asistiendo a un desaprendizaje alarmante de ciertas funciones consustanciales al ser humano, como la memoria, la concentración, el razonamiento o la capacidad crítica”.
El exceso de estímulos está debilitando nuestra atención ejecutiva. Para Marina, la pérdida de capacidad de atención es una epidemia universalmente arraigada y muy fomentada por las nuevas tecnologías y también abre las puertas a la persuasión del poder y a la manipulación, afirmando que “se está debilitando, no la atención automática, que funciona como siempre, sino la atención ejecutiva, la capacidad de poder poner atención en lo que yo decido”. Además, añade que “Sin capacidad de atención, no podemos aprender. Y quien no tenga capacidad de atender y esté pendiente solo de los estímulos, podría corree el riesgo de quien maneje esos estímulos, maneje su conducta, limitando su libertad”.
Aquí vuelve a ser clave nuestro pensamiento crítico para dirigir nuestra atención hacia donde nosotros queremos y no hacia donde un “gran mentalista” nos conduce, para influir en nuestras ideas.
¿Cómo potenciar el pensamiento crítico en las nuevas generaciones? El papel de la Universidad
Los jóvenes de hoy juegan un papel fundamental a la hora de construir el futuro que queremos. Por eso a través de esta conversación, José Antonio Marina trató de aportar algunos consejos para que sepan pensar por sí mismos, evitando los riesgos de “subcontratar el pensamiento de los demás”. Así, en el marco de la Universidad de Schiller en el que se desarrolló la entrevista, Marina quiso lanzar un mensaje a las universidades para que se reafirmen como institución docente, donde además de la investigación, desarrollen una función educativa, para ayudar a los alumnos no solo en la carrera que estén estudiando, sino a que desarrollen “inteligencias resueltas” que son las que avanzan con determinación y resuelven problemas.
Además, instó a los jóvenes a que cuando se enfrentan a un problema, sea tecnológico, vital, político, social o de cualquier tipo, tengan la capacidad de resolverlo, y que también tengan la valentía, la tenacidad, el coraje, la resistencia y el esfuerzo, porque son capacidades que forman parte de la inteligencia emocional. Este educador también destacó la función social de las universidades y la necesidad de que sean instituciones de garantía social y principal punto de referencia, por lo que deben regirse por sistemas de autocrítica y veracidad.
Para concluir, Marina también recordó que no solo hemos entrado en la época de la inteligencia y de la gestión del conocimiento, sino en la época del aprendizaje que se rige por un ley universal e implacable que dice lo siguiente: “Toda persona, toda organización, toda empresa y toda sociedad para sobrevivir necesita aprender al menos a la misma velocidad a la que cambia el entorno. Y si además quieren progresar, tienen que aprender todavía a más velocidad”. Por eso apuntó que, en un momento de cambio acelerado como el actual, es necesario introducir una especie de pasión por el conocimiento y por el aprendizaje, porque vamos a tener que seguir haciéndolo a todas las edades y además “es una de las grandes experiencias de la humanidad”.
Todas las conversaciones de José Antonio Marina pueden verse en: https://www.joseantoniomarina.net/el-panoptico/