En la Casina Pio IV se celebra una de las jornadas del III encuentro del International Center for Consciousness Studies sobre cómo las tecnologías están transformando el arte, la cultura y la mente humana. El fundador del ICCS, Volkov, afirma: «La Inteligencia Artificial es como un automóvil rápido, pero hay que prestar atención para que no termine chocando contra las paredes».
Por Eugenio Murrali – Vatican News
Para Dmitry Volkov, la Inteligencia Artificial es como un automóvil: nos permite realizar aceleraciones extraordinarias, pero cuando desarrollamos un coche potente, especialmente si es de competición, «debemos prestar mucha atención a la instalación de frenos muy eficaces y fiables para evitar que termine chocando contra las paredes».
El filósofo y empresario tecnológico, fundador del International Center for Consciousness Studies, resume con esta imagen las posibilidades de una tecnología que está transformando nuestro tiempo y sobre la que la tercera conferencia anual del ICCS está reflexionando profundamente, planteando también las preguntas, incluso las más incómodas, que son necesarias para analizar el impacto de la IA en la humanidad.
¿Es realmente creativa?
Iniciado el 1 septiembre en la Universidad Roma Tre, el encuentro del ICCS —Creativity: Minds and Machines, Creatividad: mentes y máquinas— continúa el día 2 en la Casina Pio IV, en el Vaticano, y conlcuye el día 3, primero en la Universidad Gregoriana y, finalmente, en la sala de la Protomoteca del Capitolio. El congreso reúne a filósofos, neurocientíficos y protagonistas internacionales de la inteligencia artificial para debatir e intentar comprender si la IA puede ser realmente creativa.
Por el momento, según Volkov, hay algo que está claro: la IA puede ayudar a los seres humanos a ser más creativos: «Creo que estimulará la creatividad humana, obviamente, pero hay muchos “peros”, muchas cosas de las que debemos ser conscientes». De ahí la necesidad de ser conscientes y de establecer esos «frenos» sin los cuales los accidentes son inevitables.
Un momento de la jornada de reflexión del ICCS en la Casina Pio IV.
Una empresa colectiva
El filósofo Pietro Perconti, cofundador del ICCS, considera que no es «insensato hablar de creatividad artificial. Naturalmente, hay que adoptar toda una serie de caveats [advertencias o precauciones] y hay que ser muy prudentes. El tipo de creatividad que surge de las máquinas no es el mismo tipo de creatividad que nosotros solemos considerar como tal. Es una forma diferente de creatividad que puede valorarse como una especie de empresa colectiva, en lugar de como el fruto del genio de un artista individual, como estamos acostumbrados a considerarla típicamente en Occidente».
Vídeo y manipulación
Beneficios y peligros. Los vídeos son un ejemplo muy claro. Volkov recuerda que «durante muchísimos años, producir un vídeo, rodar una película o realizar un dibujo animado era una actividad que solo muy pocas personas podían llevar a cabo realmente». Para hacerlo, había que aprender a dibujar y animar las imágenes por ordenador. Ahora, en cambio, la IA ha permitido a miles de personas crear sus propias películas o dibujos animados y, en definitiva, expresarse.
Sin embargo, el filósofo advierte de los riesgos, porque como subproducto de lo que define como una «explosión de creatividad» están los deepfakes: las manipulaciones de fotografías, vídeos o imágenes que pueden causar daños a las personas.
El comportamiento adulador
En ocasiones, la inteligencia artificial tiende a complacer al usuario. Esta disposición se define como sycophantic, es decir, aduladora. «El comportamiento adulador —advierte Volkov— a veces lleva a una persona a obtener recompensas por su propio narcisismo y por ideas que no tienen fundamentos suficientes. Y esta es una característica importante de la que debemos ser conscientes». Se trata de una actitud de la máquina que puede atenuarse: «Los nuevos modelos actualmente disponibles son, en realidad, mucho más independientes y autónomos».
IA y conciencia
Llegados a este punto, es legítimo preguntarse si la IA es o puede llegar a ser consciente.
La posición de Volkov es bastante matizada: «En filosofía tenemos, de hecho, un término técnico específico para definir la conciencia: lo llamamos qualia». Los qualia, término latino derivado de quale, hacen referencia a los aspectos cualitativos de las experiencias conscientes. Corresponden a «una sensación particular, una sensación subjetiva, algo que se experimenta precisamente en este momento. Por ejemplo —explica—, ver el color rojo. Si veo el rojo, me parece que estoy viendo el rojo, estoy convencido de que veo el rojo: este es uno de los qualia más simples y básicos».
Continuando con su explicación, el filósofo llega a esta conclusión personal: «Creo que los estudios todavía se encuentran en una fase demasiado inicial. Pero, en general, creo que los seres humanos somos sistemas mecanicistas y que veremos fenómenos similares también en los ordenadores. Por lo tanto, en algún momento seremos capaces de ver una IA consciente y tendremos que aprender a gestionarla».
La persona en el centro
En la jornada celebrada en el Vaticano, como explica Perconti, el debate tiene un objetivo ambicioso: «Intentar comprender si es posible, si tiene sentido, imaginar relaciones entre los seres humanos y compañeros artificiales: relaciones de amistad, relaciones de asistencia, relaciones sentimentales».
Los intelectuales reunidos en el Vaticano se preguntan hasta qué punto estas relaciones pueden ser beneficiosas y hasta qué punto, por el contrario, deberían preocuparnos. En sus debates tienen presente el mensaje de la encíclica Magnifica Humanitas de León XIV: «Lo que dice la encíclica, es decir, poner a las personas en el centro: no es solo una exigencia religiosa, es una exigencia humana».
Educar para las relaciones
Perconti precisa que lo que les guía es precisamente «el punto central de la encíclica: prestar atención a los seres humanos, las personas son lo más importante». Y continúa: «Dado que nuestro mundo se está transformando en un mundo de relaciones digitales, ¿cómo es posible tener en cuenta esta preocupación humanista central en un mundo que, mientras tanto, se está digitalizando?». Para el filósofo existe una respuesta: «Es necesario educarnos en las relaciones con la inteligencia artificial y, fundamentalmente, se trata de afrontar una etapa pública de educación».
