Cerrar

Morales: "La innovación sin un marco adecuado de desarrollo e implantación puede terminar siendo perjudicial"

Entrevista a Javier Morales Belvis, jefe de Servicio de Innovación, Informática y Agenda Digital en Ayuntamiento de Alicante

Centro Europeo de Empresas e Innovación de Elche (CEEI - Elche)

Centro Europeo de Empresas e Innovación de Elche (CEEI - Elche)

Publicado el jueves, 12 de septiembre de 2024 a las 12:18

Mostrar ampliado

Javier Morales

Javier Morales

El próximo 1 de octubre, celebramos una nueva edición de Focus Pyme y Emprendimiento L´Alacantí, Marina Baixa y Marina Alta, donde vamos a reunir a diversas empresas y expertos que nos mostrarán el impacto de la Inteligencia artificial y de la sostenibilidad en el entorno empresarial más próximo. Javier Morales Belvis, apasionado y experto en tecnología, abordará en una de la sesiones La nueva normativa sobre Inteligencia Artificial, por ello hemos querido entrevistarlo, para ir despejando algunas de las incognitas que rodean a esta normativa.

 

Hola Javier, para empezar, nos gustaría conocer tu opinión general sobre la necesidad de un marco regulatorio para la IA.

Un marco regulatorio, como el aprobado por la U.E. es absolutamente necesario para garantizar los derechos fundamentales de la ciudadanía. Las capacidades actuales y futuras de la IA pueden ponerlos en riesgo y su defensa debe ser un pilar en las implementaciones. Además, todos debemos jugar con las mismas reglas y aprovechar las capacidades de la IA con la seguridad que otorga el Reglamento.

En ese sentido, ¿cómo crees que estas normativas pueden afectar a la innovación en el desarrollo de IA?

Se puede pensar que al establecer un marco normativo que se circunscribe a la Unión Europea, en cuanto a los desarrollos, y a nivel global en cuanto al uso en la UE, podemos encontrarnos con desventajas en la aplicación de la innovación, pero no comparto plenamente esa opinión.

Pondré un ejemplo para aclararlo, pensemos que nos encontramos en el comienzo de uso de los automóviles y que no existe ninguna normativa, salvo en Europa, sobre los sistemas de seguridad, que debe incluir, o cualquier otra consideración. Los productos que se fabricasen fuera de Europa puede que fueran más innovadores, con cohetes de nitrógeno en lugar de motores convencionales o con cuchillas en los capós para mejorar la aerodinámica. Obviamente, todos entenderíamos que no se pudiesen usar en la EU, salvo que cumpliesen con una normativa básica de protección a la ciudadanía. La innovación sin un marco adecuado de desarrollo e implantación puede terminar siendo perjudicial.

 


«Todos debemos jugar con las mismas reglas y aprovechar las capacidades de la IA con la seguridad que otorga el Reglamento.»


 

Uno de los aspectos clave de esta normativa es la transparencia en los algoritmos. ¿Cómo ves la implementación de este requisito, y cuáles crees que son los principales desafíos?

En concreto, el reglamento define la transparencia como “Por «transparencia» se entiende que los sistemas de IA se desarrollan y utilizan de un modo que permita una trazabilidad y explicabilidad adecuadas, y que, al mismo tiempo, haga que las personas sean conscientes de que se comunican o interactúan con un sistema de IA e informe debidamente a los responsables del despliegue acerca de las capacidades y limitaciones de dicho sistema de IA y a las personas afectadas acerca de sus derechos.” En cuanto a la obligatoriedad de transparencia a los sistemas de alto riesgo se habla de “instrucciones de uso” y “documentación técnica”, por lo que el know-how empresarial quedaría blindado y podría cumplirse el reglamento sin que afectase a los objetivos empresariales.

Desde el punto de vista de código abierto, es una iniciativa lógica y coherente, y en cuanto a los secretos comerciales, del resto, no parece que se vean afectados.

Creo que el principal desafío pasaría por obtener la capacitación necesaria de los actores y en el tiempo/complejidad que llevará el análisis de los sistemas, para determinar los riesgos y trazabilidades.

Desde tu perspectiva, ¿cuáles son los riesgos más graves asociados con el desarrollo desregulado de la IA que estas normativas buscan mitigar?

Sin duda, la posible merma en los derechos de la ciudadanía, cuya defensa es un pilar de la UE y así se refleja en el desarrollo normativo que nos ocupa.

 


«Creo que el principal desafío pasaría por obtener la capacitación necesaria de los actores y en el tiempo/complejidad que llevará el análisis de los sistemas, para determinar los riesgos y trazabilidades.» 


 

Por último, ¿cómo habéis implementado la IA en el Ayuntamiento de Alicante? ¿Cuáles son los proyectos relacionados con la IA en los que estáis inmersos?

La IA del Ayuntamiento (AL21/ALI) se implementó para mejorar la relación de la ciudadanía con nuestra entidad, reducir la brecha digital y facilitar el acceso a personas con capacidades especiales. Se desarrolló partiendo de una Consulta Preliminar al Mercado y adjudicándose a una empresa alicantina para su desarrollo. Se priorizó la seguridad, la ética y la supervisión del aprendizaje para evitar sesgos.

Actualmente, estamos inmersos en varios proyectos que utilizarán IA, como por ejemplo el sistema SYMON  de cuidado de nuestros mayores, “Alicante se mueve”, modelos predictivos basados en cuadros de mando por Concejalía, y algunos más que iremos anunciando.

 

2.757 visitas

Utilizamos cookies propias y de terceros para ofrecerte toda la funcionalidad y una mejor experiencia, obtener estadísticas de tráfico, analizar el uso de la web y mejorar nuestros servicios.
Tienes disponible aquí nuestra política de cookies.
Puedes aceptar todas nuestras cookies pulsando el botón 'ACEPTAR' o configurar aquí tus preferencias.

Estrictamente necesarias +

Estas cookies son necesarias ya que permiten que el sitio web funcione correctamente, no se pueden desactivar.

Estadísticas +

Son las cookies que utilizamos exclusivamente con fines estadísticos para poder analizar cómo los usuasrios hacen uso de la web. Recopila información anónima tal como el número de visitantes del sitio, o las páginas más populares. Activar estas cookies nos permite seguir mejorando.

Funcionales +

Estas cookies son necesarias para el intercambio y presentación de contenidos de plataformas externas como youtube o de redes sociales como facebook, twitter o linkedin.

Marketing y publicidad +

Estas se utilizan para crear perfiles de usuario y analizar la efectividad de campañas publicitarias o para rastrear al usuario en un sitio web o en varios sitios web con fines de marketing similares..

GUARDAR AJUSTESACEPTO