El profesor que "dio a luz" a la IA llega a Vietnam por primera vez para hablar sobre la ética de la IA

El profesor Yoshua Bengio, uno de los científicos que sentó las bases para el desarrollo de la inteligencia artificial (IA), compartió sobre "Seguridad de la IA" en el marco del taller tecnológico de alto nivel "IA segura: dando forma a la innovación responsable" en la tarde del 5 de diciembre en Hanoi.

En el marco del evento, el profesor Yoshua Bengio dialogó sobre “IA responsable y la importancia de la IA en la educación”, presenciando la ceremonia de lanzamiento del Comité de Ética de IA de la Asociación de Software y Servicios de Tecnología de la Información de Vietnam (VINASA).

El profesor Yoshua Bengio cree que lo más importante es que el desarrollo tecnológico vaya de la mano con la protección de los derechos humanos y el desarrollo social sostenible. La IA se está desarrollando rápidamente, la eficiencia de los datos ha aumentado un 30%, el rendimiento de los algoritmos se ha triplicado, la inversión en este campo promedia los 100 mil millones de dólares al año y las evaluaciones estándar muestran que las capacidades de la IA han superado las capacidades humanas en el dominio del lenguaje y el procesamiento de datos.

Sin embargo, este rápido progreso plantea preguntas preocupantes sobre la capacidad de controlar sistemas de IA que sean más inteligentes que los humanos. En ese contexto, surge una gran pregunta ética: ¿Quién debería decidir los objetivos de la IA? La urgencia de comprender y actuar adecuadamente no es sólo una responsabilidad, sino también un factor vital para el futuro de la humanidad.

Uno de los principios importantes propuestos por el profesor Yoshua Bengio es que la IA debe construirse como una herramienta al servicio de los humanos, no como "agentes" capaces de establecer sus propios objetivos y actuar para alcanzarlos, porque los objetivos de la IA pueden entrar en conflicto con las intenciones humanas originales o ir más allá de ellas.

Por lo tanto, según el profesor Yoshua Bengio, deberíamos evitar diseñar "instintos de supervivencia" para los sistemas de IA. Esto significa que no deberíamos diseñar sistemas de IA que sean similares a los humanos, con emociones, apariencia e incluso conciencia, agencia y autonomía.

Un informe de 2023 sobre el futuro del mercado laboral elaborado por el Foro Económico Mundial afirmó que para 2025, se espera que la IA cree 12 millones de nuevos empleos a nivel mundial. Otro estudio de McKinsey también muestra que la IA podría contribuir a la creación de entre 20 y 50 millones de nuevos empleos en todo el mundo de aquí a 2030.

Según el presidente de FPT Corporation, Truong Gia Binh, la IA debería considerarse un “aliado” y no una amenaza que quita empleos a los humanos. Aprender y aplicar la IA es crucial para seguir siendo competitivo en el mercado laboral; Incluye una comprensión fundamental de IA, aprendizaje automático, ciencia de datos, así como habilidades analíticas y de resolución de problemas para trabajar eficazmente con sistemas de IA.

También en el marco del taller, VINASA anunció la creación del Comité de Ética de Inteligencia Artificial. El evento contó con la presencia del profesor Yoshua Bengio (Universidad de Montreal e Instituto Mila), líderes de VINASA y líderes de varias empresas miembros de VINASA.

La creación del Comité de Ética de Inteligencia Artificial demuestra los esfuerzos de Vietnam por construir un ecosistema de IA donde la innovación se desarrolle dentro de un marco ético, garantizando la competitividad global y protegiendo los valores sociales.

El Comité tiene la tarea de orientar la hoja de ruta de desarrollo de la IA de Vietnam, garantizar que la IA se implemente de forma ética, innovadora y para beneficio social, y promover un entorno legal favorable para la IA.

El profesor Yoshua Bengio es una de las personas más influyentes a nivel mundial a la hora de sentar las bases para que la IA se convierta en una tecnología práctica, ampliamente aplicada en campos como el procesamiento del lenguaje natural (PLN), la visión artificial, el aprendizaje automático y la robótica. En 1993, fundó el Mila AI Research Institute, que contribuyó significativamente a hacer de Montreal (Canadá) un centro mundial de tecnología de aprendizaje profundo.

Según VNA

Fuente: https://doanhnghiepvn.vn/cong-nghe/giao-su-khai-sinh-ai-lan-dau-sang-viet-nam-chia-se-ve-dao-duc-ai/20241206103838021