(Dan Tri) - En el mercado vietnamita, las herramientas de inteligencia artificial (IA) están en constante desarrollo, lo que genera muchos problemas emergentes como la seguridad o los derechos de autor.
El Sr. Nguyen Viet Hung, director ejecutivo y fundador de Color Me, centro de capacitación en diseño gráfico, compartió con el periodista Dan Tri su perspectiva sobre el mercado de inteligencia artificial (IA) en Vietnam, sus aspectos útiles y los riesgos potenciales que puede ocasionar a los usuarios.
Señor, la IA ha estado presente en Vietnam durante mucho tiempo, pero en los últimos dos años, las herramientas de IA realmente han explotado. Entonces, ¿cuáles son sus puntos destacados en el mercado vietnamita?
- A finales de 2021, la ola de IA en Vietnam empezó a explotar y hasta ahora, lo que más nos impresiona proviene de la IA generativa. Esta es una herramienta de IA con la capacidad de generar muchos tipos diferentes de contenido.
Esta perspectiva es muy simple: por muchos datos que tengamos, la IA generará otros tantos datos nuevos.
En Vietnam, estamos muy impresionados con la herramienta ChatGPT con su capacidad para crear párrafos de texto, Mid Journey usa IA para crear imágenes o Runway se usa para crear videos.
Más recientemente tenemos Copilot que puede generar líneas de código en programación. De esta forma, cualquier tipo de datos que tengamos pueden ser generados por la IA.
¿Por qué la IA generativa juega un papel tan importante en esta ola de IA, señor?
- En mi opinión, es cuando el mundo se desarrolla hasta el umbral de la automatización, que se está volviendo cada vez más popular en todos los campos, o es el problema que la gente encuentra todos los días en sus estudios y trabajo, que es la creatividad.
Esto significa que tenemos que ser capaces de crear nuevas obras, nuevas imágenes, nuevas películas o nuevo software. Con el poder actual de la IA, la capacidad de los humanos para trabajar en la industria creativa está aumentando y es casi ilimitada.
Creo que, ya sean estudiantes o trabajadores de oficina, todos tenemos que ser creativos, en todos los diferentes elementos del trabajo, a veces simplemente haciendo un informe, un resumen, un plan de campaña de desarrollo o una gran idea... Para hacer algo, todos tenemos que partir de diferentes ideas creativas que los usuarios necesitan iniciar.
Si bien la IA generativa sigue cambiando y evolucionando constantemente, el impacto de mayor alcance que podemos esperar ver en los próximos meses es que esta tecnología inteligente ayudará a los usuarios a aumentar su productividad en el trabajo y en sus estudios.
Para crear una herramienta de IA tenemos que utilizar muchos datos, esto ha dado lugar a un tema muy controvertido que son los derechos de autor de los datos, ¿puedes compartir tu perspectiva sobre esta realidad?
- Para ser más precisos, la IA es muy amplia y las herramientas que vemos y con las que entramos en contacto recientemente se derivan en gran medida del aprendizaje profundo o de la tecnología de redes neuronales (una serie de algoritmos diseñados para encontrar relaciones básicas en conjuntos de datos).
Todas estas tecnologías necesitan ser entrenadas con muchos datos. Desde los primeros días del nacimiento de ChatGPT, la comunidad planteó muchas preguntas sobre ¿de dónde provenían los datos para poder crear una herramienta de inteligencia artificial tan inteligente?
O como Mid Journey, crea imágenes muy hermosas. Seguramente debió tener un recurso de imagen previo, que fue utilizado para entrenar a la inteligencia artificial de manera muy extensiva. Este es un gran problema de derechos de autor.
Por ejemplo, si integramos artículos y libros en herramientas de IA, ¿obtendrán algo los autores de ese contenido?
Entiendo que en los países europeos poco a poco van apareciendo planes en materia de derechos de autor y en aproximadamente un año todos los modelos de IA generativa tendrán que revelar públicamente el contenido que utilizan las empresas tecnológicas para entrenarlos. Sólo entonces podremos respetarnos verdaderamente unos a otros en cuestiones de derechos de autor.
Todos los datos que los ingenieros utilizan para entrenar a la IA deben contar con el consentimiento de todos los autores, o el contenido debe ponerse a disposición del público de forma gratuita según los términos actuales.
Algunos expertos internacionales afirman que esta es la zona gris actual de la IA, lo que significa que aún no podemos determinar qué es completamente correcto y qué es completamente incorrecto. Las cuestiones de derechos de autor siguen siendo muy difíciles.
Por lo tanto, debemos ser cautelosos al utilizar y publicar contenido generado por IA.
Respecto de las historias, productos o contenidos generados por IA, ¿crees que esos productos deberían ser reconocidos como sujetos de derechos de autor?
- Los contenidos generados total o parcialmente por IA y las cuestiones de derechos de autor están siendo abordadas por muchos países mediante la creación de políticas y marcos institucionales para brindar legalidad a los contenidos relacionados con la IA.
También hay muchos países que lo están condenando y están considerando discutir establecer un sistema legal para permitir qué tipo de contenido de IA puede comercializarse y qué tipo de contenido solo puede ser utilizado por los usuarios para fines personales.
Esto plantea un problema: el contenido generado por IA siempre tiene que dividirse en muchas categorías de derechos de autor diferentes. De hecho, el contenido generado por IA todavía se utiliza para ganar dinero, como en YouTube o TikTok.
¿Puedes compartir algunos ejemplos relacionados con este tema?
- Si vas a Youtube y buscas la palabra clave "audiolibro", los resultados mostrarán muchos audiolibros sin autor. Estos son libros hechos completamente por IA.
De esta forma, los usuarios crearán el contenido de un libro íntegramente con IA y luego lo convertirán en una voz artificial. Esta es una tecnología de texto a voz.
Por último, integrarán el producto en el vídeo para que el espectador sienta que está disfrutando de una versión en audio de un libro real.
Solo en la plataforma de Youtube, podemos ver que hay muchos libros que son completamente irreales, completamente creados por IA.
Otro problema igualmente preocupante es que hay muchos sitios web y blogs que producen contenido utilizando casi en su totalidad IA.
Algunos estudios han demostrado que si hacemos un uso excesivo de la IA para generar nuevos datos y luego los utilizamos para entrenar otra herramienta de IA, llegaremos a un punto en el que la inteligencia artificial colapsará. Esto hace que el contenido generado por IA carezca de sentido y los propios humanos sienten que la IA ya no es útil ni creativa.
Creo que la unión mundial para establecer un régimen de derechos de autor exhaustivo nos ayudará a tener un futuro más saludable en el trabajo y la vida con IA.
Los sitios web creados por IA para estafar a los usuarios ya no son extraños e incluso han aparecido en el mercado vietnamita. ¿Podrías compartir las señales para reconocer que se trata de contenido fraudulento?
Últimamente, han surgido muchas estafas o casos de chantaje relacionados con la IA, siendo el más popular de ellos la tecnología Deepfake: la cara de la víctima se injerta en contenido nocivo o chantajista. El contenido deepfake ha sido prohibido en muchos países; no apoyan en absoluto esta tecnología, sin importar el propósito para el que se utilice.
Una vez que se crea una herramienta de IA, siempre habrá tecnologías para contrarrestarla. Por ejemplo, si existe la tecnología Deepfake, también habrá tecnología para detectar qué es contenido Deepfake.
O si escribimos artículos completamente mediante IA como en ChatGPT, también habrá tecnología para verificar si se trata de un artículo escrito por un humano o de la herramienta mencionada anteriormente.
Por lo tanto, tenemos que equiparnos con estas tecnologías de reconocimiento, y los usuarios también necesitan complementar sus habilidades para identificar qué tipo de contenido es generado por IA y qué tipo de contenido es generado por humanos.
En el mercado vietnamita, cada vez más productos telefónicos se integran con IA para ayudar a los usuarios. Entonces, ¿está segura la privacidad humana cuando se utilizan funciones de IA en estos dispositivos, señor?
- Creo que el problema de seguridad de los productos móviles con IA integrada es extremadamente grave. Recientemente, Apple también ha integrado Apple Intelligent (Apple AI) en los productos de la serie iPhone 16.
Desde el lanzamiento de esta nueva generación de teléfonos, la compañía tuvo que ser transparente sobre todo el contenido y los sistemas de servidor utilizados para responder a los comandos del usuario.
De esta forma, todos estos servidores no son accesibles para nadie y todo el sistema de creación de contenidos de Apple Intelligent puede ser auditado (rigurosamente) por un tercero.
Suena simple, pero las tareas cotidianas, como preguntarle a la IA de Apple sobre el clima o pedirle a la IA que cree un plan, son todas información personal y, si cae en manos equivocadas, pueden descubrir completamente tu ubicación o saber lo que estás haciendo. Esto es realmente peligroso.
Como resultado, toda la IA generativa está pasando a ubicarse en servidores separados y se debe demostrar que es inmune a la piratería o interferencia de terceros.
Otro problema es que cuando utilizamos IA en productos tecnológicos, cada IA que se crea tiene que usar computadoras para calcular la respuesta. Si la computadora está integrada directamente en el teléfono del usuario, será mucho más seguro.
Si la computadora que utiliza la IA está ubicada en otro lugar, definitivamente compromete la seguridad de los datos. Por lo tanto, deberíamos averiguar si el motor de inteligencia artificial se ejecuta directamente en su dispositivo o desde otro servidor.
En Color Me, es sabido que habéis aplicado la IA a muchas tareas. ¿Nos puedes contar los beneficios que aporta a la empresa?
- Hemos estado investigando aspectos de IA en el trabajo desde muy temprano durante los últimos dos años, para entender qué es bueno y qué no es bueno para los estudiantes que estudian campos creativos.
Tengo algunos comentarios, en primer lugar, que incluso los principiantes que aprenden sobre diseño y creatividad no deberían abusar ni usar la IA generativa demasiado pronto. Cuando su experiencia y habilidades sean lo suficientemente altas, debería considerar aprender sobre herramientas de soporte de IA.
En cuanto al aspecto del sistema de RRHH, en una encuesta reciente me di cuenta de que casi todos los empleados de la empresa utilizan IA semanalmente, incluso diariamente, para realizar su trabajo.
Podría girar en torno a generar informes, enviar correos electrónicos u obtener ideas de la IA. Creo que considerar a la IA como mi asistente virtual para apoyar mi trabajo ayudará mucho a mi productividad.
Los equipos de programación de la empresa admiten que la IA ha triplicado su productividad.
¿Aplicar IA a la programación tiene alguna desventaja, señor?
- Una cosa que tenemos que admitir es que la IA será muy perjudicial para cualquiera que no tenga suficiente experiencia en el campo y la utilice demasiado pronto, crearán productos que no serán de buena calidad.
Por ejemplo, si un programador usa IA para crear código que no entiende, ese empleado luego no podrá encontrar la ubicación para corregir el error o cambiar el nombre de la aplicación.
O para aquellos que realizan trabajos de elaboración de informes, cuando usan IA para generar gráficos que no entienden si son correctos o no, y no pueden probarlos, es un arma de doble filo extremadamente aterradora.
Respecto a la historia del uso de la IA para la creatividad, ¿crees que el abuso de estas herramientas reducirá el pensamiento humano?
Creo que usar IA para referenciar ideas nos ayuda a pensar en más aspectos y perspectivas que los usuarios aún no han comprendido.
Pero a veces también nos da pereza ser creativos. La gente necesita entender que la naturaleza de la IA es que ha recopilado todas las ideas que han existido en el mundo desde el pasado hasta el presente y cuando el usuario lo solicita, devolverá los resultados.
Entonces, si dejamos de ser creativos, si dejamos de generar nuevas ideas, tarde o temprano la IA perderá gradualmente su creatividad, no habrá originalidad ni se crearán nuevas características.
Esto es algo que preocupa bastante a cualquier empresa, especialmente a aquellas relacionadas con la creatividad.
En el campo de los medios en general o del periodismo en particular, hay periódicos en todo el mundo que han implementado tecnología para producir artículos a partir de inteligencia artificial. ¿En el futuro, la inteligencia artificial podrá reemplazar a los humanos en algunos campos, señor?
- Las preocupaciones sobre que la IA reemplace a los humanos en algunos campos y algunas tecnologías creo que son parcialmente ciertas.
Nosotros mismos, al probar la IA generativa, hemos obtenido resultados bastante sorprendentes y convincentes. Por supuesto, todavía hay resultados falsos, sin pruebas en las que los usuarios puedan confiar.
La pregunta es ¿seremos reemplazados? Esto se ha demostrado a lo largo de la historia, a través de cada revolución tecnológica. Cuando se crea una tecnología disruptiva, con seguridad se perderán empleos, pero rápidamente se crearán otros nuevos.
Especialmente para aquellos que aplican esa tecnología para implementarla en su negocio o construir nuevas ideas de negocio.
En un futuro donde los trabajos repetitivos y poco creativos serán reemplazados gradualmente por IA y máquinas. También veremos rápidamente a muchos jóvenes con experiencia y la capacidad de trabajar con IA creará rápidamente muchos puestos de trabajo nuevos.
Como ha observado el director ejecutivo de OpenAI, Sam Altman, creo que pronto habrá jóvenes que se convertirán en multimillonarios por sí solos y casi sin empleados. Podrían construir un ejército de trabajadores humanos compuesto enteramente de IA; Puede convertir ideas de negocio en realidad.
Eso es algo que todos observamos, miramos y esperamos para ver si sucederá en el futuro o no.
¡Gracias por tomarte el tiempo para charlar!
Contenido: Nam Doan, Khanh Vi
Diseño: Thuy Tien
Dantri.com.vn
Fuente: https://dantri.com.vn/suc-manh-so/con-bao-ai-tai-viet-nam-va-nhung-cong-viec-dang-bi-thay-the-20241002004323299.htm
Kommentar (0)