SGGP
Después de que Europa empezó a redactar y pronto lanzó la primera ley del mundo sobre inteligencia artificial (IA), los cuatro principales "gigantes" de minería de datos de Internet de Estados Unidos acaban de lanzar un grupo llamado Frontier Model Forum.
 |
| El objetivo principal del Frontier Model Forum es promover la IA de manera responsable. Foto: THINKWITHNICHE |
Las partes se unen
El grupo, que incluye a Anthropic, Google, Microsoft y OpenAI (propietario de ChatGPT), dijo que los objetivos principales del Frontier Model Forum son ayudar a reducir los riesgos planteados por las plataformas de IA y desarrollar estándares de la industria. El Frontier Model Forum creará un nuevo foro con objetivos clave como: Promover la investigación en IA segura para apoyar el desarrollo, mitigar riesgos y estandarizar las evaluaciones y niveles de seguridad; identificar las mejores prácticas para desarrollar e implementar modelos, ayudando al público a comprender la naturaleza, las capacidades, las limitaciones y los impactos de la tecnología; Colaborar con responsables políticos, académicos, la sociedad civil y empresas para compartir conocimientos sobre riesgos y seguridad.
Los gigantes tecnológicos tienden a resistirse a endurecer los controles. Sin embargo, esta vez la visión general de la industria tecnológica ha cambiado mucho ante la gran preocupación por los riesgos que puede traer la IA. Las empresas que participan en la iniciativa Frontier Model Forum se comprometen a compartir las mejores prácticas entre empresas y a compartir información abiertamente con los gobiernos y la sociedad civil.
En concreto, el Frontier Model Forum se centrará en plataformas de aprendizaje automático a gran escala, aunque incipientes, que llevan la IA a nuevos niveles de sofisticación (y potencialmente de riesgo). Además, el Frontier Model Forum también apoyará el desarrollo de aplicaciones que aborden los principales desafíos sociales como: la mitigación y adaptación al cambio climático, la detección y prevención temprana del cáncer y la lucha contra las amenazas cibernéticas.
Espacio para la destrucción potencial
El anuncio del Frontier Model Forum por parte de empresas estadounidenses llega días después de que senadores estadounidenses advirtieran el 25 de julio sobre el riesgo de que la IA se utilice para ataques biológicos en una audiencia ante un subcomité del Comité Judicial del Senado de Estados Unidos. Recientemente, 7 importantes empresas tecnológicas, entre ellas OpenAI, Alphabet y Meta, se comprometieron voluntariamente con la Casa Blanca a desarrollar un sistema para identificar todo el contenido, desde texto, imágenes, audio hasta video, creado por IA, para brindar a los usuarios transparencia informativa y garantizar que esta tecnología sea más segura.
Dario Amodei, CEO de AI Anthropic, señaló que si bien la IA aún no es capaz de ayudar a crear armas biológicas, es un riesgo “a mediano plazo” y representa una seria amenaza para la seguridad nacional de Estados Unidos en los próximos dos o tres años. La razón es que los sujetos que llevan a cabo ataques con armas biológicas a gran escala ya no se limitan a aquellos con conocimientos especializados en esta materia.
El mundo se enfrenta a una explosión de contenido creado con tecnología de IA generativa. Desde Estados Unidos y Europa hasta Asia, los controles se están endureciendo gradualmente. A partir de septiembre, el Senado de Estados Unidos organizará una serie de nueve talleres adicionales para que los miembros aprendan sobre cómo la IA podría afectar los empleos, la seguridad nacional y la propiedad intelectual, según CNN. Antes que Estados Unidos, si se llega a un acuerdo, la Unión Europea tendrá el año que viene la primera ley del mundo sobre gestión de IA, que se espera entre en vigor a partir de 2026.
Los beneficios que la IA aporta a la sociedad son innegables, pero hay cada vez más advertencias sobre los riesgos potenciales de esta nueva tecnología. En junio, el Secretario General de las Naciones Unidas, Antonio Guterres, respaldó una propuesta de varios ejecutivos de IA para establecer un organismo de control internacional de la IA, similar al Organismo Internacional de Energía Atómica (OIEA).
Al regresar al Frontier Model Forum, el presidente de Microsoft, Brad Smith, afirmó que la iniciativa es un paso importante para que las empresas de tecnología se unan para promover el uso responsable de la IA, aportando beneficios a toda la humanidad. De manera similar, la vicepresidenta de asuntos globales de OpenAI, Anna Makanju, afirmó que la tecnología de IA avanzada tiene el potencial de aportar profundos beneficios a la sociedad, y esto requiere supervisión y gobernanza.
[anuncio_2]
Fuente
Kommentar (0)