OpenAI y Anthropic comparten los últimos modelos de IA con el gobierno de EE. UU.

Las dos empresas colaborarán con el Instituto de Seguridad de IA de Estados Unidos, una unidad del Instituto Nacional de Estándares y Tecnología (NIST), una agencia federal estadounidense. Esto se considera un importante paso adelante en la gestión y el seguimiento de la tecnología de IA, que ha sido una preocupación importante desde el lanzamiento de ChatGPT de OpenAI.

“Esto es solo el comienzo, pero un hito importante en el esfuerzo por gestionar de manera responsable el futuro de la IA”, afirmó Elizabeth Kelly, directora del Instituto de Seguridad de IA de EE. UU.

Según el acuerdo, el Instituto de Seguridad de IA de EE. UU. proporcionará retroalimentación a ambas empresas sobre posibles mejoras de seguridad en sus modelos, tanto antes como después de que se lancen al público. El Instituto también trabajará estrechamente con el Instituto de Seguridad de IA del Reino Unido durante este proceso.

“La colaboración con el Instituto de Seguridad de IA de EE. UU. aprovecha su amplia experiencia para probar rigurosamente nuestros modelos antes de su implementación generalizada. Esto mejora nuestra capacidad para identificar y mitigar riesgos, promoviendo así el desarrollo responsable de la IA”, afirmó Jack Clark, cofundador y director de políticas de Anthropic.

La medida es parte de un esfuerzo para implementar una orden ejecutiva de IA de la Casa Blanca que entrará en vigor en 2023 y que tiene como objetivo crear un marco legal para la rápida implementación de modelos de IA en Estados Unidos.

Sin embargo, mientras el gobierno federal está adoptando un enfoque voluntario, los legisladores de California (el centro tecnológico de Estados Unidos) acaban de aprobar un proyecto de ley de seguridad de inteligencia artificial a nivel estatal el 28 de agosto. El proyecto de ley, si es firmado por el gobernador, impondría regulaciones más estrictas a la industria de la IA.

Sam Altman, director ejecutivo de OpenAI, ha expresado su apoyo a la regulación de la IA a nivel nacional en lugar de a nivel estatal, argumentando que esto ayudaría a evitar el riesgo de obstaculizar la investigación y la innovación en el campo de la IA.

La medida de las principales empresas tecnológicas y el gobierno de Estados Unidos muestra una tendencia hacia el equilibrio entre la innovación y la seguridad en el campo de la IA, en rápida evolución.

Fuente: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html