OpenAI et Anthropic partagent leurs derniers modèles d'IA avec le gouvernement américain

Les deux entreprises collaboreront avec l'US AI Safety Institute, une unité du National Institute of Standards and Technology (NIST), une agence fédérale américaine. Cela est considéré comme une étape importante dans la gestion et la surveillance de la technologie de l’IA, qui constitue une préoccupation majeure depuis le lancement de ChatGPT d’OpenAI.

« Ce n’est qu’un début, mais une étape importante dans l’effort visant à gérer de manière responsable l’avenir de l’IA », a déclaré Elizabeth Kelly, directrice de l’US AI Safety Institute.

En vertu de l'accord, l'Institut américain de sécurité de l'IA fournira des commentaires aux deux entreprises sur les améliorations potentielles de sécurité de leurs modèles, avant et après leur publication au public. L'Institut travaillera également en étroite collaboration avec l'AI Safety Institute du Royaume-Uni au cours de ce processus.

« Le partenariat avec l'Institut américain de sécurité de l'IA s'appuie sur sa vaste expertise pour tester rigoureusement nos modèles avant leur déploiement à grande échelle. Cela renforce notre capacité à identifier et à atténuer les risques, favorisant ainsi un développement responsable de l'IA », a déclaré Jack Clark, cofondateur et responsable des politiques chez Anthropic.

Cette décision s’inscrit dans le cadre d’un effort visant à mettre en œuvre un décret exécutif de la Maison Blanche sur l’IA, prévu pour 2023, qui vise à créer un cadre juridique pour le déploiement rapide de modèles d’IA aux États-Unis.

Cependant, alors que le gouvernement fédéral poursuit une approche volontaire, les législateurs de Californie - le pôle technologique américain - viennent d'adopter le 28 août un projet de loi sur la sécurité de l'IA au niveau de l'État. Le projet de loi, s'il est signé par le gouverneur, imposerait des réglementations plus strictes à l'industrie de l'IA.

Sam Altman, PDG d'OpenAI, a exprimé son soutien à la réglementation de l'IA au niveau national plutôt qu'au niveau des États, arguant que cela permettrait d'éviter le risque d'entraver la recherche et l'innovation dans le domaine de l'IA.

La démarche des principales entreprises technologiques et du gouvernement américain montre une tendance à trouver un équilibre entre innovation et sécurité dans le domaine en évolution rapide de l’IA.

Source : https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html