En conséquence, la société propriétaire de ChatGPT et de Dall-E a pris de nombreux engagements en matière de politique d’IA. « L'entreprise s'engage à collaborer avec le gouvernement américain et les décideurs politiques du monde entier pour soutenir les exigences de licence pour tous les modèles d'IA de haute puissance à l'avenir. »
L'idée d'un processus de licence d'IA, co-promue par des leaders de l'industrie comme OpenAI et le gouvernement, ouvre la voie à un conflit potentiel entre les startups et les développeurs open source, qui y voient une tentative de rendre plus difficile l'accès à l'espace de l'IA.
Lors d'une audition devant le Congrès américain, le PDG d'OpenAI, Sam Altman, a un jour évoqué l'idée de créer une agence chargée d'octroyer des licences ou de révoquer les produits d'IA s'ils enfreignent les règles établies.
La révélation d'OpenAI intervient alors que d'autres grandes sociétés d'IA comme Microsoft et Google envisagent également des démarches similaires.
Cependant, la vice-présidente des affaires mondiales de l'entreprise, Anna Makanju, a déclaré que le contenu du document de politique interne différera de la politique que la Maison Blanche est sur le point d'annoncer. OpenAI affirme que l'entreprise ne « pousse » pas, mais estime que l'octroi de licences est un moyen « pratique » pour les gouvernements de réglementer les systèmes émergents.
« Il est important que les gouvernements sachent si ces systèmes superpuissants pourraient potentiellement causer des dommages », et « il existe très peu de moyens pour les autorités d’être informées de l’existence de ces systèmes sans auto-déclaration. »
Makanju a déclaré qu'OpenAI ne prend en charge que les modèles d'IA sous licence plus puissants que GPT-4 et souhaite garantir que les petites startups n'aient pas à supporter le fardeau réglementaire.
Responsabilité et transparence
OpenAI a également signalé dans sa documentation interne qu'il était prêt à être plus ouvert sur les données qu'il utilise pour former des générateurs d'images comme Dall-E. L'entreprise affirme qu'elle s'engage à adopter une approche transparente et responsable des données de développement de l'IA.
Les analystes ont noté que les engagements décrits dans la note d'OpenAI concordent parfaitement avec certaines des propositions politiques formulées par Microsoft en mai. OpenAI a souligné que, malgré un investissement de 10 milliards de dollars de Microsoft, elle demeure une entreprise indépendante.
De plus, la société propriétaire de ChatGPT a également mené une enquête sur les filigranes pour suivre l'authenticité et le droit d'auteur des images générées par l'IA.
Dans la note, OpenAI semble reconnaître les risques potentiels que les systèmes d’IA posent pour le marché du travail, ainsi que les inégalités. L'entreprise a déclaré dans le projet qu'elle mènerait des recherches et ferait des recommandations aux décideurs politiques pour protéger l'économie contre d'éventuelles « perturbations ».
La société a également déclaré qu'elle était ouverte à l'idée de permettre aux gens d'accéder à ses systèmes et de les tester pour détecter les vulnérabilités dans divers domaines, notamment le contenu offensant, la manipulation et la désinformation, et qu'elle soutenait la création d'un centre collaboratif de partage d'informations sur la cybersécurité.
(Selon Bloomberg)
Source
Comment (0)