Le directeur d'OpenAI estime que de nouvelles règles sont nécessaires pour lutter contre les risques liés à l'IA

« Je m’inquiète de cela », a déclaré le PDG Sam Altman à propos de l’utilisation potentielle de l’IA pour interférer avec les élections, soulignant la nécessité de règles et de directives supplémentaires pour régir le domaine de l’intelligence artificielle.

Le PDG de ChatGPT, Sam Altman, témoigne devant le Congrès américain. Photo : NBC

Au cours des derniers mois, les entreprises, grandes et petites, se sont lancées dans une course pour commercialiser des produits d’IA, suscitées par l’engouement pour ChatGPT. Certains critiques craignent que la technologie n’aggrave les préjudices sociaux, notamment en approfondissant les préjugés et en diffusant de fausses informations.

« Il n’y a aucun moyen de réglementer complètement l’IA, surtout lorsque l’engouement pour l’IA explose à l’échelle mondiale », a déclaré le sénateur Cory Booker, l’un des nombreux législateurs qui s’interrogent sur la meilleure façon de réglementer l’IA.

La sénatrice Mazie Hirono souligne le risque d’une désinformation généralisée à l’approche des élections de 2024. S'exprimant pour la première fois devant le Congrès américain, Altman a suggéré que les États-Unis devraient envisager des exigences en matière de licences et de tests pour le développement de modèles d'IA.

Lorsqu'on lui a demandé de commenter quelle IA devrait être autorisée, il a déclaré qu'un modèle capable de persuader ou de manipuler les croyances d'une personne serait une « piste à considérer ».

Il a également déclaré que les entreprises devraient avoir le droit de dire qu'elles ne veulent pas que leurs données soient utilisées pour former l'IA, un sujet qui est également en discussion au Congrès américain.

La Maison Blanche a convoqué les principaux PDG du secteur technologique, dont Sam Altman, pour aborder la question de l’IA. Les législateurs américains s’efforcent également de trouver des solutions pour améliorer les avantages de la technologie et de la sécurité nationale tout en limitant l’utilisation abusive de l’IA.

Un employé d'OpenAI a récemment proposé que les États-Unis créent un organisme de délivrance de licences d'IA, qui pourrait s'appeler le Bureau de la sécurité et de la sûreté des infrastructures d'IA, ou OASIS.

OpenAI est soutenu par Microsoft. Altman appelle également à une coopération mondiale en matière d’IA et encourage les entreprises à se conformer aux réglementations de sécurité.

Christina Montgomery, responsable de la confiance et de la confidentialité chez IBM, a appelé le Congrès à concentrer la réglementation sur les domaines présentant le plus grand potentiel de préjudice social.

Hoang Ton (selon NBC, Reuters)

Source: https://www.congluan.vn/ceo-cua-openai-keu-goi-cac-quy-tac-de-chong-lai-rui-ro-ai-post247993.html