Le « père » de Chat GPT partage sa plus grande peur à propos de l'IA

« Ma plus grande crainte est que nous causions un grave préjudice – à nous, à ce secteur, à l'industrie technologique – au monde. Je pense que cela pourrait se produire de différentes manières. C'est pourquoi nous avons créé cette entreprise », a déclaré Altman lors d'une audition devant la sous-commission judiciaire du Sénat sur la vie privée, la technologie et le droit, le 16 mai.

La plus grande peur : l’IA peut se tromper

« Les gens pensent qu'en cas de dysfonctionnement de cette technologie, elle pourrait mal tourner, et nous voulons le signaler haut et fort. Nous voulons collaborer avec le gouvernement pour éviter que cela ne se produise », a déclaré Altman, PDG d'OpenAI (le développeur de ChatGPT).

Le PDG d'OpenAI, Sam Altman, prête serment lors d'une audience devant la sous-commission judiciaire du Sénat. (Photo : Washington Post)

Lors de son premier témoignage devant le Congrès, Altman a également appelé à une réglementation plus large, y compris une nouvelle agence gouvernementale chargée d'octroyer des licences aux modèles d'IA, pour répondre aux inquiétudes croissantes selon lesquelles l'intelligence artificielle pourrait déformer la réalité et créer des risques de sécurité sans précédent.

M. Altman a pris une position sérieuse sur la manière dont l’intelligence artificielle pourrait « causer un préjudice important au monde » et a exprimé sa volonté de travailler avec les législateurs pour faire face aux risques posés par ChatGPT de son entreprise et d’autres outils d’IA.

M. Altman a décrit les comportements « risqués » engendrés par des technologies comme ChatGPT, notamment la diffusion de « désinformation interactive en direct » et la manipulation émotionnelle. Il a admis que l’IA pourrait être utilisée pour cibler les attaques de drones.

« Si cette technologie tombe en panne, cela pourrait être mauvais », a-t-il déclaré.

Pourtant, au cours de près de trois heures de discussion sur les conséquences potentiellement désastreuses, M. Altman a insisté sur le fait que son entreprise continuerait à déployer la technologie de l’IA.

Plutôt que de prendre un risque, soutient-il, « déployer de manière itérative » les modèles d’IA d’OpenAI donne aux organisations le temps de comprendre les menaces potentielles. Il s’agit d’une démarche stratégique visant à introduire dans le monde une technologie « relativement faible » et « imparfaite » pour aider à découvrir les risques de sécurité associés.

Illustration de l'application ChatGPT, qui permet aux ordinateurs de discuter avec les utilisateurs comme un humain.

Au cours des dernières semaines, M. Altman a effectué une tournée mondiale de bonne volonté, rencontrant en privé des décideurs politiques, dont le président Biden et des membres du Congrès, pour répondre aux préoccupations concernant le déploiement rapide de ChatGPT et d'autres technologies.

L'audience du 16 mai marque la première occasion pour le grand public d'entendre son message, à un moment où Washington a de plus en plus de mal à réglementer une technologie qui a perturbé l'emploi, facilité la fraude et propagé la désinformation.

Contrairement aux auditions d'autres PDG du secteur technologique, tels que Shou Zi Chew de TikTok et Mark Zuckerberg de Meta, les législateurs américains ont réservé à M. Altman un accueil relativement chaleureux.

Ils semblaient être en mode écoute, exprimant leur ouverture à l'idée d'examiner les suggestions d'Altman et de deux autres témoins à l'audience : Christina Montgomery, directrice d'IBM, et Gary Marcus, professeur émérite de l'Université de New York.

Lors d'une audition de la sous-commission judiciaire du Sénat sur la vie privée, la technologie et le droit, les législateurs ont exprimé de profondes inquiétudes quant au développement rapide de l'intelligence artificielle, arguant que les avancées récentes pourraient être plus transformatrices qu'Internet, ou aussi dangereuses que la bombe atomique.

« C’est votre opportunité de nous dire comment faire les choses correctement », a déclaré le sénateur John Neely Kennedy aux témoins. « Utilise-le. »

Les législateurs des deux partis ont exprimé leur ouverture à l'idée de créer une agence gouvernementale chargée de réglementer le développement de l'intelligence artificielle, bien que les efforts précédents pour créer une agence spécifique sous la supervision de la Silicon Valley aient échoué au Congrès, car les partis ont été divisés sur la manière de façonner une agence aussi massive.

Il n’est pas certain qu’une telle proposition recueillerait un large soutien parmi les républicains, qui sont généralement réticents à l’idée d’étendre le pouvoir du gouvernement. Le sénateur Josh Hawley, républicain du Missouri, a averti qu’une telle agence pourrait être « piégée par les intérêts qu’elle est censée réguler ».

Le sénateur Richard Blumenthal, président du sous-comité, a salué le témoignage de M. Altman lors de l'audience : « Sam Altman est à mille lieues des autres PDG... Non seulement dans ses paroles et sa rhétorique, mais aussi dans ses actions concrètes et sa volonté de s'engager et de s'engager dans des actions concrètes. »

L'audition du PDG Altman intervient alors que les décideurs politiques de Washington sont de plus en plus préoccupés par les menaces posées par l'intelligence artificielle, telles que ChatGPT et d'autres outils d'IA innovants, notamment en ce qui concerne la désinformation, la confidentialité des données, la violation du droit d'auteur et la cybersécurité.

Les législateurs ont exprimé leurs regrets quant à leur approche relativement laxiste à l’égard de l’industrie de l’IA depuis avant les élections de 2016. Leur première audition avec le PDG de Meta, Zuckerberg, a eu lieu en 2018, alors que Facebook était déjà un géant et sortait tout juste du scandale Cambridge Analytica qui a collecté les données de 87 millions d'utilisateurs de Facebook.

À l’époque, malgré un large consensus bipartisan selon lequel l’IA représentait une menace, les législateurs n’ont pas réussi à s’entendre sur des règles régissant son utilisation ou son développement.

(Source : Journal Tin Tuc/Fox News ; Washington Post)

Utile
Émotion
Créatif
Unique
Colère

Source: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html