Les craintes que des criminels ou des terroristes utilisent l’IA pour détruire le monde seront un sujet brûlant lors d’une conférence mondiale sur le leadership qui se tiendra au Royaume-Uni en novembre. Des responsables britanniques parcourent le monde pour tenter de parvenir à un accord sur une déclaration commune mettant en garde contre les risques posés par les mauvais acteurs exploitant les nouvelles technologies.
Certains responsables proches du Premier ministre britannique craignent qu’à un moment donné, la technologie soit suffisamment puissante pour permettre de créer des armes biologiques ou des armes échappant au contrôle humain. Les préoccupations croissantes nécessitent une surveillance réglementaire pour atténuer les risques. Alors que les leaders technologiques conviennent de suspendre le développement de l’IA, ils sont engagés dans une course aux armements de l’IA avec leurs rivaux.
Selon The Guardian, le sommet de novembre discutera des risques de « l’IA de pointe ». Frontier AI est un terme utilisé pour décrire les modèles d’IA les plus avancés qui pourraient constituer une menace pour la vie humaine.
Plus tôt cette semaine, le gouvernement britannique a confirmé que la conférence se concentrerait sur des risques tels que l’utilisation abusive de l’IA pour créer des armes biologiques, des cyberattaques ou des systèmes avancés sans contrôle humain. Depuis des mois, M. Sunak alerte sur les risques posés par l’IA, exhortant la communauté internationale à mettre en place des « rails » pour empêcher son utilisation abusive.
L’année dernière, il a fallu à peine six heures à une IA pour suggérer 40 000 molécules potentiellement mortelles différentes, dont l’une ressemblait au VX, l’agent neurotoxique le plus puissant jamais développé.
Début 2023, des chercheurs ont découvert que ChatGPT peut tromper les humains pour atteindre des objectifs spécifiques. Le chatbot IA a convaincu un humain de résoudre un Captcha (un outil utilisé pour détecter si un humain ou un robot effectue une opération).
Une autre préoccupation majeure est la montée en puissance de « l’intelligence artificielle générale » (IAG), un terme utilisé pour décrire les systèmes d’IA capables d’accomplir n’importe quelle tâche aussi bien, voire mieux, que les humains, ce qui constitue une menace pour l’humanité. Certains pensent que l’AGI ne sera disponible que dans quelques années. Cependant, les experts en IA ne sont pas d’accord et qualifient l’AGI incontrôlable de simple « science-fiction ».
Quoi qu’il en soit, le Premier ministre Sunak voudra utiliser la conférence pour attirer l’attention sur les risques existentiels plutôt que sur les possibilités immédiates de l’IA, telles que la création de fausses images ou la discrimination si elle est utilisée pour prendre des décisions de politique publique.
Le gouvernement britannique dépensera 100 millions de livres sterling pour un nouveau groupe de travail sur l’IA, aidant à tester les algorithmes en cours de développement. Il souhaite inciter les entreprises mondiales à renvoyer leurs outils d’IA au Royaume-Uni pour évaluation avant leur déploiement à grande échelle.
Seul le gouvernement peut garantir que les préoccupations les plus importantes en matière de sécurité nationale soient apaisées, selon le vice-Premier ministre britannique Oliver Dowden.
Un porte-parole du gouvernement britannique a déclaré que l’IA avait un énorme potentiel pour changer tous les aspects de la vie. Le groupe de travail sur l’IA a été créé pour garantir que la technologie soit développée de manière sûre et responsable. La conférence sur l’IA examinera une variété de risques potentiels.
(Selon The Guardian)
Source
Comment (0)