Le nouveau modèle d'OpenAI augmente le risque de création d'armes biologiques

Le modèle est capable de raisonner, de résoudre des problèmes mathématiques complexes et de répondre à des questions de recherche scientifique, ce qui est considéré comme une étape importante dans l'effort visant à développer l'intelligence artificielle générale (AGI) - des machines dotées de capacités cognitives comme les humains.

OpenAI a déclaré qu'elle était particulièrement « prudente » quant à la manière dont elle a présenté le modèle o1 au public, compte tenu de ses capacités avancées. Photo : Getty Images

Selon le Financial Times, OpenAI a évalué le risque de ces nouveaux modèles comme « moyen » pour les problèmes liés aux armes chimiques, biologiques, radiologiques et nucléaires (CBRN), le niveau le plus élevé jamais évalué par l'entreprise. Cela signifie que la technologie a « considérablement amélioré » la capacité des experts à créer des armes biologiques.

Selon les experts, les logiciels d’IA capables de raisonnement détaillé, en particulier entre les mains de mauvais acteurs, peuvent augmenter le risque d’abus.

Le professeur Yoshua Bengio, un scientifique de renommée mondiale en IA de l'Université de Montréal, a souligné que ce niveau de risque moyen augmente l'urgence d'adopter des réglementations sur l'IA, comme le projet de loi SB 1047 actuellement débattu en Californie. Le projet de loi obligerait les fabricants d’IA à prendre des mesures pour réduire le risque que leurs modèles soient utilisés à mauvais escient pour développer des armes biologiques.

Selon The Verge, la sécurité et la sûreté des modèles d’IA sont devenues une préoccupation majeure alors que les entreprises technologiques comme Google, Meta et Anthropic se précipitent pour créer et améliorer des systèmes d’IA avancés.

Ces systèmes ont le potentiel d’apporter de grands avantages en aidant les humains à accomplir des tâches et en fournissant une assistance dans divers domaines, mais posent également des défis en matière de sécurité et de responsabilité sociale.

Cao Phong (selon FT, Reuters, The Verge)

Source : https://www.congluan.vn/openai-thua-nhan-mo-hinh-ai-moi-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-hoc-post312337.html