著名なコンピューター科学者ヨシュア・ベンジオ氏は、AIが制御不能になれば「人類は10年以内に消滅する可能性がある」と警告している。
科学者たちはAIの制御を失うリスクを懸念している - イラスト: ChatGPT
2月7日、著名なコンピューター科学者が、将来、これらの人工製品が「生存する意志」を発達させた場合、人間が人工知能（AI）システムを「制御できなくなる」可能性があると警告した。
パリで開催中のAIアクションサミットで講演したコンピューター科学者のヨシュア・ベンジオ氏は、AIの安全性に関する国際規制の強化と研究の拡大を求めた。AIの安全性に関する研究は現在、この分野で行われている主要な投資のほんの一部に過ぎない。
権威あるコンピューターサイエンスの2018年チューリング賞受賞者によると、高性能で低コストのAIモデルDeepSeekが先月登場したことで、安全性への競争が加速したという。ヨシュア・ベンジオ氏は、AIの制御を失えば「人類は10年以内に消滅する可能性がある」と警告した。
彼はまた、AIの規制において政府がリーダーシップを発揮するよう求めた。この呼びかけは、世界をリードするAI国家である米国が、ドナルド・トランプ新大統領の下でこの技術の開発を「解き放つ」ために多くの動きを見せている状況で行われた。
現在、ヨシュア・ベンジオ氏が会議で発表した国際AI安全報告書でも、オンラインプラットフォーム上でAIを利用して偽のコンテンツや誤解を招くコンテンツを作成するといったよく知られたリスクが指摘されているが、一方で生物学的攻撃やサイバー攻撃といった新たなリスクも絶えず発生している。
これは、30カ国、国連、欧州連合、経済協力開発機構（OECD）の約100人の専門家の協力を得て、2023年11月に英国で開催されたAI安全性サミット以来実施された、国際的なAI安全性に関する最初の報告書です。
EUはAI管理という難しい問題に直面[広告2]
出典: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm
コメント (0)