 |
| Ilustración para llamar a tratar la IA como un arma biológica. (Fuente: gizmodo.com) |
En el artículo Tratar la IA como un arma biológica, no como un arma nuclear de Emilia Javorsky, científica-médica y directora del Future of Life Institute (EE.UU.), la autora sostiene que a pesar de que recientemente el mundo ha comparado repetidamente la IA con las bombas nucleares, existe un enfoque más adecuado, que es regular este tipo de tecnología como un arma biológica o biotecnología.
Según el autor, la IA es quizás la tecnología más poderosa en la historia de la humanidad que los seres humanos estamos desarrollando hoy en día. Los daños de la IA, incluida la discriminación, las amenazas a la democracia y la concentración de influencia, están bien documentados.
Sin embargo, las principales empresas de IA están compitiendo para construir sistemas de IA cada vez más potentes, lo que aumenta los riesgos a un ritmo sin precedentes en la historia de la humanidad.
Mientras los líderes luchan por contener y controlar el aumento de la IA y sus riesgos asociados, deben considerar los ajustes y estándares que la humanidad ha aprovechado para crearla en el pasado.
El ajuste y la innovación pueden coexistir, especialmente cuando están en juego vidas humanas.
Una advertencia desde la tecnología nuclear
Aunque la energía nuclear es más de 600 veces más segura que el petróleo en términos de mortalidad y es enormemente eficiente, pocos países la recurren a ella debido a las consecuencias que han visto a causa de esta estrategia de larga data.
El mundo conoce la tecnología nuclear en forma de bombas atómicas y bombas de hidrógeno. Con estas armas, por primera vez en la historia, los humanos desarrollaron una tecnología capaz de acabar con la civilización humana, producto de una carrera armamentista que priorizó la velocidad y la innovación sobre la seguridad y el control.
Los fallos posteriores en la seguridad técnica y la gestión de riesgos, notoriamente responsables de los desastres nucleares de Chernóbil y Fukushima, destruyeron cualquier posibilidad de que la gente aceptara los aspectos positivos de la energía nuclear.
A pesar de la evaluación general favorable de los riesgos de la energía nuclear y de las décadas de trabajo de los científicos para convencer al mundo de su viabilidad, el concepto mismo de "nuclear" sigue... contaminado.
Cuando una tecnología causa daño en sus primeras etapas, la percepción social y la posterior reacción exagerada pueden limitar permanentemente sus beneficios potenciales. Debido a los errores iniciales con la energía nuclear, los humanos no han podido aprovechar su fuente de energía limpia y segura, mientras que la neutralidad de carbono y la estabilidad energética siguen siendo un sueño bastante irreal.
El enfoque correcto hacia la biotecnología
Sin embargo, en algunos ámbitos los humanos han acertado. La biotecnología es uno de esos campos, cuyo rápido desarrollo se ve alentado en un contexto en el que muchos pacientes sufren y muchas muertes siguen ocurriendo todos los días debido a enfermedades que no tienen cura.
El objetivo de esta investigación no es “moverse rápido y romper cosas”, sino innovar lo más rápido y seguro posible. Los seres humanos limitan el ritmo de la innovación en este campo mediante un sistema de regulaciones, ética y normas que protegen el bienestar de la sociedad y de los individuos, y protegen a la industria de quedar paralizada por reacciones que podrían conducir al desastre.
Cuando se prohibieron las armas biológicas en la Convención sobre Armas Biológicas durante la Guerra Fría, las superpotencias enfrentadas acordaron que crear esas armas no beneficiaba a nadie. Los dirigentes vieron que estas tecnologías difíciles de controlar pero altamente accesibles no debían verse como un mecanismo para ganar la carrera armamentista, sino como una amenaza para la humanidad misma.
| Emilia Javorsky es una de las científicas que recientemente firmó una carta abierta abogando por una pausa de seis meses en el desarrollo de la IA. También firmó una declaración advirtiendo que la IA representa un “riesgo de extinción” para la humanidad. |
Una pausa en la carrera de las armas biológicas permite a los humanos desarrollarlas a un ritmo responsable. Los científicos y los reguladores aplican estándares estrictos a cualquier innovación que tenga el potencial de dañar a los humanos.
Estos ajustes no han sido gratuitos, pero han establecido una bioeconomía con aplicaciones en áreas que van desde la energía limpia hasta la agricultura.
Durante la pandemia de Covid-19, los biólogos han aplicado la tecnología de ARNm para producir vacunas efectivas a una velocidad sin precedentes en la historia de la humanidad.
Una encuesta reciente realizada a investigadores de IA descubrió que el 36% de los encuestados creía que la IA podría causar un desastre de nivel nuclear. Sin embargo, la respuesta y los ajustes del gobierno han sido lentos. Este ritmo no es consistente con el ritmo de adopción de tecnología, ya que la aplicación ChatGPT ya supera los 100 millones de usuarios.
Los riesgos cada vez mayores de la IA han llevado a 1.800 directores ejecutivos y 1.500 profesores en Estados Unidos a firmar recientemente una carta pidiendo una pausa de seis meses en el desarrollo de la IA y un proceso urgente de regulación y mitigación de riesgos. Esta pausa le dará a la comunidad global tiempo para limitar los daños causados por la IA y prevenir lo que podría ser un desastre irreversible para nuestra sociedad.
Al evaluar los riesgos y los posibles daños de la IA, también debemos tener en cuenta el potencial positivo de esta tecnología. Si desarrollamos IA de manera responsable ahora, obtendremos beneficios increíbles de esta tecnología. Por ejemplo, los beneficios de aplicar la IA en el descubrimiento y desarrollo de fármacos, mejorando la calidad y el coste de la atención sanitaria y aumentando el acceso a los médicos y a los tratamientos médicos.
DeepMind de Google ha demostrado que la IA es capaz de resolver problemas fundamentales de la biología que los humanos han evitado durante mucho tiempo. Según las investigaciones, la IA puede acelerar la consecución de todos los Objetivos de Desarrollo Sostenible de las Naciones Unidas, llevando a la humanidad hacia un futuro de mejor salud, equidad, prosperidad y paz.
Este es un momento para que la comunidad global se una, como lo hizo hace 50 años en la Convención sobre Armas Biológicas, para garantizar que el desarrollo de la IA sea seguro y responsable. Si no actuamos pronto, podríamos destruir el brillante futuro de la IA y nuestra sociedad actual.
Fuente
Kommentar (0)