El mundo no está preparado para la inteligencia artificial general (AGI), ni para el momento en que la inteligencia artificial sea tan inteligente como el cerebro humano, según un investigador senior de OpenAI.
¿Es la Inteligencia Artificial general un riesgo?
Durante años, los investigadores han especulado sobre el surgimiento de la inteligencia artificial general, o AGI, cuando los sistemas artificiales manejarán problemas como los humanos en una variedad de tareas. Muchos consideran su aparición un riesgo existencial, ya que podría permitir que las computadoras funcionen de maneras que los humanos no podrían haber imaginado.
Según el Sr. Miles Brindage, el mundo no está preparado para el momento de la inteligencia artificial general (AGI).
Ahora, el hombre encargado de garantizar que OpenAI, el desarrollador de ChatGPT, esté listo para la llegada de AGI, admite que tanto el mundo como la propia empresa “no están listos” para el siguiente paso. Miles Brundage era el "asesor principal de OpenAI en preparación para AGI", pero anunció su salida esta semana cuando la compañía disolvió el grupo.
Ni OpenAI ni ninguno de los demás laboratorios pioneros están preparados [para la IAG], ni tampoco el mundo. Para ser claros, no creo que esta sea una declaración controvertida entre los directivos de OpenAI, sino más bien una cuestión de si la empresa y el mundo están en vías de estar preparados en el momento oportuno», declaró Brundage, quien ha dedicado seis años a ayudar a definir las iniciativas de seguridad de la IA de la empresa.
La salida de Brundage marca la última de una serie de salidas notables de los equipos de seguridad de OpenAI. Jan Leike, un destacado investigador, se marchó tras afirmar que "la cultura y los procesos de seguridad han quedado relegados a un segundo plano frente a los productos brillantes". El cofundador Ilya Sutskever también se fue para lanzar su propia empresa de inteligencia artificial centrada en el desarrollo de una IA segura.
La disolución del grupo "AGI Readiness" por parte de Brundage se produce apenas unos meses después de que la empresa disolviera su grupo "Superalignment" dedicado a mitigar los riesgos de la IA a largo plazo, lo que expone tensiones entre la misión original de OpenAI y las ambiciones comerciales de la empresa.
La presión de las ganancias aleja a OpenAI del camino seguro
Según se informa, OpenAI enfrenta presión para pasar de ser una organización sin fines de lucro a una empresa con fines de lucro dentro de dos años, o corre el riesgo de perder la financiación de su reciente ronda de inversión de $6.6 mil millones. Este cambio hacia la comercialización ha preocupado a Brundage durante mucho tiempo, expresando reservas desde 2019, cuando OpenAI estableció por primera vez su división con fines de lucro.
El CEO de OpenAI, Sam Altman, tiene un "dolor de cabeza" debido a la presión que tiene la empresa para obtener ganancias.
Al explicar su salida, Brundage citó las crecientes restricciones a su libertad para investigar y publicar en la destacada empresa. Subrayó la necesidad de que en los debates sobre políticas de IA haya voces independientes, libres de sesgos de la industria y de conflictos de intereses. Después de asesorar a los líderes de OpenAI sobre los preparativos internos, cree que ahora puede tener un mayor impacto en la gobernanza global de la IA desde fuera de la organización.
Las salidas también reflejan una división cultural más profunda dentro de OpenAI. Muchos investigadores se han unido para avanzar en la investigación sobre IA y ahora se encuentran en un entorno cada vez más impulsado por los productos. La asignación de recursos internos se ha convertido en un punto crítico: los informes indican que al equipo de Leike se le negó poder computacional para la investigación de seguridad antes de su disolución.
OpenAI ha enfrentado una serie de preguntas en los últimos meses sobre sus planes para desarrollar inteligencia artificial y la seriedad con la que la empresa se toma la seguridad. Aunque se fundó como una organización sin fines de lucro con el objetivo de investigar cómo construir inteligencia artificial de forma segura, el éxito de ChatGPT ha generado una enorme inversión y presión para utilizar la nueva tecnología con fines de lucro.
[anuncio_2]
Fuente: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm
Kommentar (0)