El rápido desarrollo de la inteligencia artificial (IA) ha suscitado preocupaciones de que se esté desarrollando más rápido de lo que los humanos pueden comprender su impacto.
Foto: ST
El uso de IA general ha aumentado significativamente después de que surgieron herramientas como ChatGPT. Si bien estas herramientas ofrecen muchos beneficios, también pueden usarse de manera indebida y perjudicial.
Para gestionar este riesgo, Estados Unidos y varios otros países han conseguido acuerdos con siete empresas, entre ellas Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, para comprometerse a adoptar prácticas seguras en el desarrollo de tecnología de IA.
El anuncio de la Casa Blanca vino con su propia terminología que puede resultar desconocida para la persona promedio, con palabras como “equipo rojo” y “marca de agua”. A continuación se presentan siete términos relacionados con la IA que debemos tener en cuenta.
Aprendizaje automático
Esta rama de la IA tiene como objetivo entrenar máquinas para que realicen una tarea específica con precisión mediante la identificación de patrones. La máquina puede entonces hacer predicciones basadas en esos datos.
Aprendizaje profundo
Las tareas creativas de IA a menudo se basan en el aprendizaje profundo, un método que implica entrenar computadoras usando redes neuronales, un conjunto de algoritmos diseñados para imitar las neuronas del cerebro humano, para hacer conexiones complejas entre patrones para generar texto, imágenes u otro contenido.
Debido a que los modelos de aprendizaje profundo tienen múltiples capas de neuronas, pueden aprender patrones más complejos que el aprendizaje automático tradicional.
Modelo de lenguaje grande
Un modelo de lenguaje grande, o LLM, se entrena con cantidades masivas de datos y tiene como objetivo modelar el lenguaje o predecir la siguiente palabra en una secuencia. Se pueden utilizar modelos de lenguaje grandes, como ChatGPT y Google Bard, para tareas que incluyen resumen, traducción y conversación.
Algoritmo
Un conjunto de instrucciones o reglas que permite a las máquinas hacer predicciones, resolver problemas o completar tareas. Los algoritmos pueden proporcionar recomendaciones de compras y ayudar con la detección de fraudes, así como funciones de chat de atención al cliente.
Inclinación
Debido a que la IA se entrena con grandes conjuntos de datos, puede incorporar información dañina en los datos, como discursos de odio. El racismo y el sexismo también pueden aparecer en los conjuntos de datos utilizados para entrenar la IA, lo que genera contenido sesgado.
Las empresas de IA acordaron profundizar en cómo evitar sesgos dañinos y discriminación en los sistemas de IA.
Equipo rojo
Uno de los compromisos que las empresas han asumido con la Casa Blanca es realizar “equipos rojos” dentro y fuera de los modelos y sistemas de IA.
El “equipo rojo” implica probar un modelo para descubrir posibles daños. El término proviene de una práctica militar en la que un equipo simulaba las acciones de un atacante para idear estrategias.
Este método se utiliza ampliamente para probar vulnerabilidades de seguridad en sistemas como las plataformas de computación en la nube de empresas como Microsoft y Google.
Marca de agua
La marca de agua es una forma de saber si el audio o la imagen están generados por IA o no. Los datos recopilados para verificación pueden incluir información sobre quién los creó, así como cómo y cuándo fueron creados o modificados.
Microsoft, por ejemplo, se ha comprometido a poner marcas de agua en las imágenes generadas por sus herramientas de inteligencia artificial. Las empresas también se comprometieron ante la Casa Blanca a poner una "marca de agua" en las imágenes o registrar su origen... para identificarlas como fotos generadas por IA.
Las marcas de agua también se utilizan comúnmente para rastrear violaciones de propiedad intelectual. Las marcas de agua de las imágenes generadas por IA pueden aparecer como ruido imperceptible, como un ligero cambio cada séptimo píxel.
Sin embargo, colocar una marca de agua en un texto generado por IA puede ser más complejo y puede implicar modificar la plantilla de Word para que pueda identificarse como contenido generado por IA.
Hoang Ton (según Poynter)
Fuente
Kommentar (0)