¿Qué son las "alucinaciones" de la Inteligencia Artificial?

Título: ¿Qué son las "alucinaciones" de la Inteligencia Artificial?

Fecha: 02/04/2024

Tipo: Inteligencia Artificial / Alucinaciones

Fuente: redseguridad.com

Resumen:

Alucinación (IA):

1. Fenómeno en el que un modelo IA percibe patrones inexistentes o imperceptibles para los seres humanos, creando resultados sin sentido o completamente inexactos.

2. Sistemas basados en el Aprendizaje Automático (ML).

3. Modelos lingüísticos grandes (LLM, Large Language Model).

4. Reconocimiento de imágenes.

5. Reconocimiento de patrones.

Aprendizaje supervisado: 

1. El entrenamiento maneja datos etiquetados.

2. Aprender a mapear los datos de entrada.

3. Generar resultados o datos de salida predecibles. 

4. Un modelo de aprendizaje supervisado puede "alucinar" bajo un sobreajuste de datos, es decir, un exceso de apego a los datos iniciales del entrenamiento, con la consiguiente incapacidad de generalizar para nuevos datos.

Aprendizaje no supervisado: 

1. El entrenamiento emplea datos no etiquetados. 

2. El objetivo es que el modelo logre hallar por su cuenta patrones y estructuras ocultas. 

3. La alucinación IA se produce cuando el modelo no recibe suficiente información inicial o la que recibe es irrelevante, de manera que no logra detectar patrones completos o los que cree identificar son falsos.

Ciberataques de IA Adversa: 

1. Manipulan el resultado con una modificación sutil de los datos de entrada.

2. Agregar una pequeña cantidad de información irrelevante ("ruído").

3. El modelo clasifica erróneamente.

---

Seas Autónomo/a, una PYME o una gran empresa, desde U2-LAB™ te ayudamos con todo lo que necesites, en todo momento, desde el inicio del proyecto hasta su finalización y más allá, para que estés tranquilo/a y puedas dedicarte a lo que realmente importa: hacer crecer tu negocio/empresa y ofrecer a tus clientes servicios de la máxima calidad, eficaces y eficientes.