La IA se está expandiendo a velocidad de vértigo, así que unos expertos han creado el primer gusano para sistemas GenAI

La IA se está expandiendo a velocidad de vértigo, así que unos expertos han creado el primer gusano para sistemas GenAI

Título: La IA se está expandiendo a velocidad de vértigo, así que unos expertos han creado el primer gusano para sistemas GenAI
Fecha: 05/03/2024
Tipo: Ciberseguridad / Inteligencia Artificial / Malware / Gusano / LLM / GenAI / Google / Gemini Pro / OpenAI / GPT-4
Fuente: xataka.com
Resumen:
Morris II: 
1. Malware.
2. Primer gusano para sistemas GenAI.
3. Capaz de autorreplicarse y robar información.
4. Pruebas: programa de correo electrónico impulsado por IA.
5. Grandes modelos de lenguaje (LLM): Gemini Pro de Google y GPT-4 de OpenAI.
6. Adversarial Self-Replicating Prompt: tipo específico de prompt que se incluye en el cuerpo del mensaje o escondido incrustado en una imagen y que engaña a la IA generativa adyacente cuando procesa el mensaje.
7. Es capaz de comprometer una funcionalidad conocida como RAG.
8. El proyecto busca alertar sobre la posibilidad de que este tipo de amenazas aparezcan en escena.

---

Seas Autónomo/a, una PYME o una gran empresa, desde U2-LAB™ te ayudamos con todo lo que necesites, en todo momento, desde el inicio del proyecto hasta su finalización y más allá, para que estés tranquilo/a y puedas dedicarte a lo que realmente importa: hacer crecer tu negocio/empresa y ofrecer a tus clientes servicios de la máxima calidad, eficaces y eficientes.