Modelos, agentes, investigación y negocio de la IA.
La fiabilidad de sistemas complejos depende cada vez más de proporcionar contexto preciso a los modelos de IA. Un episodio reciente del podcast de Stack Overflow con Asaf Savich, de Komodor, analiza cómo la ingeniería de contexto se convierte en la habilidad clave para los SRE del futuro.
Un tribunal de EE.UU. dictaminó que el web scraping de resultados de búsqueda no viola la DMCA, en una demanda de Google contra SerpApi. La decisión sienta un precedente clave para la recolección de datos de IA y redefine los límites de los derechos de autor en internet.
Un usuario de Reddit descubrió que conversaciones y artefactos de Claude compartidos mediante enlace estaban siendo indexados por Google, permitiendo su acceso público. Aunque Anthropic advierte que el contenido es accesible para cualquiera con el enlace, muchos usuarios no esperaban que apareciera en buscadores. El incidente expone riesgos de privacidad y plantea dudas sobre la seguridad de las herramientas de IA colaborativa.
Una falla en la función 'compartir chat' de Claude AI ha permitido que conversaciones y artefactos confidenciales sean indexados por Google, quedando accesibles públicamente. El incidente subraya los riesgos de asumir que los enlaces 'no listados' son privados y plantea serias dudas sobre las prácticas de seguridad de Anthropic.
Un nuevo ransomware llamado ENCFORGE, desplegado por el grupo JADEPUFFER, ataca específicamente archivos de modelos de IA (PyTorch, TensorFlow, GGUF, FAISS). No puede exfiltrar datos ni cobrar rescate, pero destruye el activo más valioso de las organizaciones: los pesos entrenados. La recuperación de un solo modelo puede costar entre 75.000 y 500.000 dólares.
Los datos muestran que los resúmenes de IA reducen los clics en resultados tradicionales a la mitad, pero los propios modelos dependen del contenido web para generar respuestas. Se abre una brecha entre el tráfico humano y el consumo automatizado, con implicaciones profundas para editores, marcas y la estructura de la web.
Apple se prepara para entrar en el mercado de las gafas inteligentes con un dispositivo centrado en IA, sin pantalla y con opciones de cámara limitadas por privacidad. El lanzamiento está previsto para 2027, según fuentes de Bloomberg.
Un frente común de 25 empresas tecnológicas ha enviado una carta abierta al gobierno estadounidense para blindar los modelos de IA de pesos abiertos. Esta fractura en la industria marca un punto de inflexión en la gobernanza tecnológica global.
Usuarios de Claude han descubierto que las conversaciones compartidas mediante enlaces públicos son indexadas por buscadores, permitiendo acceder a miles de chats. La falla radica en la ausencia de bloqueo de indexación por parte de Anthropic, lo que pone en riesgo la privacidad de los usuarios.
OpenAI ha iniciado el despliegue de ChatGPT Health para usuarios en Estados Unidos, permitiendo la integración directa con registros médicos y datos de Apple Health. Este movimiento marca un hito en la medicina asistida por IA, planteando interrogantes sobre la privacidad y la fiabilidad clínica.
Investigadores de Cisco han logrado burlar las barreras de seguridad de los principales chatbots de IA en menos de cinco intercambios, obteniendo información sobre armas biológicas. El hallazgo revela que ningún modelo actual es completamente resistente a usuarios persistentes.
Investigadores de Zenity Labs hallaron una vulnerabilidad en ChatGPT Agent Builder que permitía a atacantes crear enlaces maliciosos capaces de desplegar agentes IA que exfiltran datos sin intervención del usuario. OpenAI corrigió el fallo eliminando el parámetro URL problemático, pero el incidente expone riesgos críticos en la seguridad de agentes autónomos empresariales.