Descargando: Envenenamiento de la IA generativa y las baterías de almacenamiento de calor
Lo que pasa: Una nueva herramienta permite a los artistas realizar cambios invisibles en los píxeles de su arte antes de subirlo a Internet, de modo que si se integra en un conjunto de entrenamiento de IA, el modelo resultante puede romperse de forma caótica e impredecible.
Porque es esto importante: La herramienta, llamada Nightshade, está diseñada como una forma de combatir a las empresas de inteligencia artificial que utilizan el trabajo de artistas para entrenar sus modelos sin el permiso del creador. Usarlo para «envenenar» estos datos de entrenamiento podría dañar futuras iteraciones de modelos de IA generadores de imágenes, como DALL-E, Midjourney y Stable Diffusion, al inutilizar algunos de sus resultados.
Cómo funciona: Nightshade explota una vulnerabilidad de seguridad en los modelos de IA generativa, debido a que están entrenados con grandes cantidades de datos (en este caso, imágenes extraídas de Internet). Las muestras de datos envenenadas pueden manipular modelos para hacerles aprender, por ejemplo, que las imágenes de sombreros son pasteles y las imágenes de bolsos son tostadoras. Y actualmente es casi imposible defenderse de este tipo de ataques. Lea la historia completa.
—Melissa Heikkilä
Si desea obtener más información sobre el envenenamiento de los conjuntos de datos de IA, Melissa profundiza en la historia en edición de esta semana de The Algorithm, nuestro boletín semanal de IA. Inscribirse para recibirlo en tu bandeja de entrada todos los lunes.
Se desarrollan baterías de almacenamiento de calor para solucionar uno de los problemas climáticos más contaminantes
Las noticias: Antora Energy, una startup de baterías térmicas, reveló planes para construir su primera planta de fabricación a gran escala en San José. Este anuncio es un gran paso adelante para las baterías térmicas, una industria que busca convertirse en un actor importante en el sector del almacenamiento de energía.
