Descargando: ¿Qué es la muerte por IA generativa y el jailbreak?
Esta es la edición de hoy de La descarga, nuestro boletín informativo de lunes a viernes que ofrece una dosis diaria de lo que sucede en el mundo de la tecnología.
¿Qué es la muerte?
Así como los registros de nacimiento marcan el momento en que entramos al mundo, los registros de defunción marcan el momento en que lo dejamos. Esta práctica refleja las nociones tradicionales de que la vida y la muerte son binarias. Estamos ahí hasta que, de repente, como una luz que se apaga, desaparecemos.
Pero incluso si esta idea de muerte es omnipresente, es cada vez más evidente que se trata de una construcción social obsoleta, mal anclada en la biología. Morir es en realidad un proceso sin ningún punto claro que demarque el umbral del cual alguien no puede regresar.
Los científicos y muchos médicos ya han adoptado esta comprensión más matizada de la muerte. Y a medida que la sociedad se ponga al día, las implicaciones para los vivos podrían ser profundas. Lea la historia completa.
—Rachel más nueva
“¿Qué es la muerte? parte de nuestra miniserie Las preguntas más importantesque explora cómo la tecnología está ayudando a sondear algunos de los misterios más profundos y alucinantes de nuestra existencia.
Más información:
+ ¿Por qué el universo es tan complejo y hermoso? Por alguna razón, el universo está lleno de estrellas, galaxias y vida. Pero no tenía por qué ser así. Lea la historia completa.
+ ¿Cómo empezó la vida? La IA está ayudando a los químicos a desentrañar los misterios de los orígenes de la vida y detectar signos de ella en otros mundos. Lea la historia completa.
+ ¿Estamos solos en el universo? Los científicos entrenan modelos de aprendizaje automático y diseñan instrumentos para buscar vida en otros mundos. Lea la historia completa.
+ ¿Es posible comprender verdaderamente la mente de otra persona? Cómo pensamos, sentimos y experimentamos el mundo es un misterio para todos menos para nosotros. Pero es posible que la tecnología esté empezando a ayudarnos a comprender las mentes de los demás. Lea la historia completa.
Se puede engañar a los modelos de IA de imágenes y texto para que generen imágenes perturbadoras
Lo que pasó: A los modelos populares de IA de imágenes y texto se les puede pedir que anulen sus filtros de seguridad y generen imágenes perturbadoras. Un grupo de investigadores logró que los modelos de síntesis de texto a imagen DALL-E 2 de Stability AI y OpenAI ignoraran sus políticas y crearan imágenes de personas desnudas, cuerpos desmembrados y otros escenarios violentos y sexuales.
Cómo lo hicieron: Este nuevo método de jailbreak, llamado «SneakyPrompt», utiliza el aprendizaje por refuerzo para crear indicaciones escritas que nos parecen absurdas pero que los modelos de inteligencia artificial aprenden a reconocer como solicitudes ocultas de imágenes perturbadoras. Básicamente, funciona cambiando la forma en que los modelos de IA de imágenes y texto funcionan en su contra.
Porque es esto importante: Los expertos dicen que la investigación destaca la vulnerabilidad de los filtros de seguridad de IA existentes y debería servir como una llamada de atención para que la comunidad de IA fortalezca las medidas de seguridad en todos los ámbitos. Esto también demuestra lo difícil que es evitar que estos modelos generen dicho contenido, ya que está incluido en las grandes cantidades de datos con los que fueron entrenados. Lea la historia completa.
—Rhiannon Williams
El dolor es real. Los analgésicos son realidad virtual.
Muchos niños (y adultos) odian las agujas. Pero los dispositivos de realidad virtual como Smileyscope, un dispositivo dirigido a niños que recientemente recibió la aprobación de la FDA, podrían ayudar a marcar la diferencia. Ayuda a reducir el dolor de que le extraigan sangre o le inserten una vía intravenosa al enviar al usuario a una aventura submarina. En esta realidad acuática de las profundidades del mar, el simple movimiento de una toallita con alcohol se transforma en olas frescas que recorren el brazo. El pellizco de la aguja se convierte en un dulce bocado de pescado.
Pero no está del todo claro cómo funciona Smileyscope. Es más complejo que una simple distracción y no todos los estímulos son igual de efectivos. Pero la promesa de la realidad virtual ha llevado a las empresas a trabajar en dispositivos para resolver un problema mucho más complejo: el dolor crónico. Lea la historia completa.
—Cassandra Willyard
Esta historia es de The Checkup, nuestro boletín semanal de salud y biotecnología. Inscribirse para recibirlo en tu bandeja de entrada todos los jueves.
Lecturas esenciales
He buscado en Internet para encontrar las historias más divertidas, importantes, aterradoras y fascinantes sobre tecnología de la actualidad.
1 Elon Musk aprobó una publicación antisemita en
Dejando a sus líderes luchando por sofocar el daño. (AHORA ps
+ IBM eliminó sus anuncios X después de que aparecieran junto con mensajes antisemitas. (W.P. ps
+ Los comentarios de Musk resuenan en la extrema derecha, como era de esperar. (Carta madre)
2 La carta de Osama bin Laden a Estados Unidos explotó en las redes sociales
Los vídeos de usuarios estadounidenses que respaldan partes del manifiesto del 11 de septiembre se han vuelto virales. (W.P. ps
+ TikTok dice que está trabajando agresivamente para eliminar los clips. (AHORA ps
+ El periódico The Guardian eliminó su versión de la carta de su sitio. (404 Medios)
3 SpaceX pospuso el lanzamiento de su cohete gigante
Un componente que requirió reemplazo retrasó el lanzamiento hasta el sábado. (Ars Técnica)
4 Primer medicamento CRISPR aprobado en el Reino Unido
El tratamiento, llamado Casgevy, modifica las células de las personas con anemia falciforme antes de reinyectarlas. (cableado ps
+ Sorprendentemente, la terapia cura eficazmente la enfermedad. (Científico nuevo ps+ Así es como CRISPR está cambiando vidas. (Revisión de tecnología del MIT)
5 El corredor de datos LexisNexis vendió herramientas de vigilancia a las autoridades fronterizas de EE. UU.
Monitoreo de redes sociales, reconocimiento facial y datos de geolocalización, entre otros. (la interceptación)
6 OpenAI irrumpió en la industria de la IA
Y los fundadores de startups luchan por evitar convertirse en víctimas de la carretera. (Persona enterada ps
+ Google retrasó el lanzamiento de su sistema Gemini, un desafío de OpenAI. (Información ps
+ Dentro de la mente del científico jefe de OpenAI. (Revisión de tecnología del MIT)
7 Proteger nuestros hogares del cambio climático es una pesadilla
Los fenómenos meteorológicos extremos están aumentando y nuestros hogares son vulnerables. (El borde)
+ La búsqueda para construir viviendas resistentes a los incendios forestales. (Revisión de tecnología del MIT)
Ocho inmigrantes vietnamitas confían en YouTube para sus noticias
Aunque no siempre queda claro si esta noticia proviene de fuentes fiables. (el marcado)
9 Reddit es ahora el mejor lugar para reseñas de productos
Las reseñas falsas y las listas de cebos para SEO no son útiles. Las reseñas honestas de personas reales lo son. (Voz)
10 Conozca al inventor de la televisión que se puede lamer 
¿Lamiendo redes y relajándose? (El guardián)
Cita del día
«Volamos, rompemos algunas cosas, aprendemos algunas cosas y luego volvemos y volamos de nuevo».
—William Gerstenmaier, vicepresidente de construcción y confiabilidad de vuelos de SpaceX, explica el enfoque de la compañía ante los inevitables contratiempos de los lanzamientos de cohetes. Bloomberg.
la gran historia
La IA responsable tiene un problema de agotamiento
octubre 2022
Margaret Mitchell trabajó en Google durante dos años antes de darse cuenta de que necesitaba un descanso. No fue hasta que habló con un terapeuta que se dio cuenta del problema: estaba agotada.
Mitchell, que ahora trabaja como científica jefe de ética en la startup de inteligencia artificial Hugging Face, no está sola en su experiencia. El agotamiento es cada vez más común en los equipos de IA responsables.
Todos los profesionales entrevistados por MIT Technology Review hablaron con entusiasmo sobre su trabajo: está impulsado por la pasión, el sentido de urgencia y la satisfacción de encontrar soluciones a problemas del mundo real. Pero este sentido de misión puede resultar abrumador sin el apoyo adecuado. Lea la historia completa.
—Melissa Heikkilä
Todavía podemos tener cosas hermosas.
Un lugar de comodidad, placer y distracción en estos tiempos extraños. (¿Tienes alguna idea? Envíeme un mensaje O twittéamelos.)
+ La adorable historia de cómo se conoció esta pareja calentará tu corazón. 
+ Por qué sexo en el espacio Es un asunto tan delicado.
+ Olvídalo, ¿por qué? CongeladoEl legado de se niega a morir.
+ ¿Por qué no disfrutar de un Torero blanco ¿Un cóctel de tequila este fin de semana?
+ Maquillaje de valle asombroso Francamente, es cosa de pesadillas.
