Apple promete IA personalizada en una nube privada. Así es como funcionará.

El argumento ofrece un contraste implícito con empresas como Alphabet, Amazon o Meta, que recopilan y almacenan enormes cantidades de datos personales. Apple dice que cualquier dato personal transmitido a la nube se utilizará únicamente para la tarea de IA en cuestión y la empresa no lo conservará ni podrá acceder a él, ni siquiera con fines de depuración o control de calidad, una vez que el modelo haya completado la solicitud.

En pocas palabras, Apple dice que las personas pueden confiar en él para analizar datos increíblemente confidenciales (fotos, mensajes y correos electrónicos que contienen detalles íntimos de nuestras vidas) y brindar servicios automatizados basados ​​en lo que encuentran allí, sin almacenar los datos en línea ni hacer nada. de ella vulnerable.

Mostró algunos ejemplos de cómo funcionará en futuras versiones de iOS. En lugar de desplazarte por tus mensajes para ver el podcast que te envió tu amigo, por ejemplo, puedes simplemente pedirle a Siri que lo busque y lo reproduzca. Craig Federighi, vicepresidente senior de ingeniería de software de Apple, analizó otro escenario: llega un correo electrónico retrasando una reunión de negocios, pero su hija aparece en una obra de teatro esa noche. Su teléfono ahora puede encontrar el PDF con información de rendimiento, predecir el tráfico local y avisarle si llegará a tiempo. Estas capacidades se extenderán más allá de las aplicaciones creadas por Apple y también permitirán a los desarrolladores aprovechar la IA de Apple.

Debido a que la empresa se beneficia más del hardware y los servicios que de la publicidad, Apple tiene menos incentivos que otras empresas para recopilar datos personales en línea, lo que le permite posicionar al iPhone como el dispositivo más privado. A pesar de esto, Apple ya se encuentra en el punto de mira de los defensores de la privacidad. Las violaciones de seguridad provocaron filtraciones explícitas de fotografías de iCloud en 2014. En 2019, se descubrió que los contratistas escuchaban grabaciones íntimas de Siri con fines de control de calidad. Las disputas sobre cómo Apple maneja las solicitudes de datos de las autoridades siguen en curso.

Según Apple, la primera línea de defensa contra las violaciones de la privacidad es evitar en la medida de lo posible la computación en la nube para tareas de IA. «La piedra angular del sistema de inteligencia personal es el procesamiento en el dispositivo», afirma Federighi, lo que significa que muchos modelos de IA se ejecutarán en iPhones y Mac en lugar de en la nube. «Conoce sus datos personales sin recopilarlos».

Esto presenta algunos obstáculos técnicos. Dos años después del auge de la IA, hacer ping a los modelos, incluso para tareas simples, todavía requiere enormes cantidades de potencia informática. Es difícil lograr esto con los chips utilizados en teléfonos y computadoras portátiles, razón por la cual solo el modelo más pequeño de inteligencia artificial de Google puede ejecutarse en los teléfonos de la compañía, y todo lo demás depende de sí mismo a través de la nube. Apple dice que su capacidad para manejar cálculos de IA en el dispositivo se debe a años de investigación en el diseño de chips, lo que llevó a los chips M1 que comenzó a implementar en 2020.

Sin embargo, ni siquiera los chips más avanzados de Apple pueden realizar todas las tareas que la empresa promete realizar con la IA. Si le pides a Siri que haga algo complicado, es posible que deba pasar esa solicitud, junto con tus datos, a modelos disponibles sólo en los servidores de Apple. Según los expertos en seguridad, este paso introduce una serie de vulnerabilidades que pueden exponer su información a actores externos maliciosos, o al menos a la propia Apple.

«Siempre advierto a la gente que tan pronto como sus datos desaparecen de su dispositivo, se vuelven mucho más vulnerables», dice Albert Fox Cahn, director ejecutivo del Surveillance Technology Oversight Project y practicante residente en la Facultad de Derecho del Information Law Institute de la Universidad de Nueva York.