Asistentes personales
Apple, Google, Windows y Amazon son gigantes de la tecnología que han invertido considerables recursos en realizar un programa capaz de comunicarse, con voz, con sus clientes. Se trata de los famosos asistentes: Siri, Asistente de Google, Cortana y más recientemente Alexa. Son capaces de entender la voz de sus clientes, de responder a sus peticiones y de mostrar algo de entretenimiento. Y si bien todavía presentan innumerables limitaciones, no cabe duda de que a veces suenan casi humanas.
Pero así como son una muestra de lo rápido que avanza la tecnología y se perfila un nuevo mundo también ilustran el peligro que representa este nuevo sector. Pues los asistentes aprenden y se mejoran continuamente, precisamente, por escuchar. A medida que reaccionan y su reacción se ajusta o no a lo que las personas desean, van optimizándose. Y esto significa que aún cuando no lo sepamos, nos escuchan.
El incidente de Alexa
Recientemente ocurrió un incidente en el cual Alexa, la asistente de Amazon, envió unas conversaciones a una persona que estaba en la lista de contactos de sus dueños (¿dueños? Casi suena raro decirlo). El incidente ocurrió en Inglaterra, en el hogar de una mujer llamada Danielle (que no quiso revelar su apellido a los medios).
Lo que sucedió fue lo siguiente: Danielle y su esposo se encontraban discutiendo sobre la pertinencia de hacer ciertos cambios en la madera del suelo de su casa cuando recibieron la llamada de un conocido que les indicó que acababa de recibir un mensaje de voz con su conversación. Aterrados, le preguntaron por los detalles y, en efecto, la persona se refirió a su discusión sobre si poner parqué en la casa.
De inmediato Danielle publicó en Twitter sobre el suceso y se quejó con la compañía. Amazon realizó una investigación y encontró que, al parecer, en el fondo de la conversación Alexa había escuchado algo como “Alexa” (comando que “despierta” el dispositivo”) y posteriormente el comando “enviar mensaje”. En ese momento preguntó a quién debía enviársele el mensaje, entendió un nombre, pidió confirmación y pensó que la había recibido.
Y a partir de este momento comenzó a enviar el mensaje: un mensaje privado que no se suponía que escuchara nadie fuera de la casa. Claro, no fue nada grave y el asunto no pasó de un susto, pero podría haber sido terrible.
De acuerdo con Amazon, esto ocurrió porque hubo una serie de improbables errores de percepción por parte de Alexa. Y seguramente fue así. Pero esto nos habla de las tremendas implicaciones que tiene esta tecnología.
Máquinas que escuchan
Si bien Alexa (y otros asistentes como ella) no están activos todo el tiempo, al ser activados por voz necesariamente han de permanecer todo el tiempo en estado de suspensión, escuchando sus alrededores a la espera del llamado de sus dueños.
Y esto significa que en el código base de estas aplicaciones siempre hay alguien (o algo) escuchando. Esto tiene implicaciones importantes para la privacidad de las personas: ¿qué pasa si alguien logra ingresar al celular y tener acceso a esos datos? ¿Y reproducirlos en tiempo real?
Pero más importante, el hecho es que los dispositivos de este tipo siempre están escuchando, siempre prestando atención. ¿No es acaso posible que este sea el camino a la singularidad? ¿Y si hay una inteligencia creciendo, aprendiendo, alimentándose lentamente de estos dispositivos?
¿Es seguro un mundo en el que las máquinas siempre nos están escuchando?
Fuentes:
- https://www.bbc.com/mundo/noticias-44254116
Imágenes: 1: indiatoday.in, 2: bgr.com
