Muchas personas se han acostumbrado a hablarles a sus teléfonos inteligentes para pedirles que lean un texto, reproduzcan una canción o configuren una alarma. Sin embargo, alguien más podría estar hablándoles también, en secreto, utilizando un comando oculto que solo Alexa y Siri pueden escuchar.
Los sistemas seguros también son vulnerables al comando oculto
El Echo de Amazon fue uno de los parlantes evaluados por especialistas en seguridad informática; verificaron el uso de sonidos que activan funciones especiales del dispositivo.
Pero, a lo largo de los últimos dos años; investigadores en China y Estados Unidos han comenzado a demostrar que pueden enviar comandos ocultos a Siri de Apple, Alexa de Amazon y Assistant de Google; que no son detectables para el oído humano .
Dentro de laboratorios universitarios; los investigadores han podido activar en secreto los sistemas de inteligencia artificial en teléfonos y parlantes inteligentes. Les han dado ordenes para que marquen números de teléfono o que abran sitios web.
En las manos equivocadas, la tecnología podría usarse para abrir puertas; enviar dinero o comprar cosas en línea, simplemente con música que se reproduce en la radio.
¿Cómo lo hacen?
Un grupo de estudiantes de la Universidad de California, Berkeley, y la Universidad Georgetown; mostraron en 2016 que podían ocultar comandos en ruido blanco reproducido a través de altavoces y vídeos de YouTube para hacer que los dispositivos inteligentes activaran el modo avión o abrieran un sitio web.
Este mes, algunos de los investigadores de Berkeley publicaron un artículo de investigación que fue más allá; pues dijeron que podían incrustar comandos directamente en grabaciones de música o texto hablado. Así que, mientras que un humano está oyendo a alguien que habla o una orquesta tocando música, el parlante Echo de Amazon podría estar escuchando una instrucción para añadir algo a tu lista de compras.
«Queríamos ver si podíamos hacerlo aún más furtivo», dijo Nicholas Carlini, un estudiante de quinto año del doctorado en Seguridad Computacional en UC Berkeley y uno de los autores del artículo.
Carlini agregó que, aunque no había evidencia de que estas técnicas ya hubieran salido de los laboratorios, podría ser cuestión de tiempo antes de que alguien comience a aprovecharlas.
«Supongo que la gente con malas intenciones ya emplea a gente para llevar a cabo lo que yo hago», comentó.
La inteligencia artificial sigue siendo manipulable
Estos engaños ilustran cómo la inteligencia artificial, aunque esté teniendo grandes avances; aún puede ser objeto de manipulación y engaño. Las computadoras pueden manipularse para que identifiquen un avión como un gato solo cambiando algunos pixeles de una imagen digital. Los investigadores pueden hacer que un vehículo autónomo cambie bruscamente de dirección; o acelere simplemente pegando pequeñas calcomanías en señales de tráfico y confundiendo el sistema de visión computacional del auto.
Notas de interés: