¿QUÉ SUCEDE CUANDO LOS ROBOTS SUENAN DEMASIADO COMO LOS HUMANOS?



@MTPnoticias

La inteligencia artificial tiene un nuevo desafío: si alertar a las personas que no saben que están hablando con un robot y cómo hacerlo.

El martes, Google mostró un asistente de computadora que hace llamadas telefónicas convincentemente de sonido humano, al menos en su demostración pregrabada. Pero las personas reales en esas llamadas no parecían darse cuenta de que estaban hablando con una máquina. Eso podría presentar problemas espinosos para el uso futuro de la IA.

Entre ellos, ¿es justo o incluso legal engañar a las personas para que hablen con un sistema de IA que efectivamente registra todas sus conversaciones? Y aunque la demostración de Google destacó los usos benignos de los robots conversacionales, ¿qué ocurre cuando los emisores de spam y los estafadores se apoderan de ellos?

El CEO de Google, Sundar Pichai, provocó vivas el martes al demostrar la nueva tecnología, llamada Duplex, durante la conferencia anual de la compañía para desarrolladores de software. El asistente agregó pausas, ‘um’ y ‘mmm-hmms’ a su discurso para sonar más humano mientras hablaba con empleados reales en una peluquería y un restaurante.

Eso es muy impresionante, pero puede conducir claramente a usos más siniestros de este tipo de tecnología, dijo Matthew Fenech, que investiga las implicaciones políticas de AI para la organización con sede en Londres Future Advocacy.

La capacidad de aprender sobre los matices, los usos humanos de frases pequeñas adicionales, este tipo de pistas son muy humanos, y claramente la persona del otro lado no sabía.

El Sr. Fenech dijo que no es difícil imaginar el uso nefasto de chatbots similares, como spamming negocios, estafar a personas mayores o hacer llamadas maliciosas utilizando las voces de enemigos políticos o personales.

Se pueden tener situaciones potencialmente muy desestabilizadoras donde se informa que las personas dicen algo que nunca dijeron, dijo.

El Sr. Pichai y otros ejecutivos de Google intentaron enfatizar que la tecnología aún es experimental y se implementará con cautela. Todavía no está disponible en dispositivos de consumo.

‘Para nosotros es importante que los usuarios y las empresas tengan una buena experiencia con este servicio, y la transparencia es una parte clave de eso’, escribieron en un blog los ingenieros de Google Yaniv Leviathan y Yossi Matias, que ayudaron a diseñar la nueva tecnología.

Queremos ser claros acerca de la intención de la convocatoria para que las empresas entiendan el contexto. Vamos a experimentar con el enfoque correcto en los próximos meses.

No está claro cómo la compañía navegará las leyes de telecomunicaciones existentes, que pueden variar según el estado o el país. Google no devolvió inmediatamente una solicitud de comentarios el miércoles sobre cómo planea solicitar el consentimiento de las personas a las que llaman sus bots.

Un copropietario de una barbería del Área de la Bahía de San Francisco patrocinaba a algunos empleados de Google y estaba un poco asustado por las implicaciones de privacidad.

‘Parece algo que sería útil para nuestros clientes’, dijo Katherine Esperanza, copropietaria de la barbería Slick & Dagger en Oakland, CaliforniaEsperanza, sin embargo, se preguntó si la tienda podría bloquear las llamadas, y dijo que ‘surge la pregunta de si la conversación está grabada y si el receptor de estas llamadas automatizadas podría estar al tanto de que se están grabando’.

Las leyes contra las escuchas telefónicas en California y en varios otros estados ya hacen que sea ilegal grabar llamadas telefónicas sin el consentimiento tanto de la persona que llama como de la persona a quien se llama. La Comisión Federal de Comunicaciones también ha estado lidiando con las reglas para las llamadas automáticas, las llamadas no solicitadas y marcadas automáticamente realizadas por los telemercaderes.

Tales llamadas suelen ser monólogos pregrabados, pero cada vez más empresas y organizaciones emplean técnicas de aprendizaje automático para responder a las preguntas de una persona con una conversación natural, con la esperanza de que sea menos probable que cuelguen.

Crédito y foto: The Hindu.


Avatar

Elvia Cruz

Estudió una maestría en Periodismo Político en la Escuela de Periodismo Carlos Septién García. Ha colaborado en diversos medios locales, nacionales e internacionales como CNN en Español, Grupo Expansión,HuffingtonPost, La Razón, Eje Central, entre otros.

Entrada Relacionada

Contacta a nuestros reporteros