Medios: ¿el nuevo agente de IA de Meta depende de personas reales para hacer sus llamadas?
Al no revelar el recurso al público, Meta deja en duda cuánto énfasis se le dio a la seguridad y el cumplimiento normativo en la operación de su beta.
AI
Redacción
·5 min de lectura
Hablemos de confianza. Al tiempo que lanzaba en todo el mundo Muse, su nuevo agente de IA personal, del que dijo "no solo responde preguntas, sino que realiza el trabajo, y se encarga de tareas y proyectos", Meta ha estado probando un sistema de "asistencia humana" que consiste, básicamente, en contratistas humanos gestionan discretamente algunas de las llamadas telefónicas realizadas a través del agente digital.
La revelación surge de publicaciones internas de la compañía que dio a conocer 404 Media. Luego fueron confirmadas por Reuters.
Qué pasó
El propietario de Facebook e Instagram informó a sus empleados sobre la prueba la semana pasada, poco después de que la compañía lanzara públicamente la función de llamadas telefónicas para Muse. El discurso público se limitaba a anunciar: "Hemos expandido nuestra beta para llamadas a negocios en EE. UU.".
Estaba implícito que se trataba de llamadas que la IA hacía por el usuario. Internamente, sin embargo, la compañía reveló a sus trabajadores que había agregado "una capa humana" a la ecuación.
Por qué importa
Según explicó CNET: "El problema con la incorporación de la intervención humana no radica únicamente en el 'lavado' de imagen de las capacidades de Muse mediante IA. Tampoco se trata simplemente del engaño de no revelar la posible presencia de un humano en la cadena. Algunos sistemas de agentes introducen la supervisión humana como un "humano en el proceso" para garantizar la seguridad y el cumplimiento normativo".
No, el problema es que al no revelarlo, Meta deja en duda cuánto énfasis se le dio a la seguridad y el cumplimiento normativo. Una cosa es entregar a un agente de IA información privada para hacer una reserva, una compra o una cita médica, pero les algo bien distinto, y mucho, si un humano tiene acceso a esos datos.
CNET agrega: "Además, es una caja negra. No sabes qué contexto se le ha dado a esa persona, si ha visto tu conversación o si sabe dónde vives y cómo contactarte gracias a ello. Es posible que se ofrezcan aún más datos, dado que las gafas de la compañía están repletas de Muse".
La 'IA Potemkin'
Que Meta permita, al menos en ocasiones, que personas lean los chats de los usuarios y realicen llamadas en su nombre mientras alega que lo hace su IA vuelve a poner sobre la mesa una práctica arraigada en la que las empresas lanzan un producto de IA, afirman que es IA, solo para revelar más tarde, a menudo obligadas, que son personas quienes realizan parte o la totalidad del trabajo.
El término acuñado en la industria para eso es "IA Potemkin", un término que hace referencia a la metáfora de las "aldeas Potemkin" (escenarios o fachadas falsas creadas para aparentar algo que no existe). Además de engañar sobre el nivel real de autonomía del modelo (AI-washing), esta práctica expone a los usuarios a riesgos de privacidad, ya que pueden terminar compartiendo información sensible (como números de teléfono, identificadores médicos o datos bancarios) con contratistas humanos sin saberlo.
