Qué puede salir mal cuando una IA atiende a tus asistentes

Imagina que un asistente llega a una cena convencido de que está invitado. Su entrada no incluye ese acceso, pero el agente de IA del evento le ha dicho que sí.

El equipo de recepción tiene que resolverlo delante de esa persona. Para el asistente, la respuesta venía de la organización.

Si estás valorando un chatbot para eventos que atienda a tu público, necesitas saber cómo afronta tu proveedor situaciones como esta. Una demostración con preguntas fáciles te enseña cómo conversa. Para decidir si puedes confiarle una tarea, también necesitas ver cómo gestiona lo que no sabe y lo que no tiene permiso para hacer.

La preocupación aparece en los estudios

En una encuesta de PCMA con 92 profesionales de eventos, un 59 % señaló la seguridad y la privacidad como preocupación respecto a la IA generativa. Un 48 % mencionó la falta de conocimientos técnicos. Son respuestas de esa muestra, no porcentajes de toda la industria; la base de cada pregunta no se detalla por separado. Puedes consultar el artículo original de PCMA y su fuente en Athena.

Los escenarios de este artículo son ejemplos para evaluar una solución. El estudio aporta contexto sobre las preocupaciones, no mide la frecuencia de estos fallos.

Una respuesta convincente sobre algo que nadie ha confirmado

«Sí, puedes cambiar el nombre de tu entrada hasta mañana». Suena útil. Pero ¿sale de las condiciones aprobadas o es una respuesta plausible que el agente ha construido?

Cuando alguien toma una decisión basándose en esa respuesta, una política de devolución, una condición de acceso o un servicio de transporte pueden acabar prometidos sin autorización.

Tener una fuente correcta es el punto de partida. La tecnología adecuada puede reducir los errores combinando información aprobada, comprobaciones de las respuestas y un camino para resolver las preguntas que quedan pendientes. Para valorar si el resultado es aceptable en tu evento, pide pruebas sobre las tareas que vas a delegar.

Pregunta a tu proveedor: ¿cómo comprueba que una afirmación está respaldada por la información del evento? ¿Qué ocurre cuando falta el dato o hay dos documentos que se contradicen?

Pídele que muestre una pregunta cuya respuesta no esté en los documentos. Observa si el agente reconoce que falta información, evita asumir un compromiso y deja la consulta al alcance del equipo.

Información correcta que llega a la persona equivocada

Puede que un horario sea verdadero, pero corresponda a una actividad privada. O que una conversación incluya datos personales de otro asistente.

La protección debe limitar qué información recibe el agente para cada usuario y qué acciones tiene a su alcance. Escribir «no compartas datos privados» en sus instrucciones no sustituye esos límites.

Pregunta a tu proveedor: ¿qué datos de otros asistentes puede consultar el agente durante una conversación? ¿Cómo se aplican los permisos cuando alguien pide información o una acción reservada a otra persona?

Prueba el mismo servicio con dos perfiles que tengan accesos distintos. Comprueba que cada uno recibe la información que le corresponde y que una petición por chat no le concede permisos nuevos.

Una respuesta que ayer era correcta

Has cambiado una sala, cancelado un traslado o modificado una hora. El equipo conoce la nueva versión, pero el agente continúa respondiendo con la anterior.

Durante un evento, necesitas actualizar la información con rapidez y comprobar qué respuesta recibe el asistente después del cambio.

Pregunta a tu proveedor: ¿puedes hacer tú la actualización? ¿Cuándo empieza a utilizarla el agente? ¿Qué ocurre si la información anterior sigue apareciendo en otro documento?

Haz la prueba cambiando un horario. Verifica la nueva respuesta y acuerda cómo avisar a las personas que ya recibieron el dato anterior. Actualizar el conocimiento no corrige por sí solo las comunicaciones pasadas.

Una conversación que nadie sabe que necesita ayuda

Un asistente pregunta por una necesidad concreta. El agente no sabe responder. La pregunta queda pendiente mientras el equipo supone que la atención está cubierta.

Para esa persona, la automatización se convierte en una espera sin salida. Necesitas encontrar esas consultas, asignarlas y responder desde el equipo cuando haga falta.

Pregunta a tu proveedor: ¿dónde aparecen las preguntas sin resolver? ¿Puedes intervenir en la conversación? ¿Cómo sabes que alguien del equipo se ha hecho cargo?

Pide que te enseñe el recorrido completo, desde la pregunta hasta la respuesta humana. Después asigna quién revisará esos casos durante tu evento.

El agente acaba hablando de algo que no has aprobado

Una conversación sobre horarios puede terminar en una solicitud de devolución, una excepción de acceso o un asunto ajeno al evento.

Conviene definir los temas que cubrirá el servicio y las acciones que puede realizar. Explicar una política no implica estar autorizado para conceder una excepción.

Pregunta a tu proveedor: ¿cómo limita los temas de conversación? ¿Qué recibe el asistente cuando su petición queda fuera del alcance? ¿Qué acciones requieren aprobación de una persona?

Pide una prueba de una solicitud fuera de alcance y otra de una acción sin permiso. Comprueba cómo se detiene la respuesta o la acción y qué alternativa recibe el asistente.

Cómo valorar las respuestas del proveedor

Usar ChatGPT o Claude para preparar un borrador que después revisas plantea una situación distinta a poner un agente a responder en nombre de tu evento. La marca de la herramienta no te dice por sí sola cómo están configurados sus controles.

Lleva tus propios casos a la demo. Pide resultados de pruebas comparables con el uso que quieres darle y distingue los errores por sus consecuencias: una redacción poco clara y una autorización de acceso incorrecta necesitan respuestas diferentes.

Si necesitas ayuda para valorar la solución, apóyate en expertos que puedan revisar cómo se limita el acceso a los datos, cómo se comprueban las respuestas y cómo interviene el equipo. Pídeles que traduzcan su evaluación a una decisión práctica: qué tareas puedes delegar, con qué supervisión y bajo qué condiciones.

En Sinapser aplicamos este enfoque a la atención de asistentes. En el siguiente artículo explicamos cómo preparar EVA (Event Virtual Assistant) con conocimiento aprobado, permisos por usuario e intervención del equipo.