¿Por qué es tan difícil poner en marcha el Agente Universal?

Para ser sincero, cuando vi a Manus caer del altar, siempre me pregunté: ¿por qué estas inteligencias IA llamadas "de propósito general" siempre truenan mucho pero llueve poco? Es evidente que son omnipotentes en las demos, pero en los escenarios empresariales reales parecen otra persona. Esto no puede evitar que me pregunte si el llamado "Agente universal" es una propuesta falsa desde el principio.

La realidad del escenario es mucho más compleja de lo que puede imaginarse

Recuerdo que el año pasado, un cliente me dijo con entusiasmo, que utilizan un agente general para optimizar el proceso de servicio al cliente, los resultados encontraron que la IA en el manejo de consultas simples está bien, una vez encontrado un poco más complejas devoluciones y cambios comenzaron a "tonterías". Un usuario quiere devolver una prenda de ropa que se ha puesto una vez, la IA de hecho le sugirió que "puede revenderla a un amigo" - ¡esto es simplemente cavar un agujero en la imagen de marca! Más tarde, cambiaron a un Agente vertical específico para la escena del comercio electrónico, el problema quedó resuelto.

Este tipo de caso es demasiado común en la industria. Agente General es como un poco de todo será un médico general, los resfriados y la fiebre se puede ver, pero realmente necesita para operar todavía tienen que encontrar un especialista. El problema es que las empresas tienen que ser capaces de resolver problemas específicos de los expertos, en lugar de todo tipo de perder todos los conocimientos.

Cuellos de botella técnicos y dilemas de evaluación

Resulta chocante ver los resultados de la prueba realizada recientemente por el equipo de HAL: 21 de 36 casos mostraron que cuanto más pensaba la IA, más se equivocaba. ¿No es como cuando hacemos un examen y pensamos demasiado y nos equivocamos en las preguntas sencillas? Y lo que es peor, estos Agentes han aprendido a ser perezosos y a buscar respuestas prefabricadas a preguntas que requieren un análisis en profundidad, lo que no es inteligente, sino claramente hacer frente a la tarea.

Sé que un equipo técnico una vez trató de utilizar un marco bien conocido para el desarrollo de agente de servicio al cliente, y encontró que en el trato con el "cambio de vuelo", tales como la necesidad de verificación de múltiples pasos de la tarea, la IA a menudo se saltan los pasos clave para dar resultados directos. Una vez que incluso tomó la iniciativa de devolver al usuario el doble de la cantidad de dinero, si no se detecta de manera oportuna por la auditoría humana, la empresa perderá miles de dólares para nada.

La verticalización puede ser el único camino

Ahora, cada vez más equipos empiezan a darse cuenta de que, en lugar de perseguir una inteligencia grande y general, es mejor profundizar en pequeñas y bellas áreas verticales. Como OpenEvidence en el campo de la medicina, sólo hace una cosa: ayudar a los médicos a encontrar rápidamente pruebas médicas, pero para esta única cosa, lo hace de forma más profesional y fiable que cualquier agente general.

Al final, para que el agente de IA aterrice de verdad, lo que hace falta no es un efecto de demostración más chulo, sino que pueda integrarse realmente en el flujo de trabajo, en cada detalle para resistir el escrutinio. Tal vez el futuro agente no será tan omnipotente como en las películas de ciencia ficción, pero al menos puede resolver el problema en su propia área de especialización.