Estamos usando los chatbots de IA de manera incorrecta; así debemos dirigirlos

The New York Times Company31-07-2023

Cualquiera que se deje seducir por chatbots dotados de IA como ChatGPT y Bard —¡vaya, pueden escribir ensayos y recetas!— se topa con lo que se conoce como alucinaciones, la tendencia de la inteligencia artificial a fabricar información.

Los chatbots, que adivinan qué decir basándose en información obtenida de todo internet, no pueden evitar equivocarse. Y cuando fallan —publicando, por ejemplo, una receta de tarta con medidas de harina totalmente inexactas—, puede ser un auténtico aguafiestas.

Sin embargo, a medida que las principales herramientas tecnológicas siguen integrando la IA, es crucial saber cómo utilizarla para que nos sirva. Después de probar decenas de productos de IA en los últimos dos meses, he llegado a la conclusión de que la mayoría de nosotros estamos utilizando la tecnología de una manera subóptima, en gran parte porque las empresas tecnológicas nos han dado malas indicaciones.

Los chatbots son menos beneficiosos cuando les hacemos preguntas y luego esperamos que las respuestas que obtengan por su cuenta sean ciertas, que es como fueron diseñados para ser utilizados. Pero cuando se les indica que utilicen información de fuentes fiables, como sitios web creíbles y trabajos de investigación, la IA puede llevar a cabo tareas útiles con un alto grado de precisión.

Con el simple ajuste de aconsejar a los chatbots que trabajaran con datos específicos, estos generaron respuestas inteligibles y consejos útiles. En los últimos meses he pasado de ser un escéptico de la IA a un usuario entusiasta. Cuando me fui de viaje con un itinerario planificado por ChatGPT, todo salió bien porque las recomendaciones procedían de mis sitios web de viajes favoritos.

Dirigir los chatbots a fuentes específicas de alta calidad, como sitios web de medios de comunicación bien establecidos y publicaciones académicas, también puede ayudar a reducir la producción y difusión de información errónea. Permítanme compartir algunos de los criterios que utilicé para obtener ayuda con la cocina, la investigación y la planificación de viajes.

Planeación de comidas

Chatbots como ChatGPT y Bard pueden escribir recetas que parecen buenas en teoría pero no funcionan en la práctica. En un experimento realizado en noviembre por la sección de Alimentación de The New York Times, uno de los primeros modelos de IA creó recetas para un menú de Acción de Gracias que incluía un pavo extremadamente seco y un pastel denso.

También obtuve resultados decepcionantes con las recetas de marisco generadas por IA. Pero eso cambió cuando experimenté con los complementos de ChatGPT, que son básicamente aplicaciones de terceros que funcionan con el chatbot. (Solo los suscriptores que pagan 20 dólares al mes por acceder a ChatGPT4, la última versión del chatbot, pueden utilizar los complementos, que se activan en el menú de configuración).

En el menú de complementos de ChatGPT, seleccioné Recetas sabrosas, que extrae datos del sitio web Tasty, propiedad de BuzzFeed, un conocido sitio de medios de comunicación. A continuación, le pedí al chatbot que elaborara un plan de comidas que incluyera platos de mariscos, carne picada de cerdo y guarniciones de verduras utilizando las recetas del sitio. El bot presentó un inspirador plan de comidas, que incluía banh mi (un sándwich de estilo vietnamita) con cerdo al limoncillo, tacos de tofu a la parrilla y pasta con todo lo que hay en el refrigerador; cada sugerencia de comida incluía un enlace a una receta de Tasty.

Para las recetas de otras publicaciones, utilicé Link Reader, un complemento que me permitía pegar un enlace web para generar planes de comidas con recetas de otros sitios fiables, como Serious Eats. El chatbot extraía datos de los sitios para crear planes de comidas y me decía que visitara los sitios web para leer las recetas. Me llevó más trabajo, pero fue mejor que un plan de comidas creado por la IA.
 

Investigación

Cuando investigué para un artículo sobre una popular serie de videojuegos, recurrí a ChatGPT y Bard para refrescar mi memoria sobre juegos anteriores resumiendo sus tramas. Se equivocaron en detalles importantes sobre las historias y los personajes de los juegos.

Después de probar muchas otras herramientas de IA, llegué a la conclusión de que, para investigar, era crucial fijarse en fuentes de confianza y comprobar rápidamente la exactitud de los datos. Al final encontré una herramienta que hace justamente eso: http://Humata.AI, una aplicación web gratuita que se ha hecho popular entre investigadores, académicos y abogados.

La aplicación te permite subir un documento, por ejemplo un PDF, y desde allí un chatbot responde a tus preguntas sobre el material junto a una copia del documento, resaltando las partes relevantes.

En una de las pruebas, subí un trabajo de investigación que encontré en PubMed, un motor de búsqueda gubernamental de literatura científica. La herramienta produjo un resumen relevante del extenso documento en cuestión de minutos, un proceso que me habría llevado horas, y eché un vistazo a las partes destacadas para comprobar que los resúmenes eran correctos.

Cyrus Khajvandi, fundador de Humata, con sede en Austin, Texas, dijo que desarrolló la aplicación cuando era investigador en Stanford y necesitaba ayuda para leer artículos científicos densos. El problema de los chatbots como ChatGPT es que se basan en modelos anticuados de la web, por lo que los datos pueden carecer de contexto relevante.

Planeación de viajes

Cuando una redactora de viajes del Times pidió hace poco a ChatGPT que le compusiera un itinerario de viaje por Milán, el bot la guio para que visitara una parte céntrica de la ciudad que estaba desierta porque era festivo en Italia, entre otros errores.

Tuve mejor suerte cuando solicité un itinerario de vacaciones para mí, mi mujer y nuestros perros en el condado de Mendocino, California. Al igual que cuando planifiqué una comida, pedí a ChatGPT que incorporara sugerencias de algunos de mis sitios de viajes favoritos, como Thrillist, propiedad de Vox, y la sección de viajes del Times.

En cuestión de minutos, el chatbot generó un itinerario que incluía restaurantes y actividades aptos para perros, como una granja con maridajes de vino y queso y un tren a una popular ruta de senderismo. Esto me ahorró varias horas de planificación y, lo que es más importante, los perros se lo pasaron de maravilla.

Conclusión

Dicho de otro modo: el principal beneficio de entrenar a las máquinas con enormes conjuntos de datos es que ahora pueden utilizar el lenguaje para simular el razonamiento humano, aseguró Nathan Benaich, un inversionista de capital riesgo que invierte en empresas de IA. El paso importante para nosotros, afirmó, es combinar esa capacidad con información de alta calidad.

Después de probar decenas de productos de inteligencia artificial en los últimos dos meses, he llegado a la conclusión de que la mayoría de nosotros estamos utilizando la tecnología de una manera subóptima, en gran parte porque las empresas tecnológicas nos han dado malas instrucciones, escribe Brian X. Chen. (Ariel Davis/The New York Times).

Cuando se le indica que utilice información de fuentes fiables, como sitios web creíbles y trabajos de investigación, la IA puede llevar a cabo tareas útiles con un mayor grado de precisión.

¿Te pareció útil este contenido?