Datos + modelo + cómo usar = impacto

La primera charla a la que asistí fue de Google y McKinsey, y estuvo bastante bien. Ya se ha escrito sobre esto por Erwin Blom y Michiel Buitelaar pero daré mi perspectiva.

La idea que saqué fue: Necesitas buenos datos, un buen modelo de lenguaje y tu gente debe entender para qué les sirve. Con eso puedes generar un impacto poderoso.

Datos: En Google tienen una base de código increíble: El código sobre el que funcionan Chrome y Search, por ejemplo. 500,000 años-persona de trabajo, no solo con buen código sino que también se registran todos los cambios, todas las preguntas que los desarrolladores hacen en foros y las respuestas. Así que no solo el producto final sino también el proceso.

Modelo de lenguaje: Desde la perspectiva de Google, su LLM llamado Gemini es naturalmente el mejor, con una ‘ventana de contexto’ de 1 millón de tokens, mucho mayor que la competencia. ¿Y para qué sirve eso? Puede trabajar con mucha más información de entrada. Documentos, código fuente de software, imagen, sonido, etc.

Forma de trabajo: Todo el mundo obtiene algo de valor inmediatamente de un modelo de lenguaje tipo chat, pero cuando por ejemplo das a los desarrolladores un curso breve para mostrarles cómo aprovechar mejor un ‘copiloto de código’, el impacto aumenta. No un 20% más efectivo, sino trabajando un 50-70% más efectivo.

Impacto: McKinsey habló sobre varios ejemplos de chatbots, incluyendo uno de nuestro ING. Allí se reemplazó un chatbot anticuado por uno con IA generativa, lo que hizo que de repente el 70% de las consultas entrantes pudiera ser respondido por el chatbot, en lugar del 40% con la versión antigua. Éxito rotundo, pero también mayor satisfacción del cliente. Y Google mostró cómo su Gemini ayuda a los desarrolladores a encontrar bugs, revisar código y sugerir mejoras para mejorar el código. Incluso se mostró un video donde alguien había filmado con su teléfono cómo ocurría cierto bug, y ese video fue suficiente para que la IA encontrara el bug y sugiriera una solución.

Ahora bien, con Google a veces surge la pregunta de si fue un ejemplo justo, y qué pasó alrededor, pero aun así. Uno de los aspectos asombrosos de la IA generativa es que sigue sorprendiéndote.