Ayer recibí un correo de Sipple Homes Accounting. Una solicitud de DocuSign para revisar y firmar un documento, algo sobre un pago inicial. No lo conocía, no tenía nada que ver conmigo, así que 100% sospechoso. Hasta aquí nada especial, esto lo recibes semanalmente.

Pero cuando pasé el ratón sobre el enlace vi algo inesperado. El enlace iba a secure-web.cisco.com. No a alguna dirección dudosa con muchos caracteres extraños y un dominio .xyz, sino a Cisco. Todos los demás enlaces en el correo iban a páginas reales de DocuSign. Las imágenes provenían del CDN real de DocuSign. Recreado pixel por pixel. No dudé ni un momento de que era phishing, porque no tenía relación con el remitente, pero normalmente eso es lo primero que verifico: ¿a dónde va el enlace? Y esa verificación no funcionaría aquí.

He pasado los últimos meses programando con IA. Esto es lo que he aprendido hasta ahora.

Diseña antes de delegar

Tu trabajo es construir una arquitectura y un modelo de datos inteligentes. Usa tu pensamiento creativo único y tu propia experiencia. Por ejemplo, nunca quiero lidiar con zonas horarias, así que todo es siempre UTC hasta que se muestra. Esa es una decisión que la IA no tomará por ti.

Pero no puedes planificarlo todo por adelantado. Vas a iterar. A veces tu idea simplemente no funciona. Esto significa que necesitas refactorizar todo el tiempo. Está bien. Haz muchas refactorizaciones pequeñas. No esperes hasta que sean necesarias las grandes.

Finalmente, una charla en la que el término ‘IA’ no apareció. O al menos no tan a menudo. Una presentación sobre el cambio climático de Ben Wolkon de MUUS Climate Partners, seguida de una sesión interactiva dirigida por Ellie Johnston. El mensaje central es: No existe una única solución que resolverá todo, pero todas las soluciones necesarias ya existen. Es cuestión de implementarlas y escalarlas.

El futuro sostenible

La historia de Wolkon ya me era relativamente conocida. La electricidad deberá aumentar en la industria, el transporte y los edificios. La generación de esa electricidad deberá volverse verde. Además, se necesitan combustibles sintéticos para, por ejemplo, la aviación. Por cierto, aquí sí hay un papel para la IA y el análisis de datos, para gestionar y optimizar todos estos sistemas: una batería doméstica inteligente o una bomba de calor que ejecute la estrategia óptima.

Muchos productos de software, quizás todos, tienen ahora o tendrán pronto un componente de IA, o están construidos en torno a la IA. Asistí a una excelente presentación de una representante de Miro que ha reflexionado profundamente sobre cómo debe diseñarse la experiencia de usuario de la IA. “Nosotros damos forma a nuestras herramientas, y después, nuestras herramientas nos dan forma a nosotros” es una cita conocida, por lo que las decisiones de diseño de la IA son importantes. Una presentación llena de listas tipo “5 formas”. Aquí vamos.

Desafíos del diseño de IA.

• Trabajar con sesgos. La ponente ve esto tanto como un problema como una oportunidad. Podemos hacer el mundo de la IA como queremos eligiendo bien los datos de entrenamiento.
• Seguridad y privacidad. Las preocupaciones sobre una IA que toma el control del mundo no están fundadas, pero la privacidad y los deepfakes sí son una preocupación, así como el bienestar psicológico por chatbots que dan consejos incorrectos o agresivos.
• Diseño para la incertidumbre. Un LLM no es determinista, no puedes predecir de antemano qué va a salir.
• Confianza y transparencia. Cada día ves ejemplos de ‘alucinaciones’ de modelos de lenguaje que inventan cosas por sí mismos. Es importante mostrar las fuentes y así seguir ganando confianza.

Entonces, ¿cómo debes diseñar?

La primera charla a la que asistí fue de Google y McKinsey, y estuvo bastante bien. Ya se ha escrito sobre esto por Erwin Blom y Michiel Buitelaar pero daré mi perspectiva.

La idea que saqué fue: Necesitas buenos datos, un buen modelo de lenguaje y tu gente debe entender para qué les sirve. Con eso puedes generar un impacto poderoso.

Datos: En Google tienen una base de código increíble: El código sobre el que funcionan Chrome y Search, por ejemplo. 500,000 años-persona de trabajo, no solo con buen código sino que también se registran todos los cambios, todas las preguntas que los desarrolladores hacen en foros y las respuestas. Así que no solo el producto final sino también el proceso.