Hace algunos años, algunos equipos de sonido tenían ecualizadores físicos. En la casa, mi mamá tenía un equipo de sonido con barras, y cuando ponía música, me gustaba ajustarlas y escuchar cómo cambiaba el sonido. Cuando aumentaba todas las barras de frecuencia, el sonido no era el mejor, al contrario, sonaba muy duro pero ruidoso.
Corte de un equalizador de una foto de un equipo de sonido de antes
Cada vez que pienso en el diseño de productos digitales con inteligencia artificial, recuerdo esos ecualizadores.
En Ingeniería de Sistemas llevamos décadas hablando de atributos de calidad: seguridad, confiabilidad, desempeño, mantenibilidad, usabilidad. La llegada de la inteligencia artificial no hizo desaparecer ninguno. Por el contrario, agregó nuevas variables y volvió más evidente algo que quizá habíamos olvidado: un producto tecnológico no es bueno porque maximice una característica, sino porque logra equilibrarse de acuerdo con el problema que intenta resolver.
La versión 2023 de ISO/IEC 25010 define nueve características para evaluar la calidad de productos de tecnologías de información y comunicación: adecuación funcional, eficiencia de desempeño, compatibilidad, capacidad de interacción, confiabilidad, seguridad, mantenibilidad, flexibilidad y seguridad frente al daño (safety). El estándar incluso amplió su alcance más allá del software para considerar elementos como hardware, datos e infraestructura de comunicaciones.
Imagen generada con IA a partir de las características de calidad de la ISO/IEC 25010
Con inteligencia artificial, ese ecualizador tiene todavía más controles.
La IA no debería ser el punto de partida
En los últimos años me he encontrado varias veces con una frase, explícita o implícita: “tenemos que ponerle inteligencia artificial”.
Y creo que allí empieza uno de nuestros principales problemas.
La pregunta inicial de un producto no debería ser ¿dónde ponemos IA?, sino ¿qué problema estamos intentando resolver?
Google, en su guía People + AI, propone precisamente comenzar por las necesidades del usuario y preguntarse cuándo la IA realmente agrega valor antes de incorporar al producto. Sus patrones de diseño incluyen determinar si la IA aporta valor, permitir que las personas den retroalimentación, supervisar la automatización y recuperar el control cuando esta falla.
Decir que una aplicación “tiene IA” puede resultar atractiva comercialmente. Pero si la funcionalidad aumenta el costo, introduce incertidumbre, compromete datos personales o hace más difícil una tarea que antes era sencilla, probablemente agregamos tecnología sin agregar valor.
Es por eso que el diseño para la experiencia de usuario se vuelve cada vez más importante en nuestro hacer, pero desde un nivel más estratégico y menos de ejecución: donde hablar de las necesidades de las personas, de su contexto y de los beneficios sociales del uso de Inteligencia Artificial sobrepasen los riesgos o ventajas.
El nuevo ecualizador puede traer más atributos de calidad pero seguimos buscando un buen balance
Y así como al balancear el equalizador del equipo de sonido, cuando usemos la Inteligencia Artificial en alguna funcionalidad de nuestra solución, podríamos aumentar el valor de un atributo de calidad pero disminuirá otro, veamos algunos escenarios:
- ¿Han visto las recomendaciones de e-commerce como Amazon o de plataformas de streaming como Netflix? Podríamos aumentar el nivel de personalización de la recomendación entregando más información del usuario a los modelos de IA:
- Quizás mejore la relevancia de las recomendaciones.
- Pero acabamos de bajar la barra de la privacidad.
- ¿O los escenarios como automatizar completamente un calendario de contenido en redes sociales? que sirven para reducir esfuerzo y tiempo.
- Movimos hacia arriba la barra de la eficiencia
- Pero bajamos la barra de control de usuario (y de autenticidad).
- En otro ejemplo, podríamos usar en análisis de datos modelos más grandes buscando respuestas más precisas.
- Tal vez mejoremos la métrica de la funcionalidad.
- Pero aumentamos también los tiempos de respuesta, los costos de infraestructura y el consumo de recursos.
- Así como podemos crear una interfaz de usuario extremadamente sencilla, como la de los chats con modelos de IA, ocultando toda la complejidad.
- Pero al ocultar demasiado, el usuario a veces cree que la respuesta probabilística, es una certeza.
No existe una configuración universal del ecualizador, en cambio, sigue siendo importante la etapa de investigación y de análisis para que con pensamiento crítico y empático, teniendo presente al problema, al usuario y al contexto, se pueda tomar las mejores decisiones para balancear el ecualizador.
Recordemos: no somos solo redactores de requerimientos, somos generadores de ellos.
Referencias:
Dartmouth. AI at Dartmouth: Our Story. Dartmouth College.
https://ai.dartmouth.edu/our-story
Google PAIR. People + AI Guidebook. Google Research.
https://pair.withgoogle.com/guidebook-v2/
International Organization for Standardization. ISO/IEC 25010:2023 — Systems and software engineering — Systems and software Quality Requirements and Evaluation (SQuaRE) — Product quality model.
https://www.iso.org/standard/78176.html