EntrevistaEpisodio 643:46
La tecnología también puede cambiar vidas
Accesibilidad, empleo e inclusión como criterio técnico y no como programa de responsabilidad social. Qué cambia en las decisiones de arquitectura cuando el usuario final es alguien a quien el resto del mercado ignora.
Borja GarcíaCIO, ILUNION / Fundación ONCEResumen ejecutivo
Borja García dirige tecnología en Fundación ONCE tras venir del sector del viaje, y el cambio le obligó a reaprender qué significa medir. Aporta los dos casos de inteligencia artificial en producción con impacto social documentado del ciclo —Inclunia y AccessRobot— y el mejor material que existe sobre sesgos: cómo un modelo del que habían retirado raza, edad y género acabó discriminando por el nombre y por el código postal. Y aporta una cultura que contrasta con todo lo demás: aquí compartir vale más que guardar.
Las ideas que llevarte
- La accesibilidad en la mesa de diseño es inversión; en el backlog, nunca llega.
- Los sesgos proxy entran por variables que parecen inocentes y solo se detectan en uso.
- Cuando los datos son sensibles, la soberanía sobre el modelo puede pesar más que seguir al mercado.
- La IA no sustituyó al orientador: le devolvió tiempo para estar con las personas.
- Con low-code: libertad para crear, gobierno para alojar.
Qué aporta solo esta conversación: El único caso del ciclo con impacto social medido, el mejor material sobre detección de sesgos en producción, y la única organización donde compartir el conocimiento es estrategia y no riesgo.
Momentos
Citas verificadas contra el máster. Son el material que hace que esta conversación se pueda citar sin tergiversarla.
Habían quitado raza, edad y género. El sesgo entró por el nombre. Después descubrieron otro por código postal.
Empezamos a detectar que, para ciertas posiciones, el modelo prefería Pepes y Juanes que Marías y Evas
Borja García · min 30:10
Su respuesta a qué significa usar la tecnología para mejorar la vida de las personas.
La tecnología útil es aquella que pasa desapercibida
Borja García · min 42:18
Su modelo para el reporte múltiple: ser el nexo entre personas que no hablan entre sí pero tienen objetivos comunes.
No gestiono jefes: lo que gestiono son expectativas
Borja García · min 09:50
Su consejo a quien quiera dirigir tecnología dentro de unos años.
Que nunca pierdan el foco de las personas. Las personas son las que usan la tecnología
Borja García · min 41:38
Ver los 8 momentos restantes
«Si lo pones en la mesa de diseño desde el principio, no es un gasto adicional: es una inversión que estás haciendo»
Sobre accesibilidad. Si se deja en el backlog, «siempre habrá ítems que favorezcan un mayor margen» y nunca gana. · min 17:45
«La información de nuestro modelo tiene que ser nuestra: tenemos que ser soberanos con nuestra información»
Por qué mantuvieron su modelo propietario cuando apareció ChatGPT y el mercado viró a la IA generativa. · min 22:49
«Cuanta más gente lo sepa, mejor para nosotros»
Contraste con su etapa anterior en turismo, donde la tecnología era «el secreto mejor guardado, el Santo Grial». · min 33:46
«En una fundación el IVA se paga. ¿Sabes cuál fue mi desvío presupuestario en mi primer plan de tecnología? Un veintiuno por ciento»
La mejor lección del lote sobre lo que cuesta no conocer las reglas económicas del sector al que llegas. · min 08:14
«Tenemos información en silos desde hace eones, desde que existe la empresa. Porque es una medida de poder»
Su diagnóstico antes de montar la oficina del dato. El cambio: «el dato ya no es tuyo». · min 35:26
«La tecnología no es un fin en sí mismo: es un medio»
El criterio con el que se aprueba —o no— cualquier línea del plan tecnológico en una fundación. · min 08:29
«El problema a resolver es este. Luego vendrá la tecnología, porque la tecnología ya existía»
Cómo conceptualizaron AccessRobot: los robots ya existían; la pregunta era cómo dar autonomía a personas con discapacidad. · min 12:19
«De dos semanas, más de trescientas horas, a un segundo»
Inclunia evalúa más de 1.500 variables sobre 350.000 candidatos y devuelve los 20 mejores. Antes, la búsqueda tardaba semanas y los procesos se cerraban. · min 23:22
Transcripción
Completa y buscable. Es lo que permite encontrar por Google una frase concreta y aterrizar en el minuto exacto.
Leer la transcripción completa~7.000 palabras
Transcripción en preparación. Ya está indexada palabra a palabra con WhisperX. Antes de publicarla pasa un gate de revisión: corrección del glosario (CIO≠CEO, CAPEX, SCADA, Kubernetes) y marcado de datos sensibles. Mientras tanto, la conversación completa está disponible en el canal de YouTube.
Preguntas frecuentes
Las preguntas que un responsable de tecnología se hace de verdad, respondidas con lo que dijo Borja García en esta conversación.
¿Cómo se detectan los sesgos en un modelo de inteligencia artificial?
En uso, no en diseño. En Fundación ONCE habían retirado del modelo raza, edad y género, y aun así detectaron que «para ciertas posiciones laborales el modelo prefería Pepes y Juanes que Marías y Evas», y que ciertos códigos postales resultaban más favorecidos. Los llaman sesgos proxy. El mecanismo clave es un canal dedicado para que quien usa el sistema reporte «cualquier cosa que vea rara».
¿Por qué construir un modelo propio en vez de usar uno de mercado?
Por soberanía sobre datos sensibles. Empezaron con IA predictiva en marzo de 2022; cuando apareció ChatGPT ese noviembre se replantearon todo, y decidieron continuar: «trabajamos con datos muy sensibles en términos de discapacidad, de empleo y de personas. La información de nuestro modelo tiene que ser nuestra». Después añadieron un LLM de mercado encima, como capa de explicabilidad.
¿Por qué la accesibilidad se queda siempre fuera de los proyectos?
Por una razón económica, no ideológica: si está en el backlog, siempre habrá items que prometan más margen, más clientes o menos riesgo, y la accesibilidad nunca gana esa comparación. Su solución es sacarla del backlog y ponerla en la mesa de diseño «desde el día cero. O menos uno», donde deja de ser un gasto adicional.
¿Cómo se gobierna el low-code sin frenar a los usuarios?
Con una regla que separa creación de alojamiento: «usuario, ¿quieres hacer un proceso? Hazlo. Pero cuando lo tengas hecho y probado, me lo traes a mí, que soy tecnología, y yo te lo alojo de manera centralizada, controlada y monitorizada». Sin eso, aparecen procesos automatizados que nadie sabe qué hacen y siguen funcionando sin dueño.
Sigue por aquí
Otras conversaciones sobre lo mismo
47:00EntrevistaEpisodio 1
Qué espera hoy el negocio de un CIO
Paco Gimeno · CEO & Founder, Tecner Consulting
43:44EntrevistaEpisodio 3
La verdad sobre la transformación digital (y por qué nunca termina)
Carlos Fernández · CIO, ICEX
54:26EntrevistaEpisodio 4
Qué hace de verdad un CIO (y por qué la mayoría se equivoca)
César Quintana · CIO, Insud Pharma
Cada lunes · 1.500+ suscriptores
El radar semanal que leen los que deciden en tecnología
Esta conversación es de ILUNION / Fundación ONCE. El sector se mueve cada semana. El Radar de la Consultoría Tecnológica es lo que leen los lunes quienes toman las decisiones que aquí se discuten.
Adelantos de M&A
Los movimientos del sector con contexto y cifras, antes de que sean noticia.
Tendencias con criterio
Cloud, datos e inteligencia artificial, filtrados por quien conoce el mercado.
Radar de talento
Movimientos de directivos y equipos en las grandes tecnológicas y consultoras.
Directa, cada lunes
Una sola edición semanal, en formato breve. Se lee en cinco minutos.
Suscríbete gratis
El alta se hace en la web de Xpecializa, donde nace y se gestiona el Radar.
Suscribirme al RadarGratis, sin compromiso y sin spam. Una edición por semana. Consulta la política de privacidad.
«Una fuente clave para seguir el sector tecnológico. Bien curada, relevante.»
Cristina G. · Akkodis
«Lectura recomendada para quienes seguimos el pulso del sector.»
Luis Flores · OpenSistemas