La inteligencia artificial se perfila como una tecnología transformadora, comparable a la electricidad o el ordenador. Su impacto ya se percibe en la productividad, en la forma de abordar retos sociales complejos y en la expansión del acceso al conocimiento. Sin embargo, este avance también trae desafíos importantes relacionados con el sesgo, la seguridad y la transparencia.
Ante este panorama, Microsoft asume un rol activo y responsable, sino que promueve la integración de principios éticos y responsables en sus procesos tecnológicos y organizativos, con el firme compromiso de que la IA beneficie a todas las personas de forma segura y equitativa.
Priorizar la IA responsable en Microsoft
La confianza en la inteligencia artificial es esencial para su desarrollo. Microsoft y otras organizaciones buscan equilibrar la innovación con la responsabilidad, asegurando que las herramientas de IA se usen de manera ética y alineada con principios claros.
En este contexto, Microsoft desempeña un papel clave al liderar el desarrollo de herramientas empresariales impulsadas por IA. Su enfoque va más allá de la tecnología: también está dando forma al diálogo global sobre el uso responsable de la IA, integrando principios éticos no solo desde la política y la gobernanza, sino en todo el ciclo de construcción, implementación y escalabilidad de sus soluciones.
Jamian Smith, Naval Tripathi, Padmanabha Reddy Madhu y Thomas Po impulsan la IA responsable en la empresa. Mike Jackson también colabora, aunque no aparece en la foto.
Establecer las bases para este trabajo es la responsabilidad de la Oficina de IA Responsable (ORA). Este equipo aporta experiencia en políticas y gobernanza al ecosistema de IA responsable de Microsoft.
"Estamos en un viaje de varios años nacido de la necesidad de apoyar la innovación, y hacerlo de una manera que genere confianza", dice Mike Jackson, jefe de Gobernanza, Habilitación y Legal de IA de la Oficina de IA responsable. "A lo largo del camino, hemos continuado iterando y evolucionando el programa a través de una serie de bloques de construcción".
La Oficina de IA Responsable (ORA) lidera la implementación segura de la inteligencia artificial en Microsoft, enfocándose en la gobernanza, las políticas y la colaboración con distintas áreas para promover la innovación dentro de marcos éticos y de cumplimiento.
ORA ha creado el Estándar de IA Responsable, base del marco de gobernanza de Microsoft, para asegurar que todos los proyectos internos de IA se alineen a los seis principios fundamentales, traduciéndolos en requisitos concretos para cada iniciativa.
Los seis principios que guían nuestro estándar de IA responsable de Microsoft
Equidad
Los sistemas de IA deben tratar a todas las personas de manera equitativa. Deben asignar oportunidades, recursos e información de manera que sean justos para los seres humanos que los utilizan.
Privacidad y seguridad
Los sistemas de IA deben ser seguros y respetar la privacidad desde el diseño.
Fiabilidad y seguridad
Los sistemas de IA deben ser fiables y seguros, funcionando adecuadamente en distintos contextos y condiciones.
Inclusión
Los sistemas de IA deben empoderar e involucrar a todos, independientemente de su origen, esforzándose por ser inclusivos con las personas de todas las capacidades.
Transparencia
Los sistemas de IA deben garantizar que las personas comprendan correctamente sus capacidades.
Responsabilidad
Las personas deben ser responsables de los sistemas de IA con supervisión para que los humanos puedan mantener la responsabilidad y mantener el control.
ORA asesora a la Junta Directiva de Microsoft y trabaja con distintos equipos para aplicar principios de IA responsable mediante políticas y evaluaciones obligatorias en todos los proyectos de IA. El Consejo de IA responsable, liderado por figuras como Kevin Scott y Brad Smith, orienta e impulsa el cumplimiento y la innovación en IA. Cada división tiene líderes y campeones expertos que revisan los procesos y apoyan a los equipos en sus iniciativas de desarrollo de IA.
Implementación de la gobernanza de IA en la organización de TI de Microsoft
Como integrantes de la organización de TI de la empresa, el equipo responsable de la división de IA y el grupo campeón de Microsoft Digital desempeñan un papel especial. Estas personas colaboraron en el desarrollo de una herramienta de flujo de trabajo interna fundamental, que actualmente constituye una parte obligatoria del proceso de evaluación responsable de la IA.
"La clave es garantizar la alineación total de las prácticas de IA responsable con ORA", dice Naval Tripathi, gerente principal de ingeniería y colíder del Equipo de IA responsable de Microsoft Digital. "La ORA ha establecido principios claros y un marco y una herramienta de evaluación paso a paso. Nuestra responsabilidad es seguir rigurosamente este proceso y garantizar el cumplimiento de todos nuestros productos e iniciativas".
Esta herramienta registra cada proyecto, guía a los desarrolladores de IA a través de evaluaciones de impacto iniciales y revisiones finales, y facilita esos flujos de trabajo para los campeones. Al agilizar el proceso a través de un portal unificado, la herramienta incrementa la eficiencia y minimiza los errores que pueden surgir de los procesos manuales. Además, fomenta que los equipos integren la IA responsable como parte fundamental del ciclo de vida del desarrollo de software (SDL), y no solo como un requisito adicional o una consideración tardía.
"A medida que las organizaciones desarrollan un ecosistema diverso de agentes de IA, a menudo creados por múltiples equipos de ingeniería, se vuelve esencial establecer un proceso de evaluación estandarizado", dice Thomas Po, gerente senior de productos que trabaja en agentes de Campus Services. "Esto garantiza que todos los agentes se adhieran a los estándares de nivel empresarial antes de que lo implementemos y distribuyamos a los usuarios finales. Eso lo hace más manejable a largo plazo, y tenerlo todo en una sola herramienta nos da más transparencia".
El proceso interno de Microsoft para la gobernanza responsable de la IA inicia con el registro de cada nuevo sistema en un portal especializado, donde se introducen detalles clave, como el título, la descripción, el equipo responsable y el alcance del proyecto. Según las características del sistema, la herramienta define los requisitos y revisiones necesarios, especialmente si se trata de aplicaciones externas o que manejan información sensible.
Posteriormente, se lleva a cabo una evaluación exhaustiva, en la que las personas desarrolladoras deben aportar documentación sobre el uso de datos, posibles riesgos y medidas de mitigación. Esta evaluación cuenta con la participación de especialistas en IA responsable, seguridad y privacidad, quienes analizan a fondo los casos críticos antes de autorizar la implementación del proyecto.
Si el proyecto cumple con todos los requisitos y revisiones, puede avanzar. Mas que obstáculos, este proceso orienta a los equipos y les brinda retroalimentación experta durante el desarrollo.
"La herramienta captura todos los requisitos de ORA y los incorpora a un flujo de trabajo fácil de usar para los desarrolladores", dice Padmanabha Reddy Madhu, gerente senior de productos y campeón responsable de IA para la ingeniería de productividad de los empleados en Microsoft Digital. "También es una excelente manera de atraer a los campeones de la IA a la fase de diseño para que podamos respaldar el trabajo de nuestros colegas".
Cómo Microsoft aplica la IA para mejorar procesos internos y experiencias del personal
Con más de 80 proyectos de IA actualmente en marcha en Microsoft Digital, el registro y la optimización resultan esenciales. Los equipos trabajan en diversas formas de potenciar los procesos empresariales y las experiencias de las personas empleadas, como demuestran los siguientes ejemplos de Campus Services, a los que se puede acceder a través del agente de autoservicio para empleados:
- El agente de instalaciones permite a las personas empleadas reportar incidencias como bombillas fundidas o daños en las oficinas. Al hacerlo, se genera un ticket para el equipo de mantenimiento y la persona puede dar seguimiento al caso.
- El agente de eventos del campus ayuda a organizar y descubrir actividades presenciales, como talleres o charlas, facilitando que quienes participan encuentren y planifiquen los eventos de su interés.
- El agente de comedor resuelve dudas sobre los menús diarios de los restaurantes del campus, atendiendo consultas en lenguaje natural como “¿Dónde hay teriyaki hoy?” y facilitando la accesibilidad, en especial para quienes tienen restricciones alimentarias.
Las políticas y prácticas de la organización han incorporado una cultura de responsabilidad y confianza en los procesos internos de desarrollo de IA. Con ese respaldo, los equipos cuentan con la confianza necesaria para experimentar.
"Cuando empezamos, los ingenieros no estaban realmente seguros de qué hacer con la IA y cómo hacerlo de forma responsable, por lo que la opción predeterminada era restringir su propio impulso", dice Monika Gupta, directora general de socios que lideran el equipo de Ingeniería de Productividad de los Empleados de Microsoft Digital. "Ahora saben que tenemos una IA responsable integrada en nuestras prácticas y nuestra tecnología como parte de un proceso orgánico que crece a partir de una raíz de cultura, por lo que confían más en las soluciones".
Las evaluaciones responsables de IA, lejos de ser una carga, ofrecen una revisión adicional que reduce riesgos y agiliza los procesos, beneficiando a los equipos y evitando retrasos.
Lecciones clave para integrar la responsabilidad en el desarrollo de IA
El equipo ha identificado valiosas lecciones para quienes inician proyectos de IA. Entre ellas, destaca la importancia de empoderar a personas entusiastas como referentes responsables y brindarles formación adecuada.
Fomentar una cultura organizacional de confianza y aprendizaje continuo facilita la integración de buenas prácticas. Alinear procesos y herramientas de evaluación de IA con las necesidades reales del equipo es clave, priorizando siempre los procedimientos antes que las soluciones tecnológicas.
Finalmente, resaltan que la precisión depende de la calidad de los datos y que es fundamental combatir los sesgos mediante pruebas constantes y análisis reflexivo.
"Lo que estamos haciendo es completamente novedoso en el mundo de la tecnología", dice Jamian Smith, gerente principal de productos y colíder del Equipo de IA Responsable de Microsoft Digital. "Microsoft es realmente el aprendiz líder aquí, y tenemos una pasión por la ciudadanía corporativa que estamos incorporando en nuestras herramientas".
Incorporar la responsabilidad en el desarrollo de IA implica establecer principios alineados con la cultura organizacional y empoderar a quienes impulsan buenas prácticas. Contar con herramientas y procesos adecuados facilita la creación de soluciones seguras y responsables desde el inicio del ciclo de desarrollo.
"No se trata de lo rápido que puedas moverte, sino de lo preparado que estés", dice Tripathi. "Los procesos responsables de IA pueden parecer obstáculos para la velocidad, pero en última instancia son aceleradores".
Al priorizar la IA responsable, cualquier organización puede asegurar que la revolución de la inteligencia artificial sea verdaderamente humana.
