Por Redacción
Redmond, 20 de marzo de 2026.- Microsoft mantiene operativo un equipo multidisciplinario conocido como ‘red team’ o equipo rojo, dedicado a realizar pruebas de seguridad mediante la simulación de ataques contra sus propios productos de inteligencia artificial. La compañía, que se atribuye haber sido pionera en la formación de este grupo en 2021, utiliza esta práctica para identificar vulnerabilidades antes del lanzamiento de sus tecnologías.
Brad Smith, presidente de Microsoft, destacó la importancia de establecer principios claros que funcionen como mecanismos de control. “Tenemos principios, los definimos y los publicamos. Por definición, esos principios crearán guardarraíles. Y nos mantenemos en la carretera dentro de ellos”, declaró el ejecutivo.
Smith enfatizó que la gestión de la inteligencia artificial no solo implica decidir su aplicación, sino también establecer restricciones explícitas. “No se trata solo de cuándo debemos usar la tecnología, sino también de cuándo no debemos usarla”, añadió, señalando la necesidad de definir límites éticos y operativos para el desarrollo de estos sistemas.
La práctica del ‘red teaming’, cuyo origen se encuentra en estrategias militares y se ha aplicado en ciberseguridad durante décadas, permite a la empresa anticipar riesgos potenciales. Este enfoque surge en un contexto de debate global sobre el uso de la IA en ámbitos sensibles, incluyendo su aplicación en conflictos bélicos.
Antecedentes relevantes marcan la postura de la empresa frente a colaboraciones con sectores de defensa. En 2021, Microsoft canceló un acuerdo con el Pentágono, decisión que se alinea con la discusión actual sobre los límites éticos de la tecnología, ejemplificada recientemente por la demanda de Anthropic contra el Departamento de Defensa de Estados Unidos.
A través de este equipo interno de pruebas, Microsoft busca asegurar que sus desarrollos en inteligencia artificial operen dentro de los márgenes de seguridad y ética definidos por sus propios estándares, reforzando su compromiso con la responsabilidad en el despliegue de nuevas herramientas digitales.