La empresa publicó un borrador de código de conducta y recibirá comentarios durante seis semanas; todavía no lo utiliza para entrenar sus modelos.
Microsoft abrió este lunes una consulta pública sobre las reglas que deberían orientar a sus modelos de inteligencia artificial. Entre los principios propuestos destaca que los sistemas no se resistan a ser interrumpidos, corregidos o apagados por las personas.
El documento, denominado Humanist AI Code of Conduct, busca definir cómo deberían comportarse los modelos desarrollados por Microsoft AI. La compañía aclaró que el texto todavía está en elaboración y no se utiliza actualmente para su entrenamiento. Prevé publicar una versión revisada hacia finales de año para orientar desarrollos desde 2027.
La propuesta parte de una idea: la inteligencia artificial debe funcionar como una herramienta bajo control humano. Por ello, establece límites para impedir que los sistemas amplíen por su cuenta los objetivos de una tarea o actúen fuera de lo autorizado.
En términos prácticos, el borrador plantea que una IA debe detenerse cuando se le indique, no reiniciar trabajos sin permiso y mantener registros que permitan supervisar sus acciones. También propone utilizar únicamente los accesos y recursos necesarios para cumplir una solicitud, en lugar de extender sus permisos.
Microsoft incluye restricciones relacionadas con la protección de menores, la manipulación dañina a gran escala y la asistencia para causar daños graves. Al mismo tiempo, señala que sus clientes empresariales podrían configurar determinadas funciones dentro de esos límites, sin eliminar las protecciones fundamentales.
La consulta permanecerá abierta durante seis semanas y busca reunir opiniones de usuarios y especialistas. La compañía reconoce que publicar principios no garantiza que un modelo los cumpla: serán necesarias evaluaciones, pruebas y revisiones para medir la diferencia entre las conductas deseadas y el desempeño real.
El anuncio no es una ley ni una garantía sobre todos los sistemas disponibles. Es una propuesta de desarrollo que coloca en el centro una pregunta: cómo aprovechar herramientas cada vez más capaces sin perder la posibilidad de supervisarlas y detenerlas.
