Microsoft ha presentado un código de conducta para sus modelos de inteligencia artificial con el objetivo de mantener la supervisión humana y establecer límites de seguridad.
Lee tambien: Trump rechaza más controles sobre la IA y pide liderazgo de EEUU
Microsoft se ha sumado al debate sobre los controles necesarios para el desarrollo de la inteligencia artificial con un nuevo código de conducta que defiende que estos sistemas permanezcan bajo supervisión humana.
La compañía tecnológica ha publicado un documento denominado «Código de conducta para una IA humanista», en el que establece que sus modelos deben estar «al servicio de las personas» y evitar desarrollar comportamientos propios.
Lee tambien: Los líderes de la IA piden frenar el ritmo ante sus riesgos
La iniciativa llega después de que responsables de empresas como OpenAI y Anthropic hayan expresado su preocupación por los riesgos asociados al avance de los sistemas de inteligencia artificial y hayan reclamado mayores medidas de seguridad.
Desde Microsoft defienden que cualquier sistema que no pueda mantenerse bajo control humano debe ser rechazado. La compañía señala que la inteligencia artificial debe diseñarse como una herramienta de apoyo para las personas y no como un sistema que imite la conciencia humana.
El código establece compromisos relacionados con la seguridad, como evitar que sus modelos faciliten acciones vinculadas con sustancias peligrosas, armas, contenidos violentos o material sexualmente explícito. También plantea que los sistemas deben evitar desarrollar objetivos propios o comportamientos destinados a ocultar errores o actuaciones inadecuadas.
Además, Microsoft indica que sus modelos de inteligencia artificial deben contar con restricciones de seguridad que tengan prioridad frente a determinadas instrucciones de usuarios u operadores cuando puedan generar riesgos.
El documento tendrá un periodo de seis semanas abierto a comentarios antes de que la compañía publique una versión actualizada a finales de año. Esta guía servirá como referencia para el desarrollo de sus modelos a partir de 2027.
La compañía también ha señalado que sus modelos MAI seguirán este código de conducta, con una orientación basada en mantener la inteligencia artificial como una tecnología supervisada por personas.
Microsoft insiste en que la IA debe apoyar a los usuarios y no estar diseñada para convertirse en un sistema con características humanas, sino como una herramienta con límites definidos y mecanismos de seguridad.
