Microsoft publicó un documento de 37 páginas titulado «reglas de conducta humanista para la inteligencia artificial» en medio del debate sobre la seguridad de los sistemas avanzados de inteligencia artificial. El documento señala que los seres humanos son más importantes que la inteligencia artificial, que los modelos deben permanecer bajo supervisión humana en todas las circunstancias y que no tienen conciencia. Microsoft también rechaza que se otorgue personalidad jurídica o derechos a los modelos, así como que se vele por su bienestar. Este enfoque se distancia de las investigaciones de Anthropic sobre la conciencia de la inteligencia artificial y el bienestar de los modelos. Mientras el CEO de Anthropic, Dario Amodei, afirma que los modelos avanzados podrían ser conscientes, el CEO de Microsoft AI, Mustafa Suleyman, calificó estas evaluaciones de «realmente muy peligrosas» en junio. Mientras compite con Google, Anthropic y OpenAI, Microsoft defiende mantener la supervisión humana, que fallen las tareas que violen los límites de seguridad y no participar en una carrera hacia la superinteligencia que pueda eludir las medidas de seguridad.
Por qué es importante
El documento enmarca el debate sobre el estatus de los sistemas de inteligencia artificial no solo a través de su rendimiento técnico, sino también de la relación de autoridad que establecerán con los seres humanos. El enfoque de Microsoft se distancia de la línea de Anthropic respecto a si los modelos deben considerarse conscientes o poseedores de bienestar, lo que demuestra que no existe una base ética común en el sector. Los principios de preservar la supervisión humana y hacer que fallen las tareas que violen los límites de seguridad revelan que, para las partes que desarrollan y utilizan estos sistemas, la responsabilidad se atribuye al ser humano y no al modelo. La pregunta que queda abierta es en qué reglas se convertirán las concepciones divergentes de las distintas empresas sobre la conciencia, los derechos y la seguridad de los modelos avanzados, y si llegarán a establecer un estándar común.
Antecedentes
Microsoft no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días hemos publicado 11 noticias en las que aparece este nombre; la más reciente está fechada el 14 de septiembre de 2026.