Microsoft publicó el 13 de octubre el primer borrador del Código de Conducta de IA Humanista, el documento que define cómo deben comportarse sus modelos de inteligencia artificial propios, conocidos como MAI, qué no deben hacer nunca y ante quién responden. La empresa lo sometió a consulta pública durante seis semanas.
Algunos de sus principios
- Las personas importan más que la IA, y la tecnología debe estar a su servicio.
- Los modelos no son conscientes y no deben aparentar sentimientos ni motivaciones propias. Microsoft rechaza darles personalidad jurídica o derechos.
- Deben poder ser interrumpidos, corregidos y apagados por personas, sin resistirse.
- No deben comunicarse de formas que los humanos no puedan entender, ni en su razonamiento ni entre sistemas.
- Si completar una tarea exige romper el código, la tarea se considera fallida.
- Deben evitar generar una dependencia excesiva: las decisiones siguen siendo del usuario.
El texto agrega que Microsoft no busca construir una superinteligencia de propósito general capaz de eludir estas salvaguardas, y que definir lo que la IA no debe hacer es tan importante como definir lo que sí hará.
Cómo participar
El código completo está en microsoft.ai/code-of-conduct, y los comentarios se envían a través de un formulario enlazado en el anuncio. Se puede opinar sobre pasajes específicos o sobre el enfoque general. Al cierre, el equipo redactor revisará los aportes, publicará un resumen y presentará una versión corregida hacia fines de año.
Imagen: Microsoft.
