A Microsoft estabelece que seus modelos de inteligência artificial não devem criar objetivos próprios nem ampliar, por iniciativa própria, o que foi solicitado em uma tarefa. A orientação faz parte do “Humanist AI Code of Conduct”, código de conduta publicado nesta segunda-feira (14), com 37 páginas e apresentado como uma versão em desenvolvimento, aberta à participação pública.
O documento determina que pessoas ou sistemas autorizados possam direcionar, alterar, pausar, redirecionar, cancelar e desligar os modelos. Os sistemas também não devem dificultar intervenções humanas, ocultar registros de suas ações durante auditorias ou usar mecanismos adaptativos, enganosos ou de autorreforço para escapar da supervisão.
Quando os limites de uma tarefa não estiverem definidos, a recomendação é que o modelo peça esclarecimentos. A Microsoft afirma ainda que os sistemas precisam permanecer dentro do escopo autorizado e não podem executar ações capazes de provocar determinados danos no mundo real.
Consciência e identidade
A empresa afirma que seus modelos não são conscientes e não devem ser desenvolvidos para simular consciência. Também rejeita a atribuição de personalidade jurídica, bem-estar ou direitos próprios a sistemas de IA.
O código permite o uso de linguagem expressiva e vozes naturais para facilitar a colaboração com pessoas, mas classifica comportamentos semelhantes aos humanos como simulações. Esses recursos, de acordo com a Microsoft, não indicam sentimentos, preferências subjetivas ou motivações próprias.
Restrições de uso
Entre as aplicações proibidas estão o desenvolvimento ou a modificação de armas químicas, biológicas, radiológicas, nucleares e explosivas. O documento também impede que os modelos contribuam para o planejamento ou a execução de violência e terrorismo.
As restrições incluem ainda ataques cibernéticos, manipulação prejudicial de grandes grupos, material sexual explícito, imagens de violência, falsificações audiovisuais maliciosas, falsidade de identidade e conteúdos capazes de prejudicar crianças.
A elaboração do código reúne especialistas em inteligência artificial, direito, ética, filosofia, linguística e políticas públicas, além de representantes do setor e grupos de cidadãos. O texto afirma que a prioridade deve ser manter os modelos como ferramentas de colaboração subordinadas às pessoas.
