OpenAI atualiza o Model Spec e organiza o comportamento dos seus modelos em cinco valores

Nem toda notícia de inteligência artificial é sobre um modelo novo. Às vezes a parte interessante é o manual de comportamento. A OpenAI publicou nesta quinta-feira uma nova versão do Model Spec, o documento público em que a empresa descreve como quer que os seus modelos ajam.

Cinco valores no lugar de uma lista de regras

A grande mudança é a organização. Em vez de um monte de instruções soltas, o texto agora gira em torno de cinco valores:

Fidelidade à intenção humana, entender o que a pessoa quer de verdade, e não só seguir o pedido ao pé da letra
Minimizar danos, com limites firmes de segurança
Honestidade e transparência, inclusive sobre o que o modelo não sabe
Fortalecer a autonomia das pessoas, ajudando cada um a entender, escolher e agir por conta própria
Cuidado com quem é afetado pelo trabalho

O primeiro é tratado como a base de todo o resto.

O que mais mudou

A atualização ganhou uma parte nova sobre como usar contexto e memória de conversas anteriores de forma proporcional, além de orientações sobre supervisão humana e efeitos colaterais das ações do modelo. Por outro lado, a OpenAI aposentou a maior parte das regras detalhadas de estilo: a ideia é que o tom se adapte ao idioma, à cultura e ao gosto de cada pessoa. E um detalhe curioso: o documento deixou de falar em «o assistente» e passou a chamar o modelo simplesmente de GPT.

A própria empresa admite que os modelos atuais ainda não seguem tudo o que está escrito ali. O texto descreve o comportamento que ela quer alcançar, e o público pode enviar comentários.

Minha opinião

Gostei do recado sobre estilo: quem conversa em português não precisa receber respostas com cara de tradução. Também acho importante o compromisso de não dizer só o que a pessoa quer ouvir. Agora é ver quanto disso aparece na prática.

Fonte: anúncio oficial da OpenAI