O software que sabe quando chamar um humano

Quase toda a conversa sobre inteligência artificial gira à volta de quanto os modelos já conseguem fazer. Pergunto-me mais vezes por outra coisa: o que acontece no momento em que não conseguem?

Um produto fica à prova nesse instante. Um truque de demonstração responde sempre, com a mesma segurança, esteja certo ou errado. Um produto a sério sabe a diferença entre tenho a certeza, acho que sim e isto não é comigo.

A confiança também é uma funcionalidade

Quando um sistema responde com a mesma firmeza a tudo, quem o usa aprende depressa a desconfiar de tudo. A confiança, a que se pede e a que se dá, é uma funcionalidade que se desenha, não um acaso que se espera.

Desenhá-la dá trabalho, mas as regras são poucas:

• Dizer o que se sabe e o que não se sabe. Uma resposta que admite a dúvida vale mais do que uma resposta bonita que falha em silêncio.
• Tornar a passagem barata. Chamar uma pessoa não pode ser um beco com formulário. Tem de ser rápido, com o contexto já a caminho, para ninguém ter de repetir o que acabou de dizer.
• Guardar o porquê. Cada vez que o sistema pede ajuda, fica registado o motivo. É aí que está o mapa do que falta aprender.

Saber parar é uma inteligência

Falamos de autonomia como se fosse uma escada em que subir é sempre melhor. Não é. A autonomia boa é a que cresce onde se pode verificar: onde o erro é barato, ou onde alguém consegue confirmar o resultado depressa. Nos outros sítios, o gesto inteligente é parar.

Parece o contrário do entusiasmo, e talvez seja só a sua versão adulta. As pessoas em quem mais confiamos não são as que sabem tudo. São as que dizem, sem drama, isto já não é comigo, vou chamar quem sabe.

O que quero construir

Software que conhece o tamanho da sua própria certeza, e que o mostra. Que trata o humano como parte do desenho e não como falha do sistema. E que, quando passa a mão, o faz de tal forma que ninguém dá por uma queda, só por uma entrega.

Os modelos vão continuar a melhorar. Esta parte, a de saber onde acaba a sua confiança, vai continuar a ser nossa.