Pare de chamá-lo de co-piloto. É um Estagiário Muito Ansioso.
A metáfora voadora estava sempre errada. Uma melhor explica por que você ainda tem que verificar a lição de casa.
Cada produto é um "co-piloto" agora, como se o software estivesse voando calmamente o avião ao seu lado. O meu não está calmo. É entusiástico, rápido e, ocasionalmente, certo de que o avião é um submarino.
Um estagiário é a melhor metáfora. Inteligente, ansioso, lê mal a sala, precisa de revisão em qualquer coisa que seja enviada. Você nunca deixaria um estagiário enviar um e-mail para um cliente sozinho, e também não deve deixar a modelo.
A metáfora é importante porque estabelece expectativas. "Copiloto" implica confiança e parceria. "Estagiário" implica supervisão, que é a configuração correta real.
Comecei a dizer às equipes para tratarem sua IA como a melhor estagiária que já tiveram: delegar o rascunho, manter a decisão.
A linguagem molda o hábito. Chame-o de estagiário e você verificará o trabalho dele. Chame-o de co-piloto e você pode simplesmente fechar os olhos na decolagem.