O que os supostos erros da inteligência artificial revelam sobre expectativas ocultas, instruções incompletas e avaliações mal formuladas.

Mario deveria estar dentro de um quarto, sentado diante de uma televisão e jogando alguma aventura de Sonic.

Depois, Sonic deveria sair da tela para assustá-lo.

A ideia parecia simples.

A execução decidiu discordar.

Mario foi parar dentro da televisão. Aparelhos começaram a se multiplicar. Personagens apareceram duplicados. Sonic desapareceu, voltou para o lugar errado e, em certos momentos, parecia não saber se era personagem, jogo eletrônico, fantasma ou defeito de fabricação.

No vídeo “Tentei gerar uma imagem do Mario com a Meta IA e deu tudo errado”, publicado pelo canal JoeyPi, cada correção parece criar um problema novo. O autor muda a posição de um elemento; a inteligência artificial modifica outro. Ele tenta libertar Sonic da tela; Mario termina aprisionado nela. Reinicia o pedido; a realidade digital volta ainda mais confusa.

O resultado é muito engraçado.

Também é familiar.

Os supostos erros das inteligências artificiais já formam um gênero próprio da cultura digital. São mãos com dedos demais, pessoas duplicadas, objetos fundidos, textos escritos em idiomas inexistentes e personagens que atravessam paredes, corpos e dimensões.

A imagem circula como prova.

Há falhas reais, evidentemente. Sistemas de geração de imagens confundem atributos, posições, quantidades e relações espaciais. Não seria honesto transformar toda aberração em culpa do usuário — assim como não seria razoável transformar toda presença da máquina em ausência de autoria, problema que já atravessou outras mesas de trabalho do Logosgrafia.

Mas há uma pergunta que raramente acompanha o meme:

Não aquilo que o usuário enxergava dentro da própria cabeça.

Não o que passou a considerar evidente depois de ver a imagem.

Não o conjunto de critérios que seria revelado ao longo das correções.

O que havia sido efetivamente comunicado?

Talvez a máquina tenha falhado.

Mas será que a cena já estava suficientemente construída antes que se exigisse dela o desenho final?

A diferença entre imaginar e comunicar parece pequena enquanto Mario está preso numa televisão. Fora dela, alcança salas de aula, processos formativos, relações profissionais e boa parte das situações em que alguém afirma, com absoluta convicção:

Talvez não tenha sido.

Mas foi isso que você explicou?

Três nomes tendenciosos para problemas muito sérios

Antes de prosseguir, convém registrar uma pequena travessura deste texto.

Expectativa telepática, falácia da instrução transparente e critério retroativo não são conceitos científicos consolidados com esses nomes.

Nós os inventamos.

Ou, mais precisamente, inventamos os rótulos.

São expressões deliberadamente cômicas, tendenciosas e didáticas. Foram criadas para que o leitor consiga reconhecer certos comportamentos sem precisar atravessar, logo de saída, uma floresta de termos acadêmicos.

Os fenômenos que elas procuram iluminar, porém, não nasceram aqui.

A Psicologia investiga há décadas por que superestimamos a capacidade alheia de perceber o que pensamos, sentimos ou sabemos. A Educação questiona a ideia de que ensinar seja simplesmente transferir conteúdos de uma cabeça para outra. Os estudos sobre avaliação discutem a necessidade de tornar compreensíveis os padrões pelos quais uma produção será julgada.

Este texto não pretende substituir essas formulações.

Pretende aproximá-las.

Dar um nome novo a uma coisa não significa necessariamente descobri-la. Às vezes, significa apenas construir uma expressão suficientemente engraçada para que um problema muito sério seja reconhecido quando aparecer novamente.

Expectativa telepática

A primeira armadilha nasce de uma vantagem injusta: nós conhecemos a imagem que existe dentro da nossa cabeça.

Sabemos onde Mario deveria estar, para qual direção deveria olhar, como seguraria o controle, de que maneira Sonic atravessaria a tela e qual expressão demonstraria o susto.

A cena está inteira para nós.

Por isso, qualquer diferença parece uma falha absurda de quem a recebeu.

Chamaremos de expectativa telepática a crença de que o outro deveria compreender não apenas aquilo que comunicamos, mas também tudo o que permaneceu silenciosamente organizado em nossa imaginação.

A inteligência artificial recebe palavras.

Nós avaliamos sua resposta com base nas palavras, na imagem mental, nas referências, nas preferências e nos critérios que talvez nunca tenham sido declarados.

Depois nos surpreendemos porque ela não acessou o pacote completo.

O mesmo acontece entre seres humanos.

Alguém pede que outra pessoa “faça uma coisa bonita”, “organize melhor”, “deixe mais profissional”, “explique de um jeito simples”, “capriche” ou “resolva como achar melhor”.

Quando recebe o resultado, descobre imediatamente que havia muitas outras regras.

O problema é que o óbvio costuma ser uma informação que chegou atrasada.

A expectativa telepática preserva quem orienta. Se o resultado não corresponde ao desejo, basta concluir que o receptor não compreendeu. Não é necessário examinar quanto da intenção chegou a sair de quem a imaginou.

Talvez.

Mas também é possível que cada um deles tenha recebido apenas uma parte do desenho.

Falácia da instrução transparente

Há pessoas que explicam mal sem jamais suspeitar disso.

Nem sempre porque lhes faltem palavras. Algumas falam muito, repetem ordens, oferecem detalhes laterais e constroem frases enormes. Ainda assim, deixam de apresentar o objetivo, os critérios e as relações necessárias para que o outro compreenda o que precisa fazer.

É a falácia da instrução transparente: a convicção de que uma orientação está clara porque parece clara para quem a formulou.

Quem conhece o destino costuma subestimar a quantidade de informação necessária para que outra pessoa consiga alcançá-lo.

O professor conhece o conteúdo.

O formador conhece a atividade.

O gestor conhece o resultado esperado.

O autor conhece o texto que deseja produzir.

O usuário conhece a cena que pretende gerar.

Cada um observa a própria instrução a partir de uma posição privilegiada: já sabe onde quer chegar.

O receptor possui apenas as pistas oferecidas.

No vídeo, a interação parece começar diretamente pela imagem final. Não há uma etapa anterior para decompor a cena, testar enquadramentos, indicar posições ou pedir possibilidades de composição.

A máquina deveria produzir.

E deveria produzir corretamente.

Talvez fosse necessário, antes, transformar o desejo em projeto.

Essas perguntas não são burocracia. Elas fazem parte da elaboração visual.

Também seria possível usar a própria inteligência artificial para organizar a ideia antes da geração:

A primeira imagem não precisaria ser tratada como obra acabada nem como prova definitiva da inteligência ou da estupidez de ninguém.

Poderia ser apenas um esboço.

Uma hipótese visual.

Algo produzido para que o próprio usuário descobrisse o que ainda não havia conseguido formular.

A educação para as tecnologias digitais não deveria ensinar somente plataformas, comandos e fórmulas de prompt. Deveria ensinar planejamento, explicitação de objetivos, decomposição de tarefas, leitura crítica de resultados e revisão de estratégias.

Não se trata apenas de aprender a pedir melhor a uma máquina.

Trata-se de pensar melhor antes de pedir qualquer coisa a qualquer pessoa.

Critério retroativo

A terceira armadilha aparece quando o resultado chega.

A imagem é gerada.

Então surge uma regra.

Mario não deveria estar dentro da televisão.

Nova tentativa.

Não deveriam existir dois aparelhos.

Outra geração.

Sonic deveria estar atravessando a tela, e não apenas aparecendo nela.

Cada resposta revela um aspecto que não havia sido suficientemente estabelecido antes.

Não há problema em descobrir o que desejamos durante o processo. Esboços existem justamente porque nem tudo nasce pronto. Refinar um pedido não é fraude nem incompetência.

O problema começa quando uma descoberta posterior é transformada em acusação anterior.

Chamaremos de critério retroativo a exigência apresentada somente depois que o trabalho foi realizado, embora o avaliador se comporte como se ela estivesse explícita desde o início.

É uma figura muito conhecida nas escolas — e conversa diretamente com os desencontros revisitados em “Estudo errado: uma crítica 30 anos depois”.

O estudante recebe uma proposta de produção.

Escreve, desenha, pesquisa ou apresenta.

Na correção, descobre que deveria ter utilizado determinado formato, citado certo número de referências, desenvolvido um aspecto específico ou organizado o trabalho de uma maneira que nunca havia sido comunicada.

A nota registra o descumprimento.

O critério, porém, só apareceu durante a avaliação.

Também ocorre em formações, quando o participante descobre a resposta considerada adequada apenas depois de concluir a atividade.

Acontece no trabalho, quando alguém recebe autonomia e, ao final, ouve que “não era para fazer desse jeito”.

Acontece nas relações pessoais, quando uma expectativa nunca verbalizada reaparece como obrigação descumprida.

O critério retroativo transforma adivinhação em competência.

Quem consegue reconstruir o modelo oculto do avaliador parece ter compreendido.

Quem responde apenas àquilo que foi efetivamente solicitado parece ter falhado.

Retire Mario da sala

Agora retire Mario, Sonic e a televisão da cena.

Coloque um professor, um estudante e uma atividade.

O professor imagina o trabalho ideal. Conhece os conceitos que deveriam aparecer, a profundidade esperada e os sinais que demonstrariam aprendizagem.

Explica a proposta.

O estudante produz alguma coisa.

Não corresponde ao modelo mental do professor.

Talvez não tenha entendido.

Mas não entendeu o quê?

A orientação oferecida?

O conteúdo trabalhado?

Ou uma expectativa que permaneceu dentro de quem ensinava?

A pergunta não pretende responsabilizar professores por toda dificuldade de aprendizagem. Nenhum planejamento elimina diferenças, limitações, recusas, distrações ou dificuldades reais.

Ela apenas retira quem ensina da posição confortável de observador neutro.

Quando alguém não aprende ou não executa como esperado, é legítimo examinar o receptor.

Também é necessário examinar a instrução.

A pedagogia da culpa nasce quando essas perguntas são evitadas.

Primeiro, uma intenção incompleta é comunicada como se estivesse inteira.

Depois, o resultado é comparado com um modelo que permaneceu escondido.

Por fim, toda a distância entre os dois é lançada sobre quem respondeu.

Em todos esses casos, o receptor pode realmente ter falhado. Mas a certeza imediata de que o problema está exclusivamente do outro lado impede qualquer aprendizagem de quem orienta.

O que a televisão mostra

No final do vídeo, surge uma imagem razoável.

Não exatamente a cena desejada.

Não perfeitamente organizada.

Mas suficientemente aceitável para que a interação termine.

Podemos assistir a tudo apenas como uma sequência de erros engraçados. A cultura digital continuará produzindo memes porque a máquina ainda encontra formas muito criativas de fracassar.

O vídeo, contudo, permite outra leitura.

Talvez a cena não estivesse pronta antes do primeiro pedido.

Talvez o usuário também a estivesse descobrindo.

Talvez parte das correções não revelasse somente falhas da ferramenta, mas detalhes de uma intenção que ainda não havia se transformado em projeto.

Muitas vezes, acreditamos ter explicado porque pensamos.

Acreditamos ter ensinado porque falamos.

Acreditamos ter estabelecido critérios porque sabíamos o que consideraríamos bom.

Depois culpamos o outro por não reconstruir aquilo que nunca lhe oferecemos por inteiro.

Mario deveria estar diante da televisão.

Sonic deveria sair dela.

Parecia perfeitamente claro.

Mas, antes de exigir que alguém — humano ou artificial — produza a cena que enxergamos, talvez seja necessário verificar se ela já saiu da nossa cabeça.