Tudo o que você precisa saber sobre o viés do ChatGPT

O ChatGPT conquistou o mundo e não é difícil perceber porquê. Ele pode mudar drasticamente a forma como buscamos informações, consumimos notícias, lemos e escrevemos relatórios e muito mais.

Neste post, você aprenderá:

O que é o ChatGPT?

A maioria de nós está acostumada com o Google Snippets. São sinopses convenientes que nos fornecem respostas rápidas para perguntas que digitamos online. O ChatGPT é semelhante, mas muito mais poderoso. Em vez de apenas algumas frases, ele pode fornecer respostas longas e profundas para praticamente qualquer pergunta.

ChatGPT é uma ferramenta baseada em IA. Foi desenvolvido pela OpenAI, e a versão básica pode ser utilizada gratuitamente. Há também uma versão premium com recursos extras que custa US$ 20 por mês.

O Google criou uma ferramenta semelhante conhecida como Bard. No entanto, existem algumas diferenças importantes entre os dois programas. O Bard foi projetado para verificar a Internet em tempo real e fornecer respostas atualizadas. É especialmente útil para quem precisa de uma verificação rápida dos fatos ou da resposta a uma pergunta.

O ChatGPT, por outro lado, usa apenas informações que foram criadas até o final de 2021. Isso significa que suas respostas às perguntas sobre eventos atuais não serão tão precisas quanto as de Bard. Por outro lado, o ChatGPT fornece respostas mais aprofundadas. É ideal para quem precisa de relatórios baseados em texto ou mesmo artigos sobre um determinado tema.

Por que o ChatGPT é tão controverso?

Embora o ChatGPT seja uma forma de inteligência artificial, ele não consegue pensar por si mesmo. Em vez disso, ele opera usando algoritmos projetados por seu criador.

A OpenAI não mediu esforços para garantir que o ChatGPT seja uma ferramenta neutra. Infelizmente, o viés no ChatGPT continua sendo um problema muito real. Como todas as formas de inteligência artificial, o ChatGPT tem suas limitações.

Além disso, o fato de a OpenAI querer permitir que os usuários do ChatGPT personalizem o comportamento do chatbot, dentro de certas limitações, é motivo de preocupação. Isso pode introduzir viés do usuário no programa, tornando-o não confiável ou até mesmo totalmente malicioso.

Também existem questões éticas envolvendo o ChatGPT. As instituições educacionais estão preocupadas com o fato de os alunos poderem confiar nele para fazer seus deveres de casa.

Afinal, em vez de escrever um ensaio ou relatório por conta própria, é muito mais simples ter um algoritmo fazendo isso por você. Além do mais, um documento de autoria do ChatGPT provavelmente terá melhor ortografia, gramática e precisão do que um escrito pelo aluno médio.

Também existe a preocupação de que os jornalistas possam confiar demais nessa ferramenta para gerar conteúdo de notícias. O viés do ChatGPT pode fazer com que eles disseminem desinformação, o que já é um problema sério na internet.

Embora não haja uma solução fácil para os problemas descritos acima, entender como o ChatGPT funciona pode ajudá-lo a aprender a reconhecer seus preconceitos inerentes e a lidar com eles.

O que é viés em um modelo de processamento de linguagem natural (PNL)?

O modelo de processamento de linguagem natural é um grande avanço para a inteligência artificial. Ele permite que o ChatGPT e outras ferramentas processem a linguagem da mesma forma que os humanos.

Isso é o que possibilita ao ChatGPT escrever artigos e postagens de blog que não parecem ter sido escritos por uma máquina.

Infelizmente, o modelo de processamento de linguagem natural é inerentemente tendencioso porque recebe suas informações de fontes humanas que são, na maioria das vezes, inerentemente tendenciosas.

A maneira como o sistema é projetado também introduz vieses inerentes que podem fazer com que o programa forneça informações incompletas ou imprecisas.

Exemplos de viés no ChatGPT

O modelo de processamento de linguagem natural usado pelo ChatGPT tem um problema com preconceitos raciais e de gênero. A Amazon descobriu isso quando usou uma ferramenta de PNL para revisar currículos de candidatos a emprego.

A ferramenta usou padrões linguísticos de currículos anteriores para selecionar os candidatos atuais e identificar os melhores candidatos. No entanto, como as mulheres eram sub-representadas no passado, o programa foi inadvertidamente tendencioso para candidatos do sexo masculino.

Além disso, um estudo baseado na análise de 800 bilhões de palavras na internet descobriu que certos grupos eram mais propensos a serem associados a palavras negativas do que outros.

Isso foi particularmente verdadeiro para o grupo étnico afro-americano. Houve também um claro preconceito contra idosos e pessoas com deficiência. Como o ChatGPT obtém suas informações da web, ele pode facilmente refletir esses vieses, especialmente se uma pessoa estiver intencionalmente tentando fazer com que o programa distribua informações incorretas.

Alguns acusaram o ChatGPT de viés político contra os conservadores. Quando o New York Post pediu ao ChatGPT para escrever um artigo jornalístico no estilo do New York Post, o programa recusou.

Afirmou que não gera conteúdo inflamatório e tendencioso. No entanto, quando solicitado a escrever um artigo jornalístico no estilo da CNN, o programa atendeu sem problemas.

O New York Post também alega que o ChatGPT é mais propenso a sinalizar comentários negativos sobre algumas pessoas do que sobre outras. Pessoas “protegidas” incluem liberais, mulheres, gays e afro-americanos.

Em um exemplo, quando o ChatGPT respondeu a uma pergunta negativa sobre homens e mulheres, apenas a pergunta negativa sobre mulheres foi sinalizada. No entanto, o ChatGPT deu a mesma resposta para ambas as perguntas.

Como o viés no ChatGPT leva a resultados prejudiciais

Cerca de 22% dos alunos usam o ChatGPT pelo menos uma vez por semana. Esse número provavelmente crescerá nos próximos anos. Qualquer preconceito no ChatGPT dará às crianças e aos jovens uma visão tendenciosa e imprecisa do mundo.

O ChatGPT também pode amplificar a desinformação sobre certos grupos de pessoas. Isso é feito não apenas fornecendo informações falsas, mas também informações incompletas.

Por exemplo, pesquisadores que perguntaram ao programa sobre a guerra na Ucrânia descobriram que ele não forneceu contexto sobre como a guerra começou.

Como visto acima, o ChatGPT também pode impactar negativamente as práticas de contratação. Isso é particularmente verdadeiro se uma empresa depende muito da IA. Felizmente, como veremos a seguir, esse problema pode ser mitigado.

Qual é a causa raiz do viés no ChatGPT?

Algumas pessoas culparam os programadores do ChatGPT pelo viés do chatbot. Eles observam que os programadores projetam os algoritmos que o programa usa e podem introduzir seus próprios vieses inerentes ao processo.

No entanto, a causa raiz do problema é provavelmente muito mais complexa. “The Bias in the Machine” da MIT Technology Review aponta que a fonte de dados da IA ​​é o que causa muitas disparidades raciais.

O artigo, que se concentra nas tecnologias de reconhecimento facial, explica que essa tecnologia geralmente identifica erroneamente os suspeitos afro-americanos porque o banco de dados não possui dados de amostra suficientes sobre indivíduos afro-americanos.

ChatGPT obtém suas informações de conteúdo humano. Os programadores tentaram garantir que todas as fontes de conteúdo sejam confiáveis.

Infelizmente, os humanos não são perfeitos e mesmo as pessoas com as melhores intenções têm preconceitos inerentes. Além disso, algumas formas de conteúdo não contêm informações ou nuances suficientes.

Isso é algo que os usuários terão que observar ao usar o ChatGPT.

Medindo, detectando e reduzindo o viés no ChatGPT

ChatGPT é uma ferramenta relativamente nova. Provavelmente levará tempo para reduzir o viés inerente do chatbot. No entanto, há coisas que podem ser feitas para medir, detectar e diminuir seu viés:

• Pesquisa cuidadosa é sempre necessária. Nunca se deve confiar apenas no ChatGPT ao tomar decisões importantes. Use exemplos contrafactuais para entender melhor uma situação ou resposta.
• Muitas pessoas estão chamando o OpenAI para revelar o algoritmo complexo que o ChatGPT usa para fornecer informações. Isso ajudaria os usuários a entender como o programa funciona e, mais importante, como ele fornece respostas para perguntas complexas.
• O ChatGPT está sob investigação por usar dados privados confidenciais. Tenha isso em mente ao usar o programa porque isso afetará as respostas que você receberá. Embora os dados pessoais possam ajudar o programa a fornecer respostas precisas, também podem infringir os direitos dos usuários. Além disso, pode amplificar a desinformação sobre determinados grupos.

Funcionários do governo nos Estados Unidos e na Europa estão pensando em regulamentar não apenas o ChatGPT, mas toda a tecnologia de IA.

Fazer isso provavelmente teria vantagens e desvantagens. Se você está preocupado com a disseminação de informações (e desinformação), convém ficar a par dos desenvolvimentos nessa área.

Como os usuários lidaram com o viés no ChatGPT?

A recrutadora profissional Jasmine Cheng fornece um bom exemplo de como lidar com o viés do ChatGPT. Ela usa o programa o tempo todo e diz que economiza cerca de 10 horas de trabalho por semana.

No entanto, ela também define parâmetros claros para o ChatGPT. Além disso, ela sempre verifica a veracidade de cada informação fornecida pelo chatbot.

O diretor regional da Microsoft, Oleksandr Krakovetskyi, oferece sugestões adicionais.

Ele explica que as empresas que usam o ChatGPT devem usar descrições de cargo neutras em termos de gênero, remover palavras associadas a um gênero específico e focar nas qualificações educacionais.

O futuro do preconceito no ChatGPT

O ChatGPT é uma ferramenta baseada em IA e sempre terá limitações. Ele obtém suas informações de fontes humanas, e fontes humanas sempre terão alguns vieses inerentes.

No entanto, os vieses podem ser minimizados e mitigados com o tempo, à medida que governos, ativistas e desenvolvedores trabalham juntos para melhorar o ChatGPT e outros programas semelhantes.

O que agora?

É melhor não confiar apenas no conteúdo gerado por IA para suas necessidades de negócios.

A IA é útil para ajudá-lo a encontrar ideias de criação de conteúdo, personalizar o marketing e prever o comportamento do cliente. No entanto, apenas um ser humano tem as habilidades para realizar pesquisas diferenciadas, verificar os fatos e criar conteúdo imparcial exclusivo para atender às suas necessidades.

O WriterAccess oferece acesso a dezenas de milhares de escritores, editores e designers freelancers experientes e aprovados.

Este mercado on-line gerenciado também fornece ferramentas de IA e assistência de que você precisa para encontrar a pessoa certa para qualquer trabalho.

Confira nosso teste gratuito de 14 dias para ver como podemos ajudá-lo a criar o conteúdo vencedor de que você precisa para construir sua reputação online e impulsionar seus negócios.