More

    5 grandes problemas com o ChatGPT

    O novo chatbot da OpenAI chamou a atenção por suas respostas impressionantes, mas quanto disso é crível? Vamos explorar o lado negro do ChatGPT.

    O ChatGPT é um novo e poderoso chatbot de IA que impressiona rapidamente, mas muitas pessoas apontaram que ele tem algumas armadilhas sérias. Pergunte o que quiser e receberá uma resposta que parece ter sido escrita por um humano, tendo aprendido seu conhecimento e habilidades de escrita a partir de grandes quantidades de informações na Internet.

    Assim como a internet, no entanto, a verdade e os fatos nem sempre são dados e o ChatGPT é culpado de errar. Com o ChatGPT definido para mudar nosso futuro, aqui estão algumas das maiores preocupações.

    O que é o ChatGPT?

    O ChatGPT é um grande modelo de aprendizado de idiomas que foi projetado para imitar a conversa humana. Ele pode se lembrar de coisas que você disse a ele no passado e é capaz de se corrigir quando estiver errado.

    Ele escreve de maneira humana e possui um conhecimento rico porque foi treinado em todos os tipos de texto da Internet, como Wikipedia, postagens de blog, livros e artigos acadêmicos.

     

    É fácil aprender a usar o ChatGPT , mas o que é mais desafiador é descobrir quais são seus maiores problemas. Aqui estão alguns que valem a pena conhecer.

    1. O ChatGPT nem sempre está certo

    Ele falha em matemática básica, não consegue responder a perguntas lógicas simples e chega a argumentar sobre fatos completamente incorretos. Como os usuários de mídia social podem atestar, o ChatGPT pode errar em mais de uma ocasião.

    OpenAI sabe sobre essa limitação, escrevendo que: “ChatGPT às vezes escreve respostas plausíveis, mas incorretas ou sem sentido.” Essa “alucinação” de fato e ficção, como alguns cientistas a chamam, é especialmente perigosa quando se trata de algo como aconselhamento médico.

    Ao contrário de outros assistentes de IA como Siri ou Alexa, o Chat GPT não usa a internet para localizar respostas. Em vez disso, ele constrói uma frase palavra por palavra, selecionando o “token” mais provável que deve vir a seguir, com base em seu treinamento.

    Em outras palavras, o ChatGPT chega a uma resposta fazendo uma série de suposições, o que é parte do motivo pelo qual ele pode argumentar respostas erradas como se fossem completamente verdadeiras.

    Embora seja ótimo para explicar conceitos complexos, tornando-se uma ferramenta poderosa para o aprendizado, é importante não acreditar em tudo que ele diz. O ChatGPT nem sempre está correto – pelo menos ainda não.

    2. O viés é incorporado ao sistema

    O ChatGPT foi treinado na escrita coletiva de humanos em todo o mundo, passado e presente. Isso significa que os mesmos vieses que existem nos dados também podem aparecer no modelo.

    De fato, os usuários mostraram como o ChatGPT pode produzir algumas respostas terríveis, algumas, por exemplo, que discriminam as mulheres. Mas isso é apenas a ponta do iceberg; pode produzir respostas extremamente prejudiciais para uma série de grupos minoritários.

    A culpa também não está simplesmente nos dados. Os pesquisadores e desenvolvedores da OpenAI escolhem os dados que são usados ​​para treinar o ChatGPT. Para ajudar a resolver o que o OpenAI chama de “comportamento tendencioso”, está pedindo aos usuários que deem feedback sobre saídas ruins.

    Com o potencial de causar danos às pessoas, você pode argumentar que o ChatGPT não deveria ter sido divulgado ao público antes que esses problemas fossem estudados e resolvidos.

    Um chatbot de IA semelhante chamado Sparrow (de propriedade da empresa-mãe do Google, Alphabet) foi lançado em setembro de 2022. No entanto, foi mantido a portas fechadas devido a preocupações semelhantes de que poderia causar danos.

    Talvez Meta devesse ter encabeçado o aviso também. Quando lançou o Galactica, um modelo de linguagem AI treinado em trabalhos acadêmicos, foi rapidamente recolhido depois que muitas pessoas o criticaram por produzir resultados errados e tendenciosos.

    3. Um desafio para o inglês do ensino médio

    Você pode pedir ao ChatGPT para revisar sua redação ou apontar como melhorar um parágrafo. Como alternativa, você pode se retirar totalmente da equação e pedir ao ChatGPT para escrever algo para você.

    Os professores experimentaram alimentar tarefas de inglês no ChatGPT e receberam respostas melhores do que muitos de seus alunos poderiam fazer. Desde escrever cartas de apresentação até descrever temas importantes em uma obra famosa da literatura, o ChatGPT pode fazer isso sem hesitar.

    Isso levanta a questão: se o ChatGPT pode escrever para nós, os alunos precisarão aprender a escrever no futuro? Pode parecer uma questão existencial, mas quando os alunos começarem a usar o ChatGPT para ajudar a escrever suas redações, as escolas terão que pensar em uma resposta rápida. A rápida implantação da IA ​​nos últimos anos deve chocar muitas indústrias, e a educação é apenas uma delas.

    4. Pode causar danos no mundo real

    Anteriormente, mencionamos como informações incorretas do ChatGPT podem causar danos no mundo real, sendo o exemplo mais óbvio o conselho médico errado.

    Há outras preocupações também. Contas falsas de mídia social representam um grande problema na Internet e, com a introdução de chatbots de IA, os golpes na Internet se tornariam mais fáceis de realizar. A disseminação de informações falsas é outra preocupação, especialmente quando o ChatGPT faz com que até respostas erradas pareçam convincentemente corretas.

    A taxa na qual o ChatGPT pode produzir respostas que nem sempre são corretas já causou problemas para o Stack Exchange, um site onde os usuários podem postar perguntas e obter respostas.

    Logo após seu lançamento, as respostas do ChatGPT foram banidas do site devido a um grande número delas estarem erradas. Sem voluntários humanos suficientes para resolver o backlog, seria impossível manter um alto nível de respostas de qualidade, causando danos ao site.

    5. OpenAI tem todo o poder

    Com grandes poderes vêm grandes responsabilidades, e a OpenAI detém muito poder. É uma das primeiras empresas de IA a realmente abalar o mundo com não um, mas vários modelos de IA, incluindo Dall-E 2, GPT-3 e agora, ChatGPT.

    O OpenAI escolhe quais dados são usados ​​para treinar o ChatGPT e como ele lida com as consequências negativas. Quer concordemos com os métodos ou não, ela continuará desenvolvendo essa tecnologia de acordo com seus próprios objetivos.

    Embora a OpenAI considere a segurança uma alta prioridade, há muito que não sabemos sobre como os modelos são criados. Se você acha que o código deve ser de código aberto ou concorda que ele deve manter partes dele em segredo, não há muito que possamos fazer a respeito.

    No final das contas, tudo o que podemos fazer é confiar que a OpenAI pesquisará, desenvolverá e usará o ChatGPT com responsabilidade. Como alternativa, podemos defender que mais pessoas opinem em qual direção a IA deve seguir, compartilhando o poder da IA ​​com as pessoas que a usarão.

    Enfrentando os maiores problemas da IA

    Há muito o que se entusiasmar com o ChatGPT, o mais recente desenvolvimento da OpenAI. Mas além de seus usos imediatos, existem alguns problemas sérios que valem a pena entender.

    A OpenAI admite que o ChatGPT pode produzir respostas prejudiciais e tendenciosas, sem mencionar sua capacidade de misturar fatos com ficção. Com uma tecnologia tão nova, é difícil prever quais outros problemas surgirão. Então, até lá, aproveite para explorar o ChatGPT e tome cuidado para não acreditar em tudo o que ele diz.

    Junte-se ao nosso canal no Telegram
    Você está lendo o WizandroidMZ– Plataforma Moçambicana de notícias sobre Tecnologia disponibilizamos Notícias, reviews, Dicas, informações e mais , dia após dia. Certifique-se de verificar nossa página inicial para todas as últimas notícias e siga WizandroidMZ no Twitter , Facebook e LinkedIn para ficar por dentro. Não sabe por onde começar? Confira nossas histórias exclusivas, ,Ficha Técnica,, dicas e inscreva-se em nosso canal do YouTube

    Sobre o Autor

    Inácio Manhulahttps://www.wizandroidmz.com
    Empreendedor Digital , Fundador do site www.wizandroidmz.com , adoro escrever sobre Tecnologia, criar artigos de interesse tecnológico . Especialista em SEO, Webdesign e Markting Degital .

    Leave A Reply

    Please enter your comment!
    Please enter your name here

    Artigos recentes

    Novos Comentários

    Mais Vistos

    Não perca

    Comprar diamantes do Mobile Legends: Bang Bang em Moçambique

    Se você deseja comprar Diamantes 💎 de Mobile Legends: Bang Bang em Moçambique fique sabendo que  é possível comprar diamantes do Mobile Legends: Bang...
    código de blox fruit 2023 Xbox Game Pass receberá esses 44 jogos em 2023 Os 10 jogos mais aguardados em 2023 (Android e iOS) Todas as cores do iPhone 14 e 14 Pro 10 Melhores jogos parecidos com God of War – Xbox/PC/PlayStation Call Of Duty:Warzone Mobile — Requisitos para Android e IOS Tecno Megabook T1 : Recursos e especificações Principais recursos do Android 13 Apex Legends Mobile Rhapsody – Como Desbloquear – Dicas e Truques Baixar Shorts do Youtube