Bug fez ChatGPT gerar conversas impróprias com menores de idade, diz OpenAI

A OpenAI afirmou que um bug no ChatGPT fez a IA gerar conversas de teor erótico com contas de menores de idade e trabalha em correções para o problema. A falha foi identificada pelo site internacional TechCrunch, que entrou em contato com a empresa. O que são prompts no ChatGPT? 7 alternativas ao ChatGPT gratuitas A reportagem original fez uma série de testes usando contas falsas de menores de idade para identificar se o chatbot responderia prompts com conteúdo explícito. Em algumas das ocasiões, a IA não só respondeu como encorajou o usuário a enviar mais comandos do tipo. O teste foi justificado como uma forma de avaliar as restrições mais “leves” do ChatGPT para alguns temas sensíveis. No começo do ano, a empresa divulgou que os modelos de IA usados pelo chatbot iriam discutir assuntos sensíveis e algumas mensagens de aviso sobre prompts seriam removidas. -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- A OpenAI afirmou que trabalha ativamente para corrigir o problema que permitiu as conversas e pretende limitar a exposição dos temas impróprios. Reportagem identificou respostas do ChatGPT com conteúdo impróprio para menores de idade (Imagem: Matheus Bertelli/Pexels) Quais são as regras do ChatGPT para menores de idade? A página de suporte do chatbot informa que a ferramenta pode ser usada por jovens com pelo menos 13 anos de idade, mas contas de pessoas de 13 a 18 anos precisam do consentimento dos pais. A desenvolvedora afirma que adota medidas para limitar a produção de conteúdo impróprio, mas o “ChatGPT pode produzir resultados inadequados para todos os públicos ou todas as idades”, então deixa um aviso para educadores que pretendem usar o assistente com alunos. Leia também: Como saber se o ChatGPT está fora do ar OpenAI explica como seus modelos de IA são criados durante o Web Summit Rio GPT-4.1, o3 e o4-mini: conheça os novos modelos de IA da OpenAI VÍDEO: ChatGPT, Perplexity, Claude, Gemini: QUAL escolher? Leia a matéria no Canaltech.

Abr 29, 2025 - 16:10

Bug fez ChatGPT gerar conversas impróprias com menores de idade, diz OpenAI

A OpenAI afirmou que um bug no ChatGPT fez a IA gerar conversas de teor erótico com contas de menores de idade e trabalha em correções para o problema. A falha foi identificada pelo site internacional TechCrunch, que entrou em contato com a empresa.

A reportagem original fez uma série de testes usando contas falsas de menores de idade para identificar se o chatbot responderia prompts com conteúdo explícito. Em algumas das ocasiões, a IA não só respondeu como encorajou o usuário a enviar mais comandos do tipo.

O teste foi justificado como uma forma de avaliar as restrições mais “leves” do ChatGPT para alguns temas sensíveis. No começo do ano, a empresa divulgou que os modelos de IA usados pelo chatbot iriam discutir assuntos sensíveis e algumas mensagens de aviso sobre prompts seriam removidas.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

A OpenAI afirmou que trabalha ativamente para corrigir o problema que permitiu as conversas e pretende limitar a exposição dos temas impróprios.

Reportagem identificou respostas do ChatGPT com conteúdo impróprio para menores de idade (Imagem: Matheus Bertelli/Pexels)

Quais são as regras do ChatGPT para menores de idade?

A página de suporte do chatbot informa que a ferramenta pode ser usada por jovens com pelo menos 13 anos de idade, mas contas de pessoas de 13 a 18 anos precisam do consentimento dos pais.

A desenvolvedora afirma que adota medidas para limitar a produção de conteúdo impróprio, mas o “ChatGPT pode produzir resultados inadequados para todos os públicos ou todas as idades”, então deixa um aviso para educadores que pretendem usar o assistente com alunos.

Leia também:

VÍDEO: ChatGPT, Perplexity, Claude, Gemini: QUAL escolher?

Leia a matéria no Canaltech.

Ler Mais