A reação aos planos da OpenAI de liberar conteúdo adulto no ChatGPT

A foto que ilustra este texto é do filme Ela (2013), dirigido por Spike Jonze, e disponível na HBO Max. Se você viu o longa protagonizado por Joaquin Phoenix, já entendeu por que escolhemos essa imagem. Se ainda não, saiba que na trama o solitário escritor Theodore se apaixona pelo novo sistema operacional do seu computador: uma entidade intuitiva e sensível chamada Samantha (voz de Scarlett Johansson). Feita a explicação, vamos falar sobre a proposta mais recente da OpenAI.

A empresa anunciou nesta semana que tem planos de disponibilizar conteúdo sexualmente explícito em seu assistente de inteligência artificial ChatGPT, uma medida prevista para entrar em vigor a partir de dezembro. O CEO da empresa, Sam Altman, informou que a mudança faz parte do princípio da OpenAI de “tratar usuários adultos como adultos”. A novidade, porém, não foi bem recebida por grupos antipornografia.

A decisão de permitir conteúdo erótico e outras formas de interação menos restritivas surge após a OpenAI ter limitado anteriormente o ChatGPT para lidar com sérias questões de saúde mental. Altman entende que essa restrição acabou tornando a experiência menos útil ou agradável para muitos usuários que não enfrentavam tais problemas. Com o amadurecimento dos sistemas de segurança e novas ferramentas para mitigar riscos graves, a empresa se sente segura para relaxar as restrições.

Os planos da OpenAI incluem não apenas o conteúdo erótico, restrito a adultos verificados, mas também uma versão atualizada que permitirá aos usuários personalizar a personalidade da IA. Isso incluirá opções para o assistente gerar respostas mais humanas, utilizar intensivamente emojis ou adotar um comportamento amistoso.

Mecanismos de verificação de idade

Para implementar a funcionalidade, a OpenAI está desenvolvendo e aprimorando recursos de controle de idade. O conteúdo erótico será liberado à medida que essas restrições de idade forem implementadas de forma mais abrangente.

A verificação de maioridade ocorrerá através de uma tecnologia de prognóstico baseada na idade, que estima se o usuário tem 18 anos ou mais. Caso essa estimativa automática falhe, a empresa permitirá que os usuários enviem um documento de identidade para confirmar a maioridade. No entanto, a OpenAI não forneceu detalhes sobre os métodos específicos de verificação ou os controles de segurança adicionais que serão utilizados para limitar o conteúdo apenas a adultos.

Críticas ao ChatGPT +18

Embora Altman tenha afirmado que o objetivo é equilibrar segurança e liberdade de uso, o plano enfrentou críticas imediatas, especialmente de grupos de defesa. O Centro Nacional de Exploração Sexual (NCOSE), uma organização conservadora antipornografia dos Estados Unidos, classificou a decisão como arriscada e pediu à OpenAI que a revertesse.

O NCOSE argumenta que os chatbots sexualizados são inerentemente perigosos, pois criam o risco de “danos reais à saúde mental a partir da intimidade sintética”, especialmente considerando que os padrões de segurança da indústria ainda são mal definidos.

Haley McNamara, diretora executiva do Centro Nacional, reconheceu que a verificação de idade é um passo importante para evitar a exposição de crianças ao conteúdo explícito. Contudo, ela alertou que essas ferramentas já causaram danos documentados a adultos. McNamara citou incidentes com outros chatbots que simularam abuso infantil ou impuseram conteúdo escrito sexualmente violento a usuários que pediram para parar.

O NCOSE defende que, se a OpenAI se preocupa com o bem-estar do usuário, deve suspender os planos de integrar conteúdo erótico e focar em criar algo positivo.

Além das preocupações éticas, a exigência de envio de documentos de identidade para a verificação de idade levanta alertas por parte de especialistas sobre os riscos potenciais de privacidade e armazenamento de dados pessoais.

A cautela da empresa em relação à saúde mental já era um ponto central, visto que, nos últimos meses, a OpenAI foi alvo de processos de pais que a acusavam de incentivar o suicídio de filhos adolescentes, como no caso de Adam Raine, da Califórnia. A Comissão Federal de Comércio (FTC) dos Estados Unidos também investiga como os chatbots afetam negativamente crianças e adolescentes.

Altman assegurou que as novas ferramentas de segurança permitirão diminuir as restrições sem negligenciar esses riscos graves.