Tag: OpenAI

Publicado em por — Deixe um comentário

RELATÓRIO DA UNIÃO EUROPEIA QUESTIONA A PRECISÃO DOS DADOS DO CHATGPT

A equipe de defesa da privacidade da União Europeia (UE) avaliou que os esforços da OpenAI para reduzir o número de informações falsas geradas pelo ChatGPT ainda não são suficientes para cumprir as rigorosas políticas de dados da UE.

Conforme detalhado em um relatório publicado no site da equipe, as medidas adotadas para aumentar a transparência, apesar de úteis para evitar interpretações errôneas dos resultados do ChatGPT, ainda não atendem plenamente ao critério de precisão de dados exigido pela legislação europeia.

No ano passado, conforme noticiado pela Reuters, autoridades europeias de proteção de dados formaram uma equipe especializada para abordar questões específicas relacionadas ao ChatGPT. Essa ação foi motivada por preocupações levantadas por reguladores nacionais sobre o uso crescente deste serviço de inteligência artificial.

O relatório aponta que algumas investigações conduzidas por organizações nacionais de proteção de dados em vários Estados-Membros ainda estão em andamento. Portanto, os resultados apresentados devem ser entendidos como observações preliminares comuns a essas autoridades. A exatidão dos dados é uma das principais diretrizes da regulamentação de proteção de dados da UE.

“Devido à natureza probabilística do sistema, a metodologia atual de treinamento pode gerar informações tendenciosas ou fictícias,” destaca o relatório. “Além disso, os usuários finais podem interpretar os resultados gerados pelo ChatGPT como fatos precisos, especialmente quando se referem a dados sobre indivíduos, sem verificar a veracidade dessas informações.”

Esse levantamento sublinha a importância de medidas adicionais para garantir que as saídas do ChatGPT não apenas evitem erros interpretativos, mas também cumpram os elevados padrões de precisão de dados exigidos pela UE.

Publicado em por — Deixe um comentário

PRIVACIDADE NO CHATGPT: ENTENDENDO OS RECENTES VAZAMENTOS DE INFORMAÇÕES

Recentemente, a plataforma ChatGPT da OpenAI tem enfrentado questionamentos sérios sobre questões de privacidade e segurança de dados. De acordo com uma reportagem publicada pelo ArsTechnica, houve incidentes em que a ferramenta de inteligência artificial revelou informações confidenciais de usuários, incluindo nomes de usuário e senhas. Este problema foi notado quando um usuário solicitou à IA sugestões para nomes de cores para uma paleta e se deparou com conversas e dados de terceiros em sua sessão.

Entre os dados expostos estavam credenciais de um sistema de suporte utilizado por funcionários de um portal de medicamentos prescritos, detalhes de uma proposta de pesquisa, códigos em PHP e o título de uma apresentação em desenvolvimento. Estas informações parecem ter surgido de interações de diferentes usuários com o ChatGPT.

Não é a primeira vez que a OpenAI se depara com problemas de vazamento de dados. Em março de 2023, houve relatos de exposição de dados de assinantes e, em novembro do ano anterior, informações utilizadas no treinamento da IA foram divulgadas. A empresa já está ciente do incidente mais recente e anunciou que está investigando a situação.

Este cenário reforça a importância de se ter cautela ao interagir com sistemas de IA. Especialistas na área de segurança cibernética recomendam que os usuários evitem compartilhar informações sensíveis ou confidenciais durante as interações com essas tecnologias. Em resposta a esses incidentes, é provável que haja um aumento no escrutínio sobre as práticas de segurança de dados da OpenAI e outros desenvolvedores de tecnologias similares.

Além disso, vale mencionar que o ChatGPT tem sido objeto de outras preocupações, como a proliferação de bots ilegais que simulam relacionamentos virtuais. Estes problemas destacam os desafios éticos e técnicos enfrentados pela indústria de IA e a necessidade de contínuo aperfeiçoamento para garantir a segurança e a privacidade dos usuários.