Tag: Responsabilidade Digital

Publicado em por — Deixe um comentário

O PAPEL DA INTELIGÊNCIA ARTIFICIAL E AS NOVAS DIRETRIZES DO TSE

O Tribunal Superior Eleitoral (TSE) aprovou recentemente uma resolução que modifica as regras sobre propaganda eleitoral, visando adaptá-las ao cenário das tecnologias emergentes. Uma das principais mudanças é a exigência de rotular todas as peças publicitárias que façam uso de Inteligência Artificial (IA), incluindo identificação de conteúdo sintético multimídia.

A aplicação da IA em diferentes fases da produção publicitária levanta questões sobre a abrangência dos rótulos exigidos, se devem englobar todo o processo de criação ou apenas o conteúdo final veiculado. Além disso, foram estabelecidas restrições ao uso de chatbots e avatares, proibindo sua utilização para simular conversas com candidatos ou pessoas reais, e foi vetado completamente o uso de deepfakes durante o período eleitoral.

A capacidade de julgar condutas conforme as novas regras, sem mecanismos seguros de comprovação, é um desafio importante a ser enfrentado. A preocupação com o uso irresponsável da IA em campanhas políticas, exemplificada por casos recentes, reforça a necessidade de medidas regulatórias.

Desde 2018, o TSE tem aprovado resoluções visando garantir um processo eleitoral mais justo e transparente, adaptando-se às novas realidades digitais. Isso inclui a inclusão das campanhas municipais como agentes de tratamento de dados, com obrigações específicas de registro e relatórios de impacto à proteção de dados em casos de alto risco.

Essas medidas são essenciais para proteger a integridade do processo democrático diante do avanço das novas tecnologias, garantindo que estas sejam utilizadas de forma responsável e ética durante as eleições.

Publicado em por — Deixe um comentário

PRIVACIDADE NO CHATGPT: ENTENDENDO OS RECENTES VAZAMENTOS DE INFORMAÇÕES

Recentemente, a plataforma ChatGPT da OpenAI tem enfrentado questionamentos sérios sobre questões de privacidade e segurança de dados. De acordo com uma reportagem publicada pelo ArsTechnica, houve incidentes em que a ferramenta de inteligência artificial revelou informações confidenciais de usuários, incluindo nomes de usuário e senhas. Este problema foi notado quando um usuário solicitou à IA sugestões para nomes de cores para uma paleta e se deparou com conversas e dados de terceiros em sua sessão.

Entre os dados expostos estavam credenciais de um sistema de suporte utilizado por funcionários de um portal de medicamentos prescritos, detalhes de uma proposta de pesquisa, códigos em PHP e o título de uma apresentação em desenvolvimento. Estas informações parecem ter surgido de interações de diferentes usuários com o ChatGPT.

Não é a primeira vez que a OpenAI se depara com problemas de vazamento de dados. Em março de 2023, houve relatos de exposição de dados de assinantes e, em novembro do ano anterior, informações utilizadas no treinamento da IA foram divulgadas. A empresa já está ciente do incidente mais recente e anunciou que está investigando a situação.

Este cenário reforça a importância de se ter cautela ao interagir com sistemas de IA. Especialistas na área de segurança cibernética recomendam que os usuários evitem compartilhar informações sensíveis ou confidenciais durante as interações com essas tecnologias. Em resposta a esses incidentes, é provável que haja um aumento no escrutínio sobre as práticas de segurança de dados da OpenAI e outros desenvolvedores de tecnologias similares.

Além disso, vale mencionar que o ChatGPT tem sido objeto de outras preocupações, como a proliferação de bots ilegais que simulam relacionamentos virtuais. Estes problemas destacam os desafios éticos e técnicos enfrentados pela indústria de IA e a necessidade de contínuo aperfeiçoamento para garantir a segurança e a privacidade dos usuários.

Publicado em por — Deixe um comentário

DECISÃO JUDICIAL RESPONSABILIZA PLATAFORMA DE REDES SOCIAIS POR GOLPE EM RESERVA DE POUSADA

Em um desdobramento recente, o 8º Juizado Especial Cível da Tijuca, no Rio de Janeiro, emitiu uma decisão determinando que uma plataforma de redes sociais seja responsabilizada por um golpe que vitimou um casal que buscava reservar uma pousada em Campos do Jordão, São Paulo. A decisão, fundamentada na ausência de evidências apresentadas pela plataforma para justificar a permanência de uma página fraudulenta no Instagram, mesmo após uma ordem judicial prévia, foi homologada por um juiz de Direito.

Conforme a narrativa dos autores da ação, que procuravam uma pousada para celebrar seu noivado por meio do Instagram, foram atraídos por uma oferta e realizaram uma reserva, efetuando o pagamento por meio de pix. Posteriormente, descobriram terem sido vítimas de um golpe e não conseguiram recuperar os valores pagos.

Os autores destacam que, em um processo anterior, a plataforma já havia sido condenada a remover a página fraudulenta de sua plataforma.

Ao analisar o caso, o juízo considerou que não havia falha atribuível à pousada nem aos bancos responsáveis pelas transações. No entanto, em relação à plataforma de redes sociais, o entendimento foi diferente.

A decisão argumentou que a transferência de valores ocorreu devido à manutenção da página utilizada pelos golpistas no Instagram, mesmo após decisão anterior em outro processo, caracterizando uma falha na prestação do serviço.

Dessa forma, a decisão determinou a restituição do valor pago a título de dano material e fixou uma indenização por danos morais aos autores.

Publicado em por — Deixe um comentário

FALHA DE SEGURANÇA EM CREDENCIAIS COMPROMETE MILHÕES DE CONTAS NA 23ANDME

A empresa de testes genéticos 23andMe recentemente se viu no centro de uma questão de segurança de dados, com a divulgação de que cerca de 6,9 milhões de contas de usuários foram comprometidas. A questão surgiu após um incidente em outubro do ano passado, onde dados pessoais e sensíveis dos usuários foram acessados indevidamente.

De acordo com a 23andMe, o vazamento de dados não se deveu a uma falha direta em seus sistemas, mas sim ao uso, por parte dos usuários, de credenciais de acesso (senhas e e-mails) que já haviam sido expostas em outras violações de dados em serviços diferentes. Este método de ataque, conhecido como “credential stuffing”, aproveita-se de senhas e emails já comprometidos em outras plataformas para acessar contas em diversos serviços.

Após identificar o problema, a 23andMe agiu resetando as senhas dos usuários afetados e incentivando a adoção da autenticação de dois fatores (2FA) – uma prática agora obrigatória para todos os usuários do serviço.

Uma investigação interna revelou que os hackers conseguiram acessar os dados de milhões de usuários através do login em aproximadamente 14 mil contas. Este alcance extenso foi possível devido ao recurso opcional DNA Relatives da 23andMe, que permite aos usuários compartilhar informações genéticas e pessoais com outros usuários, potencialmente parentes distantes. A maioria dos usuários optou por compartilhar uma quantidade significativa de suas informações através deste recurso.

Este incidente levanta questões importantes sobre a segurança de dados em serviços online, especialmente aqueles que lidam com informações pessoais e sensíveis. Ressalta a necessidade de práticas robustas de segurança por parte dos usuários, como a utilização de senhas únicas para diferentes serviços e a ativação de medidas de segurança adicionais como a 2FA. Ao mesmo tempo, coloca em evidência a responsabilidade das empresas em proteger os dados de seus clientes e em orientá-los sobre práticas seguras de gerenciamento de informações pessoais.

Publicado em por — Deixe um comentário

LEIS NA ERA DA INFORMAÇÃO: A EVOLUÇÃO DO DIREITO NO MUNDO DIGITAL

A era atual é influenciada pela conectividade digital, que impacta quase todas as facetas da vida cotidiana. Com essa revolução tecnológica, emergem desafios jurídicos inéditos, que testam os limites das legislações e sistemas judiciários globais. Estamos diante de problemas complexos e diversificados que demandam análises críticas sobre a capacidade da lei em salvaguardar direitos individuais e coletivos no contexto interconectado de hoje.

Um dos desafios jurídicos desta era digital é o crescimento exponencial dos crimes cibernéticos. A expansão de atividades ilegais na internet, como fraudes, furtos de identidade e invasões de sistemas, ressalta a urgência de legislações ágeis e sistemas judiciais adaptáveis, capazes de enfrentar essas novas modalidades criminosas. As fronteiras tradicionais se tornam nebulosas em um cenário onde crimes podem ser perpetrados globalmente, demandando cooperação internacional mais sólida para a investigação e julgamento dos responsáveis.

Outra questão de destaque é a dos direitos autorais na era digital. Com a facilidade de compartilhamento de conteúdo na web, surgem intensos debates sobre propriedade intelectual, remuneração justa aos criadores e o delicado equilíbrio entre liberdade de informação e proteção dos direitos autorais. A legislação corrente frequentemente não consegue acompanhar a velocidade das mudanças tecnológicas, resultando em lacunas que precisam ser preenchidas para assegurar um ambiente digital justo e ético para todos os envolvidos.

Além disso, a responsabilidade legal das plataformas online tornou-se um tema de crescente importância. Redes sociais e grandes empresas de tecnologia estão sendo questionadas sobre seu papel na propagação de conteúdo nocivo, discurso de ódio e desinformação. Encontrar um equilíbrio entre a liberdade de expressão e a responsabilidade pelo conteúdo disseminado é um desafio complexo para os sistemas legais atuais.

Diante desses desafios, é imperativo que as leis se moldem à dinâmica do mundo digital. Isso exige atualizações constantes nas leis existentes e um entendimento mais aprofundado das implicações éticas, sociais e culturais das tecnologias emergentes. A colaboração entre legisladores, especialistas em tecnologia e a sociedade civil é essencial para desenvolver soluções justas e efetivas.

É necessário entender que o direito na era digital não se restringe à punição, mas engloba também a proteção. Salvaguardar os direitos individuais, a privacidade dos dados pessoais e promover um ambiente online seguro são princípios fundamentais que devem ser reforçados por uma legislação robusta e aplicável.

Em resumo, a era digital traz desafios únicos ao campo jurídico. Enfrentar os crimes cibernéticos, questões de direitos autorais online e a responsabilidade das plataformas digitais exige abordagens inovadoras e legislações que acompanhem o ritmo da tecnologia. Apenas assim poderemos estabelecer um ambiente digital mais justo, ético e seguro para todos.

Publicado em por — Deixe um comentário

IA EM ASCENSÃO: ENTRE AVANÇOS TECNOLÓGICOS E A BUSCA PELA ÉTICA EM 2023

2023 tem sido um marco para a Inteligência Artificial (IA). À medida que os gigantes tecnológicos competem para desenvolver ferramentas inovadoras, a sociedade civil e especialistas alertam sobre os cuidados necessários na utilização desta tecnologia emergente.

A ascensão de chatbots generativos, como o renomado ChatGPT da OpenAI, redefine o nosso relacionamento com a tecnologia. Com sua quarta versão lançada recentemente, tornou-se um instrumento não apenas para especialistas, mas também para o público em geral. A explosão de aplicativos de chatbot baseados em IA no primeiro trimestre de 2023, evidencia o impacto dessas ferramentas, diversificando as possibilidades para setores como comunicação e design.

Até mesmo o Google não ficou para trás e mergulhou nesta onda, explorando não apenas a geração de texto, mas também a criação de imagens. O poder da IA ficou indiscutivelmente claro quando vimos imagens geradas de personalidades icônicas como o Papa Francisco e a saudosa Elis Regina. No entanto, isso acendeu o sinal de alerta para os perigos da desinformação e os desafios éticos associados ao direito à imagem.

Os efeitos dessa revolução são palpáveis em todos os setores. Em Hollywood, a introdução da IA nas produções levantou questões sobre o futuro do trabalho humano na indústria. E no coração do Vale do Silício, líderes tecnológicos surpreenderam ao pedir uma pausa no avanço desta tecnologia até que padrões de segurança sejam estabelecidos.

Neste cenário, quatro pilares se destacam para uma aplicação responsável da IA:

  1. Ética e Moralidade: A IA deve ser usada para o bem comum, evitando preconceitos e discriminações.
  2. Proteção de Dados: A privacidade do usuário deve ser a prioridade máxima.
  3. Aplicação Consultiva: A IA deve ser uma ferramenta, não um substituto para habilidades humanas.
  4. Responsabilidade dos Criadores: Aqueles que desenvolvem e distribuem modelos de IA devem ser responsáveis por suas aplicações.

No front regulatório, a Europa já avança com seu AI Act. No Brasil, o PL nº 2338/2023, fruto de um esforço conjunto da Comissão de Juristas, tenta moldar o caminho para uma era de IA mais segura e ética.

À medida que a IA se torna parte integrante de nossas vidas, o equilíbrio entre inovação e responsabilidade se torna vital. O desafio agora é como moldar esta tecnologia em benefício de todos, garantindo um futuro em que a IA atue como aliada, e não adversária, da humanidade.